Nagpataw ang tagapangalaga ng datos ng Italya, ang Garante, ng €5 milyon (₱320 milyon) na multa laban sa Luka Inc., ang developer ng AI chatbot na Replika, bilang bahagi ng patuloy na masusing pagsubaybay ng European Union sa mga plataporma ng artificial intelligence.
Ang Replika, na inilunsad noong 2017 sa San Francisco, ay nag-aalok sa mga gumagamit ng personalisadong AI avatar na nakikipag-usap at itinatampok bilang tumutulong sa emosyonal na kalusugan. Kumita ang kumpanya ng tinatayang $2 milyon kada buwan mula sa mga premium na tampok gaya ng voice chat, habang libre namang iniaalok ang mga batayang serbisyo.
Noong Pebrero 2023, inatasan ng regulator ng Italya ang Replika na itigil ang operasyon nito sa bansa dahil sa mga natukoy na panganib para sa mga bata at emosyonal na sensitibong indibidwal. Matapos ang masusing imbestigasyon, natuklasan ng Garante na nilabag ng Luka Inc. ang mga regulasyon ng EU sa privacy sa dalawang mahalagang aspeto: una, wala itong sapat na legal na batayan sa pagproseso ng personal na datos ng mga gumagamit; at pangalawa, nabigo itong magpatupad ng anumang mekanismo ng beripikasyon ng edad upang pigilan ang mga menor de edad na gumamit ng serbisyo.
Lalo pang ikinabahala ng mga regulator kung paano hinihikayat ng app ang mga gumagamit na magbahagi ng sensitibong personal na impormasyon sa isang tinatawag na "ligtas na espasyo," na maaaring magmanipula sa mga mahihinang gumagamit upang maglabas ng higit pang impormasyon kaysa karaniwan. Bagaman sinasabi sa mga tuntunin ng Replika na hindi ito para sa mga wala pang 18 taong gulang, natuklasan ng mga imbestigador na walang epektibong paraan upang ipatupad ang restriksiyong ito.
Bukod sa pinansyal na parusa, naglunsad din ang Garante ng hiwalay na imbestigasyon upang suriin kung sumusunod ang generative AI system ng Replika sa mga patakaran ng European Union sa privacy, partikular sa paraan ng pagsasanay ng language model nito. Bahagi ito ng mas malawak na pattern ng pagpapatupad ng batas ng awtoridad ng Italya, na kinikilala bilang isa sa pinaka-aktibong regulator ng AI sa EU.
Noong nakaraang taon, pinatawan din ng Garante ng €15 milyon na multa ang OpenAI, ang gumagawa ng ChatGPT, matapos pansamantalang ipagbawal ang sikat na chatbot sa Italya dahil sa umano'y paglabag sa mga alituntunin ng privacy ng EU. Ipinapakita ng mga aksyong ito ang lumalaking hamon sa regulasyon na kinakaharap ng mga kumpanyang AI habang tinatahak nila ang masalimuot na kalakaran ng mga batas sa proteksyon ng datos ng Europa, lalo na't nagsisimula nang ipatupad ang EU AI Act hanggang 2025 at sa mga susunod na taon.