İtalya'nın veri koruma kurumu Garante, yapay zekâ sohbet botu Replika'nın geliştiricisi Luka Inc.'ye 5 milyon euro (5,64 milyon dolar) para cezası verdi. Bu karar, Avrupa Birliği'nin yapay zekâ platformlarına yönelik artan denetimlerinin bir parçası olarak öne çıkıyor.
2017 yılında San Francisco'da kullanıma sunulan Replika, kullanıcılara kişiselleştirilmiş yapay zekâ avatarlarıyla sohbet etme imkânı sunuyor ve duygusal iyilik hâlini artırdığı iddiasıyla pazarlanıyor. Şirket, sesli sohbet gibi premium özelliklerden aylık yaklaşık 2 milyon dolar gelir elde ederken, temel hizmetleri ücretsiz olarak sunuyor.
İtalyan düzenleyici kurum, Şubat 2023'te Replika'nın İtalya'daki faaliyetlerini askıya almasını istemiş ve özellikle çocuklar ile duygusal olarak hassas bireyler için oluşturduğu risklere dikkat çekmişti. Yapılan kapsamlı inceleme sonucunda Garante, Luka Inc.'nin AB gizlilik düzenlemelerini iki önemli noktada ihlal ettiğini belirledi: Kullanıcıların kişisel verilerini işlerken geçerli bir yasal dayanağı bulunmuyor ve reşit olmayanların hizmete erişimini engelleyecek herhangi bir yaş doğrulama mekanizması uygulanmıyor.
Düzenleyicileri özellikle endişelendiren nokta, uygulamanın kullanıcıları "güvenli bir alan" sunduğu iddiasıyla hassas kişisel bilgilerini paylaşmaya teşvik etmesi ve bu yolla savunmasız bireylerin normalde paylaşmayacağı kadar fazla bilgi vermeye yönlendirilmesi oldu. Replika'nın kullanım şartlarında hizmetin 18 yaş altı bireyler için tasarlanmadığı belirtilse de, araştırmacılar bu kısıtlamanın etkin bir şekilde uygulanmadığını tespit etti.
Mali cezanın yanı sıra, Garante ayrıca Replika'nın üretken yapay zekâ sisteminin Avrupa Birliği gizlilik kurallarına, özellikle de dil modelinin nasıl eğitildiğine uygun olup olmadığını değerlendirmek üzere ayrı bir soruşturma başlattı. Bu adım, İtalyan otoritesinin AB'de yapay zekâ alanında en aktif düzenleyicilerden biri olarak öne çıktığı daha geniş bir denetim modelinin parçası.
Geçtiğimiz yıl Garante, ChatGPT'nin geliştiricisi OpenAI'ya da AB gizlilik kurallarının ihlal edildiği iddiasıyla popüler sohbet botunu İtalya'da geçici olarak yasakladıktan sonra 15 milyon euro ceza vermişti. Bu tür adımlar, AB Yapay Zekâ Yasası'nın 2025 ve sonrasında kademeli olarak yürürlüğe girmesiyle birlikte, yapay zekâ şirketlerinin Avrupa veri koruma mevzuatında karşılaştığı artan düzenleyici zorluklara dikkat çekiyor.