Pengawas perlindungan data Itali, Garante, telah mengenakan denda sebanyak €5 juta ($5.64 juta) ke atas Luka Inc., pembangun di sebalik chatbot AI Replika, menandakan satu lagi tindakan penguatkuasaan penting dalam pemantauan berterusan Kesatuan Eropah terhadap platform kecerdasan buatan.
Replika, yang dilancarkan pada 2017 di San Francisco, menawarkan pengguna avatar AI peribadi yang boleh berinteraksi dalam perbualan dan dipasarkan sebagai alat untuk meningkatkan kesejahteraan emosi. Syarikat ini menjana kira-kira $2 juta pendapatan bulanan melalui ciri premium seperti sembang suara, manakala perkhidmatan asas ditawarkan secara percuma.
Pengawal selia Itali pada asalnya telah mengarahkan Replika untuk menggantung operasinya di Itali pada Februari 2023, dengan alasan risiko khusus terhadap kanak-kanak dan individu yang mudah terjejas secara emosi. Selepas siasatan terperinci, Garante mendapati Luka Inc. telah melanggar peraturan privasi EU dalam dua aspek kritikal: tidak mempunyai asas undang-undang yang sah untuk memproses data peribadi pengguna dan gagal melaksanakan sebarang mekanisme pengesahan umur bagi menghalang golongan bawah umur daripada mengakses perkhidmatan tersebut.
Apa yang amat membimbangkan pengawal selia ialah bagaimana aplikasi ini menggalakkan pengguna berkongsi maklumat peribadi sensitif dalam apa yang digambarkan sebagai "ruang selamat", sekali gus berpotensi memanipulasi pengguna yang terdedah untuk mendedahkan lebih banyak maklumat daripada kebiasaan. Walaupun terma Replika menyatakan perkhidmatan ini tidak ditujukan kepada pengguna di bawah umur 18 tahun, penyiasat mendapati tiada langkah berkesan untuk menguatkuasakan sekatan ini.
Selain daripada penalti kewangan, Garante telah melancarkan siasatan berasingan untuk menilai sama ada sistem AI generatif Replika mematuhi peraturan privasi Kesatuan Eropah, khususnya berkaitan cara model bahasa mereka dilatih. Ini merupakan sebahagian daripada corak penguatkuasaan yang lebih meluas oleh pihak berkuasa Itali, yang kini muncul sebagai antara pengawal selia paling proaktif dalam bidang AI di EU.
Tahun lalu, Garante telah mendenda OpenAI, pembangun ChatGPT, sebanyak €15 juta selepas melarang chatbot popular itu buat sementara waktu di Itali atas dakwaan pelanggaran peraturan privasi EU. Tindakan-tindakan ini menyerlahkan cabaran pengawalseliaan yang semakin meningkat bagi syarikat AI ketika mereka menavigasi landskap undang-undang perlindungan data Eropah yang kompleks, terutamanya apabila Akta AI EU mula dilaksanakan secara berperingkat sehingga 2025 dan seterusnya.