Regulator persaingan usaha Italia, AGCM, mengumumkan pada hari Senin bahwa mereka telah membuka penyelidikan resmi terhadap startup kecerdasan buatan asal Tiongkok, DeepSeek, menandai langkah regulasi penting terkait isu halusinasi AI.
Penyelidikan ini berfokus pada dugaan bahwa DeepSeek gagal memberikan peringatan yang "cukup jelas, langsung, dan mudah dipahami" kepada pengguna mengenai risiko halusinasi AI dalam kontennya. AGCM mendefinisikan halusinasi ini sebagai "situasi di mana, sebagai respons atas input yang dimasukkan pengguna, model AI menghasilkan satu atau lebih keluaran yang mengandung informasi tidak akurat, menyesatkan, atau hasil rekaan."
Penyelidikan ini menjadi salah satu tindakan regulasi besar pertama yang secara khusus menargetkan halusinasi AI, isu yang semakin menjadi perhatian seiring meluasnya penggunaan sistem AI generatif. Langkah ini muncul di tengah meningkatnya pengawasan global terhadap transparansi AI dan risiko misinformasi, dengan regulator di seluruh dunia tengah mengembangkan kerangka kerja untuk mengatasi tantangan tersebut.
DeepSeek, yang didirikan pada akhir 2023 oleh manajer hedge fund asal Tiongkok, Liang Wenfeng, dengan cepat muncul sebagai pemain penting di lanskap AI global. Perusahaan ini menarik perhatian internasional awal tahun ini ketika meluncurkan model AI yang dikabarkan mampu menyaingi kompetitor Barat terkemuka dengan biaya jauh lebih rendah, sehingga memicu volatilitas di sektor teknologi.
Ini bukan kali pertama DeepSeek berhadapan dengan regulator Italia. Pada Februari 2025, otoritas perlindungan data Italia memerintahkan perusahaan tersebut untuk memblokir akses ke chatbot-nya setelah DeepSeek gagal menanggapi kekhawatiran terkait kebijakan privasi. Saat itu, DeepSeek dilaporkan menyatakan bahwa mereka tidak beroperasi di Italia dan regulasi Eropa tidak berlaku untuk operasinya.
Seiring diberlakukannya EU AI Act secara bertahap sepanjang 2025, dengan persyaratan transparansi untuk sistem AI tujuan umum mulai berlaku pada 2 Agustus, kasus ini dapat menjadi preseden penting mengenai bagaimana regulator Eropa akan menangani isu halusinasi AI di bawah kerangka regulasi baru.