Pengawal selia antimonopoli Itali, AGCM, mengumumkan pada hari Isnin bahawa mereka telah membuka siasatan rasmi terhadap syarikat permulaan kecerdasan buatan (AI) dari China, DeepSeek, menandakan tindakan kawal selia yang penting terhadap isu halusinasi AI.
Siasatan ini memfokuskan kepada dakwaan bahawa DeepSeek gagal memberikan amaran yang "cukup jelas, segera dan mudah difahami" kepada pengguna mengenai risiko halusinasi AI dalam kandungannya. AGCM mentakrifkan halusinasi ini sebagai "situasi di mana, sebagai tindak balas kepada input yang diberikan oleh pengguna, model AI menghasilkan satu atau lebih output yang mengandungi maklumat yang tidak tepat, mengelirukan atau direka-reka."
Siasatan ini merupakan antara tindakan kawal selia utama pertama yang secara khusus menyasarkan halusinasi AI, satu kebimbangan yang semakin meningkat apabila sistem AI generatif menjadi semakin meluas. Siasatan ini berlaku di tengah-tengah peningkatan pengawasan global terhadap ketelusan AI dan risiko maklumat salah, dengan pengawal selia di seluruh dunia sedang membangunkan rangka kerja untuk menangani cabaran ini.
DeepSeek, yang diasaskan pada akhir 2023 oleh pengurus dana lindung nilai China, Liang Wenfeng, telah muncul dengan pantas sebagai pemain utama dalam landskap AI global. Syarikat ini mendapat perhatian antarabangsa awal tahun ini apabila ia melancarkan model AI yang dilaporkan setanding dengan pesaing utama Barat pada kos yang jauh lebih rendah, sekali gus mencetuskan ketidaktentuan pasaran dalam sektor teknologi.
Ini bukan kali pertama DeepSeek berdepan dengan pengawal selia Itali. Pada Februari 2025, pihak berkuasa perlindungan data Itali mengarahkan syarikat itu menyekat akses kepada chatbot mereka selepas DeepSeek gagal menangani kebimbangan mengenai dasar privasi. Pada masa itu, DeepSeek dilaporkan mendakwa mereka tidak beroperasi di Itali dan peraturan Eropah tidak terpakai kepada operasi mereka.
Dengan Akta AI EU mula dilaksanakan secara berperingkat sepanjang 2025, dengan keperluan ketelusan untuk sistem AI tujuan umum berkuat kuasa pada 2 Ogos, kes ini berpotensi menjadi preseden penting bagi bagaimana pengawal selia Eropah akan menangani isu halusinasi AI di bawah rangka kerja kawal selia baharu.