İtalya'nın rekabet düzenleyicisi AGCM, Pazartesi günü yaptığı açıklamada, Çinli yapay zekâ girişimi DeepSeek hakkında resmi bir soruşturma başlattığını duyurdu. Bu adım, yapay zekâ halüsinasyonlarına karşı alınan önemli bir düzenleyici önlem olarak öne çıkıyor.
Soruşturmanın odağında, DeepSeek'in kullanıcılarına içeriklerinde yapay zekâ halüsinasyonları riski konusunda "yeterince açık, anlık ve anlaşılır" uyarılar sağlamadığı iddiası yer alıyor. AGCM, bu halüsinasyonları, "kullanıcı tarafından girilen bir girdiye yanıt olarak, yapay zekâ modelinin yanlış, yanıltıcı veya uydurma bilgiler içeren bir ya da birden fazla çıktı üretmesi durumu" olarak tanımladı.
Bu soruşturma, özellikle yapay zekâ halüsinasyonlarını hedef alan ilk büyük düzenleyici adımlardan biri olma özelliği taşıyor. Üretken yapay zekâ sistemlerinin yaygınlaşmasıyla birlikte bu konu giderek daha fazla endişe yaratıyor. Soruşturma, dünya genelinde yapay zekâ şeffaflığı ve yanlış bilgi risklerine yönelik artan denetimlerin ortasında başlatıldı; düzenleyiciler bu zorluklara karşı yeni çerçeveler geliştirmeye çalışıyor.
2023 sonunda Çinli hedge fon yöneticisi Liang Wenfeng tarafından kurulan DeepSeek, küresel yapay zekâ sahnesinde hızla önemli bir oyuncu haline geldi. Şirket, bu yılın başlarında, önde gelen Batılı rakiplerle aynı yeteneklere sahip olduğu iddia edilen ve çok daha düşük maliyetli yapay zekâ modelleri piyasaya sürdüğünde uluslararası alanda dikkat çekmiş, teknoloji sektöründe piyasa dalgalanmalarına yol açmıştı.
Bu, DeepSeek'in İtalyan düzenleyicilerle ilk karşılaşması değil. Şubat 2025'te, İtalya'nın veri koruma otoritesi, DeepSeek'in gizlilik politikasıyla ilgili endişeleri gidermemesi üzerine şirketin sohbet robotuna erişimi engellemişti. O dönemde DeepSeek, İtalya'da faaliyet göstermediğini ve Avrupa düzenlemelerinin kendilerine uygulanmadığını öne sürmüştü.
AB Yapay Zekâ Yasası'nın 2025 boyunca kademeli olarak yürürlüğe girmesi ve genel amaçlı yapay zekâ sistemleri için şeffaflık gerekliliklerinin 2 Ağustos'ta devreye alınmasıyla, bu dava Avrupa düzenleyicilerinin yeni çerçeve kapsamında yapay zekâ halüsinasyonlarına nasıl yaklaşacağı konusunda önemli emsal teşkil edebilir.