Talijanski antimonopolski regulator AGCM objavio je u ponedjeljak da je otvorio službenu istragu protiv kineskog startupa za umjetnu inteligenciju DeepSeek, što predstavlja značajnu regulatornu akciju protiv AI halucinacija.
Istraga se usredotočuje na navode da DeepSeek nije korisnicima pružio "dovoljno jasna, neposredna i razumljiva" upozorenja o riziku od AI halucinacija u svom sadržaju. AGCM definira ove halucinacije kao "situacije u kojima, kao odgovor na određeni unos korisnika, AI model generira jedan ili više rezultata koji sadrže netočne, obmanjujuće ili izmišljene informacije".
Ova istraga predstavlja jednu od prvih većih regulatornih akcija koje se posebno bave AI halucinacijama, što je sve veća zabrinutost kako generativni AI sustavi postaju sve rašireniji. Istraga dolazi usred rastuće globalne pozornosti na transparentnost AI-ja i rizike od dezinformacija, dok regulatori diljem svijeta razvijaju okvire za rješavanje tih izazova.
DeepSeek, koji je krajem 2023. osnovao kineski hedge fond menadžer Liang Wenfeng, brzo se nametnuo kao značajan igrač na globalnoj AI sceni. Tvrtka je privukla međunarodnu pozornost početkom ove godine kada je objavila AI modele za koje se tvrdi da mogu parirati vodećim zapadnim konkurentima uz znatno niže troškove, što je izazvalo volatilnost na tehnološkom tržištu.
Ovo nije prvi susret DeepSeeka s talijanskim regulatorima. U veljači 2025. talijansko tijelo za zaštitu podataka naložilo je tvrtki da blokira pristup svom chatbotu nakon što DeepSeek nije riješio zabrinutosti oko politike privatnosti. Tada je DeepSeek navodno tvrdio da ne posluje u Italiji te da europski propisi ne vrijede za njihovo poslovanje.
Kako EU Akt o umjetnoj inteligenciji započinje faznu implementaciju tijekom 2025., a zahtjevi za transparentnost kod AI sustava opće namjene stupaju na snagu 2. kolovoza, ovaj bi slučaj mogao postaviti važne presedane za način na koji će europski regulatori pristupati pitanjima AI halucinacija u okviru nove regulative.