Italský antimonopolní úřad AGCM v pondělí oznámil, že zahájil formální vyšetřování čínského startupu v oblasti umělé inteligence DeepSeek, což představuje významný regulační zásah proti tzv. AI halucinacím.
Vyšetřování se zaměřuje na tvrzení, že DeepSeek neposkytl uživatelům „dostatečně jasná, okamžitá a srozumitelná“ varování ohledně rizika AI halucinací ve svém obsahu. AGCM definuje tyto halucinace jako „situace, kdy AI model na základě zadaného vstupu vygeneruje jeden či více výstupů obsahujících nepřesné, zavádějící nebo smyšlené informace“.
Toto šetření představuje jeden z prvních významných regulačních kroků zaměřených přímo na AI halucinace, což je rostoucí problém s tím, jak se generativní AI systémy stávají stále rozšířenějšími. Vyšetřování přichází v době, kdy celosvětově roste zájem o transparentnost AI a rizika dezinformací, a regulátoři po celém světě vytvářejí rámce pro řešení těchto výzev.
DeepSeek, založený koncem roku 2023 čínským manažerem hedgeového fondu Liangem Wenfengem, se rychle stal významným hráčem na globálním trhu s AI. Společnost získala mezinárodní pozornost začátkem tohoto roku, když uvedla AI modely, které údajně dosahují schopností předních západních konkurentů za zlomek ceny, což vyvolalo volatilitu na technologických trzích.
Nejde o první střet DeepSeek s italskými regulátory. V únoru 2025 nařídil italský úřad pro ochranu osobních údajů společnosti zablokovat přístup k jejímu chatbotu poté, co DeepSeek nevyřešil výhrady k zásadám ochrany soukromí. Tehdy DeepSeek údajně tvrdil, že v Itálii nepůsobí a evropské předpisy se na jeho činnost nevztahují.
S tím, jak v roce 2025 začne postupně platit evropský AI Act a požadavky na transparentnost pro AI systémy obecného určení vstoupí v platnost 2. srpna, by tento případ mohl vytvořit důležité precedentní rozhodnutí pro přístup evropských regulátorů k problematice AI halucinací v rámci nového regulačního rámce.