Italian kilpailuviranomainen AGCM ilmoitti maanantaina käynnistäneensä virallisen tutkinnan kiinalaista tekoäly-startupia DeepSeekiä vastaan, mikä merkitsee merkittävää sääntelytoimea tekoälyn hallusinaatioita kohtaan.
Tutkinnan kohteena ovat väitteet siitä, että DeepSeek ei ole tarjonnut käyttäjille "riittävän selkeitä, välittömiä ja ymmärrettäviä" varoituksia tekoälyn hallusinaatioriskistä sisällössään. AGCM määrittelee hallusinaatiot tilanteiksi, joissa tekoälymalli tuottaa käyttäjän syötteeseen vastauksena yhden tai useamman virheellistä, harhaanjohtavaa tai keksittyä tietoa sisältävän vastauksen.
Tämä tutkinta on yksi ensimmäisistä merkittävistä sääntelytoimista, jotka kohdistuvat nimenomaan tekoälyn hallusinaatioihin – ilmiöön, joka on kasvava huolenaihe generatiivisten tekoälyjärjestelmien yleistyessä. Tutkinta käynnistyy aikana, jolloin tekoälyn läpinäkyvyyteen ja väärän tiedon riskeihin kohdistuu maailmanlaajuista tarkastelua, ja sääntelyviranomaiset kehittävät kehyksiä näiden haasteiden ratkaisemiseksi.
Vuoden 2023 lopulla kiinalaisen hedge-rahastonhoitajan Liang Wenfengin perustama DeepSeek on noussut nopeasti merkittäväksi toimijaksi kansainvälisellä tekoälykentällä. Yhtiö sai kansainvälistä huomiota aiemmin tänä vuonna julkaistuaan tekoälymalleja, joiden väitettiin vastaavan länsimaisten kilpailijoiden tasoa murto-osalla kustannuksista, mikä aiheutti markkinaheilahtelua teknologiasektorilla.
Tämä ei ole DeepSeekin ensimmäinen kohtaaminen italialaisten viranomaisten kanssa. Helmikuussa 2025 Italian tietosuojaviranomainen määräsi yhtiön estämään chatbotinsa käytön sen jälkeen, kun DeepSeek ei ollut ratkaissut tietosuojakäytäntöihin liittyviä huolia. Tuolloin DeepSeekin kerrottiin väittäneen, ettei se toimi Italiassa eikä eurooppalainen sääntely koske sen toimintaa.
EU:n tekoälyasetus (AI Act) alkaa vaiheittain astua voimaan vuoden 2025 aikana, ja yleiskäyttöisten tekoälyjärjestelmien läpinäkyvyysvaatimukset tulevat voimaan 2. elokuuta. Tämä tapaus saattaa luoda tärkeitä ennakkotapauksia sille, miten eurooppalaiset viranomaiset suhtautuvat tekoälyn hallusinaatioihin uuden sääntelykehyksen puitteissa.