De Italiaanse mededingingsautoriteit AGCM heeft maandag aangekondigd een formeel onderzoek te zijn gestart naar de Chinese startup voor kunstmatige intelligentie DeepSeek. Dit markeert een belangrijke regulatoire stap tegen AI-hallucinaties.
Het onderzoek richt zich op beschuldigingen dat DeepSeek gebruikers niet "voldoende duidelijke, directe en begrijpelijke" waarschuwingen heeft gegeven over het risico van AI-hallucinaties in haar content. AGCM definieert deze hallucinaties als "situaties waarin, als reactie op een door een gebruiker ingevoerde prompt, het AI-model één of meerdere uitkomsten genereert die onjuiste, misleidende of verzonnen informatie bevatten".
Dit onderzoek is een van de eerste grote regulatoire acties die zich specifiek richten op AI-hallucinaties, een groeiende zorg nu generatieve AI-systemen steeds breder worden ingezet. Het onderzoek komt op een moment van toenemende wereldwijde aandacht voor transparantie en risico’s van desinformatie bij AI, waarbij toezichthouders wereldwijd kaders ontwikkelen om deze uitdagingen aan te pakken.
DeepSeek, opgericht eind 2023 door de Chinese hedgefondsmanager Liang Wenfeng, is snel uitgegroeid tot een belangrijke speler in het mondiale AI-landschap. Het bedrijf kreeg begin dit jaar internationale aandacht toen het AI-modellen uitbracht die naar verluidt konden wedijveren met toonaangevende westerse concurrenten, maar dan tegen een fractie van de kosten. Dit zorgde voor onrust op de technologiesector.
Het is niet de eerste keer dat DeepSeek te maken krijgt met Italiaanse toezichthouders. In februari 2025 beval de Italiaanse privacyautoriteit het bedrijf om de toegang tot zijn chatbot te blokkeren, nadat DeepSeek privacyzorgen niet had weggenomen. Destijds stelde DeepSeek naar verluidt dat het niet actief was in Italië en dat Europese regelgeving niet van toepassing zou zijn op haar activiteiten.
Nu de EU AI Act gefaseerd wordt ingevoerd in 2025, en transparantie-eisen voor generieke AI-systemen vanaf 2 augustus van kracht worden, zou deze zaak een belangrijk precedent kunnen scheppen voor hoe Europese toezichthouders AI-hallucinaties onder het nieuwe regelgevingskader zullen benaderen.