Die italienische Wettbewerbsbehörde AGCM gab am Montag bekannt, ein formelles Ermittlungsverfahren gegen das chinesische KI-Startup DeepSeek eingeleitet zu haben – ein bedeutender Schritt im Kampf gegen sogenannte KI-Halluzinationen.
Im Mittelpunkt der Untersuchung steht der Vorwurf, DeepSeek habe es versäumt, Nutzer "ausreichend klare, unmittelbare und verständliche" Warnhinweise auf das Risiko von KI-Halluzinationen in seinen Inhalten zu geben. Die AGCM definiert solche Halluzinationen als "Situationen, in denen das KI-Modell als Antwort auf eine Nutzereingabe ein oder mehrere Ergebnisse erzeugt, die ungenaue, irreführende oder erfundene Informationen enthalten".
Die Untersuchung zählt zu den ersten größeren regulatorischen Maßnahmen, die sich gezielt gegen KI-Halluzinationen richten – ein wachsendes Problem, da generative KI-Systeme immer weiter verbreitet werden. Die Ermittlungen erfolgen vor dem Hintergrund einer zunehmenden globalen Debatte über Transparenz und Risiken von Fehlinformationen durch KI, während Regulierungsbehörden weltweit an entsprechenden Rahmenwerken arbeiten.
DeepSeek, Ende 2023 vom chinesischen Hedgefonds-Manager Liang Wenfeng gegründet, hat sich rasch als bedeutender Akteur im globalen KI-Markt etabliert. Das Unternehmen erregte Anfang des Jahres internationale Aufmerksamkeit, als es KI-Modelle veröffentlichte, die Berichten zufolge mit den führenden westlichen Konkurrenten mithalten konnten – und das zu einem Bruchteil der Kosten. Dies löste erhebliche Turbulenzen im Technologiesektor aus.
Es ist nicht das erste Mal, dass DeepSeek mit italienischen Behörden aneinandergerät. Bereits im Februar 2025 hatte die italienische Datenschutzbehörde das Unternehmen angewiesen, den Zugang zu seinem Chatbot zu sperren, nachdem DeepSeek Bedenken hinsichtlich der Datenschutzrichtlinien nicht ausgeräumt hatte. Damals gab DeepSeek an, nicht in Italien tätig zu sein und dass europäische Vorschriften für das Unternehmen nicht gelten würden.
Mit dem gestaffelten Inkrafttreten des EU AI Act im Laufe des Jahres 2025 – wobei Transparenzanforderungen für allgemeine KI-Systeme ab dem 2. August gelten – könnte dieser Fall wichtige Präzedenzfälle dafür schaffen, wie europäische Regulierungsbehörden künftig mit KI-Halluzinationen im Rahmen des neuen Regelwerks umgehen werden.