Włoski urząd antymonopolowy AGCM ogłosił w poniedziałek wszczęcie formalnego postępowania wobec chińskiego startupu sztucznej inteligencji DeepSeek, co stanowi istotny krok regulacyjny w sprawie tzw. halucynacji AI.
Śledztwo koncentruje się na zarzutach, że DeepSeek nie zapewnił użytkownikom „wystarczająco jasnych, natychmiastowych i zrozumiałych” ostrzeżeń dotyczących ryzyka wystąpienia halucynacji AI w generowanych treściach. AGCM definiuje te halucynacje jako „sytuacje, w których w odpowiedzi na dane zapytanie użytkownika model AI generuje jedną lub więcej odpowiedzi zawierających niedokładne, wprowadzające w błąd lub zmyślone informacje”.
To postępowanie jest jednym z pierwszych poważnych działań regulacyjnych wymierzonych bezpośrednio w problem halucynacji AI, który staje się coraz większym wyzwaniem wraz z upowszechnianiem się systemów generatywnej sztucznej inteligencji. Dochodzenie wpisuje się w rosnącą globalną debatę na temat przejrzystości AI i ryzyka dezinformacji, a regulatorzy na całym świecie opracowują ramy prawne mające na celu przeciwdziałanie tym zagrożeniom.
DeepSeek, założony pod koniec 2023 roku przez chińskiego menedżera funduszu hedgingowego Lianga Wenfenga, szybko stał się znaczącym graczem na światowym rynku AI. Firma zwróciła na siebie międzynarodową uwagę na początku tego roku, gdy udostępniła modele AI dorównujące możliwościami czołowym zachodnim konkurentom, lecz oferowane za ułamek ich ceny, co wywołało zawirowania na rynku technologicznym.
Nie jest to pierwszy kontakt DeepSeek z włoskimi regulatorami. W lutym 2025 roku włoski organ ochrony danych nakazał firmie zablokowanie dostępu do jej chatbota po tym, jak DeepSeek nie rozwiązał problemów związanych z polityką prywatności. Wówczas DeepSeek twierdził, że nie prowadzi działalności we Włoszech i że europejskie regulacje nie mają do niego zastosowania.
Wraz z rozpoczęciem stopniowego wdrażania unijnej ustawy o AI (EU AI Act) w 2025 roku, a wymogi dotyczące przejrzystości dla systemów ogólnego przeznaczenia wejdą w życie 2 sierpnia, ta sprawa może wyznaczyć istotne precedensy dla podejścia europejskich regulatorów do problemu halucynacji AI w nowym otoczeniu prawnym.