Антимонополният регулатор на Италия AGCM обяви в понеделник, че е започнал официално разследване срещу китайския стартъп за изкуствен интелект DeepSeek, отбелязвайки значима регулаторна стъпка срещу халюцинациите на ИИ.
Разследването се фокусира върху твърдения, че DeepSeek не е предоставил на потребителите „достатъчно ясни, незабавни и разбираеми“ предупреждения относно риска от халюцинации на ИИ в неговото съдържание. AGCM определя тези халюцинации като „ситуации, в които, в отговор на даден вход от потребител, моделът на ИИ генерира един или повече изходи, съдържащи неточна, подвеждаща или измислена информация“.
Това разследване представлява едно от първите големи регулаторни действия, насочени конкретно към халюцинациите на ИИ – нарастващ проблем с разпространението на генеративни ИИ системи. Разследването идва на фона на засилен глобален контрол върху прозрачността на ИИ и рисковете от дезинформация, като регулатори по целия свят разработват рамки за справяне с тези предизвикателства.
DeepSeek, основана в края на 2023 г. от китайския хедж фонд мениджър Лян Венфън, бързо се утвърди като значим играч на световната сцена на изкуствения интелект. Компанията привлече международно внимание по-рано тази година, когато пусна ИИ модели, които според съобщенията съперничат на възможностите на водещи западни конкуренти при значително по-ниска цена, предизвиквайки волатилност на пазара в технологичния сектор.
Това не е първият сблъсък на DeepSeek с италианските регулатори. През февруари 2025 г. италианският орган за защита на личните данни нареди на компанията да блокира достъпа до своя чатбот, след като DeepSeek не успя да отговори на опасенията относно политиката за поверителност. Тогава DeepSeek твърдеше, че не оперира в Италия и че европейските регулации не се прилагат за дейността ѝ.
С навлизането на Акта за изкуствен интелект на ЕС и поетапното му прилагане през 2025 г., като изискванията за прозрачност за системи с общо предназначение влизат в сила на 2 август, този случай може да създаде важни прецеденти за начина, по който европейските регулатори ще подхождат към проблемите с халюцинациите на ИИ в рамките на новата регулаторна среда.