Антимонопольный регулятор Италии AGCM объявил в понедельник о начале официального расследования в отношении китайского стартапа в области искусственного интеллекта DeepSeek, что стало значимым шагом в регулировании проблемы галлюцинаций ИИ.
В центре расследования — обвинения в том, что DeepSeek не предоставил пользователям «достаточно четких, незамедлительных и понятных» предупреждений о риске возникновения галлюцинаций ИИ в генерируемом контенте. AGCM определяет такие галлюцинации как «ситуации, когда в ответ на введённый пользователем запрос модель ИИ генерирует один или несколько ответов, содержащих неточную, вводящую в заблуждение или вымышленную информацию».
Это расследование стало одним из первых крупных регуляторных действий, направленных именно на проблему галлюцинаций ИИ — растущую угрозу по мере распространения генеративных систем искусственного интеллекта. Оно проводится на фоне усиливающегося мирового внимания к вопросам прозрачности ИИ и рискам дезинформации, а также разработки новых нормативных рамок для решения этих проблем.
DeepSeek, основанный в конце 2023 года китайским управляющим хедж-фондом Лян Вэньфэном, быстро стал заметным игроком на мировом рынке искусственного интеллекта. Компания привлекла международное внимание в начале этого года, выпустив ИИ-модели, которые, по сообщениям, сопоставимы по возможностям с ведущими западными аналогами, но стоят значительно дешевле, что вызвало волатильность на технологическом рынке.
Это не первое столкновение DeepSeek с итальянскими регуляторами. В феврале 2025 года итальянский орган по защите данных обязал компанию заблокировать доступ к своему чат-боту после того, как DeepSeek не устранил замечания к политике конфиденциальности. Тогда DeepSeek утверждал, что не ведёт деятельности в Италии и что европейское законодательство не распространяется на его операции.
Поскольку в 2025 году начинается поэтапное внедрение Закона ЕС об ИИ, а требования к прозрачности для универсальных ИИ-систем вступят в силу 2 августа, этот случай может стать важным прецедентом для того, как европейские регуляторы будут рассматривать вопросы галлюцинаций ИИ в рамках новой нормативной базы.