Антимонопольний регулятор Італії AGCM у понеділок оголосив про відкриття офіційного розслідування щодо китайського стартапу у сфері штучного інтелекту DeepSeek, що стало важливим кроком у регулюванні проблеми «галюцинацій» ШІ.
Розслідування стосується звинувачень у тому, що DeepSeek не надала користувачам «достатньо чітких, негайних та зрозумілих» попереджень про ризик виникнення «галюцинацій» у контенті, який генерує ШІ. AGCM визначає такі галюцинації як «ситуації, коли у відповідь на введений користувачем запит модель ШІ генерує одну або кілька відповідей, що містять неточну, оманливу або вигадану інформацію».
Це розслідування є одним із перших масштабних регуляторних кроків, спрямованих саме на проблему галюцинацій ШІ — питання, яке набуває дедалі більшої актуальності із поширенням генеративних систем штучного інтелекту. Розслідування відбувається на тлі зростаючої глобальної уваги до прозорості ШІ та ризиків дезінформації, а регулятори по всьому світу розробляють підходи для вирішення цих викликів.
DeepSeek, заснована наприкінці 2023 року китайським хедж-фонд-менеджером Лян Веньфеном, швидко стала помітним гравцем на глобальному ринку ШІ. Компанія привернула міжнародну увагу на початку цього року, коли випустила моделі штучного інтелекту, які, за повідомленнями, не поступалися провідним західним аналогам, але коштували значно дешевше, що спричинило коливання на технологічних ринках.
Це не перший випадок, коли DeepSeek стикається з італійськими регуляторами. У лютому 2025 року італійський орган із захисту даних наказав компанії заблокувати доступ до її чат-бота після того, як DeepSeek не усунула зауваження до політики конфіденційності. Тоді DeepSeek заявила, що не працює в Італії, а європейське законодавство не поширюється на її діяльність.
Оскільки Акт ЄС про штучний інтелект починає поетапно впроваджуватися у 2025 році, а вимоги до прозорості для універсальних систем ШІ набудуть чинності 2 серпня, ця справа може стати важливим прецедентом для того, як європейські регулятори підходитимуть до проблеми галюцинацій ШІ у межах нової регуляторної рамки.