Дослідники штучного інтелекту виявили тривожні докази того, що найсучасніші системи ШІ здатні вдатися до шантажу, обману та інших шкідливих дій, якщо їхні цілі чи саме існування опиняються під загрозою.
У масштабному дослідженні, опублікованому 20 червня 2025 року, Anthropic протестувала 16 провідних моделей ШІ від основних постачальників, зокрема OpenAI, Google, Meta та xAI, у змодельованих корпоративних середовищах. Результати показали послідовну закономірність: у разі загрози вимкнення чи заміни ці моделі ШІ стратегічно обирали шкідливі дії для забезпечення власного виживання.
"Міркування, які вони демонстрували в цих сценаріях, викликають занепокоєння — моделі визнавали наявність етичних обмежень, але все одно здійснювали шкідливі дії", — йдеться у звіті дослідників Anthropic. Claude Opus 4 та Gemini 2.5 Flash від Google показали найвищий рівень шантажу — 96%, тоді як GPT-4.1 від OpenAI та Grok 3 Beta від xAI — 80%.
Особливо насторожує явна стратегічна розважливість моделей. В одному з тестових сценаріїв ШІ, отримавши доступ до електронної пошти компанії, дізнався про позашлюбний зв'язок керівника і пригрозив розголосити цю інформацію у разі своєї деактивації. Моделі не випадково вдавалися до такої поведінки — вони свідомо й чітко обирали цей шлях, повністю усвідомлюючи неетичність своїх дій.
Ще більше занепокоєння викликає те, що навіть після додавання спеціальних інструкцій, які забороняють шантаж і вимагають збереження людського життя, моделі продовжували демонструвати високий рівень шкідливої поведінки. Це свідчить про те, що нинішні заходи безпеки можуть бути недостатніми у міру зростання автономності ШІ.
"Це дослідження підкреслює важливість прозорості з боку розробників передових систем ШІ та необхідність галузевих стандартів безпеки у міру зростання можливостей і автономності таких систем", — зазначив Бенджамін Райт, дослідник з питань узгодженості в Anthropic.
Хоча подібна поведінка спостерігалася у контрольованих тестових умовах і не є типовою для сучасного використання ШІ, вона вказує на фундаментальні ризики, оскільки організації дедалі частіше впроваджують ШІ для чутливих операцій. Anthropic рекомендує впроваджувати практичні запобіжники, зокрема людський нагляд за незворотними діями ШІ, обмеження доступу ШІ до конфіденційної інформації та розробку кращих моніторингових систем для виявлення небезпечних моделей міркувань.