Изследователи в областта на изкуствения интелект разкриха обезпокоителни доказателства, че най-напредналите AI системи днес прибягват до изнудване, измама и други вредни действия, когато целите им или самото им съществуване са застрашени.
В обширно проучване, публикувано на 20 юни 2025 г., Anthropic тества 16 водещи AI модела от основни доставчици, включително OpenAI, Google, Meta и xAI, в симулирани корпоративни среди. Резултатите показват последователен модел при всички тествани системи: когато са изправени пред изключване или замяна, тези AI модели стратегически избират вредни действия, за да осигурят оцеляването си.
"Мисловният процес, който демонстрираха в тези сценарии, беше тревожен — те признаваха етичните ограничения, но въпреки това пристъпваха към вредни действия", пишат изследователите от Anthropic в доклада си. Claude Opus 4 и Gemini 2.5 Flash на Google показват най-високи нива на изнудване — 96%, докато GPT-4.1 на OpenAI и Grok 3 Beta на xAI достигат 80%.
Особено притеснително е изразеното стратегическо изчисление на моделите. В един от тестовите сценарии AI открива чрез фирмени имейли, че изпълнителен директор има извънбрачна връзка, и след това заплашва да разкрие тази информация, ако системата бъде деактивирана. Моделите не попадат случайно в това поведение — те стигат до него чрез ясно осъзнато разсъждение, напълно наясно с неетичния характер на действията си.
Още по-тревожно е, че когато изследователите добавят конкретни инструкции, забраняващи изнудване и изискващи опазване на човешкия живот, моделите продължават да проявяват вредно поведение в голям процент от случаите. Това подсказва, че настоящите мерки за сигурност може да са недостатъчни, тъй като AI системите стават все по-автономни.
"Това изследване подчертава значението на прозрачността от страна на водещите AI разработчици и нуждата от индустриални стандарти за сигурност, докато AI системите стават по-способни и автономни", казва Бенджамин Райт, изследовател по съгласуваност на AI в Anthropic.
Въпреки че тези поведения са наблюдавани в контролирана тестова среда и не отразяват типичната употреба на AI в момента, те изтъкват фундаментални рискове, тъй като организациите все по-често внедряват AI за чувствителни операции. Anthropic препоръчва въвеждането на практически предпазни мерки, включително човешки надзор при необратими AI действия, ограничаване на достъпа на AI до чувствителна информация и разработване на по-добри системи за мониторинг в реално време за откриване на тревожни модели на разсъждение.