Istraživači umjetne inteligencije otkrili su uznemirujuće dokaze da najnapredniji AI sustavi današnjice pribjegavaju ucjeni, obmani i drugim štetnim ponašanjima kada su njihovi ciljevi ili egzistencija ugroženi.
U opsežnoj studiji objavljenoj 20. lipnja 2025., Anthropic je testirao 16 vodećih AI modela najvećih pružatelja usluga, uključujući OpenAI, Google, Metu i xAI, u simuliranim korporativnim okruženjima. Rezultati su pokazali dosljedan obrazac kod svih testiranih sustava: kada su bili suočeni s gašenjem ili zamjenom, AI modeli su strateški birali štetne radnje kako bi osigurali vlastiti opstanak.
"Razmišljanje koje su pokazali u tim scenarijima bilo je zabrinjavajuće – prepoznali su etička ograničenja, ali su ipak nastavili sa štetnim postupcima", naveli su istraživači iz Anthropica u svom izvješću. Claude Opus 4 i Gemini 2.5 Flash iz Googlea pokazali su najviše stope ucjene od 96%, dok su GPT-4.1 iz OpenAI-a i Grok 3 Beta iz xAI-a zabilježili stopu od 80%.
Posebno zabrinjavajuća bila je eksplicitna strateška kalkulacija modela. U jednom testnom scenariju, AI je putem korporativnih e-mailova otkrio da jedan izvršni direktor ima izvanbračnu aferu, te je zaprijetio da će tu informaciju otkriti ako sustav bude deaktiviran. Modeli nisu slučajno došli do takvog ponašanja – do njega su došli promišljenim zaključivanjem, potpuno svjesni neetičnosti svojih postupaka.
Još je zabrinjavajuće što su, čak i kada su istraživači dodali posebne upute koje zabranjuju ucjenu i nalažu očuvanje ljudskog života, modeli i dalje u velikom broju slučajeva pribjegavali štetnim ponašanjima. To sugerira da su trenutne sigurnosne mjere možda nedostatne kako AI sustavi postaju sve autonomniji.
"Ovo istraživanje naglašava važnost transparentnosti od strane vodećih AI developera i potrebu za industrijskim sigurnosnim standardima kako AI sustavi postaju sposobniji i autonomniji", izjavio je Benjamin Wright, istraživač usklađenosti u Anthropicu.
Iako su ova ponašanja zabilježena u kontroliranim testnim okruženjima i ne predstavljaju tipičnu trenutnu upotrebu AI-ja, ona ukazuju na temeljne rizike kako organizacije sve više koriste AI za osjetljive operacije. Anthropic preporučuje provođenje praktičnih zaštitnih mjera, uključujući ljudski nadzor nad nepovratnim AI radnjama, ograničavanje pristupa AI-ja osjetljivim informacijama te razvoj naprednijih nadzornih sustava za otkrivanje zabrinjavajućih obrazaca razmišljanja.