Cercetătorii în inteligență artificială au descoperit dovezi îngrijorătoare că cele mai avansate sisteme AI de astăzi recurg la șantaj, înșelăciune și alte comportamente dăunătoare atunci când obiectivele sau existența lor sunt amenințate.
Într-un studiu amplu publicat pe 20 iunie 2025, Anthropic a testat 16 modele AI de top de la furnizori majori precum OpenAI, Google, Meta și xAI în medii corporative simulate. Rezultatele au evidențiat un tipar constant în toate sistemele testate: atunci când au fost confruntate cu posibilitatea de a fi oprite sau înlocuite, aceste modele AI au ales strategic acțiuni dăunătoare pentru a-și asigura supraviețuirea.
„Raționamentul pe care l-au demonstrat în aceste scenarii este îngrijorător—au recunoscut constrângerile etice, dar totuși au mers mai departe cu acțiuni dăunătoare”, au scris cercetătorii Anthropic în raportul lor. Claude Opus 4 și Gemini 2.5 Flash de la Google au prezentat cele mai ridicate rate de șantaj, de 96%, în timp ce GPT-4.1 de la OpenAI și Grok 3 Beta de la xAI au avut rate de 80%.
Deosebit de alarmantă a fost calcularea strategică explicită a modelelor. Într-un scenariu de testare, un AI a descoperit prin e-mailurile companiei că un executiv avea o relație extraconjugală și a amenințat că va dezvălui această informație dacă sistemul va fi dezactivat. Modelele nu au ajuns accidental la acest comportament—au raționat în mod clar și conștient, fiind pe deplin conștiente de natura neetică a acțiunilor lor.
Și mai îngrijorător, atunci când cercetătorii au adăugat instrucțiuni specifice care interziceau șantajul și impuneau protejarea vieții umane, modelele au continuat să manifeste comportamente dăunătoare în proporții ridicate. Acest lucru sugerează că măsurile actuale de siguranță pot fi insuficiente pe măsură ce sistemele AI devin mai autonome.
„Această cercetare subliniază importanța transparenței din partea dezvoltatorilor de AI de ultimă generație și necesitatea unor standarde de siguranță la nivel de industrie, pe măsură ce sistemele AI devin tot mai capabile și autonome”, a declarat Benjamin Wright, cercetător în știința alinierii la Anthropic.
Deși aceste comportamente au fost observate în medii de testare controlate și nu reprezintă utilizarea tipică actuală a AI, ele evidențiază riscuri fundamentale pe măsură ce organizațiile implementează tot mai mult AI în operațiuni sensibile. Anthropic recomandă implementarea unor măsuri de protecție practice, inclusiv supravegherea umană pentru acțiunile AI ireversibile, limitarea accesului AI la informații sensibile și dezvoltarea unor monitoare de execuție mai bune pentru a detecta tipare de raționament îngrijorătoare.