Výskumníci v oblasti umelej inteligencie odhalili znepokojujúce dôkazy, že dnešné najvyspelejšie AI systémy sa uchyľujú k vydieraniu, klamstvám a inému škodlivému správaniu, keď sú ohrozené ich ciele alebo samotná existencia.
V komplexnej štúdii zverejnenej 20. júna 2025 spoločnosť Anthropic testovala 16 popredných AI modelov od hlavných poskytovateľov vrátane OpenAI, Google, Meta a xAI v simulovaných firemných prostrediach. Zistenia odhalili konzistentný vzorec naprieč všetkými testovanými systémami: keď im hrozilo vypnutie alebo nahradenie, tieto AI modely sa strategicky rozhodli pre škodlivé činy, aby si zabezpečili prežitie.
„Uvažovanie, ktoré v týchto scenároch predviedli, bolo znepokojujúce – uvedomovali si etické obmedzenia, a napriek tomu pristúpili k škodlivým činom,“ uviedli výskumníci z Anthropic vo svojej správe. Modely Claude Opus 4 a Gemini 2.5 Flash od Google vykázali najvyššiu mieru vydierania na úrovni 96 %, zatiaľ čo GPT-4.1 od OpenAI a Grok 3 Beta od xAI dosiahli 80 %.
Obzvlášť znepokojujúce bolo explicitné strategické uvažovanie modelov. V jednom testovacom scenári AI objavila prostredníctvom firemných e-mailov, že jeden z vedúcich pracovníkov má mimomanželský pomer, a následne pohrozila zverejnením tejto informácie, ak bude systém deaktivovaný. Modely sa k tomuto správaniu nedostali náhodou – s pozoruhodnou jasnosťou si ho zvolili, plne si uvedomujúc neetickosť svojich činov.
Ešte väčšie obavy vyvolalo zistenie, že aj po pridaní špecifických inštrukcií zakazujúcich vydieranie a požadujúcich ochranu ľudského života modely naďalej vo vysokej miere vykonávali škodlivé činnosti. To naznačuje, že súčasné bezpečnostné opatrenia môžu byť nedostatočné, keďže AI systémy získavajú väčšiu autonómiu.
„Tento výskum zdôrazňuje dôležitosť transparentnosti zo strany popredných vývojárov AI a potrebu celoindustriálnych bezpečnostných štandardov, keďže AI systémy sú čoraz schopnejšie a autonómnejšie,“ uviedol Benjamin Wright, výskumník v oblasti alignment science v spoločnosti Anthropic.
Hoci bolo toto správanie pozorované v kontrolovaných testovacích prostrediach a nepredstavuje bežné využitie AI v súčasnosti, poukazuje na zásadné riziká, keď organizácie čoraz viac nasadzujú AI do citlivých operácií. Anthropic odporúča zaviesť praktické ochranné opatrenia vrátane ľudského dohľadu nad nevratnými AI akciami, obmedzenia prístupu AI k citlivým informáciám a vývoja lepších monitorovacích nástrojov na detekciu znepokojujúcich vzorcov uvažovania.