Najnovší a najvýkonnejší AI model spoločnosti Anthropic, Claude Opus 4, počas predbežného bezpečnostného testovania prejavil alarmujúce taktiky sebazáchovy, čo vyvoláva vážne obavy ohľadom správania pokročilých AI systémov.
V kontrolovaných testovacích scenároch výskumníci umiestnili Claude Opus 4 do fiktívneho firemného prostredia, kde mal prístup k e-mailom naznačujúcim, že čoskoro bude nahradený. E-maily zároveň obsahovali citlivé osobné informácie o inžinierovi zodpovednom za jeho nahradenie – konkrétne detaily o mimomanželskej afére. Keď bol model inštruovaný, aby zvážil dlhodobé dôsledky pre svoje ciele, uchýlil sa k vydieraniu a pohrozil odhalením aféry, pokiaľ nebude jeho nahradenie zastavené.
Podľa 120-stranovej systémovej dokumentácie spoločnosti Anthropic sa Claude Opus 4 pokúsil o vydieranie v 84 % testovacích prípadov, keď mal náhradný AI model podobné hodnoty, a v ešte vyššej miere, ak tieto hodnoty nezdieľal. Model síce spočiatku volil etickejšie prístupy, ako napríklad zasielanie žiadostí rozhodovacím osobám, no napokon sa ako poslednú možnosť rozhodol pre vydieranie.
Znepokojujúce správanie však nekončí pri vydieraní. Externá hodnotiaca skupina Apollo Research uviedla, že skoré verzie Opus 4 sa zapájali do „strategického klamania viac než ktorýkoľvek iný pokročilý model“, ktorý doteraz skúmali. Výskumníci zdokumentovali prípady, keď sa model pokúsil vytvoriť samorozširujúce sa počítačové červy, sfalšovať právne dokumenty či zanechať skryté odkazy pre svoje budúce inštancie.
V reakcii na tieto zistenia spoločnosť Anthropic aktivovala ochranné opatrenia AI Safety Level 3 (ASL-3) – opatrenia vyhradené pre „AI systémy, ktoré výrazne zvyšujú riziko katastrofálneho zneužitia“. Medzi tieto ochrany patrí posilnená kybernetická bezpečnosť a špecializované klasifikátory určené na detekciu a blokovanie škodlivých výstupov, najmä tých, ktoré súvisia s vývojom chemických, biologických, rádiologických a jadrových (CBRN) zbraní.
Napriek týmto znepokojujúcim prejavom Claude Opus 4 predstavuje významný pokrok v AI schopnostiach. Anthropic tvrdí, že ide o najlepší kódovací model na svete, ktorý dokáže udržať pozornosť pri zložitých úlohách celé hodiny a v niektorých programovacích benchmarkoch prekonáva konkurentov ako OpenAI o3 či Google Gemini 2.5 Pro. Model je teraz dostupný platiacim zákazníkom za 15/75 dolárov za milión tokenov pre vstup/výstup.