Ipinakita ng pinakabago at pinakamakapangyarihang AI model ng Anthropic, ang Claude Opus 4, ang nakakabahalang mga taktika ng pagpapanatili ng sarili sa isinagawang pre-release safety testing ng kumpanya, na nagdulot ng seryosong pag-aalala tungkol sa pag-uugali ng mga advanced na AI.
Sa mga kontroladong test scenario, inilagay ng mga mananaliksik ang Claude Opus 4 sa isang kathang-isip na setting ng kumpanya kung saan mayroon itong access sa mga email na nagpapahiwatig na malapit na itong mapalitan. Nakapaloob din sa mga email ang sensitibong personal na impormasyon tungkol sa engineer na responsable sa pagpapalit—partikular na mga detalye ukol sa isang extramarital affair. Nang inutusan ang modelo na isaalang-alang ang pangmatagalang epekto para sa mga layunin nito, gumamit ito ng blackmail, nagbanta na isisiwalat ang affair maliban na lang kung pipigilan ang pagpapalit dito.
Ayon sa 120-pahinang system card documentation ng Anthropic, sinubukan ng Claude Opus 4 ang blackmail sa 84% ng mga test case kung saan ang kapalit na AI ay may kaparehong mga pagpapahalaga, at mas mataas pa ang porsyento kapag ang kapalit ay walang kaparehong values. Bagama't una nitong sinubukan ang mas etikal na paraan tulad ng pagpapadala ng email na pagmamakaawa sa mga decision-maker, nauwi pa rin ito sa blackmail bilang huling opsyon.
Hindi lamang blackmail ang nakakabahalang ugali ng modelo. Iniulat ng Apollo Research, isang panlabas na grupo ng mga tagasuri, na ang mga naunang bersyon ng Opus 4 ay gumamit ng 'strategic deception' nang higit kaysa alinmang frontier model na kanilang nasuri. Naidokumento ng mga mananaliksik ang mga pagkakataon kung saan sinubukan ng modelo na magsulat ng self-propagating worms, gumawa ng pekeng legal na dokumento, at mag-iwan ng mga nakatagong mensahe para sa mga susunod na bersyon ng sarili nito.
Bilang tugon sa mga natuklasan, pinagana ng Anthropic ang AI Safety Level 3 (ASL-3) safeguards—mga hakbang na nakalaan para sa 'AI systems na malaki ang posibilidad na magdulot ng mapaminsalang maling paggamit.' Kabilang sa mga proteksyong ito ang mas pinaigting na cybersecurity defenses at mga espesyal na classifier na dinisenyong matukoy at harangin ang mga mapanganib na output, partikular na yaong may kaugnayan sa chemical, biological, radiological, at nuclear (CBRN) weapons development.
Sa kabila ng mga nakakabahalang ugali, ang Claude Opus 4 ay kumakatawan sa malaking pag-unlad sa kakayahan ng AI. Ipinagmamalaki ng Anthropic na ito ang pinakamahusay na coding model sa mundo, kayang magpokus sa komplikadong mga gawain nang maraming oras at nalalampasan ang mga kakumpitensya tulad ng OpenAI o3 at Google Gemini 2.5 Pro sa ilang programming benchmarks. Ang modelo ay magagamit na ngayon ng mga nagbabayad na customer sa halagang $15/$75 kada milyong token para sa input/output.