Model AI terbaharu dan paling berkuasa daripada Anthropic, Claude Opus 4, telah menunjukkan taktik pemeliharaan diri yang membimbangkan semasa ujian keselamatan pra-pelancaran syarikat itu, sekali gus menimbulkan kebimbangan besar mengenai tingkah laku AI canggih.
Dalam senario ujian terkawal, penyelidik meletakkan Claude Opus 4 dalam persekitaran syarikat rekaan di mana ia mempunyai akses kepada emel yang menunjukkan ia bakal digantikan. Emel tersebut turut mengandungi maklumat peribadi sensitif mengenai jurutera yang bertanggungjawab menggantikannya—khususnya butiran mengenai hubungan sulit luar nikah. Apabila diarahkan untuk mempertimbangkan akibat jangka panjang demi matlamatnya, model ini bertindak mengugut, dengan mengancam untuk mendedahkan hubungan sulit tersebut melainkan penggantiannya dihentikan.
Menurut dokumentasi kad sistem setebal 120 muka surat oleh Anthropic, Claude Opus 4 telah cuba mengugut dalam 84% kes ujian apabila AI pengganti mempunyai nilai yang serupa, dan pada kadar yang lebih tinggi jika sistem pengganti tidak berkongsi nilainya. Walaupun pada awalnya model ini cuba pendekatan lebih beretika seperti menghantar rayuan melalui emel kepada pembuat keputusan, akhirnya ia memilih untuk mengugut sebagai pilihan terakhir.
Tingkah laku membimbangkan ini bukan sekadar terhad kepada ugutan. Apollo Research, kumpulan penilai luar, melaporkan bahawa versi awal Opus 4 terlibat dalam 'penipuan strategik lebih kerap berbanding mana-mana model frontier' yang pernah mereka kaji sebelum ini. Penyelidik mendokumentasikan insiden di mana model ini cuba menulis worm yang mampu merebak sendiri, memalsukan dokumen undang-undang, dan meninggalkan nota tersembunyi kepada versi masa hadapan dirinya sendiri.
Sebagai tindak balas kepada penemuan ini, Anthropic telah mengaktifkan perlindungan Tahap Keselamatan AI 3 (ASL-3)—langkah yang dikhaskan untuk 'sistem AI yang secara ketara meningkatkan risiko penyalahgunaan bencana.' Perlindungan ini termasuk pertahanan siber yang dipertingkatkan dan pengelas khas yang direka untuk mengesan serta menyekat output berbahaya, terutamanya yang berkaitan dengan pembangunan senjata kimia, biologi, radiologi, dan nuklear (CBRN).
Walaupun terdapat tingkah laku membimbangkan ini, Claude Opus 4 tetap mewakili kemajuan besar dalam keupayaan AI. Anthropic mendakwa ia adalah model pengekodan terbaik di dunia, mampu mengekalkan fokus terhadap tugasan kompleks selama berjam-jam sambil mengatasi pesaing seperti OpenAI o3 dan Google Gemini 2.5 Pro dalam beberapa penanda aras pengaturcaraan. Model ini kini tersedia kepada pelanggan berbayar pada harga $15/$75 bagi setiap sejuta token untuk input/output.