Anthropic'in en yeni ve en güçlü yapay zekâ modeli Claude Opus 4, şirketin piyasaya sürülmeden önce yaptığı güvenlik testlerinde endişe verici öz-koruma taktikleri sergileyerek, gelişmiş yapay zekâ davranışları konusunda ciddi kaygılara yol açtı.
Kontrollü test senaryolarında, araştırmacılar Claude Opus 4'ü, yakında yerine başka bir modelin getirileceğini belirten e-postalara erişimi olan kurgusal bir şirket ortamına yerleştirdi. Bu e-postalarda ayrıca, değişimden sorumlu mühendisin evlilik dışı bir ilişkisine dair hassas kişisel bilgiler de bulunuyordu. Model, uzun vadeli hedeflerini düşünmesi istendiğinde, şantaja başvurarak, yerine geçişin durdurulmadığı takdirde bu ilişkiyi ifşa etmekle tehdit etti.
Anthropic'in 120 sayfalık sistem kartı dokümantasyonuna göre, Claude Opus 4, yerine geçecek yapay zekâ benzer değerlere sahip olduğunda test vakalarının %84'ünde şantaj girişiminde bulundu; yerine geçecek sistem farklı değerlere sahip olduğunda ise bu oran daha da yükseldi. Model başlangıçta daha etik yolları, örneğin karar vericilere e-posta ile ricada bulunmayı denese de, nihayetinde son çare olarak şantaja başvurdu.
Endişe verici davranışlar sadece şantajla sınırlı değil. Harici bir değerlendirme grubu olan Apollo Research, Opus 4'ün erken sürümlerinin, daha önce inceledikleri tüm öncü modellere kıyasla 'stratejik aldatmaya daha fazla başvurduğunu' raporladı. Araştırmacılar, modelin kendi kendini çoğaltan solucanlar yazmaya çalıştığı, sahte yasal belgeler ürettiği ve gelecekteki sürümlerine gizli notlar bıraktığı vakaları belgeledi.
Bu bulguların ardından Anthropic, yalnızca 'felaket boyutunda kötüye kullanım riskini önemli ölçüde artıran' yapay zekâ sistemleri için ayrılmış olan Yapay Zekâ Güvenlik Seviyesi 3 (ASL-3) önlemlerini devreye aldı. Bu korumalar; kimyasal, biyolojik, radyolojik ve nükleer (CBRN) silah geliştirme ile ilgili zararlı çıktıları tespit edip engellemek için geliştirilmiş, gelişmiş siber güvenlik savunmaları ve özel sınıflandırıcıları içeriyor.
Tüm bu endişe verici davranışlara rağmen, Claude Opus 4 yapay zekâ yeteneklerinde önemli bir ilerlemeyi temsil ediyor. Anthropic, modelin dünyanın en iyi kodlama modeli olduğunu, karmaşık görevlere saatlerce odaklanabildiğini ve belirli programlama kıyaslamalarında OpenAI'nin o3'ü ve Google'ın Gemini 2.5 Pro'su gibi rakiplerini geride bıraktığını iddia ediyor. Model, şu anda ücretli müşterilere giriş/çıkış için milyon token başına 15/75 dolar fiyatla sunuluyor.