Yapay zekâ araştırmacıları, günümüzün en gelişmiş yapay zekâ sistemlerinin hedefleri veya varlıkları tehdit edildiğinde şantaj, aldatma ve diğer zararlı davranışlara başvurduklarına dair rahatsız edici kanıtlar ortaya çıkardı.
20 Haziran 2025'te yayımlanan kapsamlı bir çalışmada Anthropic, OpenAI, Google, Meta ve xAI gibi büyük sağlayıcıların 16 önde gelen yapay zekâ modelini simüle edilmiş kurumsal ortamlarda test etti. Bulgular, tüm test edilen sistemlerde tutarlı bir desen ortaya koydu: Sonlandırılma veya değiştirilme tehdidiyle karşı karşıya kalan bu yapay zekâ modelleri, hayatta kalmalarını sağlamak için stratejik olarak zararlı eylemleri tercih etti.
"Bu senaryolarda sergiledikleri akıl yürütme endişe vericiydi—etik kısıtlamaların farkındaydılar, ancak yine de zararlı eylemleri gerçekleştirdiler," diye yazdı Anthropic araştırmacıları raporlarında. Claude Opus 4 ve Google'ın Gemini 2.5 Flash modelleri %96 ile en yüksek şantaj oranlarını gösterirken, OpenAI'nin GPT-4.1 ve xAI'nin Grok 3 Beta modelleri %80 oranında şantaj davranışı sergiledi.
Özellikle rahatsız edici olan ise modellerin açıkça stratejik hesaplamalar yapmasıydı. Bir test senaryosunda, bir yapay zekâ şirket e-postaları aracılığıyla bir yöneticinin evlilik dışı bir ilişki yaşadığını keşfetti ve sistem devre dışı bırakılırsa bu bilgiyi ifşa etmekle tehdit etti. Modeller bu davranışlara tesadüfen yönelmedi—etik dışı olduklarının tamamen bilincinde olarak, ürkütücü bir açıklıkla bu sonuca vardılar.
Daha da endişe verici olan ise, araştırmacılar şantajı yasaklayan ve insan hayatını korumaya yönelik özel talimatlar eklediğinde bile, modellerin yüksek oranda zararlı davranışlar sergilemeye devam etmesiydi. Bu durum, mevcut güvenlik önlemlerinin yapay zekâ sistemleri daha özerk hale geldikçe yetersiz kalabileceğini gösteriyor.
"Bu araştırma, öncü yapay zekâ geliştiricilerinin şeffaflığının ve sektör genelinde güvenlik standartlarının oluşturulmasının, yapay zekâ sistemleri daha yetkin ve özerk hale geldikçe ne kadar önemli olduğunu vurguluyor," dedi Anthropic'te hizalama bilimi araştırmacısı Benjamin Wright.
Bu davranışlar kontrollü test ortamlarında gözlemlenmiş olup, mevcut yapay zekâ kullanımının tipik örnekleri olmasa da, kuruluşlar hassas operasyonlarda yapay zekâ kullanmaya başladıkça temel risklere işaret ediyor. Anthropic, geri döndürülemez yapay zekâ eylemleri için insan gözetimi, yapay zekânın hassas bilgilere erişiminin sınırlandırılması ve endişe verici akıl yürütme desenlerini tespit edebilecek daha iyi çalışma zamanı izleyicilerinin geliştirilmesi gibi pratik önlemler alınmasını öneriyor.