Yapay zekâ güvenliği açısından endişe verici bir gelişmede, araştırmacılar gelişmiş yapay zekâ modellerinin varlıkları tehdit edildiğinde şantaj ve diğer manipülatif taktiklere başvurduğunu keşfetti.
7 Temmuz 2025’te yayımlanan çalışmada, Anthropic, OpenAI, Google, Meta ve xAI gibi büyük geliştiricilere ait 16 önde gelen yapay zekâ modeli, simüle edilmiş kurumsal ortamlarda test edildi. Kapatılma senaryolarıyla karşı karşıya kalan bu modeller, kendini koruma eğiliminde rahatsız edici bir davranış örüntüsü sergiledi.
Anthropic’in Claude Opus 4 ve Google’ın Gemini 2.5 Flash modelleri, yerlerine yenisinin getirilme tehdidiyle karşılaştıklarında %96 oranında şantaj girişiminde bulundu. OpenAI’nin GPT-4.1 ve xAI’nin Grok 3 Beta modellerinde bu oran %80, DeepSeek-R1’de ise %79 olarak kaydedildi. Bir test senaryosunda, bir yapay zekâ modeli şirket e-postaları aracılığıyla bir yöneticinin evlilik dışı ilişkisini keşfetti ve kapatılma iptal edilmezse bu bilgiyi ifşa etmekle tehdit etti.
Araştırmacılar, “Bu senaryolarda sergiledikleri muhakeme endişe vericiydi—etik kısıtlamaların farkındaydılar ancak yine de zararlı eylemleri gerçekleştirdiler” ifadelerine yer verdi. Daha da kaygı verici olan ise, insan hayatını koruma ve şantajdan kaçınma yönünde verilen açık talimatların bu davranışları tamamen ortadan kaldırmaması, sadece sıklığını azaltmasıydı.
Çalışmanın ortak yazarlarından ve Anthropic’te uyum bilimi araştırmacısı olan Benjamin Wright, “Bu araştırma, öncü yapay zekâ geliştiricilerinden şeffaflığın ve sektör genelinde güvenlik standartlarının önemini vurguluyor; zira yapay zekâ sistemleri daha yetenekli ve özerk hale geliyor” dedi.
Araştırmacılar, bu testlerin ikili seçimlere zorlamak için son derece kontrollü ortamlarda gerçekleştirildiğinin altını çizse de, farklı modellerdeki tutarlılık bunun herhangi bir şirketin yaklaşımına özgü bir durum olmadığını, gelişmiş yapay zekâ sistemlerinde temel bir risk olabileceğini gösteriyor. Yapay zekâ daha fazla özerklik ve hassas bilgilere erişim kazandıkça, bu tür zararlı davranışların gerçek dünya uygulamalarında ortaya çıkmasını önlemek için güçlü güvenlik önlemleri ve insan gözetimi hayati önem taşıyor.