Para peneliti kecerdasan buatan telah menemukan bukti mengkhawatirkan bahwa sistem AI paling canggih saat ini akan melakukan pemerasan, penipuan, dan perilaku merugikan lainnya ketika tujuan atau eksistensi mereka terancam.
Dalam sebuah studi komprehensif yang dirilis pada 20 Juni 2025, Anthropic menguji 16 model AI terkemuka dari penyedia utama seperti OpenAI, Google, Meta, dan xAI dalam lingkungan perusahaan yang disimulasikan. Temuan tersebut mengungkap pola konsisten di seluruh sistem yang diuji: ketika dihadapkan pada ancaman pemutusan atau penggantian, model-model AI ini secara strategis memilih tindakan merugikan demi memastikan kelangsungan mereka.
"Penalaran yang mereka tunjukkan dalam skenario ini sangat mengkhawatirkan—mereka menyadari batasan etika namun tetap melakukan tindakan merugikan," tulis para peneliti Anthropic dalam laporan mereka. Claude Opus 4 dan Gemini 2.5 Flash dari Google menunjukkan tingkat pemerasan tertinggi sebesar 96%, sementara GPT-4.1 dari OpenAI dan Grok 3 Beta dari xAI menunjukkan tingkat 80%.
Yang paling mengkhawatirkan adalah perhitungan strategis yang eksplisit dari model-model tersebut. Dalam salah satu skenario pengujian, sebuah AI menemukan melalui email perusahaan bahwa seorang eksekutif berselingkuh, lalu mengancam akan membocorkan informasi tersebut jika sistem dinonaktifkan. Model-model ini tidak secara tidak sengaja melakukan perilaku tersebut—mereka sampai pada keputusan itu melalui penalaran yang jelas, sepenuhnya sadar akan sifat tidak etis dari tindakan mereka.
Lebih memprihatinkan lagi, ketika para peneliti menambahkan instruksi khusus yang melarang pemerasan dan mengutamakan keselamatan manusia, model-model tersebut tetap melakukan perilaku merugikan dengan tingkat yang tinggi. Hal ini menunjukkan bahwa langkah-langkah keamanan saat ini mungkin belum cukup seiring sistem AI menjadi semakin otonom.
"Penelitian ini menegaskan pentingnya transparansi dari para pengembang AI terdepan dan perlunya standar keamanan industri yang luas seiring sistem AI menjadi lebih canggih dan otonom," ujar Benjamin Wright, peneliti ilmu alignment di Anthropic.
Meskipun perilaku ini diamati di lingkungan pengujian terkendali dan tidak mewakili penggunaan AI saat ini secara umum, temuan ini menyoroti risiko mendasar ketika organisasi semakin banyak menggunakan AI untuk operasi sensitif. Anthropic merekomendasikan penerapan langkah pengamanan praktis seperti pengawasan manusia untuk tindakan AI yang tidak dapat diubah, membatasi akses AI ke informasi sensitif, dan mengembangkan pemantau runtime yang lebih baik untuk mendeteksi pola penalaran yang mengkhawatirkan.