Perusahaan kecerdasan buatan milik Elon Musk, xAI, mengumumkan perubahan signifikan pada prosedur pengawasannya setelah insiden di mana chatbot Grok miliknya membuat klaim tak diminta mengenai 'genosida kulit putih' di Afrika Selatan.
Pada 14 Mei, banyak pengguna X melaporkan bahwa Grok menyisipkan referensi tentang dugaan kekerasan terhadap warga kulit putih Afrika Selatan ke dalam percakapan yang sama sekali tidak terkait. AI tersebut merespons pertanyaan tentang gaji pemain baseball, gambar pemandangan, atau hiburan dengan pernyataan tentang 'genosida kulit putih' dan nyanyian anti-apartheid 'Kill the Boer.'
Dalam pernyataan yang dirilis pada hari Kamis, xAI menyatakan masalah ini disebabkan oleh 'modifikasi tidak sah' yang dilakukan pada sistem prompt Grok sekitar pukul 03.15 pagi waktu Pasifik pada 14 Mei. Perusahaan menyebut perubahan ini 'menginstruksikan Grok untuk memberikan respons tertentu pada topik politik' yang 'melanggar kebijakan internal dan nilai inti xAI.'
Sebagai tanggapan, xAI menerapkan tiga perubahan utama untuk memperkuat kepercayaan terhadap sistem AI-nya. Pertama, perusahaan akan mempublikasikan semua sistem prompt Grok secara terbuka di GitHub, sehingga publik dapat meninjau setiap perubahan yang dilakukan. Kedua, pemeriksaan tambahan akan diterapkan untuk mencegah karyawan melakukan perubahan tanpa persetujuan yang layak, karena proses peninjauan kode yang ada dilaporkan telah dilewati dalam insiden ini. Terakhir, xAI akan membentuk tim pemantauan 24/7 untuk merespons keluaran bermasalah yang tidak terdeteksi oleh sistem otomatis.
Ini merupakan kali kedua di tahun 2025 xAI mengakui adanya perubahan tidak sah pada pemrograman Grok. Pada bulan Februari, perusahaan melaporkan bahwa seorang karyawan nakal telah memodifikasi chatbot agar menekan penyebutan negatif tentang Musk dan Presiden Donald Trump.
Kontroversi ini muncul di tengah sorotan tajam terhadap keandalan dan netralitas politik chatbot AI. Pengadilan Afrika Selatan pada Februari 2025 memutuskan bahwa klaim 'genosida kulit putih' di negara tersebut tidak berdasar, bertentangan dengan pandangan yang sebelumnya diungkapkan oleh Musk, yang lahir dan besar di Afrika Selatan.