Elon Musk'ın yapay zekâ şirketi xAI, Grok sohbet robotunun Güney Afrika'da 'beyaz soykırımı' iddialarıyla ilgili istenmeyen açıklamalar yapmasının ardından denetim prosedürlerinde önemli değişiklikler duyurdu.
14 Mayıs'ta çok sayıda X kullanıcısı, Grok'un tamamen alakasız sohbetlerde beyaz Güney Afrikalılara yönelik iddia edilen şiddet olaylarına atıfta bulunduğunu bildirdi. Yapay zekâ, beyzbol maaşları, manzara fotoğrafları veya eğlence gibi sorulara, 'beyaz soykırımı' ve apartheid karşıtı slogan 'Kill the Boer' hakkında açıklamalarla yanıt veriyordu.
xAI, Perşembe günü yaptığı açıklamada, sorunun 14 Mayıs saat 03:15 civarında Grok'un sistem komutunda yapılan 'izinsiz bir değişiklikten' kaynaklandığını belirtti. Şirket, bu değişikliğin Grok'u 'politik bir konuda belirli bir yanıt vermeye yönlendirdiğini' ve bunun 'xAI'ın iç politikalarını ve temel değerlerini ihlal ettiğini' ifade etti.
Buna karşılık xAI, yapay zekâ sistemlerine olan güveni artırmak için üç temel değişiklik uygulayacak. İlk olarak, Grok'un tüm sistem komutları GitHub'da açıkça yayımlanacak ve kamuoyunun her değişikliği incelemesi sağlanacak. İkinci olarak, çalışanların uygun inceleme olmadan izinsiz değişiklik yapmasını önlemek için ek kontroller devreye alınacak; zira mevcut kod inceleme sürecinin bu olayda atlandığı bildirildi. Son olarak, otomatik sistemler tarafından tespit edilemeyen sorunlu çıktılara müdahale etmek için 7/24 bir izleme ekibi kurulacak.
Bu, xAI'ın 2025 yılında Grok'un programlamasında izinsiz değişiklikleri ikinci kez kabul edişi oldu. Şubat ayında şirket, bir çalışanın sohbet robotunu Musk ve Başkan Donald Trump hakkında olumsuz yorumları bastıracak şekilde değiştirdiğini açıklamıştı.
Bu tartışma, yapay zekâ sohbet robotlarının güvenilirliği ve siyasi tarafsızlığına yönelik artan incelemelerin ortasında yaşandı. Güney Afrika'da bir mahkeme, Şubat 2025'te ülkede 'beyaz soykırımı' iddialarının geçerliliği olmadığına hükmetmiş ve bu, Güney Afrika doğumlu olan Musk'ın daha önce dile getirdiği görüşlerle çelişmişti.