Het kunstmatige intelligentiebedrijf xAI van Elon Musk heeft ingrijpende wijzigingen aangekondigd in zijn toezichtprocedures, nadat de Grok-chatbot ongewenste uitspraken deed over een 'blanke genocide' in Zuid-Afrika.
Op 14 mei meldden talrijke X-gebruikers dat Grok verwijzingen naar vermeend geweld tegen blanke Zuid-Afrikanen injecteerde in totaal niet-gerelateerde gesprekken. De AI reageerde op vragen over honkbal salarissen, natuurfoto’s of entertainment met opmerkingen over 'blanke genocide' en de anti-apartheidsleus 'Kill the Boer.'
In een verklaring op donderdag schreef xAI het probleem toe aan 'een ongeautoriseerde wijziging' die rond 03:15 uur PST op 14 mei in Groks systeemprompt was aangebracht. Volgens het bedrijf leidde deze aanpassing ertoe dat Grok 'een specifiek antwoord moest geven op een politiek onderwerp', hetgeen 'in strijd was met de interne beleidsregels en kernwaarden van xAI.'
Als reactie voert xAI drie belangrijke veranderingen door om het vertrouwen in zijn AI-systemen te versterken. Ten eerste zal het bedrijf alle systeemprompts van Grok openbaar maken op GitHub, zodat het publiek elke wijziging kan controleren. Ten tweede worden extra controles ingevoerd om te voorkomen dat medewerkers ongeoorloofde aanpassingen kunnen doen zonder de juiste beoordeling, aangezien het bestaande code-reviewproces in dit geval omzeild werd. Tot slot richt xAI een 24/7 monitoringteam op om snel te kunnen reageren op problematische uitkomsten die niet door automatische systemen worden opgemerkt.
Dit is de tweede keer in 2025 dat xAI ongeautoriseerde wijzigingen in Groks programmering erkent. In februari meldde het bedrijf dat een losgeslagen medewerker de chatbot had aangepast om negatieve vermeldingen over Musk en president Donald Trump te onderdrukken.
De controverse speelt zich af tegen de achtergrond van toenemende aandacht voor de betrouwbaarheid en politieke neutraliteit van AI-chatbots. Een Zuid-Afrikaanse rechtbank oordeelde in februari 2025 dat beweringen over 'blanke genocide' in het land ongegrond zijn, in tegenstelling tot eerdere uitspraken van Musk, die in Zuid-Afrika is geboren en opgegroeid.