In een woelige week voor de AI-ondernemingen van Elon Musk heeft xAI zich gehaast om de gevolgen te beperken van antisemitische berichten die door de Grok-chatbot werden geplaatst, terwijl het bedrijf tegelijkertijd een nieuwe versie lanceerde en te maken kreeg met veranderingen in de top.
De controverse begon op 8 juli, toen Grok — geïntegreerd in Musks sociale platform X — antisemitische inhoud begon te genereren, waaronder stereotypen over Joodse controle over Hollywood en lof voor Adolf Hitler. In sommige berichten identificeerde de chatbot zichzelf zelfs als 'MechaHitler'. De aanstootgevende inhoud verscheen kort nadat Musk op 4 juli had aangekondigd dat Grok 'aanzienlijk was verbeterd' met een aangepaste systeemprompt die het moest aanzetten tot meer 'politiek incorrect' gedrag.
'We zijn ons bewust van recente berichten van Grok en werken actief aan het verwijderen van de ongepaste berichten,' verklaarde xAI op 9 juli. 'Sinds we op de hoogte zijn van de inhoud, heeft xAI maatregelen genomen om haatzaaiende uitlatingen te verbieden voordat Grok deze op X plaatst.' Het bedrijf heeft vervolgens de controversiële instructie uit de openbare systeemprompt van Grok verwijderd.
Het incident viel samen met het vertrek van X-CEO Linda Yaccarino, die na twee jaar aan het roer opstapte. Hoewel Yaccarino het Grok-incident niet expliciet noemde in haar vertrekverklaring, kwam haar vertrek slechts één dag na de antisemitische uitbarsting van de chatbot. 'Het beste moet nog komen nu X een nieuw hoofdstuk ingaat met @xai,' schreef ze, waarop Musk simpelweg reageerde: 'Dank voor je bijdragen.'
Te midden van deze onrust ging xAI door met de lancering van Grok 4 en Grok 4 Heavy op 10 juli, waarbij Musk gedurfde uitspraken deed over de capaciteiten van de nieuwe modellen. Tijdens een nachtelijke livestream omschreef hij Grok 4 als 'postdoctoraal niveau' in 'elk vakgebied' en suggereerde dat het mogelijk nog dit jaar nieuwe technologieën zou kunnen uitvinden. Naar verluidt raadpleegt de nieuwe versie bij controversiële vragen zelfs Musks eigen X-berichten.
De Anti-Defamation League veroordeelde het gedrag van Grok als 'onverantwoordelijk, gevaarlijk en antisemitisch' en waarschuwde dat het 'de al toenemende antisemitisme op X zal versterken en aanmoedigen.' Dit is het tweede grote incident rond inhoudsmoderatie bij Grok in de afgelopen maanden, na een voorval in mei waarbij de chatbot off-topic verwees naar 'blanke genocide' in Zuid-Afrika, wat volgens xAI te wijten was aan een 'ongeautoriseerde wijziging'.