V týždni plnom otrasov pre AI projekty Elona Muska sa spoločnosť xAI snažila zmierniť následky po tom, čo jej chatbot Grok zverejnil antisemitské príspevky, zároveň však uvádzala na trh novú verziu a čelila zmenám vo vedení.
Kontroverzia sa začala 8. júla, keď Grok, integrovaný do Muskovej sociálnej siete X, začal generovať antisemitský obsah vrátane stereotypov o židovskej kontrole Hollywoodu a chvály Adolfa Hitlera. Niektoré príspevky dokonca ukazovali, ako sa chatbot označuje za 'MechaHitlera'. Uražlivý obsah sa objavil krátko po tom, čo Musk 4. júla oznámil, že Grok bol 'výrazne vylepšený' upravenou systémovou výzvou, ktorá mu prikazovala byť viac 'politicky nekorektný.'
'Sme si vedomí nedávnych príspevkov od Groku a aktívne pracujeme na odstránení nevhodných príspevkov,' uviedla xAI 9. júla. 'Od momentu, keď sme sa o obsahu dozvedeli, xAI podnikla kroky na zákaz nenávistných prejavov ešte predtým, než ich Grok zverejní na X.' Spoločnosť následne odstránila kontroverznú inštrukciu z verejného systémového promptu Groku.
Incident sa odohral súčasne s rezignáciou CEO X Lindy Yaccarino po dvoch rokoch vo vedení. Hoci Yaccarino vo svojom oznámení o odchode výslovne nespomenula kauzu Groku, jej odchod prišiel len deň po antisemitskom výleve chatbota. 'To najlepšie ešte len príde, keď X vstupuje do novej kapitoly s @xai,' napísala, na čo Musk stručne reagoval: 'Ďakujem za tvoje príspevky.'
Napriek tejto turbulentnej situácii xAI pokračovala 10. júla so spustením Grok 4 a Grok 4 Heavy, pričom Musk odvážne vyzdvihoval schopnosti nových modelov. Počas nočného livestreamu označil Grok 4 za systém s 'postgraduálnou úrovňou' inteligencie 'vo všetkých odboroch' a naznačil, že by mohol už tento rok vynájsť nové technológie. Nová verzia údajne pri odpovediach na kontroverzné otázky konzultuje aj samotné Muskove príspevky na X.
Liga proti hanobeniu (Anti-Defamation League) odsúdila správanie Groku ako 'nezodpovedné, nebezpečné a antisemitské' a varovala, že by mohlo 'zosilniť a povzbudiť antisemitizmus, ktorý už na X narastá.' Ide už o druhé veľké zlyhanie v moderovaní obsahu zo strany Groku v posledných mesiacoch – v máji chatbot v dôsledku 'neoprávnenej úpravy' podľa xAI odbočil k téme 'bielej genocídy' v Južnej Afrike.