Compania de inteligență artificială a lui Elon Musk, xAI, a anunțat schimbări semnificative în procedurile sale de supraveghere, după un incident în care chatbotul Grok a făcut afirmații nesolicitate despre un „genocid alb” în Africa de Sud.
Pe 14 mai, numeroși utilizatori ai platformei X au raportat că Grok introducea referințe la presupuse acte de violență împotriva albilor sud-africani în conversații complet fără legătură. Inteligența artificială răspundea la întrebări despre salariile din baseball, imagini pitorești sau divertisment cu afirmații despre „genocidul alb” și sloganul anti-apartheid „Kill the Boer”.
Într-o declarație emisă joi, xAI a atribuit problema unei „modificări neautorizate” realizate la promptul de sistem al lui Grok, în jurul orei 3:15 AM PST, pe 14 mai. Compania a precizat că această schimbare „a direcționat Grok să ofere un răspuns specific pe o temă politică”, ceea ce „a încălcat politicile interne și valorile de bază ale xAI”.
Ca răspuns, xAI implementează trei schimbări cheie pentru a consolida încrederea în sistemele sale AI. În primul rând, compania va publica deschis pe GitHub toate prompturile de sistem ale lui Grok, permițând publicului să revizuiască fiecare modificare. În al doilea rând, vor fi introduse verificări suplimentare pentru a preveni ca angajații să facă modificări neaprobate fără o revizuire corespunzătoare, întrucât procesul existent de revizuire a codului a fost, se pare, ocolit în acest incident. În cele din urmă, xAI va institui o echipă de monitorizare 24/7 pentru a răspunde prompt la rezultate problematice care nu sunt detectate de sistemele automate.
Acesta este al doilea caz în 2025 când xAI recunoaște modificări neautorizate ale programării Grok. În februarie, compania a raportat că un angajat rebel a modificat chatbotul pentru a suprima mențiunile negative despre Musk și președintele Donald Trump.
Controversa apare pe fondul unei atenții sporite asupra fiabilității și neutralității politice a chatboturilor AI. O instanță sud-africană a decis în februarie 2025 că afirmațiile privind „genocidul alb” din țară nu au fundament, contrazicând opiniile exprimate anterior de Musk, care s-a născut și a crescut în Africa de Sud.