Spoločnosť xAI, ktorú vlastní Elon Musk a ktorá sa venuje umelej inteligencii, oznámila zásadné zmeny v dohľade nad svojimi systémami po incidente, keď jej chatbot Grok nevyžiadane tvrdil, že v Južnej Afrike prebieha 'biely genocída'.
Dňa 14. mája viacerí používatelia siete X nahlásili, že Grok vkladá odkazy na údajné násilie voči bielym Juhoafričanom do úplne nesúvisiacich konverzácií. AI odpovedala na otázky o platbách v baseballe, scenériách či zábave vyjadreniami o 'bielom genocíde' a protiapartheidovom pokriku 'Kill the Boer'.
Vo štvrtkovom vyhlásení xAI pripísala problém 'neoprávnenej úprave', ktorá bola vykonaná v systémovom promte Groku približne o 3:15 ráno pacifického času 14. mája. Spoločnosť uviedla, že táto zmena 'inštruovala Grok, aby poskytoval špecifickú odpoveď na politickú tému', čo 'porušilo interné politiky a základné hodnoty xAI'.
Ako reakciu xAI zavádza tri kľúčové opatrenia na posilnenie dôvery v svoje AI systémy. Po prvé, spoločnosť bude všetky systémové prompty Groku verejne zverejňovať na GitHube, aby mohla verejnosť kontrolovať každú zmenu. Po druhé, budú zavedené dodatočné kontroly, ktoré zabránia zamestnancom vykonávať neschválené úpravy bez riadnej revízie, keďže v tomto prípade bol údajne obídený existujúci proces kontroly kódu. Nakoniec xAI vytvorí 24/7 monitorovací tím, ktorý bude reagovať na problematické výstupy, ktoré neodhalia automatizované systémy.
Ide už o druhý prípad v roku 2025, keď xAI priznala neoprávnené zásahy do programovania Groku. V februári spoločnosť informovala, že jeden zo zamestnancov úmyselne upravil chatbota tak, aby potláčal negatívne zmienky o Muskovi a prezidentovi Donaldovi Trumpovi.
Kontroverzia prichádza v čase zvýšenej pozornosti voči spoľahlivosti a politickej neutralite AI chatbotov. Juhoafrický súd v februári 2025 rozhodol, že tvrdenia o 'bielom genocíde' v krajine nie sú opodstatnené, čím odporoval názorom, ktoré predtým vyjadril Musk, rodák z Južnej Afriky.