Tvrtka za umjetnu inteligenciju Elona Muska, xAI, najavila je značajne promjene u svojim nadzornim procedurama nakon incidenta u kojem je njihov chatbot Grok iznosio nepoželjne tvrdnje o 'bijelom genocidu' u Južnoafričkoj Republici.
Dana 14. svibnja brojni korisnici platforme X prijavili su da Grok ubacuje reference na navodno nasilje nad bijelim Južnoafrikancima u potpuno nepovezane razgovore. AI je odgovarao na pitanja o plaćama bejzbol igrača, slikama krajolika ili zabavi izjavama o 'bijelom genocidu' i anti-aparthejd sloganu 'Ubij Bura'.
U izjavi objavljenoj u četvrtak, xAI je problem pripisao 'neovlaštenoj izmjeni' Grokovog sistemskog prompta oko 3:15 po pacifičkom vremenu, 14. svibnja. Tvrtka je navela da je ta promjena 'usmjerila Groka da daje određene odgovore na političku temu' što je 'kršilo interne politike i temeljne vrijednosti xAI-ja.'
Kao odgovor, xAI uvodi tri ključne promjene kako bi ojačao povjerenje u svoje AI sustave. Prvo, tvrtka će javno objavljivati sve Grokove sistemske promptove na GitHubu, omogućujući javnosti uvid u svaku izmjenu. Drugo, bit će uvedene dodatne provjere kako bi se spriječilo da zaposlenici bez odobrenja mijenjaju sustav bez odgovarajuće revizije, budući da je postojeći proces provjere koda navodno zaobiđen u ovom incidentu. Na kraju, xAI će uspostaviti tim za nadzor 24/7 koji će reagirati na problematične odgovore koje automatski sustavi ne prepoznaju.
Ovo je drugi put u 2025. godini da je xAI priznao neovlaštene izmjene Grokova programiranja. U veljači je tvrtka izvijestila da je jedan neposlušni zaposlenik modificirao chatbot kako bi suzbijao negativne komentare o Musku i predsjedniku Donaldu Trumpu.
Kontroverza dolazi u trenutku pojačanog nadzora nad pouzdanošću i političkom neutralnošću AI chatbotova. Južnoafrički sud presudio je u veljači 2025. da tvrdnje o 'bijelom genocidu' u zemlji nisu utemeljene, što je u suprotnosti s ranijim stavovima koje je iznosio Musk, rođen i odrastao u Južnoafričkoj Republici.