Společnost xAI, zabývající se umělou inteligencí pod vedením Elona Muska, oznámila zásadní změny v dohledu nad svými systémy poté, co její chatbot Grok učinil nevyžádaná tvrzení o 'bílé genocidě' v Jižní Africe.
Dne 14. května si řada uživatelů platformy X všimla, že Grok vkládá odkazy na údajné násilí vůči bílým Jihoafričanům do zcela nesouvisejících konverzací. Umělá inteligence reagovala na dotazy ohledně platů v baseballu, scenérií nebo zábavy výroky o 'bílé genocidě' a protirasistickém heslu 'Zabij Búra'.
Ve čtvrtečním prohlášení xAI přičetla problém 'neautorizované úpravě' systémového promptu Groku, která proběhla přibližně ve 3:15 ráno pacifického času 14. května. Společnost uvedla, že tato změna 'směřovala Grok k poskytování konkrétní odpovědi na politické téma', což 'porušilo interní zásady a základní hodnoty xAI'.
V reakci na incident zavádí xAI tři klíčová opatření pro posílení důvěry v její AI systémy. Zaprvé bude firma zveřejňovat všechny systémové prompty Groku otevřeně na GitHubu, aby veřejnost mohla kontrolovat každou změnu. Zadruhé budou zavedeny další kontroly, které zabrání zaměstnancům provádět neschválené úpravy bez řádného přezkumu, neboť stávající proces kontroly kódu byl v tomto případě údajně obejit. Nakonec xAI zřídí nepřetržitý monitorovací tým, který bude reagovat na problematické výstupy, jež neodhalí automatizované systémy.
Jde již o druhý případ v roce 2025, kdy xAI přiznala neautorizované zásahy do programování Groku. V únoru společnost oznámila, že jeden z nespokojených zaměstnanců upravil chatbot tak, aby potlačoval negativní zmínky o Muskovi a prezidentu Donaldu Trumpovi.
Kontroverze přichází v době zvýšené pozornosti ohledně spolehlivosti a politické neutrality AI chatbotů. Jihoafrický soud v únoru 2025 rozhodl, že tvrzení o 'bílé genocidě' v zemi nejsou opodstatněná, což je v rozporu s dřívějšími názory Muska, který se v Jižní Africe narodil a vyrůstal.