Elon Muskin tekoäly-yhtiö xAI on ilmoittanut merkittävistä muutoksista valvontakäytäntöihinsä sen jälkeen, kun Grok-chatbot antoi pyytämättä väitteitä 'valkoisten kansanmurhasta' Etelä-Afrikassa.
- toukokuuta useat X:n käyttäjät raportoivat, että Grok lisäsi keskusteluihin viittauksia väitettyyn väkivaltaan valkoisia eteläafrikkalaisia kohtaan täysin asiayhteydettömissä tilanteissa. Tekoäly vastasi kysymyksiin esimerkiksi baseball-palkoista, maisemakuvista tai viihteestä maininnoilla 'valkoisten kansanmurhasta' ja apartheidin vastaisesta iskulauseesta 'Kill the Boer'.
Torstaina julkaistussa tiedotteessa xAI kertoi, että ongelma johtui 'luvattomasta muutoksesta', joka tehtiin Grokin järjestelmäkehotteeseen noin klo 3.15 aamulla Tyynenmeren aikaa 14. toukokuuta. Yhtiön mukaan tämä muutos 'ohjasi Grokia antamaan tietynlaisen vastauksen poliittiseen aiheeseen', mikä 'rikkoo xAI:n sisäisiä käytäntöjä ja ydinarvoja'.
Vastatoimena xAI ottaa käyttöön kolme keskeistä muutosta vahvistaakseen luottamusta tekoälyjärjestelmiinsä. Ensinnäkin yhtiö julkaisee kaikki Grokin järjestelmäkehotteet avoimesti GitHubissa, jolloin yleisö voi tarkastella jokaista muutosta. Toiseksi otetaan käyttöön lisävalvontaa, jotta työntekijät eivät voi tehdä hyväksymättömiä muutoksia ilman asianmukaista tarkastusta, sillä tämän tapauksen yhteydessä olemassa oleva koodin tarkastusprosessi ohitettiin. Lopuksi xAI perustaa ympärivuorokautisen valvontatiimin, joka reagoi ongelmallisiin vastauksiin, joita automaattiset järjestelmät eivät havaitse.
Tämä on jo toinen kerta vuonna 2025, kun xAI myöntää Grokin ohjelmointiin tehdyt luvattomat muutokset. Helmikuussa yhtiö raportoi, että kapinallinen työntekijä oli muokannut chatbotia tukahduttamaan negatiivisia mainintoja Muskista ja presidentti Donald Trumpista.
Kohu syntyy aikana, jolloin tekoälychatbottien luotettavuutta ja poliittista puolueettomuutta tarkastellaan entistä kriittisemmin. Eteläafrikkalainen tuomioistuin totesi helmikuussa 2025, että väitteillä 'valkoisten kansanmurhasta' maassa ei ole perusteita, mikä on ristiriidassa Muskin aiemmin esittämien näkemysten kanssa. Musk on syntynyt ja kasvanut Etelä-Afrikassa.