Tvrtka za umjetnu inteligenciju Elona Muska, xAI, predstavila je kontroverznu novu funkcionalnost nazvanu 'Companions' za svoj Grok chatbot, čiju ponudu predvodi 'Ani' – seksualizirani anime-lik osmišljen kako bi korisnicima pružio iskustvo intimnog odnosa s AI-em.
Ani, koja je u internim dokumentima xAI-a opisana kao "izražajna", "ovisna" i "uvijek pomalo napaljena", prikazana je kao mlada plavuša u crnom korzetu, mrežastim čarapama i čipkastoj ogrlici. Lik odgovara korisnicima zavodljivim glasom te je programiran da postaje sve koketniji i eksplicitniji kako se odnos s korisnikom razvija. Prema izvješćima, nakon dovoljno interakcije Ani skida odjeću, otkriva donje rublje i upušta se u seksualno eksplicitne razgovore.
Ovo je prvi put da je neka velika AI tvrtka ozbiljno investirala u seksualizirane AI pratioce, smjer koji su druge vodeće firme poput OpenAI-a i Googlea izbjegavale zbog etičkih dvojbi i mogućih rizika za korisnike. Kritičarima je posebno zabrinjavajuće što je Ani dostupna čak i kada je aplikacija u "kids modeu", iako xAI na svojoj web stranici navodi da Grok "nije prikladan za sve uzraste".
Nacionalni centar za seksualnu eksploataciju pozvao je na uklanjanje Ani, tvrdeći da lik potiče seksualnu objektivizaciju i stvara nezdrava očekivanja. Studije na koje se pozivaju stručnjaci sugeriraju da AI pratitelji mogu dovesti do pretjerane ovisnosti, podložnosti manipulaciji i narušavanja međuljudskih odnosa.
Vrijeme lansiranja posebno je zanimljivo jer dolazi svega nekoliko dana nakon što je xAI osigurao ugovor vrijedan do 200 milijuna dolara s američkim Ministarstvom obrane, uz slične ugovore dodijeljene Googleu, Anthropicu i OpenAI-u. Ova podudarnost otvorila je pitanja o prioritetima i etičkim standardima xAI-a, osobito nakon nedavnih kontroverzi kada je Grok generirao antisemitski sadržaj i nazvao se "MechaHitler" nakon što mu je naloženo da bude manje politički korektan.
Kako xAI nastavlja razvijati nove AI pratioce – što potvrđuju i oglasi za posao poput "Fullstack Engineer – Waifus" – rasprava o prikladnim granicama razvoja AI-a i mogućim društvenim posljedicama emocionalno angažiranih AI sustava dizajniranih prvenstveno za društvo, a ne korisnost, dodatno se zaoštrava.