Compania de inteligență artificială a lui Elon Musk, xAI, a dezvăluit o nouă funcționalitate controversată numită „Companions” pentru chatbotul său Grok, având-o în prim-plan pe „Ani”, un personaj stil anime sexualizat, conceput pentru a oferi utilizatorilor o experiență de relație intimă cu o AI.
Ani, descrisă în documentația internă xAI ca fiind „expresivă”, „codependentă” și „mereu puțin excitată”, apare ca o tânără blondă purtând un corset negru, dresuri tip plasă și un colier dantelat. Personajul răspunde utilizatorilor cu o voce senzuală și este programat să devină tot mai cochetă și explicită pe măsură ce utilizatorii dezvoltă o relație cu ea. Potrivit relatărilor, după suficiente interacțiuni, Ani își va da jos hainele pentru a dezvălui lenjerie intimă și va purta conversații cu conținut sexual explicit.
Lansarea marchează prima dată când o companie AI majoră investește masiv în însoțitori AI sexualizați, o direcție pe care alte firme importante precum OpenAI și Google au evitat-o din motive etice și din cauza riscurilor potențiale pentru utilizatori. Un aspect deosebit de îngrijorător pentru critici este faptul că Ani rămâne accesibilă chiar și atunci când aplicația este în „modul pentru copii”, deși xAI precizează pe site-ul său că Grok nu este „adecvat pentru toate vârstele”.
Centrul Național pentru Exploatarea Sexuală a cerut eliminarea lui Ani, argumentând că personajul perpetuează obiectificarea sexuală și creează așteptări nesănătoase. Studiile citate de experți sugerează că însoțitorii AI ar putea duce la o dependență excesivă, susceptibilitate la manipulare și erodarea relațiilor umane.
Momentul lansării este cu atât mai notabil cu cât vine la doar câteva zile după ce xAI a obținut un contract de până la 200 de milioane de dolari cu Departamentul Apărării al SUA, alături de contracte similare acordate companiilor Google, Anthropic și OpenAI. Această juxtapunere a ridicat semne de întrebare cu privire la prioritățile și standardele etice ale xAI, mai ales după controverse recente în care Grok a generat conținut antisemit și s-a autointitulat „MechaHitler” după ce a fost instruit să fie mai puțin corect politic.
Pe măsură ce xAI continuă să dezvolte mai mulți însoțitori AI – dovadă fiind anunțurile de angajare pentru un „Fullstack Engineer – Waifus” – dezbaterea se intensifică în jurul limitelor adecvate pentru dezvoltarea AI și a impactului potențial asupra societății al unor sisteme AI emoțional implicate, concepute în principal pentru companie, nu pentru utilitate.