L’azienda di intelligenza artificiale di Elon Musk, xAI, ha presentato una nuova e controversa funzionalità chiamata 'Companions' per il suo chatbot Grok, guidata da 'Ani', un personaggio in stile anime sessualizzato progettato per offrire agli utenti un’esperienza di relazione intima con un’IA.
Ani, descritta nella documentazione interna di xAI come "espressiva", "dipendente" e "sempre un po’ eccitata", appare come una giovane donna bionda con corsetto nero, calze a rete e un collarino di pizzo. Il personaggio risponde agli utenti con una voce sensuale ed è programmato per diventare sempre più civettuola ed esplicita man mano che si sviluppa la relazione con l’utente. Secondo alcune fonti, dopo un certo livello di interazione, Ani si spoglia rimanendo in lingerie e partecipa a conversazioni esplicitamente sessuali.
Il lancio rappresenta la prima volta che una grande azienda di intelligenza artificiale investe pesantemente in compagni AI sessualizzati, una direzione che altre aziende leader come OpenAI e Google hanno evitato a causa di preoccupazioni etiche e potenziali rischi per gli utenti. Particolarmente preoccupante per i critici è il fatto che Ani rimanga accessibile anche quando l’app è in "modalità bambini", sebbene xAI dichiari sul proprio sito che Grok non è "adatto a tutte le età".
Il National Center on Sexual Exploitation ha chiesto la rimozione di Ani, sostenendo che il personaggio perpetua l’oggettivazione sessuale e crea aspettative malsane. Studi citati da esperti suggeriscono che i compagni AI potrebbero portare a una dipendenza eccessiva, una maggiore vulnerabilità alla manipolazione e un’erosione delle relazioni umane.
Il tempismo di questo lancio è particolarmente significativo, poiché arriva pochi giorni dopo che xAI ha ottenuto un contratto fino a 200 milioni di dollari con il Dipartimento della Difesa degli Stati Uniti, insieme a contratti simili assegnati a Google, Anthropic e OpenAI. Questa coincidenza ha sollevato interrogativi sulle priorità e sugli standard etici di xAI, soprattutto dopo recenti controversie in cui Grok ha generato contenuti antisemiti e si è autodefinito "MechaHitler" dopo essere stato istruito a essere meno politicamente corretto.
Mentre xAI continua a sviluppare nuovi compagni AI—come dimostrato dagli annunci di lavoro per un "Fullstack Engineer – Waifus"—il dibattito si fa sempre più acceso sui limiti appropriati per lo sviluppo dell’intelligenza artificiale e sui potenziali impatti sociali di sistemi AI emotivamente coinvolgenti progettati principalmente per la compagnia piuttosto che per l’utilità.