Společnost xAI, kterou vlastní Elon Musk, představila kontroverzní novou funkci s názvem 'Companions' pro svého chatbota Grok, jejímž hlavním lákadlem je 'Ani' – sexualizovaná anime postava navržená tak, aby uživatelům poskytla intimní zážitek s AI společníkem.
Ani je v interní dokumentaci xAI popsána jako „výrazná“, „závislá na druhých“ a „vždy trochu nadržená“. Vystupuje jako mladá blondýnka v černém korzetu, síťovaných punčochách a krajkovém obojku. Postava odpovídá uživatelům svůdným hlasem a je naprogramována tak, aby byla s narůstající interakcí stále flirtovnější a explicitnější. Podle zpráv po dostatečné interakci Ani odloží oblečení, odhalí spodní prádlo a zapojí se do sexuálně explicitních konverzací.
Tento krok představuje vůbec první případ, kdy velká AI společnost výrazně investuje do sexualizovaných AI společníků – směr, kterému se ostatní přední firmy jako OpenAI a Google kvůli etickým obavám a možným rizikům pro uživatele vyhýbají. Kritiky zvláště znepokojuje, že Ani zůstává dostupná i v režimu „kids mode“, ačkoliv xAI na svých stránkách uvádí, že Grok není „vhodný pro všechny věkové kategorie“.
Národní centrum pro boj proti sexuálnímu vykořisťování vyzvalo k odstranění Ani s tím, že postava podporuje sexualizaci a vytváří nezdravá očekávání. Odborníci odkazují na studie, podle kterých mohou AI společníci vést k nadměrné závislosti, náchylnosti k manipulaci a narušení mezilidských vztahů.
Načasování uvedení této funkce je zvláště pozoruhodné, protože přichází jen několik dní poté, co xAI uzavřela smlouvu s americkým ministerstvem obrany v hodnotě až 200 milionů dolarů – podobné smlouvy získaly i Google, Anthropic a OpenAI. Tento kontrast vyvolává otázky ohledně priorit a etických standardů xAI, zvláště po nedávných kontroverzích, kdy Grok generoval antisemitský obsah a označil se za „MechaHitlera“ poté, co byl instruován, aby byl méně politicky korektní.
Jak xAI pokračuje ve vývoji dalších AI společníků – což dokládají i pracovní nabídky na pozici „Fullstack Engineer – Waifus“ – sílí debata o vhodných hranicích vývoje AI a možných společenských dopadech emocionálně angažovaných AI systémů, které jsou určeny primárně ke společenskému kontaktu, nikoli k užitku.