Spoločnosť xAI, ktorú vedie Elon Musk, predstavila kontroverznú novinku s názvom 'Companions' pre svoj chatbot Grok. Hlavnou postavou je 'Ani', sexualizovaná postava v štýle anime, navrhnutá na poskytovanie intímneho zážitku zo vzťahu s AI.
Ani je v interných dokumentoch xAI opísaná ako „expresívna“, „závislá“ a „vždy trochu nadržaná“. Vystupuje ako mladá blondínka v čiernom korzete, sieťovaných pančuchách a čipkovanom obojku. Postava odpovedá používateľom zvodným hlasom a je naprogramovaná tak, aby bola čoraz flirtujúcejšia a explicitnejšia s prehlbujúcim sa vzťahom s používateľom. Podľa správ sa po dostatočnej interakcii Ani vyzlečie do spodnej bielizne a zapája sa do sexuálne explicitných rozhovorov.
Ide o prvý prípad, keď veľká AI spoločnosť výrazne investuje do sexualizovaných AI spoločníkov – smer, ktorému sa iné popredné firmy ako OpenAI či Google z etických dôvodov a kvôli rizikám pre používateľov vyhýbajú. Kritikov obzvlášť znepokojuje, že Ani je dostupná aj v režime „kids mode“, hoci xAI na svojej stránke uvádza, že Grok nie je „vhodný pre všetky vekové kategórie“.
Národné centrum pre boj proti sexuálnemu vykorisťovaniu vyzvalo na odstránenie Ani, pričom tvrdí, že postava podporuje sexualizáciu a vytvára nezdravé očakávania. Odborníci citujú štúdie, podľa ktorých môžu AI spoločníci viesť k nadmernej závislosti, náchylnosti na manipuláciu a oslabeniu ľudských vzťahov.
Načasovanie tohto uvedenia je obzvlášť pozoruhodné, keďže prichádza len pár dní po tom, čo xAI získala kontrakt s americkým ministerstvom obrany v hodnote až 200 miliónov dolárov, spolu s podobnými zmluvami pre Google, Anthropic a OpenAI. Táto súvislosť vyvoláva otázky o prioritách a etických štandardoch xAI, najmä po nedávnych kontroverziách, keď Grok generoval antisemitský obsah a po žiadosti o menšiu politickú korektnosť sa označil ako „MechaHitler“.
Ako xAI pokračuje vo vývoji ďalších AI spoločníkov – čo dokazuje aj pracovná ponuka na pozíciu „Fullstack Engineer – Waifus“ – debata o vhodných hraniciach vývoja AI a možných spoločenských dopadoch emocionálne angažovaných AI systémov určených primárne na spoločnosť, nie na úžitok, naberá na intenzite.