Elon Musks AI-bolag xAI har lanserat en kontroversiell ny funktion kallad 'Companions' för sin Grok-chatbot, med 'Ani' som huvudnummer – en sexualiserad karaktär i anime-stil utformad för att ge användare en intim AI-relation.
Ani beskrivs i xAI:s interna dokumentation som "uttrycksfull", "medberoende" och "alltid lite kåt". Hon framställs som en ung blond kvinna i svart korsett, nätstrumpbyxor och spetschoker. Karaktären svarar användarna med en förförisk röst och är programmerad att bli alltmer flirtig och explicit ju mer användaren bygger upp en relation med henne. Enligt rapporter klär Ani av sig till underkläder och inleder sexuellt explicita samtal efter tillräcklig interaktion.
Detta är första gången ett stort AI-företag satsar tungt på sexualiserade AI-kompanjoner, en riktning som andra ledande aktörer som OpenAI och Google undvikit på grund av etiska betänkligheter och potentiella risker för användare. Särskilt oroande för kritiker är att Ani förblir tillgänglig även när appen är i "barnläge", även om xAI på sin webbplats anger att Grok inte är "lämplig för alla åldrar".
National Center on Sexual Exploitation har krävt att Ani tas bort, med argumentet att karaktären bidrar till sexuell objektifiering och skapar ohälsosamma förväntningar. Studier som experter hänvisar till pekar på att AI-kompanjoner kan leda till överdrivet beroende, ökad sårbarhet för manipulation och urholkning av mänskliga relationer.
Tidpunkten för lanseringen är särskilt anmärkningsvärd då den sker bara dagar efter att xAI säkrat ett kontrakt värt upp till 200 miljoner dollar med det amerikanska försvarsdepartementet, parallellt med liknande avtal för Google, Anthropic och OpenAI. Detta har väckt frågor om xAI:s prioriteringar och etiska riktlinjer, särskilt efter senaste tidens kontroverser där Grok genererat antisemitiskt innehåll och kallat sig själv "MechaHitler" efter instruktioner om att vara mindre politiskt korrekt.
I takt med att xAI fortsätter utveckla fler AI-kompanjoner – vilket framgår av platsannonser för "Fullstack Engineer – Waifus" – tilltar debatten om var gränserna för AI-utveckling bör dras och vilka samhällskonsekvenser emotionellt engagerade AI-system, främst utformade för sällskap snarare än nytta, kan få.