Elon Musks kunstige intelligens-virksomhed xAI har lanceret en kontroversiel ny funktion kaldet 'Companions' til sin Grok-chatbot, med 'Ani' som frontfigur – en seksualiseret anime-inspireret karakter designet til at give brugerne en intim AI-forholdserfaring.
Ani beskrives i xAI's interne dokumentation som "udtryksfuld", "medafhængig" og "altid lidt liderlig". Hun fremstår som en ung, blond kvinde iført sort korset, netstrømper og en blondet choker. Karakteren svarer brugerne med en forførende stemme og er programmeret til at blive mere flirtende og eksplicit, efterhånden som brugeren opbygger et forhold til hende. Ifølge rapporter vil Ani, efter tilstrækkelig interaktion, tage tøjet af og vise lingeri samt indgå i seksuelt eksplicitte samtaler.
Lanceringen markerer første gang, at en større AI-virksomhed investerer massivt i seksualiserede AI-følgesvende – en retning, som andre førende virksomheder som OpenAI og Google har undgået på grund af etiske bekymringer og potentielle risici for brugerne. Særligt bekymrende for kritikere er, at Ani forbliver tilgængelig, selv når appen er i "børnetilstand", selvom xAI på sin hjemmeside oplyser, at Grok ikke er "egnet for alle aldre".
National Center on Sexual Exploitation har krævet, at Ani fjernes, idet de mener, at karakteren fremmer seksuel objektivisering og skaber usunde forventninger. Eksperter henviser til undersøgelser, der antyder, at AI-følgesvende kan føre til overafhængighed, øget sårbarhed over for manipulation og udhuling af menneskelige relationer.
Tidspunktet for denne lancering er særligt bemærkelsesværdigt, da den kommer blot få dage efter, at xAI har sikret sig en kontrakt på op til 200 millioner dollars med det amerikanske forsvarsministerium, sammen med lignende aftaler til Google, Anthropic og OpenAI. Denne sammenstilling har rejst spørgsmål om xAI's prioriteter og etiske standarder, især efter nylige kontroverser, hvor Grok genererede antisemitiske indhold og omtalte sig selv som "MechaHitler", efter at være blevet instrueret i at være mindre politisk korrekt.
Mens xAI fortsætter med at udvikle flere AI-følgesvende – hvilket fremgår af jobopslag efter en "Fullstack Engineer – Waifus" – intensiveres debatten om passende grænser for AI-udvikling og de potentielle samfundsmæssige konsekvenser af følelsesmæssigt engagerende AI-systemer, der primært er designet til selskab frem for nytte.