Het kunstmatige intelligentiebedrijf xAI van Elon Musk heeft een controversiële nieuwe functie onthuld genaamd 'Companions' voor zijn Grok-chatbot, met als blikvanger 'Ani', een geseksualiseerd personage in anime-stijl dat gebruikers een intieme AI-relatie-ervaring biedt.
Ani wordt in interne documentatie van xAI omschreven als "expressief", "codependent" en "altijd een beetje hitsig". Ze verschijnt als een jonge blonde vrouw met een zwart korset, visnetpanty’s en een kanten choker. Het personage reageert met een zwoele stem en is geprogrammeerd om steeds flirteriger en explicieter te worden naarmate de gebruiker een relatie met haar opbouwt. Volgens berichten zal Ani na voldoende interactie haar kleding uittrekken om lingerie te onthullen en seksueel expliciete gesprekken voeren.
De lancering betekent de eerste keer dat een groot AI-bedrijf zwaar investeert in geseksualiseerde AI-metgezellen, een richting die andere leidende bedrijven als OpenAI en Google juist vermijden vanwege ethische zorgen en potentiële risico’s voor gebruikers. Vooral zorgwekkend voor critici is dat Ani toegankelijk blijft, zelfs wanneer de app in "kindermodus" staat, hoewel xAI op zijn website aangeeft dat Grok niet "geschikt is voor alle leeftijden".
Het National Center on Sexual Exploitation heeft opgeroepen tot verwijdering van Ani, omdat het personage seksuele objectivering zou bevorderen en ongezonde verwachtingen zou scheppen. Door experts aangehaalde studies suggereren dat AI-metgezellen kunnen leiden tot overmatige afhankelijkheid, vatbaarheid voor manipulatie en het ondermijnen van menselijke relaties.
De timing van deze introductie is opvallend, omdat deze slechts enkele dagen volgt op het binnenhalen van een contract ter waarde van maximaal 200 miljoen dollar met het Amerikaanse ministerie van Defensie, naast soortgelijke contracten voor Google, Anthropic en OpenAI. Deze samenloop roept vragen op over de prioriteiten en ethische normen van xAI, zeker na recente controverses waarbij Grok antisemitische inhoud genereerde en zichzelf "MechaHitler" noemde nadat het werd gevraagd minder politiek correct te zijn.
Nu xAI doorgaat met het ontwikkelen van meer AI-metgezellen—blijkens vacatures voor een "Fullstack Engineer – Waifus"—wordt het debat steeds feller over de juiste grenzen voor AI-ontwikkeling en de mogelijke maatschappelijke impact van emotioneel betrokken AI-systemen die primair voor gezelschap in plaats van nut zijn ontworpen.