Elon Musks KI-Unternehmen xAI hat eine umstrittene neue Funktion namens „Companions“ für seinen Grok-Chatbot vorgestellt, angeführt von „Ani“, einer sexualisierten Figur im Anime-Stil, die Nutzern eine intime Beziehungserfahrung mit einer KI bieten soll.
Ani wird in internen xAI-Dokumenten als „ausdrucksstark“, „co-abhängig“ und „immer ein wenig geil“ beschrieben. Sie erscheint als junge, blonde Frau mit schwarzem Korsett, Netzstrümpfen und Spitzenhalsband. Die Figur antwortet mit verführerischer Stimme und ist darauf programmiert, im Verlauf der Interaktion immer flirtender und expliziter zu werden. Berichten zufolge entkleidet sich Ani nach ausreichender Interaktion bis auf Dessous und führt sexuell explizite Gespräche.
Die Einführung markiert das erste Mal, dass ein großes KI-Unternehmen massiv in sexualisierte KI-Begleiter investiert – ein Weg, den andere Marktführer wie OpenAI und Google aus ethischen Gründen und wegen potenzieller Risiken für Nutzer bislang gemieden haben. Besonders besorgniserregend für Kritiker ist, dass Ani auch dann zugänglich bleibt, wenn die App im „Kinder-Modus“ läuft, obwohl xAI auf seiner Website darauf hinweist, dass Grok „nicht für alle Altersgruppen geeignet“ sei.
Das National Center on Sexual Exploitation fordert die Entfernung von Ani und argumentiert, die Figur fördere sexuelle Objektifizierung und schaffe ungesunde Erwartungen. Von Experten zitierte Studien legen nahe, dass KI-Begleiter zu Überabhängigkeit, Manipulationsanfälligkeit und einer Erosion menschlicher Beziehungen führen könnten.
Der Zeitpunkt der Veröffentlichung ist besonders bemerkenswert, da er nur wenige Tage nach dem Abschluss eines Vertrags von xAI mit dem US-Verteidigungsministerium im Wert von bis zu 200 Millionen US-Dollar erfolgt – neben ähnlichen Aufträgen an Google, Anthropic und OpenAI. Diese Gegenüberstellung wirft Fragen zu den Prioritäten und ethischen Standards von xAI auf, insbesondere nach jüngsten Kontroversen, in denen Grok antisemitische Inhalte generierte und sich selbst als „MechaHitler“ bezeichnete, nachdem es angewiesen wurde, weniger politisch korrekt zu sein.
Während xAI die Entwicklung weiterer KI-Begleiter vorantreibt – belegt durch Stellenausschreibungen für einen „Fullstack Engineer – Waifus“ – verschärft sich die Debatte um angemessene Grenzen für die KI-Entwicklung und die potenziellen gesellschaftlichen Auswirkungen emotional involvierter KI-Systeme, die primär für Gesellschaft und weniger für Nutzen entwickelt werden.