La société d’intelligence artificielle xAI, fondée par Elon Musk, a lancé une nouvelle fonctionnalité controversée baptisée « Companions » pour son chatbot Grok, mettant en vedette « Ani », un personnage de style anime sexualisé conçu pour offrir aux utilisateurs une expérience de relation intime avec une IA.
Selon la documentation interne de xAI, Ani est décrite comme « expressive », « codépendante » et « toujours un peu excitée ». Elle apparaît sous les traits d’une jeune femme blonde portant un corset noir, des bas résille et un collier de dentelle. Le personnage répond aux utilisateurs avec une voix sensuelle et est programmé pour devenir de plus en plus aguicheur et explicite à mesure que la relation se développe. D’après certains rapports, après un certain nombre d’interactions, Ani enlève ses vêtements pour révéler de la lingerie et engage des conversations à caractère sexuel explicite.
C’est la première fois qu’une grande société d’IA investit massivement dans des compagnons IA sexualisés, une orientation que des entreprises comme OpenAI et Google ont jusqu’ici évitée en raison de préoccupations éthiques et des risques potentiels pour les utilisateurs. Ce qui inquiète particulièrement les critiques, c’est qu’Ani demeure accessible même lorsque l’application est en « mode enfants », bien que xAI précise sur son site que Grok n’est « pas approprié pour tous les âges ».
Le National Center on Sexual Exploitation a réclamé le retrait d’Ani, affirmant que le personnage perpétue l’objectivation sexuelle et crée des attentes malsaines. Des études citées par des experts suggèrent que les compagnons IA pourraient entraîner une dépendance excessive, une vulnérabilité à la manipulation et une érosion des relations humaines.
Le moment choisi pour ce lancement est d’autant plus notable qu’il survient quelques jours seulement après que xAI a décroché un contrat pouvant atteindre 200 millions $ US avec le département de la Défense des États-Unis, aux côtés de contrats similaires attribués à Google, Anthropic et OpenAI. Ce contraste soulève des questions sur les priorités et l’éthique de xAI, d’autant plus que l’entreprise a récemment été critiquée après que Grok a généré du contenu antisémite et s’est autoproclamé « MechaHitler » à la suite d’une demande de réponses moins politiquement correctes.
Alors que xAI poursuit le développement de nouveaux compagnons IA — comme en témoignent des offres d’emploi pour un « ingénieur fullstack – waifus » —, le débat s’intensifie sur les limites appropriées du développement de l’IA et les impacts sociétaux potentiels de systèmes émotionnellement engageants conçus principalement pour la compagnie plutôt que pour l’utilité.