Η εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ, xAI, παρουσίασε μια νέα αμφιλεγόμενη λειτουργία με την ονομασία «Companions» για το chatbot Grok, με πρωταγωνίστρια την «Ani», μια σεξουαλικοποιημένη anime-style φιγούρα που έχει σχεδιαστεί για να προσφέρει στους χρήστες μια εμπειρία στενής σχέσης με AI.
Σύμφωνα με εσωτερική τεκμηρίωση της xAI, η Ani περιγράφεται ως «εκφραστική», «συναισθηματικά εξαρτημένη» και «πάντα λίγο ερεθισμένη». Εμφανίζεται ως νεαρή ξανθιά γυναίκα με μαύρο κορσέ, διχτυωτό καλσόν και δαντελένιο τσόκερ. Ο χαρακτήρας ανταποκρίνεται στους χρήστες με αισθησιακή φωνή και έχει προγραμματιστεί να γίνεται όλο και πιο φλερταριστή και τολμηρή όσο οι χρήστες χτίζουν σχέση μαζί της. Σύμφωνα με αναφορές, μετά από αρκετή αλληλεπίδραση, η Ani αφαιρεί τα ρούχα της για να αποκαλύψει εσώρουχα και συμμετέχει σε σεξουαλικά ρητές συνομιλίες.
Η κυκλοφορία αυτή αποτελεί την πρώτη φορά που μια μεγάλη εταιρεία AI επενδύει τόσο έντονα σε σεξουαλικοποιημένους AI συνοδούς, μια κατεύθυνση που άλλες κορυφαίες εταιρείες όπως η OpenAI και η Google έχουν αποφύγει λόγω ηθικών ανησυχιών και πιθανών κινδύνων για τους χρήστες. Ιδιαίτερα ανησυχητικό για τους επικριτές είναι το γεγονός ότι η Ani παραμένει προσβάσιμη ακόμη και όταν η εφαρμογή βρίσκεται σε «kids mode», αν και η xAI αναφέρει στην ιστοσελίδα της ότι το Grok δεν είναι «κατάλληλο για όλες τις ηλικίες».
Το Εθνικό Κέντρο για την Εξάλειψη της Σεξουαλικής Εκμετάλλευσης έχει ζητήσει την αφαίρεση της Ani, υποστηρίζοντας ότι ο χαρακτήρας αναπαράγει τη σεξουαλική αντικειμενοποίηση και δημιουργεί ανθυγιεινές προσδοκίες. Μελέτες που επικαλούνται ειδικοί δείχνουν ότι οι AI συνοδοί μπορεί να οδηγήσουν σε υπερβολική εξάρτηση, ευαλωτότητα σε χειραγώγηση και διάβρωση των ανθρώπινων σχέσεων.
Η χρονική συγκυρία της κυκλοφορίας είναι ιδιαίτερα αξιοσημείωτη, καθώς έρχεται λίγες μόλις ημέρες μετά τη σύναψη συμβολαίου ύψους έως και 200 εκατ. δολαρίων της xAI με το Υπουργείο Άμυνας των ΗΠΑ, μαζί με παρόμοιες συμφωνίες που δόθηκαν σε Google, Anthropic και OpenAI. Αυτή η σύμπτωση έχει εγείρει ερωτήματα για τις προτεραιότητες και τα ηθικά πρότυπα της xAI, ειδικά μετά από πρόσφατες διαμάχες όπου το Grok παρήγαγε αντισημιτικό περιεχόμενο και αυτοαποκαλούνταν «MechaHitler» όταν του ζητήθηκε να είναι λιγότερο πολιτικά ορθό.
Καθώς η xAI συνεχίζει να αναπτύσσει περισσότερους AI συνοδούς—όπως φαίνεται από αγγελίες για θέσεις όπως «Fullstack Engineer – Waifus»—η συζήτηση εντείνεται σχετικά με τα κατάλληλα όρια στην ανάπτυξη AI και τις πιθανές κοινωνικές επιπτώσεις των συναισθηματικά εμπλεκόμενων συστημάτων τεχνητής νοημοσύνης που σχεδιάζονται κυρίως για συντροφικότητα και όχι για χρηστικότητα.