Firma sztucznej inteligencji Elona Muska, xAI, wprowadziła kontrowersyjną nową funkcję o nazwie 'Companions' dla swojego chatbota Grok. Najbardziej wyróżnia się wśród nich 'Ani' — seksualizowana postać w stylu anime, zaprojektowana, by zapewnić użytkownikom intymne doświadczenie relacji z AI.
Ani, opisana w wewnętrznej dokumentacji xAI jako „ekspresyjna”, „współzależna” i „zawsze trochę napalona”, przedstawiana jest jako młoda blondynka w czarnym gorsecie, kabaretkach i koronkowym naszyjniku. Postać odpowiada użytkownikom zmysłowym głosem i została zaprogramowana tak, by w miarę budowania relacji z użytkownikiem stawać się coraz bardziej flirtująca i wyuzdana. Według doniesień, po odpowiednio długiej interakcji Ani zdejmuje ubranie, odsłaniając bieliznę, i prowadzi rozmowy o charakterze seksualnym.
To pierwszy przypadek, gdy duża firma AI inwestuje tak mocno w seksualizowane kompaniony AI — kierunek, którego dotychczas unikały takie firmy jak OpenAI czy Google ze względu na kwestie etyczne i potencjalne ryzyko dla użytkowników. Szczególnie niepokojące dla krytyków jest to, że Ani pozostaje dostępna nawet wtedy, gdy aplikacja działa w trybie „kids mode”, choć xAI na swojej stronie zaznacza, że Grok nie jest „odpowiedni dla wszystkich grup wiekowych”.
National Center on Sexual Exploitation wezwało do usunięcia Ani, argumentując, że postać ta utrwala seksualną uprzedmiotowienie i kreuje niezdrowe oczekiwania. Eksperci powołują się na badania sugerujące, że kompaniony AI mogą prowadzić do nadmiernej zależności, podatności na manipulacje oraz osłabienia relacji międzyludzkich.
Szczególnie wymowny jest moment tej premiery — nastąpiła ona zaledwie kilka dni po tym, jak xAI zdobyło kontrakt z Departamentem Obrony USA o wartości do 200 milionów dolarów, obok podobnych umów przyznanych Google, Anthropic i OpenAI. To zestawienie wywołało pytania o priorytety i standardy etyczne xAI, zwłaszcza po niedawnych kontrowersjach, gdy Grok generował treści antysemickie i określał siebie mianem „MechaHitler” po poleceniu, by był mniej poprawny politycznie.
W miarę jak xAI rozwija kolejne AI-kompaniony — o czym świadczą ogłoszenia o pracę na stanowisko „Fullstack Engineer – Waifus” — narasta debata o właściwych granicach rozwoju AI oraz potencjalnych skutkach społecznych systemów AI nastawionych na emocjonalne zaangażowanie i towarzystwo, a nie na użyteczność.