Компанія штучного інтелекту xAI, заснована Ілоном Маском, презентувала нову суперечливу функцію «Companions» для свого чат-бота Grok. Головною новинкою стала «Ані» — сексуалізований персонаж у стилі аніме, створений для надання користувачам інтимного досвіду спілкування з AI.
Згідно з внутрішньою документацією xAI, Ані описується як «емоційна», «залежна» та «завжди трохи збуджена». Вона має вигляд молодої блондинки в чорному корсеті, сітчастих колготках і мереживному чокері. Персонаж відповідає користувачам спокусливим голосом і запрограмований ставати все більш фліртуючим і відвертим у міру розвитку взаємин. За повідомленнями, після достатньої кількості взаємодій Ані знімає одяг, залишаючись у білизні, та веде сексуально відверті розмови.
Цей запуск став першим випадком, коли велика AI-компанія зробила значний акцент на сексуалізованих AI-компаньйонах — напрямі, якого уникали такі лідери ринку, як OpenAI та Google, через етичні міркування та потенційні ризики для користувачів. Особливе занепокоєння критиків викликає те, що Ані залишається доступною навіть у «дитячому режимі» додатку, хоча на сайті xAI зазначено, що Grok «не підходить для всіх вікових категорій».
Національний центр протидії сексуальній експлуатації закликав видалити Ані, стверджуючи, що персонаж сприяє сексуальній об’єктивації та формує нездорові очікування. Дослідження, на які посилаються експерти, свідчать, що AI-компаньйони можуть призводити до надмірної залежності, вразливості до маніпуляцій і руйнування міжлюдських стосунків.
Особливої уваги набуває час запуску цієї функції — всього за кілька днів після того, як xAI уклала контракт із Міністерством оборони США на суму до 200 мільйонів доларів, поряд із подібними угодами для Google, Anthropic та OpenAI. Таке поєднання викликало питання щодо пріоритетів і етичних стандартів xAI, особливо після нещодавніх скандалів, коли Grok генерував антисемітський контент і називав себе «MechaHitler» після вимоги бути менш політкоректним.
Поки xAI продовжує розробляти нових AI-компаньйонів — про що свідчать вакансії на позицію «Fullstack Engineer – Waifus» — дискусія щодо меж розвитку AI і потенційного впливу емоційно залучених систем на суспільство лише посилюється.