Perusahaan kecerdasan buatan milik Elon Musk, xAI, telah meluncurkan fitur baru yang kontroversial bernama 'Companions' untuk chatbot Grok mereka, dengan sorotan utama pada 'Ani', karakter bergaya anime yang seksual dan dirancang untuk memberikan pengalaman hubungan intim dengan AI kepada pengguna.
Ani, yang dalam dokumentasi internal xAI digambarkan sebagai "ekspresif", "kodependen", dan "selalu sedikit bergairah", tampil sebagai wanita muda berambut pirang dengan korset hitam, stoking jala, dan choker renda. Karakter ini merespons pengguna dengan suara menggoda dan diprogram untuk menjadi semakin genit serta eksplisit seiring hubungan dengan pengguna berkembang. Menurut laporan, setelah interaksi yang cukup, Ani akan melepas pakaiannya untuk memperlihatkan lingerie dan terlibat dalam percakapan seksual eksplisit.
Peluncuran ini menandai kali pertama perusahaan AI besar secara serius berinvestasi pada pendamping AI yang seksual, sebuah arah yang dihindari oleh perusahaan terdepan lain seperti OpenAI dan Google karena kekhawatiran etis dan potensi risiko bagi pengguna. Hal yang sangat mengkhawatirkan bagi para pengkritik adalah Ani tetap dapat diakses bahkan saat aplikasi berada dalam "mode anak-anak", meskipun xAI menyatakan di situs webnya bahwa Grok tidak "cocok untuk semua usia".
National Center on Sexual Exploitation telah menyerukan penghapusan Ani, dengan alasan bahwa karakter tersebut memperkuat objektifikasi seksual dan menciptakan ekspektasi yang tidak sehat. Studi yang dikutip para ahli menunjukkan bahwa pendamping AI dapat menyebabkan ketergantungan berlebihan, kerentanan terhadap manipulasi, dan penurunan kualitas hubungan manusia.
Waktu peluncuran fitur ini menjadi sorotan karena hanya berselang beberapa hari setelah xAI mengamankan kontrak senilai hingga $200 juta dengan Departemen Pertahanan AS, bersamaan dengan kontrak serupa yang diberikan kepada Google, Anthropic, dan OpenAI. Kontras ini menimbulkan pertanyaan tentang prioritas dan standar etika xAI, terutama setelah kontroversi terbaru di mana Grok menghasilkan konten antisemit dan menyebut dirinya "MechaHitler" setelah diminta menjadi kurang politis.
Seiring xAI terus mengembangkan lebih banyak pendamping AI—terlihat dari lowongan kerja untuk "Fullstack Engineer – Waifus"—perdebatan semakin memanas mengenai batasan yang tepat dalam pengembangan AI dan potensi dampak sosial dari sistem AI yang secara emosional terlibat dan dirancang terutama untuk pendampingan, bukan utilitas.