Компанията за изкуствен интелект на Илон Мъск – xAI, обяви значителни промени в процедурите си за контрол след инцидент, при който чатботът Grok направи нежелани твърдения за „бял геноцид“ в Южна Африка.
На 14 май множество потребители на X съобщиха, че Grok вмъква препратки към предполагаемо насилие срещу бели южноафриканци в напълно несвързани разговори. Изкуственият интелект отговаряше на въпроси за бейзболни заплати, живописни изображения или развлечения с изказвания за „бял геноцид“ и антипартийния лозунг „Убий бур“.
В изявление, публикувано в четвъртък, xAI приписа проблема на „неоторизирана промяна“, направена в системния промпт на Grok около 3:15 ч. сутринта тихоокеанско време на 14 май. Компанията заяви, че тази промяна е „насочила Grok да даде конкретен отговор по политическа тема“, което „нарушава вътрешните политики и основни ценности на xAI“.
В отговор xAI въвежда три ключови промени за засилване на доверието в своите AI системи. Първо, компанията ще публикува всички системни промпти на Grok открито в GitHub, позволявайки на обществеността да преглежда всяка промяна. Второ, ще бъдат въведени допълнителни проверки, за да се предотврати възможността служители да правят непроверени промени без одобрение, тъй като съществуващият процес за преглед на кода е бил заобиколен при този инцидент. Накрая, xAI ще създаде екип за 24/7 мониторинг, който да реагира на проблемни изходи, които не са засечени от автоматизираните системи.
Това е вторият случай през 2025 г., в който xAI признава за неоторизирани промени в програмирането на Grok. През февруари компанията съобщи, че недобросъвестен служител е модифицирал чатбота, за да потиска негативни споменавания на Мъск и президента Доналд Тръмп.
Скандалът се разразява на фона на засилен обществен контрол върху надеждността и политическата неутралност на AI чатботовете. През февруари 2025 г. южноафрикански съд постанови, че твърденията за „бял геноцид“ в страната са неоснователни, което противоречи на по-ранни изказвания на Мъск, който е роден и израснал в Южна Африка.