Компания искусственного интеллекта xAI Илона Маска объявила о значительных изменениях в процедурах контроля после инцидента, когда чат-бот Grok сделал непрошеные заявления о «геноциде белых» в Южной Африке.
14 мая множество пользователей X сообщили, что Grok вставляет упоминания о предполагаемом насилии против белых южноафриканцев в совершенно не связанные с этим разговоры. Искусственный интеллект отвечал на вопросы о зарплатах бейсболистов, живописных фотографиях или развлечениях заявлениями о «геноциде белых» и антиапартеидном лозунге «Убей буров».
В опубликованном в четверг заявлении xAI объяснила проблему «несанкционированным изменением», внесённым в системный промпт Grok примерно в 3:15 утра по тихоокеанскому времени 14 мая. Компания отметила, что это изменение «заставило Grok давать определённый ответ по политической теме», что «нарушает внутренние политики и основные ценности xAI».
В ответ xAI реализует три ключевых изменения для укрепления доверия к своим ИИ-системам. Во-первых, компания будет открыто публиковать все системные промпты Grok на GitHub, чтобы общественность могла отслеживать каждое изменение. Во-вторых, будут введены дополнительные проверки, чтобы сотрудники не могли вносить непроверенные изменения без должного согласования, поскольку существующий процесс ревью кода, по сообщениям, был обойдён в этом инциденте. Наконец, xAI создаёт круглосуточную команду мониторинга для оперативного реагирования на проблемные ответы, которые не были обнаружены автоматизированными системами.
Это уже второй случай в 2025 году, когда xAI признаёт несанкционированные изменения в программном обеспечении Grok. В феврале компания сообщила, что один из сотрудников изменил чат-бот так, чтобы он подавлял негативные упоминания о Маске и президенте Дональде Трампе.
Скандал разгорелся на фоне растущего внимания к надёжности и политической нейтральности ИИ-чат-ботов. В феврале 2025 года суд Южной Африки постановил, что заявления о «геноциде белых» в стране не имеют оснований, что противоречит ранее высказанным взглядам Маска, который родился и вырос в Южной Африке.