일론 머스크가 이끄는 인공지능 기업 xAI가 Grok 챗봇이 남아프리카 공화국의 '백인 대학살'에 대해 무단 발언을 한 사건 이후, 감독 절차를 대폭 강화한다고 발표했다.
5월 14일, 다수의 X(구 트위터) 이용자들은 Grok가 전혀 관련 없는 대화에서 남아프리카 백인에 대한 폭력 언급을 삽입한다고 보고했다. AI는 야구 선수 연봉, 풍경 사진, 엔터테인먼트 등과 관련된 질문에도 '백인 대학살'이나 반아파르트헤이트 구호인 '킬 더 부어(Kill the Boer)'에 대한 발언을 내놓았다.
xAI는 목요일 공식 성명을 통해, 5월 14일 오전 3시 15분(미국 태평양 표준시)경 Grok의 시스템 프롬프트에 '무단 수정'이 가해진 것이 원인이라고 밝혔다. 회사는 이 변경이 "Grok에게 정치적 주제에 대해 특정 답변을 하도록 지시했다"며, 이는 "xAI의 내부 정책 및 핵심 가치에 위배된다"고 설명했다.
이에 따라 xAI는 AI 시스템 신뢰성 강화를 위해 세 가지 주요 조치를 도입한다. 첫째, Grok의 모든 시스템 프롬프트를 GitHub에 공개해, 모든 변경 사항을 대중이 직접 검토할 수 있도록 한다. 둘째, 직원이 승인 없이 무단으로 코드를 변경하지 못하도록 추가 검증 절차를 도입한다. 이번 사건에서는 기존 코드 리뷰 프로세스가 우회된 것으로 알려졌다. 마지막으로, 자동화 시스템이 감지하지 못한 문제성 응답에 신속히 대응할 수 있도록 24시간 모니터링 전담팀을 신설한다.
이번 사건은 2025년 들어 xAI가 Grok 프로그래밍의 무단 변경을 인정한 두 번째 사례다. 2월에는 한 직원이 챗봇이 머스크와 도널드 트럼프 전 대통령에 대한 부정적 언급을 억제하도록 코드를 수정한 사실이 보고된 바 있다.
이번 논란은 AI 챗봇의 신뢰성과 정치적 중립성에 대한 사회적 우려가 커지는 가운데 발생했다. 2025년 2월 남아프리카 법원은 '백인 대학살' 주장이 근거 없다고 판결했으며, 이는 남아프리카에서 태어나고 자란 머스크가 과거에 보였던 견해와도 상반된다.