OpenAI는 6월 5일 발표한 보고서를 통해, 중국 단체들이 자사의 인공지능 기술을 은밀 작전에 악용하는 사례가 증가하고 있다고 밝혔다. 샌프란시스코에 본사를 둔 OpenAI는 최근 400억 달러(약 54조 원) 규모의 투자 유치로 기업가치가 3,000억 달러(약 406조 원)에 달하며, 관련 활동과 연계된 여러 계정을 차단하는 조치를 취했다고 전했다.
특히 'Sneer Review'로 명명된 사례에서, 운영자들은 중국과 관련된 정치적으로 민감한 주제에 대한 소셜미디어 게시물을 생성했다. 여기에는 대만 중심의 비디오 게임 비판, 파키스탄 활동가에 대한 허위 비난, USAID 폐쇄 관련 콘텐츠 등이 포함됐다. 일부 게시물은 미국 트럼프 전 대통령의 관세 정책을 비판하기도 했다. 이 작전은 게시물뿐 아니라 댓글까지 생성해 자연스러운 참여를 가장하는 등 정교하게 이루어졌다.
두 번째 사례에서는 중국과 연계된 위협 행위자들이 ChatGPT를 활용해 사이버 작전의 여러 단계를 지원했다. 이들은 오픈소스 정보 조사, 스크립트 수정, 시스템 설정 문제 해결, 암호 무차별 대입 및 소셜미디어 자동화 도구 개발 등에 AI를 사용했다. 특히 이들이 내부 활동 성과 평가 등 내부 문서까지 OpenAI 도구로 작성한 사실이 드러나 우려를 더했다.
세 번째 사례에서는 중국발 영향력 작전이 미국 내 정치적 분열 이슈에서 양측을 모두 지지하는 극단적 소셜미디어 콘텐츠를 생성한 것으로 밝혀졌다. 이는 특정 이념을 홍보하기보다는 기존의 정치적 분열을 악용하려는 의도로 풀이된다. OpenAI 인텔리전스팀의 수석 조사관 벤 님모는 "이러한 작전들은 점점 다양해지고 정교해지고 있지만, 대부분 대중에게 확산되기 전 초기 단계에서 차단됐다"고 설명했다.
OpenAI는 이번 보고서에서 러시아, 이란 등 타국의 은밀 영향력 작전과 캄보디아, 북한 등과 연계된 각종 사기 행위도 차단했다고 밝혔다. 회사는 책임 있는 AI 개발의 일환으로 자사 플랫폼 내 악의적 활동을 상시 모니터링하고 정기적으로 보고하고 있다.
중국 외교부는 OpenAI의 이번 발표에 대한 논평 요청에 아직 답하지 않았다.