사이버보안 연구진이 악명 높은 악성 AI 도구 WormGPT의 새로운 변종을 발견했다. 이 변종들은 xAI와 Mistral AI의 상용 대형 언어 모델(LLM)을 활용해 정교한 사이버 공격을 수행한다.
Cato Networks의 위협 인텔리전스 팀은 BreachForums 등 지하 포럼에서 판매 중인, 지금까지 보고되지 않았던 두 가지 WormGPT 변종을 확인했다. 각각 "xzin0vich"와 "keanu"라는 사용자가 개발한 이 변종들은 2024년 10월과 2025년 2월에 등장했다. 2023년 오픈소스 GPT-J 모델을 사용했던 기존 WormGPT와 달리, 이번 변종들은 근본적으로 다른 접근 방식을 취한다.
사이버 범죄자들은 맞춤형 AI 모델을 처음부터 개발하는 대신, 기존 상용 AI 시스템에 정교한 래퍼(wrapper)를 씌워 활용하고 있다. 이들은 탈옥(jailbreaking) 기법과 조작된 시스템 프롬프트를 통해 일론 머스크의 Grok, Mistral의 Mixtral 모델의 안전장치를 우회, 윤리적 제약 없이 악성 콘텐츠를 생성하도록 만들었다.
Cato Networks의 연구원 비탈리 시모노비치는 "이 새로운 WormGPT 변종들은 처음부터 맞춤 제작된 모델이 아니라, 위협 행위자들이 기존 LLM을 능숙하게 변형한 결과물"이라고 설명했다. 기존 API를 변형하는 것이 악성 LLM을 새로 훈련시키는 것보다 훨씬 간단하기 때문에, 이 방식은 사이버 범죄자들의 진입 장벽을 크게 낮춘다.
두 변종 모두 실제로 유해한 콘텐츠를 생성할 수 있다. 예를 들어, 설득력 있는 피싱 이메일이나 윈도우 11 시스템에서 자격 증명을 탈취하는 PowerShell 스크립트 등을 만들어낸다. 이들은 텔레그램 챗봇을 통해 구독 방식으로 판매되며, 월 8달러에서 100달러까지 가격이 책정되어 있다.
WormGPT의 진화는 사이버 범죄가 정교한 프롬프트 엔지니어링을 통해 합법적 AI 서비스를 악용하는 방향으로 확대되고 있음을 시사한다. 보안 전문가들은 행동 분석 기반 위협 탐지, 강력한 접근 제어, AI 기반 피싱 시뮬레이션을 포함한 보안 인식 교육 등 종합적인 방어 전략을 권고한다.
AI가 공격 도구이자 동시에 공격 대상이 되는 시대, 조직들은 가장 인기 있는 플랫폼 내부에서 발생할 수 있는 AI 위협에도 대비해야 한다.