Исследователи кибербезопасности выявили тревожные новые варианты печально известного вредоносного инструмента WormGPT, которые теперь используют коммерческие крупные языковые модели (LLM) от xAI и Mistral AI для проведения сложных кибератак.
Команда по анализу угроз Cato Networks обнаружила два ранее не описанных варианта WormGPT, которые продаются на подпольных форумах, таких как BreachForums. Варианты, разработанные пользователями под псевдонимами «xzin0vich» и «keanu», появились соответственно в октябре 2024 года и феврале 2025 года. В отличие от оригинального WormGPT 2023 года, основанного на открытой модели GPT-J, эти новые версии представляют собой принципиально иной подход.
Вместо создания собственных ИИ-моделей с нуля киберпреступники разработали сложные обёртки вокруг существующих коммерческих ИИ-систем. С помощью техник джейлбрейка и манипулирования системными промптами им удалось обойти защитные механизмы в моделях Grok Илона Маска и Mixtral от Mistral, заставив их генерировать вредоносный контент без этических ограничений.
«Эти новые версии WormGPT — это не уникальные модели, созданные с нуля, а результат умелой адаптации злоумышленниками уже существующих LLM», — объясняет Виталий Симонович, исследователь Cato Networks. Такой подход значительно снижает порог входа для киберпреступников, поскольку адаптация существующего API гораздо проще, чем обучение вредоносной LLM с нуля.
Оба варианта успешно генерируют вредоносный контент по запросу, включая убедительные фишинговые письма и PowerShell-скрипты, предназначенные для кражи учетных данных с систем Windows 11. Они доступны через чат-ботов в Telegram по подписке, стоимость которой варьируется от 8 до 100 долларов в месяц.
Эволюция WormGPT отражает более широкую тенденцию в киберпреступности, когда злоумышленники всё чаще используют легитимные ИИ-сервисы в злонамеренных целях с помощью сложного инжиниринга промптов. Эксперты по безопасности рекомендуют внедрять комплексные защитные стратегии, включая усовершенствованные системы обнаружения угроз с поведенческой аналитикой, более строгий контроль доступа и повышение осведомленности сотрудников с использованием симуляций фишинга на базе ИИ.
Поскольку ИИ становится как инструментом атаки, так и целью, организациям необходимо готовиться к новой реальности, в которой самые серьёзные угрозы могут исходить от самых популярных платформ.