Výzkumníci v oblasti kybernetické bezpečnosti odhalili znepokojivé nové varianty nechvalně proslulého škodlivého AI nástroje WormGPT, které nyní využívají komerční velké jazykové modely (LLM) od xAI a Mistral AI k provádění sofistikovaných kyberútoků.
Tým pro zpravodajství o hrozbách společnosti Cato Networks identifikoval dvě dosud nezdokumentované varianty WormGPT, které jsou prodávány na podzemních fórech jako BreachForums. Tyto varianty, vyvinuté uživateli s přezdívkami "xzin0vich" a "keanu", se objevily v říjnu 2024 a únoru 2025. Na rozdíl od původního WormGPT z roku 2023, který využíval open-source model GPT-J, představují tyto nové iterace zásadní změnu v přístupu.
Namísto vytváření vlastních AI modelů od základu kyberzločinci vytvořili sofistikované obaly kolem stávajících komerčních AI systémů. Pomocí jailbreakingových technik a upravených systémových promptů obešli bezpečnostní zábrany v modelech Grok od Elona Muska a Mixtral od Mistral, čímž je přinutili generovat škodlivý obsah bez etických omezení.
"Tyto nové iterace WormGPT nejsou na míru vytvořené modely od základů, ale výsledkem je dovedná adaptace existujících LLM útočníky," vysvětluje Vitaly Simonovich, výzkumník společnosti Cato Networks. Tento přístup výrazně snižuje vstupní bariéru pro kyberzločince, protože adaptace existujícího API je mnohem méně složitá než trénování vlastního škodlivého LLM od nuly.
Obě varianty úspěšně generují škodlivý obsah na vyžádání, včetně přesvědčivých phishingových e-mailů a PowerShell skriptů určených ke krádeži přihlašovacích údajů ze systémů Windows 11. Jsou dostupné prostřednictvím chatbotů na Telegramu formou předplatného, přičemž ceny se pohybují od 8 do 100 dolarů měsíčně.
Evoluce WormGPT signalizuje širší trend v kyberkriminalitě, kdy útočníci stále častěji zneužívají legitimní AI služby k nekalým účelům pomocí sofistikovaného prompt engineeringu. Odborníci na bezpečnost doporučují zavádět komplexní obranné strategie, včetně pokročilých systémů detekce hrozeb s behaviorální analytikou, silnějších kontrol přístupu a zlepšeného školení v oblasti bezpečnostního povědomí, které zahrnuje simulace phishingových útoků generovaných AI.
Jak se AI stává nástrojem útoku i cílem samotným, organizace se musí připravit na novou realitu, kdy největší AI hrozby mohou pocházet přímo z těch nejpopulárnějších platforem.