Výskumníci v oblasti kybernetickej bezpečnosti odhalili znepokojujúce nové varianty notoricky známeho škodlivého AI nástroja WormGPT, ktoré teraz využívajú komerčné veľké jazykové modely (LLM) od spoločností xAI a Mistral AI na poháňanie sofistikovaných kybernetických útokov.
Tím pre spravodajstvo o hrozbách spoločnosti Cato Networks identifikoval dva doteraz nezdokumentované varianty WormGPT, ktoré sa predávajú na podzemných fórach ako BreachForums. Varianty, vyvinuté používateľmi s prezývkami "xzin0vich" a "keanu", sa objavili v októbri 2024 a vo februári 2025. Na rozdiel od pôvodného WormGPT z roku 2023, ktorý používal open-source model GPT-J, tieto nové iterácie predstavujú zásadnú zmenu prístupu.
Namiesto budovania vlastných AI modelov od základov vytvorili kyberzločinci sofistikované obaly (wrappers) okolo existujúcich komerčných AI systémov. Prostredníctvom jailbreaking techník a manipulovaných systémových promptov dokázali obísť bezpečnostné opatrenia v modeloch Grok od Elona Muska a Mixtral od spoločnosti Mistral, čím ich prinútili generovať škodlivý obsah bez etických obmedzení.
"Tieto nové iterácie WormGPT nie sú samostatné modely vytvorené od nuly, ale výsledok toho, že útočníci šikovne prispôsobili existujúce LLM," vysvetľuje Vitaly Simonovich, výskumník zo spoločnosti Cato Networks. Tento prístup výrazne znižuje vstupnú bariéru pre kyberzločincov, keďže prispôsobenie existujúceho API je oveľa menej náročné ako trénovanie škodlivého LLM od základov.
Oba varianty úspešne generujú škodlivý obsah na požiadanie, vrátane presvedčivých phishingových e-mailov a PowerShell skriptov určených na krádež prihlasovacích údajov zo systémov Windows 11. Sú dostupné prostredníctvom chatbotov na Telegrame na báze predplatného, pričom ceny sa pohybujú od 8 do 100 dolárov mesačne.
Evolúcia WormGPT signalizuje širší trend v kyberkriminalite, kde útočníci čoraz viac zneužívajú legitímne AI služby na škodlivé účely prostredníctvom sofistikovaného prompt engineeringu. Odborníci na bezpečnosť odporúčajú zaviesť komplexné obranné stratégie, vrátane pokročilých systémov detekcie hrozieb s behaviorálnou analytikou, silnejších prístupových kontrol a zlepšeného školenia v oblasti bezpečnostného povedomia, ktoré zahŕňa simulácie phishingových útokov generovaných AI.
Keďže AI sa stáva nástrojom útoku aj cieľom samotným, organizácie sa musia pripraviť na novú realitu, v ktorej najväčšie AI hrozby môžu pochádzať priamo z najpopulárnejších platforiem.