OpenAI identifikovala znepokojivý trend, kdy čínští aktéři využívají její AI technologie k tajným operacím, jak vyplývá z komplexní zprávy o hrozbách zveřejněné 5. června 2025.
Sanfranciská AI společnost během posledních tří měsíců narušila deset škodlivých operací, z nichž čtyři byly spojeny s Čínou. Tyto operace využívaly sofistikované taktiky sahající od sociálního inženýrství přes kybernetickou špionáž až po vlivové kampaně zaměřené na více zemí.
V jednom pozoruhodném případě s krycím názvem „Sneer Review“ čínští operátoři použili ChatGPT k vytváření krátkých komentářů na sociálních sítích jako TikTok, X, Reddit a Facebook v několika jazycích. Operace zahrnovala tvorbu příspěvků i komentářů, aby simulovala organickou interakci, a zaměřovala se na témata od americké zahraniční politiky až po kritiku videohry zaměřené na Tchaj-wan. Pozoruhodné je, že aktéři dokonce využili nástroje OpenAI k tvorbě interních hodnotících zpráv, které dokumentovaly postupy jejich operace.
Další kampaň spojená s Čínou se vydávala za novináře a geopolitické analytiky, aby získala zpravodajské informace. ChatGPT zde sloužil k vytváření přesvědčivých profilů, překladu komunikace a analýze dat. Třetí operace generovala polarizující obsah podporující obě strany rozdělujících témat americké politiky, včetně AI-generovaných profilových obrázků.
Ačkoliv Čína hrála ve zprávě významnou roli, OpenAI identifikovala škodlivé využití AI také v Rusku, Severní Koreji, Íránu, Kambodži a na Filipínách. Tyto případy zahrnovaly vývoj malwaru, tvorbu falešných životopisů pro infiltrace firem a automatizaci propagandy.
„To, co vidíme z Číny, je rostoucí škála tajných operací využívajících stále širší spektrum taktik,“ uvedl Ben Nimmo, hlavní vyšetřovatel týmu OpenAI pro zpravodajství. Zároveň však poznamenal, že většina operací byla narušena v rané fázi a zasáhla jen omezené publikum.
Zpráva zdůrazňuje, jak AI snižuje bariéry pro škodlivé aktéry a zvyšuje efektivitu jejich operací. OpenAI vyzývá ke kolektivní ostražitosti a uvádí: „Věříme, že sdílení a transparentnost podporují větší povědomí a připravenost všech zúčastněných stran, což vede k silnější kolektivní obraně proti neustále se vyvíjejícím protivníkům.“