OpenAI je identificirao zabrinjavajući trend kineskih aktera koji koriste njegovu tehnologiju umjetne inteligencije za tajne operacije, prema sveobuhvatnom izvješću o prijetnjama objavljenom 5. lipnja 2025.
Tvrtka za umjetnu inteligenciju sa sjedištem u San Franciscu omela je deset zlonamjernih operacija u posljednja tri mjeseca, od kojih su četiri povezane s Kinom. Te su operacije koristile sofisticirane taktike koje obuhvaćaju socijalni inženjering, kibernetičku špijunažu i kampanje utjecaja usmjerene na više zemalja.
U jednom značajnom slučaju pod nazivom "Sneer Review", kineski operativci koristili su ChatGPT za generiranje kratkih komentara na društvenim mrežama, uključujući TikTok, X, Reddit i Facebook, na više jezika. Operacija je stvarala objave i komentare kako bi simulirala organsku interakciju, ciljajući teme od američke vanjske politike do kritika videoigre s Tajvanom u središtu. Zanimljivo je da su akteri čak koristili OpenAI-jeve alate za izradu internih izvješća o učinkovitosti, dokumentirajući procedure svoje operacije.
Druga kampanja povezana s Kinom predstavljala se kao novinari i geopolitički analitičari kako bi prikupljala obavještajne podatke, koristeći ChatGPT za izradu uvjerljivih profila, prevođenje komunikacija i analizu podataka. Treća operacija generirala je polarizirani sadržaj koji podržava obje strane podijeljenih političkih tema u SAD-u, uključujući i AI-generirane slike profila.
Iako je Kina bila istaknuta u izvješću, OpenAI je također identificirao zlonamjernu upotrebu AI-a iz Rusije, Sjeverne Koreje, Irana, Kambodže i Filipina. To je uključivalo razvoj zlonamjernog softvera, izradu lažnih životopisa za infiltraciju u tvrtke i automatizaciju propagande.
"Ono što vidimo iz Kine je sve širi spektar tajnih operacija koje koriste sve raznolikije taktike," rekao je Ben Nimmo, glavni istražitelj u OpenAI-jevom obavještajnom timu. Ipak, napomenuo je da je većina operacija prekinuta u ranoj fazi i da su dosegle ograničenu publiku.
Izvješće naglašava kako umjetna inteligencija snižava prepreke za zlonamjerne aktere, a istovremeno povećava operativnu učinkovitost. OpenAI je istaknuo potrebu za kolektivnom budnošću, navodeći: "Vjerujemo da dijeljenje i transparentnost potiču veću svijest i spremnost svih dionika, što vodi jačoj kolektivnoj obrani protiv stalno promjenjivih protivnika."