OpenAI je identificirao rastući trend zloupotrebe njihove umjetne inteligencije od strane kineskih grupa za prikrivene operacije, navodi se u izvješću objavljenom 5. lipnja. Tvrtka sa sjedištem u San Franciscu, čija je nedavna procijenjena vrijednost 300 milijardi dolara nakon rekordne runde financiranja od 40 milijardi, poduzela je mjere blokiranjem više računa povezanih s ovim aktivnostima.
U jednom značajnom slučaju, koji su istražitelji OpenAI-ja nazvali "Sneer Review", operateri su generirali objave na društvenim mrežama o politički osjetljivim temama vezanim uz Kinu. To je uključivalo kritike na račun videoigre s Tajvanom u središtu, lažne optužbe protiv pakistanske aktivistice te sadržaj vezan uz zatvaranje USAID-a. Neke objave također su kritizirale carinsku politiku američkog predsjednika Donalda Trumpa. Operacija je bila dovoljno sofisticirana da stvara i objave i komentare, stvarajući privid organskog angažmana.
Druga operacija uključivala je aktere povezane s Kinom koji su koristili ChatGPT za podršku raznim fazama svojih kibernetičkih operacija. To je obuhvaćalo istraživanje otvorenih izvora, izmjenu skripti, rješavanje problema s konfiguracijom sustava i razvoj alata za brute force napade na lozinke i automatizaciju društvenih mreža. Posebno zabrinjavajuće bilo je otkriće da su ti akteri koristili OpenAI-jeve alate za izradu internih dokumenata, uključujući izvještaje o učinku koji detaljno opisuju njihove aktivnosti.
Treći primjer otkrio je operaciju utjecaja kineskog podrijetla koja je generirala polarizirani sadržaj na društvenim mrežama podržavajući obje strane podijeljenih tema unutar američkog političkog diskursa. Ovakav pristup očito je osmišljen kako bi iskoristio postojeće političke podjele, a ne promicao određenu ideološku poziciju. Ben Nimmo, glavni istražitelj u OpenAI-jevom timu za obavještajne poslove, istaknuo je da, iako ove operacije pokazuju "rast broja prikrivenih operacija s raznovrsnijim taktikama", većinom su prekinute u ranoj fazi prije nego što su dosegle širu publiku.
OpenAI-jevo izvješće također navodi prekid prikrivenih operacija utjecaja iz drugih zemalja, uključujući Rusiju i Iran, kao i razne prijevare povezane s Kambodžom i Sjevernom Korejom. Tvrtka redovito nadzire i izvještava o zlonamjernim aktivnostima na svojoj platformi kao dio svoje predanosti odgovornom razvoju umjetne inteligencije.
Kinesko ministarstvo vanjskih poslova nije odgovorilo na zahtjeve za komentar o nalazima OpenAI-ja.