OpenAI identifikovala rastúci trend zneužívania svojej umelej inteligencie čínskymi skupinami na tajné operácie, uvádza sa v správe zverejnenej 5. júna. Spoločnosť so sídlom v San Franciscu, ktorá bola nedávno ocenená na 300 miliárd dolárov po rekordnom investičnom kole vo výške 40 miliárd, podnikla kroky a zablokovala viacero účtov spojených s týmito aktivitami.
V jednom z najvýraznejších prípadov, ktorý vyšetrovatelia OpenAI označili ako „Sneer Review“, operátori generovali príspevky na sociálnych sieťach na politicky citlivé témy týkajúce sa Číny. Medzi nimi bola kritika videohry zameranej na Taiwan, falošné obvinenia voči pakistanskému aktivistovi a obsah súvisiaci s ukončením činnosti USAID. Niektoré príspevky tiež kritizovali clá prezidenta USA Donalda Trumpa. Operácia bola natoľko sofistikovaná, že vytvárala nielen príspevky, ale aj komentáre, čím sa snažila vyvolať dojem organického zapojenia používateľov.
Druhá operácia zahŕňala aktérov napojených na Čínu, ktorí využívali ChatGPT na podporu rôznych fáz svojich kybernetických operácií. Patrilo sem vyhľadávanie v open-source zdrojoch, úprava skriptov, riešenie problémov s konfiguráciou systémov a vývoj nástrojov na prelomenie hesiel či automatizáciu sociálnych sietí. Obzvlášť znepokojujúce bolo zistenie, že títo aktéri používali nástroje OpenAI aj na tvorbu interných dokumentov, vrátane hodnotení výkonnosti, v ktorých podrobne popisovali svoje aktivity.
Tretí príklad odhalil vplyvovú operáciu pochádzajúcu z Číny, ktorá generovala polarizujúci obsah na sociálnych sieťach podporujúci obe strany rozdeľujúcich tém v rámci amerického politického diskurzu. Tento prístup zjavne cieli na prehlbovanie existujúcich politických rozporov, nie na presadzovanie konkrétnej ideológie. Ben Nimmo, hlavný vyšetrovateľ v tíme pre spravodajstvo OpenAI, poznamenal, že hoci tieto operácie ukazujú „rastúci rozsah tajných operácií s čoraz pestrejšími taktikami“, väčšinou boli prerušené už v počiatočných fázach a nedosiahli veľké publikum.
Správa OpenAI tiež spomína narušenie tajných vplyvových operácií z ďalších krajín, vrátane Ruska a Iránu, ako aj rôzne podvody spojené s Kambodžou a Severnou Kóreou. Spoločnosť pravidelne monitoruje a informuje o škodlivých aktivitách na svojej platforme v rámci svojho záväzku k zodpovednému vývoju AI.
Čínske ministerstvo zahraničných vecí na žiadosti o komentár k zisteniam OpenAI nereagovalo.