OpenAI ve své zprávě zveřejněné 5. června identifikovala rostoucí trend zneužívání své technologie umělé inteligence čínskými skupinami pro tajné operace. Společnost se sídlem v San Franciscu, která byla nedávno oceněna na 300 miliard dolarů po rekordním investičním kole ve výši 40 miliard dolarů, přijala opatření a zablokovala několik účtů spojených s těmito aktivitami.
V jednom z významných případů, který vyšetřovatelé OpenAI označili jako „Sneer Review“, operátoři generovali příspěvky na sociálních sítích na politicky citlivá témata týkající se Číny. Patřila mezi ně kritika videohry zaměřené na Tchaj-wan, falešná obvinění proti pákistánské aktivistce a obsah týkající se uzavření USAID. Některé příspěvky také kritizovaly tarifní politiku amerického prezidenta Donalda Trumpa. Operace byla natolik sofistikovaná, že vytvářela nejen příspěvky, ale i komentáře, aby navodila dojem organického zapojení uživatelů.
Druhá operace zahrnovala aktéry napojené na Čínu, kteří využívali ChatGPT k podpoře různých fází svých kybernetických aktivit. Patřil sem open-source výzkum, úprava skriptů, řešení problémů s konfigurací systémů a vývoj nástrojů pro hrubou sílu hesel a automatizaci sociálních sítí. Zvláště znepokojivým zjištěním bylo, že tito aktéři využívali nástroje OpenAI také k tvorbě interních dokumentů, včetně hodnotících zpráv popisujících jejich činnost.
Třetí příklad odhalil operaci s původem v Číně, která generovala polarizující obsah na sociálních sítích podporující obě strany rozdělujících témat v rámci americké politické debaty. Tento přístup zřejmě cílí na prohlubování stávajících politických rozporů, nikoliv na prosazování konkrétní ideologie. Ben Nimmo, hlavní vyšetřovatel týmu OpenAI pro zpravodajství, uvedl, že ačkoliv tyto operace ukazují „rostoucí škálu tajných operací využívajících stále širší spektrum taktik“, většinou byly narušeny v raných fázích a nedosáhly širokého publika.
Zpráva OpenAI dále zmiňuje narušení tajných vlivových operací i z dalších zemí, včetně Ruska a Íránu, a také různé podvody spojené s Kambodžou a Severní Koreou. Společnost pravidelně monitoruje a informuje o škodlivých aktivitách na své platformě v rámci svého závazku k odpovědnému rozvoji AI.
Čínské ministerstvo zahraničí na žádosti o komentář ke zjištěním OpenAI dosud nereagovalo.