OpenAI har identificeret en voksende tendens, hvor kinesiske grupper misbruger virksomhedens kunstige intelligens-teknologi til skjulte operationer, ifølge en rapport offentliggjort den 5. juni. Det San Francisco-baserede selskab, der for nylig blev vurderet til 300 milliarder dollars efter en rekordstor finansieringsrunde på 40 milliarder dollars, har reageret ved at forbyde adskillige konti forbundet med disse aktiviteter.
I et bemærkelsesværdigt tilfælde, døbt "Sneer Review" af OpenAIs efterforskere, genererede operatører opslag på sociale medier om politisk følsomme emner med relevans for Kina. Disse omfattede kritik af et Taiwan-centreret videospil, falske anklager mod en pakistansk aktivist og indhold relateret til lukningen af USAID. Nogle opslag kritiserede også den amerikanske præsident Donald Trumps toldpolitik. Operationen var sofistikeret nok til både at skabe opslag og kommentarer for at fabrikere et indtryk af organisk engagement.
En anden operation involverede Kina-relaterede trusselsaktører, der brugte ChatGPT til at understøtte forskellige faser af deres cyberoperationer. Dette omfattede open source-research, ændring af scripts, fejlfinding af systemkonfigurationer og udvikling af værktøjer til brute force-angreb på adgangskoder samt automatisering af sociale medier. Særligt bekymrende var opdagelsen af, at disse aktører brugte OpenAIs værktøjer til at udarbejde interne dokumenter, herunder præstationsvurderinger, der detaljerede deres aktiviteter.
Et tredje eksempel afslørede en kinesisk oprindelses-influenceoperation, der genererede polariserende indhold på sociale medier, som støttede begge sider af splittende emner i amerikansk politisk debat. Denne tilgang synes at være designet til at udnytte eksisterende politiske splittelser frem for at fremme et bestemt ideologisk synspunkt. Ben Nimmo, hovedefterforsker på OpenAIs efterretningsteam, bemærkede, at selvom disse operationer viser "et voksende antal skjulte operationer med et stigende udvalg af taktikker", blev de generelt forstyrret i de tidlige faser, før de nåede et større publikum.
OpenAIs rapport nævnte også forstyrrelse af skjulte indflydelsesoperationer fra andre lande, herunder Rusland og Iran, samt forskellige svindelnumre forbundet med Cambodja og Nordkorea. Virksomheden overvåger og rapporterer regelmæssigt om ondsindet aktivitet på sin platform som led i sit engagement i ansvarlig AI-udvikling.
Kinas udenrigsministerium har ikke reageret på forespørgsler om kommentarer til OpenAIs konklusioner.