OpenAI har identifierat en växande trend där kinesiska grupper missbrukar företagets artificiella intelligens för hemliga operationer, enligt en rapport som släpptes den 5 juni. Det San Francisco-baserade företaget, som nyligen värderades till 300 miljarder dollar efter en rekordstor finansieringsrunda på 40 miljarder dollar, har agerat genom att stänga flera konton kopplade till dessa aktiviteter.
I ett särskilt fall, kallat "Sneer Review" av OpenAIs utredare, skapade operatörer inlägg på sociala medier om politiskt känsliga ämnen med anknytning till Kina. Dessa inkluderade kritik mot ett Taiwan-fokuserat datorspel, falska anklagelser mot en pakistansk aktivist och innehåll relaterat till nedläggningen av USAID. Vissa inlägg riktade även kritik mot USA:s president Donald Trumps tullpolitik. Operationen var tillräckligt sofistikerad för att skapa både inlägg och kommentarer för att ge sken av organisk interaktion.
En andra operation involverade Kina-kopplade hotaktörer som använde ChatGPT för att stödja olika faser av sina cyberoperationer. Detta inkluderade öppen källkods-forskning, modifiering av skript, felsökning av systemkonfigurationer samt utveckling av verktyg för lösenordsattacker och automatisering av sociala medier. Särskilt oroande var upptäckten att dessa aktörer använde OpenAIs verktyg för att skapa interna dokument, inklusive utvärderingar av deras egna aktiviteter.
Ett tredje exempel avslöjade en påverkanskampanj med ursprung i Kina som genererade polariserande innehåll på sociala medier till stöd för båda sidor i splittrande frågor inom amerikansk politik. Detta tillvägagångssätt verkar utformat för att utnyttja redan existerande politiska motsättningar snarare än att främja en specifik ideologisk ståndpunkt. Ben Nimmo, huvudutredare på OpenAIs underrättelseteam, noterade att även om dessa operationer visar "ett växande antal hemliga operationer med ett växande antal taktiker", så avbröts de i regel i ett tidigt skede innan de nådde en större publik.
OpenAIs rapport nämnde också att man slagit ut hemliga påverkanskampanjer från andra länder, inklusive Ryssland och Iran, samt olika bedrägerier kopplade till Kambodja och Nordkorea. Företaget övervakar och rapporterar regelbundet om skadlig aktivitet på sin plattform som en del av sitt åtagande för ansvarsfull AI-utveckling.
Kinas utrikesdepartement har inte svarat på förfrågningar om kommentarer kring OpenAIs slutsatser.