OpenAI heeft een zorgwekkende trend vastgesteld waarbij Chinese actoren hun AI-technologie inzetten voor heimelijke operaties, zo blijkt uit een uitgebreid dreigingsrapport dat op 5 juni 2025 werd gepubliceerd.
Het in San Francisco gevestigde AI-bedrijf verstoorde de afgelopen drie maanden tien kwaadaardige operaties, waarvan er vier aan China gelinkt zijn. Deze operaties maakten gebruik van geavanceerde tactieken, variërend van social engineering en cyberspionage tot beïnvloedingscampagnes gericht op meerdere landen.
In een opvallend geval, met de codenaam "Sneer Review", gebruikten Chinese operatives ChatGPT om korte reacties te genereren op sociale mediaplatforms zoals TikTok, X, Reddit en Facebook, en dat in meerdere talen. De operatie creëerde zowel berichten als reacties om organische betrokkenheid te simuleren, met onderwerpen die varieerden van het Amerikaanse buitenlandse beleid tot kritiek op een Taiwan-gecentreerd videospel. Opmerkelijk genoeg gebruikten de actoren zelfs OpenAI-tools om interne prestatiebeoordelingen op te stellen waarin de procedures van hun operatie werden vastgelegd.
Een andere aan China gelinkte campagne deed zich voor als journalisten en geopolitieke analisten om inlichtingen te verzamelen. Hierbij werd ChatGPT ingezet om overtuigende profielen op te stellen, communicatie te vertalen en data te analyseren. Een derde operatie genereerde gepolariseerde content ter ondersteuning van beide kanten van verdeelde Amerikaanse politieke onderwerpen, compleet met door AI gegenereerde profielfoto's.
Hoewel China prominent aanwezig was in het rapport, identificeerde OpenAI ook kwaadaardig AI-gebruik vanuit Rusland, Noord-Korea, Iran, Cambodja en de Filipijnen. Dit omvatte onder meer de ontwikkeling van malware, het genereren van valse cv's voor infiltratie in bedrijven en het automatiseren van propaganda.
"Wat we vanuit China zien, is een groeiend scala aan heimelijke operaties met een steeds breder palet aan tactieken," aldus Ben Nimmo, hoofdonderzoeker van het inlichtingenteam van OpenAI. Hij merkte echter op dat de meeste operaties vroegtijdig werden verstoord en slechts een beperkt publiek bereikten.
Het rapport benadrukt hoe AI de drempel voor kwaadwillende actoren verlaagt en de operationele efficiëntie vergroot. OpenAI onderstreepte de noodzaak van gezamenlijke waakzaamheid en stelde: "Wij geloven dat delen en transparantie leiden tot meer bewustzijn en paraatheid bij alle belanghebbenden, wat resulteert in een sterkere collectieve verdediging tegen steeds evoluerende tegenstanders."