OpenAI heeft een groeiende trend vastgesteld waarbij Chinese groepen haar kunstmatige intelligentie misbruiken voor geheime operaties, zo blijkt uit een rapport dat op 5 juni werd gepubliceerd. Het in San Francisco gevestigde bedrijf, dat recent werd gewaardeerd op 300 miljard dollar na een record investeringsronde van 40 miljard dollar, heeft actie ondernomen door meerdere accounts die aan deze activiteiten gelinkt zijn te verbannen.
In een opvallend geval, door OpenAI-onderzoekers 'Sneer Review' genoemd, maakten de daders socialmediaberichten aan over politiek gevoelige onderwerpen die relevant zijn voor China. Dit omvatte kritiek op een Taiwan-gecentreerde videogame, valse beschuldigingen tegen een Pakistaanse activist en berichten over de sluiting van USAID. Sommige posts uitten ook kritiek op het tariefbeleid van de Amerikaanse president Donald Trump. De operatie was geavanceerd genoeg om zowel berichten als reacties te creëren, om zo de indruk van organische betrokkenheid te wekken.
Een tweede operatie betrof met China gelieerde dreigingsactoren die ChatGPT gebruikten ter ondersteuning van verschillende fasen van hun cyberoperaties. Dit omvatte openbronnenonderzoek, het aanpassen van scripts, het oplossen van systeemconfiguratieproblemen en het ontwikkelen van tools voor brute-force aanvallen op wachtwoorden en socialmedia-automatisering. Vooral zorgwekkend was de ontdekking dat deze actoren de tools van OpenAI gebruikten om interne documenten op te stellen, waaronder prestatiebeoordelingen waarin hun activiteiten werden beschreven.
Een derde voorbeeld onthulde een beïnvloedingsoperatie van Chinese oorsprong, waarbij gepolariseerde socialmediaberichten werden gegenereerd die beide kanten van verdeelde onderwerpen binnen het Amerikaanse politieke discours ondersteunden. Deze aanpak lijkt gericht op het uitbuiten van bestaande politieke verdeeldheid, in plaats van het promoten van een specifieke ideologische positie. Ben Nimmo, hoofdonderzoeker van het intelligence-team van OpenAI, merkte op dat deze operaties "een groeiend scala aan geheime operaties met een groeiend scala aan tactieken" laten zien, maar dat ze doorgaans in een vroeg stadium werden verstoord voordat ze een groot publiek bereikten.
Het rapport van OpenAI vermeldde ook dat geheime beïnvloedingsoperaties uit andere landen, waaronder Rusland en Iran, werden verstoord, evenals diverse oplichting gelinkt aan Cambodja en Noord-Korea. Het bedrijf monitort en rapporteert regelmatig over kwaadaardige activiteiten op haar platform als onderdeel van haar inzet voor verantwoorde AI-ontwikkeling.
Het Chinese ministerie van Buitenlandse Zaken heeft niet gereageerd op verzoeken om commentaar op de bevindingen van OpenAI.