OpenAI a identifié une tendance croissante de groupes chinois qui détournent sa technologie d’intelligence artificielle pour des opérations clandestines, selon un rapport publié le 5 juin. L’entreprise basée à San Francisco, récemment évaluée à 300 milliards de dollars après une levée de fonds record de 40 milliards, a pris des mesures en bannissant plusieurs comptes liés à ces activités.
Dans un cas notable, surnommé « Sneer Review » par les enquêteurs d’OpenAI, des opérateurs ont généré des publications sur les réseaux sociaux portant sur des sujets politiquement sensibles pour la Chine. Cela comprenait des critiques d’un jeu vidéo centré sur Taïwan, de fausses accusations contre une militante pakistanaise, ainsi que du contenu lié à la fermeture de l’USAID. Certains messages critiquaient également les politiques tarifaires du président américain Donald Trump. L’opération était suffisamment sophistiquée pour créer à la fois des publications et des commentaires, afin de donner l’impression d’un engagement organique.
Une deuxième opération impliquait des acteurs malveillants liés à la Chine utilisant ChatGPT pour soutenir différentes phases de leurs opérations cybernétiques. Cela incluait la recherche en sources ouvertes, la modification de scripts, la résolution de problèmes de configuration de systèmes, ainsi que le développement d’outils pour le cassage de mots de passe et l’automatisation des réseaux sociaux. Fait particulièrement préoccupant, il a été découvert que ces acteurs utilisaient les outils d’OpenAI pour créer des documents internes, notamment des évaluations de performance détaillant leurs activités.
Un troisième exemple a révélé une opération d’influence d’origine chinoise générant du contenu polarisant sur les réseaux sociaux, soutenant les deux côtés de sujets controversés dans le discours politique américain. Cette approche semble viser à exploiter les divisions politiques existantes plutôt qu’à promouvoir une idéologie précise. Ben Nimmo, enquêteur principal de l’équipe de renseignement d’OpenAI, a souligné que, bien que ces opérations démontrent « une gamme croissante d’opérations clandestines utilisant une gamme croissante de tactiques », elles sont généralement interrompues à un stade précoce avant d’atteindre un large public.
Le rapport d’OpenAI mentionne également avoir perturbé des opérations d’influence clandestines provenant d’autres pays, dont la Russie et l’Iran, ainsi que diverses escroqueries liées au Cambodge et à la Corée du Nord. L’entreprise surveille et signale régulièrement les activités malveillantes sur sa plateforme dans le cadre de son engagement envers un développement responsable de l’IA.
Le ministère chinois des Affaires étrangères n’a pas répondu aux demandes de commentaires concernant les conclusions d’OpenAI.