A OpenAI identificou uma tendência crescente de grupos chineses a utilizarem indevidamente a sua tecnologia de inteligência artificial para operações clandestinas, segundo um relatório divulgado a 5 de junho. A empresa sediada em São Francisco, recentemente avaliada em 300 mil milhões de dólares após uma ronda de financiamento recorde de 40 mil milhões, tomou medidas ao banir várias contas associadas a estas atividades.
Num dos casos mais notórios, apelidado de "Sneer Review" pelos investigadores da OpenAI, os operadores geraram publicações nas redes sociais sobre temas politicamente sensíveis para a China. Entre estes, incluíam-se críticas a um videojogo centrado em Taiwan, falsas acusações contra uma ativista paquistanesa e conteúdos relacionados com o encerramento da USAID. Algumas publicações criticavam ainda as políticas tarifárias do Presidente dos EUA, Donald Trump. A operação era suficientemente sofisticada para criar tanto publicações como comentários, de modo a simular envolvimento orgânico.
Uma segunda operação envolveu agentes de ameaça ligados à China a utilizarem o ChatGPT para apoiar várias fases das suas operações cibernéticas. Isto incluiu investigação de fontes abertas, modificação de scripts, resolução de problemas de configuração de sistemas e desenvolvimento de ferramentas para ataques de força bruta a palavras-passe e automação de redes sociais. Particularmente preocupante foi a descoberta de que estes agentes usaram as ferramentas da OpenAI para criar documentos internos, incluindo avaliações de desempenho detalhando as suas atividades.
Um terceiro exemplo revelou uma operação de influência originária da China que gerava conteúdos polarizadores nas redes sociais, apoiando ambos os lados de temas divisivos no discurso político dos EUA. Esta abordagem parece ter como objetivo explorar divisões políticas existentes, em vez de promover uma posição ideológica específica. Ben Nimmo, investigador principal da equipa de inteligência da OpenAI, salientou que, embora estas operações demonstrem "uma gama crescente de operações clandestinas com uma variedade crescente de táticas", foram geralmente interrompidas numa fase inicial, antes de atingirem grandes audiências.
O relatório da OpenAI referiu ainda a interrupção de operações de influência clandestinas de outros países, incluindo Rússia e Irão, bem como vários esquemas fraudulentos ligados ao Camboja e à Coreia do Norte. A empresa monitoriza e reporta regularmente atividades maliciosas na sua plataforma, como parte do seu compromisso com o desenvolvimento responsável da IA.
O Ministério dos Negócios Estrangeiros da China não respondeu aos pedidos de comentário sobre as conclusões da OpenAI.