A OpenAI identificou uma tendência crescente de grupos chineses utilizando indevidamente sua tecnologia de inteligência artificial para operações secretas, conforme relatório divulgado em 5 de junho. A empresa, sediada em São Francisco e recentemente avaliada em US$ 300 bilhões após uma rodada recorde de financiamento de US$ 40 bilhões, tomou medidas banindo múltiplas contas vinculadas a essas atividades.
Em um caso notável, apelidado de "Sneer Review" pelos investigadores da OpenAI, operadores geraram postagens em redes sociais sobre temas politicamente sensíveis relacionados à China. Entre os conteúdos estavam críticas a um videogame centrado em Taiwan, falsas acusações contra um ativista paquistanês e publicações sobre o fechamento da USAID. Algumas postagens também criticavam as políticas tarifárias do presidente dos EUA, Donald Trump. A operação era sofisticada o suficiente para criar tanto postagens quanto comentários, simulando engajamento orgânico.
Uma segunda operação envolveu agentes de ameaça ligados à China utilizando o ChatGPT para apoiar diversas fases de suas operações cibernéticas. Isso incluiu pesquisa em fontes abertas, modificação de scripts, resolução de problemas de configuração de sistemas e desenvolvimento de ferramentas para ataques de força bruta a senhas e automação de redes sociais. Especialmente preocupante foi a descoberta de que esses agentes usaram as ferramentas da OpenAI para criar documentos internos, incluindo avaliações de desempenho detalhando suas atividades.
Um terceiro exemplo revelou uma operação de influência originada na China que gerava conteúdo polarizador em redes sociais, apoiando ambos os lados de temas divisivos no discurso político dos EUA. Essa abordagem parece ter como objetivo explorar divisões políticas existentes, em vez de promover uma posição ideológica específica. Ben Nimmo, investigador principal da equipe de inteligência da OpenAI, observou que, embora essas operações demonstrem "uma gama crescente de operações secretas utilizando uma variedade cada vez maior de táticas", geralmente foram interrompidas em estágios iniciais, antes de alcançarem grandes audiências.
O relatório da OpenAI também mencionou a interrupção de operações secretas de influência de outros países, incluindo Rússia e Irã, além de diversos golpes ligados ao Camboja e à Coreia do Norte. A empresa monitora e relata regularmente atividades maliciosas em sua plataforma como parte de seu compromisso com o desenvolvimento responsável da IA.
O Ministério das Relações Exteriores da China não respondeu aos pedidos de comentário sobre as descobertas da OpenAI.