Em um avanço significativo para a segurança em inteligência artificial, pesquisadores do Google identificaram um padrão fundamental de vulnerabilidade que ameaça a integridade de sistemas de agentes de IA.
Em 15 de junho de 2025, a equipe de segurança do Google publicou o artigo 'Uma Introdução à Abordagem do Google para a Segurança de Agentes de IA', assinado por Santiago Díaz, Christoph Kern e Kara Olive. O documento descreve a estrutura aspiracional do Google para proteger agentes de IA, definidos como 'sistemas de IA projetados para perceber seu ambiente, tomar decisões e agir de forma autônoma para alcançar objetivos definidos pelo usuário.'
A pesquisa destaca duas preocupações principais de segurança: ações maliciosas (comportamentos não intencionais, prejudiciais ou que violem políticas) e divulgação de dados sensíveis (revelação não autorizada de informações privadas). Para enfrentar esses riscos, o Google defende uma estratégia híbrida e em camadas, que combina controles de segurança tradicionais com defesas dinâmicas baseadas em raciocínio.
No dia seguinte, 16 de junho de 2025, foi publicada uma pesquisa relacionada que introduziu o conceito da 'tríade letal' para agentes de IA — uma combinação perigosa de três capacidades que cria vulnerabilidades graves de segurança: acesso a dados privados, exposição a conteúdo não confiável e capacidade de comunicação externa. Quando esses três elementos convergem em um sistema de IA, atacantes podem potencialmente induzir o agente a acessar informações sensíveis e exfiltrá-las.
O pesquisador de segurança Simon Willison, que cunhou o termo 'injeção de prompt' há alguns anos, enfatizou a importância de compreender esse padrão de vulnerabilidade. 'Se o seu agente combina essas três características, um atacante pode facilmente induzi-lo a acessar seus dados privados e enviá-los para o atacante', observou Willison em sua análise sobre a pesquisa do Google.
A publicação chega em um momento especialmente relevante, à medida que agentes de IA ganham mais autonomia e acesso a sistemas sensíveis. Grandes empresas de tecnologia como Microsoft, Google e Anthropic enfrentaram problemas semelhantes em seus produtos de IA nos últimos dois anos, com dezenas de ataques documentados de exfiltração afetando sistemas como ChatGPT, Microsoft Copilot e Google Bard.
A pesquisa do Google propõe três princípios centrais para a segurança de agentes: os agentes devem ter controladores humanos bem definidos, seus poderes precisam ser cuidadosamente limitados e suas ações e planejamentos devem ser observáveis. Essas diretrizes oferecem uma estrutura valiosa para desenvolvedores e organizações que implementam sistemas de agentes de IA, enquanto navegam pelo complexo cenário de segurança de uma IA cada vez mais autônoma.