O Google implementou importantes atualizações de segurança na família de modelos de IA Gemini 2.5, estabelecendo-os como os modelos mais seguros da empresa em resposta às ameaças crescentes à segurança em inteligência artificial.
No centro dessas melhorias está uma nova abordagem de segurança que aumenta significativamente a proteção do Gemini contra ataques de injeção indireta de prompts durante o uso de ferramentas. Esses ataques ocorrem quando instruções maliciosas são inseridas em dados que um modelo de IA recupera, podendo levar o modelo a executar comandos prejudiciais ou vazar informações sensíveis.
As melhorias de segurança chegam enquanto o Google se prepara para integrar as capacidades de uso de computador do Project Mariner à API do Gemini e ao Vertex AI. O Project Mariner permite que agentes de IA controlem navegadores web e realizem tarefas específicas automaticamente, incluindo navegação em sites e interação com elementos da web. Diversas empresas, como Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company e Cartwheel, já estão testando essas funcionalidades, com uma liberação mais ampla para desenvolvedores prevista para este verão.
A estratégia de segurança do Google para o Gemini 2.5 envolve múltiplas camadas de defesa, incluindo o red teaming automatizado (ART), que continuamente busca vulnerabilidades. Segundo pesquisas do Google DeepMind, essa abordagem reduziu significativamente a taxa de sucesso de ataques adaptativos em comparação com versões anteriores do modelo. A empresa ajustou o Gemini com conjuntos de dados contendo cenários realistas de ataque, ensinando o modelo a ignorar instruções maliciosas embutidas enquanto segue solicitações legítimas dos usuários.
Além dos aprimoramentos de segurança, os modelos Gemini 2.5 estão recebendo recursos adicionais, como resumos de raciocínio na API do Gemini e no Vertex AI, que organizam o processo de pensamento do modelo em um formato estruturado para maior transparência e facilidade de depuração. Os modelos também suportam saída de áudio nativa para experiências conversacionais mais naturais.
O modelo Gemini 2.5 Flash já está disponível para todos no aplicativo Gemini, com disponibilidade geral no Google AI Studio para desenvolvedores e no Vertex AI para empresas prevista para o início de junho. O Gemini 2.5 Pro será lançado em breve, trazendo seus recursos de segurança aprimorados para um público ainda maior.