Google a mis en place d’importantes mises à niveau de sécurité pour sa famille de modèles d’IA Gemini 2.5, les positionnant comme les modèles les plus sécuritaires de l’entreprise face à l’évolution des menaces en sécurité de l’IA.
Au cœur de ces améliorations se trouve une nouvelle approche de sécurité qui augmente considérablement la protection de Gemini contre les attaques indirectes par injection de consignes lors de l’utilisation d’outils. Ces attaques se produisent lorsque des instructions malveillantes sont cachées dans les données qu’un modèle d’IA récupère, pouvant amener le modèle à exécuter des commandes nuisibles ou à divulguer des informations sensibles.
Ces améliorations en sécurité arrivent alors que Google se prépare à intégrer les capacités d’utilisation informatique du Project Mariner à l’API Gemini et à Vertex AI. Project Mariner permet aux agents d’IA de contrôler des navigateurs web et d’effectuer automatiquement des tâches spécifiques, comme naviguer sur des sites web et interagir avec des éléments en ligne. Plusieurs entreprises, dont Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company et Cartwheel, testent déjà ces fonctionnalités, avec un accès élargi aux développeurs prévu pour cet été.
La stratégie de sécurité de Google pour Gemini 2.5 repose sur plusieurs couches de défense, incluant le red teaming automatisé (ART) qui sonde continuellement les vulnérabilités. Selon les recherches de Google DeepMind, cette approche a considérablement réduit le taux de réussite des attaques adaptatives par rapport aux versions précédentes du modèle. L’entreprise a affiné Gemini à l’aide de jeux de données comprenant des scénarios d’attaque réalistes, enseignant au modèle à ignorer les instructions malveillantes intégrées tout en répondant aux demandes légitimes des utilisateurs.
Au-delà des améliorations de sécurité, les modèles Gemini 2.5 bénéficient de nouvelles fonctionnalités, dont des résumés de réflexion dans l’API Gemini et Vertex AI, qui organisent le raisonnement du modèle dans un format structuré pour une meilleure transparence et un débogage facilité. Les modèles prennent également en charge la sortie audio native pour des expériences conversationnelles plus naturelles.
Le modèle Gemini 2.5 Flash est maintenant accessible à tous dans l’application Gemini, avec une disponibilité générale prévue début juin dans Google AI Studio pour les développeurs et dans Vertex AI pour les entreprises. Gemini 2.5 Pro suivra peu après, apportant ses fonctionnalités de sécurité améliorées à un public plus large.