Dans une avancée majeure pour la sécurité de l’IA, des chercheurs de Google ont identifié un schéma fondamental de vulnérabilité qui menace l’intégrité des systèmes d’agents IA.
Le 15 juin 2025, l’équipe de sécurité de Google a publié « Introduction à l’approche de Google pour la sécurité des agents IA », rédigé par Santiago Díaz, Christoph Kern et Kara Olive. L’article expose le cadre ambitieux de Google pour la sécurisation des agents IA, définis comme « des systèmes d’IA conçus pour percevoir leur environnement, prendre des décisions et agir de manière autonome afin d’atteindre des objectifs définis par l’utilisateur ».
La recherche met en avant deux préoccupations majeures en matière de sécurité : les actions malveillantes (comportements involontaires, nuisibles ou contraires à la politique) et la divulgation de données sensibles (révélation non autorisée d’informations privées). Pour répondre à ces risques, Google préconise une stratégie hybride de défense en profondeur, combinant des contrôles de sécurité traditionnels à des défenses dynamiques fondées sur le raisonnement.
Cette publication a été suivie, le 16 juin 2025, d’un article connexe introduisant le concept de « trifecta létale » pour les agents IA : une combinaison dangereuse de trois capacités qui engendrent de graves vulnérabilités de sécurité : accès à des données privées, exposition à des contenus non fiables et capacité de communication externe. Lorsque ces trois éléments convergent dans un système d’IA, des attaquants peuvent potentiellement tromper l’agent pour qu’il accède à des informations sensibles et les exfiltre.
Le chercheur en sécurité Simon Willison, qui a inventé le terme « injection de prompt » il y a plusieurs années, a souligné l’importance de comprendre ce schéma de vulnérabilité. « Si votre agent combine ces trois fonctionnalités, un attaquant peut facilement le piéger pour qu’il accède à vos données privées et les transmette à cet attaquant », a noté Willison dans son analyse de la recherche de Google.
Le moment de cette recherche est particulièrement pertinent alors que les agents IA gagnent en autonomie et en accès à des systèmes sensibles. Les grandes entreprises technologiques, dont Microsoft, Google et Anthropic, ont toutes rencontré des problèmes de sécurité similaires dans leurs produits d’IA au cours des deux dernières années, avec des dizaines d’attaques d’exfiltration documentées touchant des systèmes comme ChatGPT, Microsoft Copilot et Google Bard.
Les travaux de Google proposent trois principes fondamentaux pour la sécurité des agents : les agents doivent avoir des contrôleurs humains clairement identifiés, leurs pouvoirs doivent être strictement limités, et leurs actions ainsi que leur planification doivent être observables. Ces lignes directrices offrent un cadre précieux pour les développeurs et les organisations qui mettent en œuvre des systèmes d’agents IA, alors qu’ils naviguent dans le paysage complexe de la sécurité des IA de plus en plus autonomes.