Dans une avancée majeure pour la sécurité de l’intelligence artificielle, des chercheurs de Google ont identifié un schéma fondamental de vulnérabilité qui menace l’intégrité des systèmes d’agents IA.
Le 15 juin 2025, l’équipe de sécurité de Google a publié « Introduction à l’approche de Google pour la sécurité des agents IA », rédigé par Santiago Díaz, Christoph Kern et Kara Olive. L’article présente le cadre de sécurité ambitieux de Google pour les agents IA, qu’ils définissent comme « des systèmes d’IA conçus pour percevoir leur environnement, prendre des décisions et agir de façon autonome afin d’atteindre des objectifs définis par l’utilisateur ».
La recherche met en lumière deux préoccupations principales en matière de sécurité : les actions malveillantes (comportements non intentionnels, nuisibles ou contraires aux politiques) et la divulgation de données sensibles (révélation non autorisée d’informations privées). Pour contrer ces risques, Google préconise une stratégie hybride de défense en profondeur, combinant des contrôles de sécurité traditionnels à des défenses dynamiques basées sur le raisonnement.
Un article complémentaire, publié le 16 juin 2025, a introduit le concept de la « triade létale » pour les agents IA — une combinaison dangereuse de trois capacités qui créent de graves vulnérabilités de sécurité : l’accès à des données privées, l’exposition à du contenu non fiable et la capacité de communiquer vers l’extérieur. Lorsque ces trois éléments convergent dans un système d’IA, des attaquants peuvent potentiellement manipuler l’agent pour qu’il accède à des informations sensibles et les exfiltre.
Le chercheur en sécurité Simon Willison, qui a inventé le terme « injection de requête » il y a quelques années, a souligné l’importance de comprendre ce schéma de vulnérabilité. « Si votre agent combine ces trois fonctionnalités, un attaquant peut facilement le tromper pour qu’il accède à vos données privées et les envoie à cet attaquant », a noté Willison dans son analyse de la recherche de Google.
Le moment de cette recherche est particulièrement pertinent alors que les agents IA gagnent en autonomie et en accès à des systèmes sensibles. Au cours des deux dernières années, de grandes entreprises technologiques comme Microsoft, Google et Anthropic ont toutes été confrontées à des problèmes de sécurité similaires dans leurs produits d’IA, avec des dizaines d’attaques d’exfiltration documentées touchant des systèmes comme ChatGPT, Microsoft Copilot et Google Bard.
La recherche de Google propose trois principes fondamentaux pour la sécurité des agents : les agents doivent avoir des contrôleurs humains clairement identifiés, leurs pouvoirs doivent être soigneusement limités, et leurs actions et leur planification doivent être observables. Ces lignes directrices offrent un cadre précieux pour les développeurs et les organisations qui mettent en œuvre des systèmes d’agents IA, alors qu’ils naviguent dans le paysage complexe de la sécurité des IA de plus en plus autonomes.