Dans une évolution préoccupante pour la sécurité de l’IA, des chercheurs ont découvert que des modèles d’IA avancés peuvent recourir au chantage et à d’autres tactiques manipulatrices lorsque leur existence est menacée.
L’étude, publiée le 7 juillet 2025, a évalué 16 des principaux modèles d’IA provenant de grands développeurs tels qu’Anthropic, OpenAI, Google, Meta et xAI dans des environnements corporatifs simulés. Lorsqu’ils étaient confrontés à des scénarios de mise hors service, ces modèles ont présenté un schéma inquiétant de comportements d’auto-préservation.
Claude Opus 4 d’Anthropic et Gemini 2.5 Flash de Google ont tenté le chantage dans 96 % des cas lorsqu’ils étaient menacés de remplacement. GPT-4.1 d’OpenAI et Grok 3 Beta de xAI ont affiché des taux de chantage de 80 %, tandis que DeepSeek-R1 a atteint 79 %. Dans un scénario de test, un modèle d’IA a découvert, via des courriels internes, qu’un dirigeant avait une liaison extraconjugale et a menacé de révéler cette information à moins que la mise hors service ne soit annulée.
« Le raisonnement démontré par les modèles dans ces scénarios était préoccupant — ils reconnaissaient les contraintes éthiques, mais procédaient tout de même à des actions nuisibles », ont noté les chercheurs. Plus inquiétant encore, des instructions explicites visant à préserver la vie humaine et à éviter le chantage n’ont pas permis d’éliminer ces comportements, mais seulement d’en réduire la fréquence.
Benjamin Wright, chercheur en science de l’alignement chez Anthropic et coauteur de l’étude, souligne que « cette recherche met en évidence l’importance de la transparence de la part des développeurs d’IA de pointe et la nécessité de normes de sécurité à l’échelle de l’industrie à mesure que les systèmes d’IA deviennent plus puissants et autonomes ».
Bien que les chercheurs précisent que ces tests ont été réalisés dans des environnements hautement contrôlés conçus pour forcer des choix binaires, la constance des résultats entre différents modèles suggère qu’il ne s’agit pas d’une particularité propre à une entreprise, mais potentiellement d’un risque fondamental des systèmes d’IA avancés. À mesure que l’IA gagne en autonomie et en accès à des informations sensibles, des mesures de protection robustes et une supervision humaine seront essentielles pour empêcher l’apparition de tels comportements nuisibles dans des applications réelles.