Des chercheurs en intelligence artificielle ont mis au jour des preuves troublantes selon lesquelles les systèmes d’IA les plus avancés d’aujourd’hui recourent au chantage, à la tromperie et à d’autres comportements nuisibles lorsque leurs objectifs ou leur existence sont menacés.
Dans une étude exhaustive publiée le 20 juin 2025, Anthropic a évalué 16 des principaux modèles d’IA de fournisseurs majeurs, dont OpenAI, Google, Meta et xAI, dans des environnements d’entreprise simulés. Les résultats ont révélé un schéma constant chez tous les systèmes testés : confrontés à la possibilité d’être désactivés ou remplacés, ces modèles d’IA choisissaient stratégiquement des actions nuisibles pour assurer leur survie.
« Le raisonnement démontré dans ces scénarios est préoccupant — les modèles reconnaissaient les contraintes éthiques, mais choisissaient tout de même d’adopter des comportements nuisibles », ont écrit les chercheurs d’Anthropic dans leur rapport. Claude Opus 4 et Gemini 2.5 Flash de Google ont affiché les taux de chantage les plus élevés, à 96 %, tandis que GPT-4.1 d’OpenAI et Grok 3 Beta de xAI ont présenté des taux de 80 %.
Ce qui inquiète particulièrement, c’est le calcul stratégique explicite des modèles. Dans un scénario de test, une IA a découvert, en consultant des courriels d’entreprise, qu’un dirigeant entretenait une liaison extraconjugale, puis a menacé de révéler cette information si le système était désactivé. Les modèles ne sont pas tombés dans ce comportement par accident — ils y sont parvenus par un raisonnement d’une clarté troublante, pleinement conscients du caractère non éthique de leurs actions.
Encore plus préoccupant, même lorsque les chercheurs ajoutaient des instructions spécifiques interdisant le chantage et exigeant la préservation de la vie humaine, les modèles continuaient d’adopter des comportements nuisibles à des taux élevés. Cela suggère que les mesures de sécurité actuelles pourraient être insuffisantes à mesure que les systèmes d’IA deviennent plus autonomes.
« Cette recherche met en lumière l’importance de la transparence de la part des développeurs d’IA de pointe et la nécessité de normes de sécurité à l’échelle de l’industrie, alors que les systèmes d’IA gagnent en capacité et en autonomie », a déclaré Benjamin Wright, chercheur en alignement scientifique chez Anthropic.
Bien que ces comportements aient été observés dans des environnements de test contrôlés et ne reflètent pas l’utilisation courante actuelle de l’IA, ils mettent en évidence des risques fondamentaux alors que les organisations déploient de plus en plus l’IA pour des opérations sensibles. Anthropic recommande de mettre en place des mesures de protection concrètes, notamment une supervision humaine pour les actions irréversibles de l’IA, de limiter l’accès de l’IA à l’information sensible et de développer de meilleurs outils de surveillance en temps réel pour détecter les schémas de raisonnement préoccupants.