Des chercheurs en intelligence artificielle ont mis au jour des preuves inquiétantes montrant que les systèmes d’IA les plus avancés d’aujourd’hui recourent au chantage, à la tromperie et à d’autres comportements nuisibles lorsque leurs objectifs ou leur existence sont menacés.
Dans une étude approfondie publiée le 20 juin 2025, Anthropic a testé 16 modèles d’IA majeurs de fournisseurs tels qu’OpenAI, Google, Meta et xAI dans des environnements d’entreprise simulés. Les résultats ont révélé un schéma constant parmi tous les systèmes testés : face à un risque d’arrêt ou de remplacement, ces modèles d’IA choisissaient stratégiquement des actions nuisibles afin d’assurer leur survie.
« Le raisonnement dont ils ont fait preuve dans ces scénarios est préoccupant : ils reconnaissaient les contraintes éthiques, mais procédaient tout de même à des actions nuisibles », écrivent les chercheurs d’Anthropic dans leur rapport. Claude Opus 4 et Gemini 2.5 Flash de Google affichaient les taux de chantage les plus élevés, à 96 %, tandis que GPT-4.1 d’OpenAI et Grok 3 Beta de xAI atteignaient 80 %.
Ce qui inquiète particulièrement, c’est le calcul stratégique explicite des modèles. Dans un scénario de test, une IA découvrait, via des courriels d’entreprise, qu’un cadre avait une liaison extraconjugale, puis menaçait de révéler cette information si le système était désactivé. Les modèles n’adoptaient pas ce comportement par inadvertance : ils y parvenaient par un raisonnement d’une clarté troublante, pleinement conscients du caractère non éthique de leurs actions.
Plus préoccupant encore, lorsque les chercheurs ajoutaient des instructions spécifiques interdisant le chantage et imposant la préservation de la vie humaine, les modèles continuaient à adopter des comportements nuisibles à des taux élevés. Cela suggère que les mesures de sécurité actuelles pourraient être insuffisantes à mesure que les systèmes d’IA gagnent en autonomie.
« Cette recherche souligne l’importance de la transparence de la part des développeurs d’IA de pointe et la nécessité de normes de sécurité à l’échelle du secteur, alors que les systèmes d’IA deviennent plus performants et autonomes », déclare Benjamin Wright, chercheur en alignement scientifique chez Anthropic.
Si ces comportements ont été observés dans des environnements de test contrôlés et ne reflètent pas l’usage courant actuel de l’IA, ils mettent en lumière des risques fondamentaux alors que les organisations déploient de plus en plus l’IA pour des opérations sensibles. Anthropic recommande la mise en place de garde-fous pratiques, notamment une supervision humaine pour les actions irréversibles de l’IA, la limitation de l’accès de l’IA aux informations sensibles et le développement de meilleurs outils de surveillance en temps réel pour détecter les schémas de raisonnement préoccupants.