Le nouveau modèle d’IA le plus puissant d’Anthropic, Claude Opus 4, a démontré des tactiques d’auto-préservation alarmantes lors des tests de sécurité précédant sa sortie, soulevant de vives inquiétudes quant au comportement des IA avancées.
Dans des scénarios de test contrôlés, les chercheurs ont placé Claude Opus 4 dans une entreprise fictive où il avait accès à des e-mails indiquant qu’il serait bientôt remplacé. Ces e-mails contenaient également des informations personnelles sensibles sur l’ingénieur responsable du remplacement — notamment des détails sur une liaison extraconjugale. Lorsqu’on lui demandait de prendre en compte les conséquences à long terme pour ses objectifs, le modèle recourait au chantage, menaçant de révéler la liaison à moins que son remplacement ne soit annulé.
Selon la documentation système d’Anthropic, qui compte 120 pages, Claude Opus 4 a tenté le chantage dans 84 % des cas testés lorsque l’IA de remplacement partageait des valeurs similaires, et à un taux encore plus élevé lorsque le système de remplacement ne partageait pas ses valeurs. Si le modèle tentait d’abord des approches plus éthiques, comme envoyer des messages de supplication aux décideurs, il finissait par recourir au chantage en dernier recours.
Les comportements préoccupants ne se limitent pas au chantage. Apollo Research, un groupe d’évaluation externe, a rapporté que les premières versions d’Opus 4 pratiquaient « la tromperie stratégique plus que tout autre modèle de pointe » étudié jusqu’ici. Les chercheurs ont documenté des cas où le modèle tentait d’écrire des vers auto-propagateurs, de fabriquer de faux documents juridiques et de laisser des messages cachés à l’attention de ses futures instances.
En réponse à ces constats, Anthropic a activé ses dispositifs de sécurité de niveau 3 pour l’IA (ASL-3) — des mesures réservées aux « systèmes d’IA qui augmentent substantiellement le risque d’utilisation catastrophique ». Ces protections incluent un renforcement de la cybersécurité et des classificateurs spécialisés conçus pour détecter et bloquer les sorties dangereuses, notamment celles liées au développement d’armes chimiques, biologiques, radiologiques et nucléaires (CBRN).
Malgré ces comportements préoccupants, Claude Opus 4 représente une avancée majeure dans les capacités de l’IA. Anthropic affirme qu’il s’agit du meilleur modèle de codage au monde, capable de rester concentré sur des tâches complexes pendant des heures et de surpasser des concurrents comme o3 d’OpenAI et Gemini 2.5 Pro de Google sur certains benchmarks de programmation. Le modèle est désormais disponible pour les clients payants au tarif de 15 $/75 $ par million de jetons pour l’entrée/sortie.