L’industrie de l’intelligence artificielle connaît une division marquée parmi ses chefs de file quant à la manière d’aborder les risques existentiels potentiels liés à la montée en puissance des systèmes d’IA.
Anthropic, évaluée à 61 milliards de dollars et soutenue par Amazon, s’est positionnée comme l’acteur le plus prudent, avertissant régulièrement que les capacités incontrôlées de l’IA pourraient dépasser les mesures de sécurité. Le PDG Dario Amodei s’est montré particulièrement vocal sur la nécessité de planifier les pires scénarios, déclarant récemment que les modèles d’IA « deviendront bientôt meilleurs que nous dans presque tous les domaines ». Sa politique d’expansion responsable inclut des mesures de sécurité physique accrues, telles que des inspections de bureaux à la recherche d’appareils cachés, ainsi qu’un conseil exécutif sur les risques chargé d’évaluer les modèles puissants avant leur déploiement.
OpenAI, récemment évaluée à 300 milliards de dollars, a choisi une approche différente en mettant l’accent sur la transparence. En mai 2025, l’entreprise a lancé son Centre d’évaluation de la sécurité, une plateforme web qui affiche les résultats de ses modèles aux divers tests de sécurité portant sur la génération de contenus nuisibles, les contournements de sécurité (« jailbreaks ») et les hallucinations. OpenAI s’est engagée à mettre à jour ces indicateurs régulièrement lors de sorties majeures de nouveaux modèles. Toutefois, les récentes modifications apportées à son cadre de préparation ont suscité des inquiétudes, l’entreprise ayant indiqué qu’elle pourrait « ajuster » ses exigences de sécurité si des concurrents lançaient des systèmes à haut risque sans protections similaires.
Google DeepMind a adopté ce qui semble être l’approche la plus méthodique, publiant en avril 2025 un document exhaustif de 145 pages sur la sécurité de l’AGI (intelligence artificielle générale). Son cadre de sécurité des frontières classe les risques de l’IA en quatre catégories : usage abusif, mésalignement, accidents et risques structurels. La stratégie de DeepMind mise sur des progrès incrémentaux, appuyés par des protocoles rigoureux de formation, de surveillance et de sécurité. L’entreprise a mis sur pied un Conseil de sécurité de l’AGI dirigé par le cofondateur Shane Legg et collabore avec des organismes de recherche à but non lucratif spécialisés en sécurité de l’IA, tels qu’Apollo et Redwood Research.
Ces stratégies divergentes reflètent la tension fondamentale qui règne dans l’industrie de l’IA entre le développement rapide des capacités et la mise en place de mesures de protection robustes. À mesure que les systèmes d’IA approchent des performances humaines dans divers domaines, le besoin d’un consortium de sécurité intersectoriel, appuyé par des repères transparents, devient de plus en plus évident.
Selon les experts, sans normes de sécurité coordonnées, la pression concurrentielle pour déployer rapidement des modèles avancés pourrait inciter les entreprises à faire des compromis sur les mesures de sécurité. Comme l’a souligné Jack Clark d’Anthropic, l’industrie a besoin de mécanismes plus solides « pour identifier et atténuer les risques, et faire progresser le développement responsable de l’IA » avant que ces systèmes puissants ne soient largement déployés.