Le 22 mai 2025, la CISA et plusieurs partenaires en matière de sécurité ont publié conjointement une fiche d’information intitulée « Sécurité des données liées à l’IA : Bonnes pratiques pour sécuriser les données utilisées pour entraîner et exploiter les systèmes d’IA », marquant une étape majeure dans la prise en compte des vulnérabilités croissantes de la sécurité de l’IA.
Ce guide, rédigé en collaboration avec le Centre de sécurité de l’intelligence artificielle (AISC) de la National Security Agency, le Federal Bureau of Investigation (FBI) et des partenaires internationaux tels que l’ACSC australienne, le NCSC-NZ néo-zélandais et le NCSC britannique, souligne que la sécurité des données est fondamentale pour garantir la fiabilité des systèmes d’IA.
La fiche d’information détaille les principaux risques pouvant découler de problèmes de sécurité et d’intégrité des données à chaque étape du cycle de vie de l’IA, de la phase de développement et de test jusqu’au déploiement et à l’exploitation. Elle propose des recommandations précises pour protéger les données alimentant les systèmes d’IA, notamment la mise en œuvre de mesures robustes telles que le chiffrement, les signatures numériques et le suivi de la provenance des données.
Le guide s’attarde particulièrement sur trois grands domaines de risques liés à la sécurité des données dans les systèmes d’IA : les vulnérabilités de la chaîne d’approvisionnement des données, les données modifiées de manière malveillante (« données empoisonnées ») et la dérive des données. Pour chacun de ces risques, le document fournit des stratégies d’atténuation détaillées et des bonnes pratiques.
« À mesure que les systèmes d’IA s’intègrent aux opérations essentielles, les organisations doivent rester vigilantes et prendre des mesures délibérées pour sécuriser les données qui les alimentent », indique l’alerte de la CISA. L’agence recommande aux organisations d’adopter des mesures de protection des données robustes, de gérer les risques de façon proactive et de renforcer leurs capacités de surveillance, de détection des menaces et de défense réseau.
Cette orientation s’adresse tout particulièrement aux industriels de la défense, aux propriétaires de systèmes de sécurité nationale, aux agences fédérales et aux opérateurs d’infrastructures critiques qui déploient de plus en plus de systèmes d’IA dans des environnements sensibles. En appliquant les pratiques de sécurité recommandées, les organisations pourront mieux protéger leurs systèmes d’IA contre les menaces potentielles tout en préservant l’exactitude et l’intégrité des résultats générés par l’IA.