Dans une initiative sans précédent pour contrer l’utilisation croissante de l’intelligence artificielle à des fins malveillantes, le Royaume-Uni devient le premier pays à instaurer des sanctions pénales spécifiques pour le matériel d’abus sexuel d’enfants généré par l’IA (MASE-IA).
La législation, qui fait partie du projet de loi sur la criminalité et le maintien de l’ordre présenté au Parlement le 25 février 2025, répond à la hausse alarmante des contenus abusifs produits par l’IA. Selon la Internet Watch Foundation, les signalements de MASE-IA ont presque quintuplé en 2024, avec plus de 3 500 nouvelles images d’abus sexuel d’enfants générées par l’IA repérées sur le dark web à la mi-2024.
La ministre de l’Intérieur, Yvette Cooper, qui a mené cette initiative, a souligné l’urgence de ces nouvelles mesures : « Le matériel d’abus sexuel d’enfants en ligne est en croissance, tout comme le leurre d’enfants et d’adolescents sur Internet. Et ce qui se passe maintenant, c’est que l’IA amplifie ce phénomène à une vitesse fulgurante. »
La législation criminalise spécifiquement trois aspects clés : la possession, la création ou la distribution de modèles d’IA conçus pour générer du matériel d’abus sexuel d’enfants ; la possession de « manuels pédophiles » alimentés par l’IA qui enseignent comment utiliser l’IA pour abuser sexuellement des enfants ; et l’exploitation de sites web destinés au partage de tels contenus, ce qui pourrait entraîner jusqu’à 10 ans d’emprisonnement.
Les nouvelles lois visent une tendance préoccupante où des agresseurs utilisent l’IA pour « dénuder » des images réelles d’enfants ou pour superposer le visage d’enfants sur des images d’abus existantes. Ces images générées par l’IA servent parfois à faire chanter les victimes pour les pousser à d’autres formes d’exploitation, notamment la diffusion en direct avec les agresseurs.
Bien que les lois britanniques existantes interdisent déjà certains aspects des images d’abus sexuel d’enfants, notamment la Protection of Children Act 1978 et la Coroners and Justice Act 2009, la nouvelle législation vient combler des lacunes importantes liées spécifiquement à la technologie de l’IA. Le gouvernement a précisé que la loi vise l’utilisation criminelle et non le développement légitime de l’IA, avec des garanties pour protéger l’innovation tout en prévenant les préjudices.
Les défenseurs de la protection de l’enfance ont salué cette avancée, la responsable des politiques pour la sécurité des enfants en ligne à la NSPCC, Rani Govender, déclarant : « Il est encourageant de voir le gouvernement agir pour s’attaquer aux criminels qui créent des images d’abus sexuel d’enfants générées par l’IA. » Toutefois, des experts soulignent que la mise en œuvre efficace nécessitera une coopération internationale, puisque les abus générés par l’IA dépassent les frontières nationales.