Dans une initiative majeure pour lutter contre l’utilisation abusive croissante de l’intelligence artificielle, le Royaume-Uni devient le premier pays à introduire des sanctions pénales spécifiques pour le matériel pédopornographique généré par l’IA (CSAM).
La législation, intégrée au projet de loi sur la criminalité et le maintien de l’ordre présenté au Parlement le 25 février 2025, répond à l’augmentation alarmante des contenus abusifs générés par l’IA. Selon la Internet Watch Foundation, les signalements de CSAM générés par l’IA ont été multipliés par près de cinq en 2024, avec plus de 3 500 nouvelles images pédopornographiques créées par l’IA apparues sur le dark web à la mi-2024.
La ministre de l’Intérieur, Yvette Cooper, à l’origine de cette initiative, a souligné l’urgence de ces nouvelles mesures : « Le matériel pédopornographique en ligne augmente, mais aussi le harcèlement et l’approche des enfants et adolescents sur Internet. Ce qui se passe aujourd’hui, c’est que l’IA amplifie ce phénomène de façon exponentielle. »
La législation criminalise spécifiquement trois domaines clés : la possession, la création ou la distribution de modèles d’IA conçus pour générer du matériel pédopornographique ; la possession de « manuels pédophiles » exploitant l’IA qui expliquent comment utiliser l’IA pour abuser sexuellement d’enfants ; et la gestion de sites web destinés au partage de tels contenus, ce qui pourrait entraîner jusqu’à dix ans d’emprisonnement.
Les nouvelles lois répondent à une tendance préoccupante où les auteurs d’abus utilisent l’IA pour « dénuder » des images réelles d’enfants ou greffer le visage d’enfants sur des images d’abus existantes. Ces images générées par l’IA sont parfois utilisées pour faire chanter les victimes et les pousser à d’autres formes d’exploitation, y compris des diffusions en direct avec les agresseurs.
Si la législation britannique interdisait déjà certains aspects des images pédopornographiques, notamment via la Protection of Children Act 1978 et la Coroners and Justice Act 2009, la nouvelle loi comble des lacunes essentielles liées spécifiquement à la technologie de l’IA. Le gouvernement a souligné que la loi vise l’utilisation criminelle et non le développement légitime de l’IA, avec des garanties pour protéger l’innovation tout en prévenant les abus.
Les défenseurs de la protection de l’enfance ont salué cette avancée, Rani Govender, responsable des politiques pour la sécurité des enfants en ligne à la NSPCC, déclarant : « Il est encourageant de voir le gouvernement agir pour s’attaquer aux criminels qui créent des images pédopornographiques générées par l’IA. » Toutefois, les experts rappellent qu’une mise en œuvre efficace nécessitera une coopération internationale, car les abus générés par l’IA dépassent les frontières nationales.