人工知能の悪用が拡大する中、英国はAI生成児童性的虐待資料（CSAM）に対して特定の刑事罰を導入した初の国となりました。
この法案は、2025年2月25日に議会へ提出された「犯罪・警察法案」の一部であり、AI生成の虐待コンテンツが急増している現状に対応するものです。インターネット・ウォッチ財団によると、2024年にはAI生成CSAMの報告件数が前年の約5倍に増加し、2024年半ばまでにダークウェブ上で3,500件以上の新たなAI生成児童性的虐待画像が確認されました。
この取り組みを主導したイヴェット・クーパー内務大臣は、新たな措置の緊急性を強調し、「オンライン上の児童性的虐待資料は増加しており、子どもやティーンエイジャーのネット上でのグルーミングも深刻化しています。現在、AIがこれらの問題を加速させているのです」と述べました。
新法は、児童性的虐待資料を生成するためのAIモデルの所持・作成・配布、AIを使った児童虐待の方法を教える「小児性愛者マニュアル」の所持、こうしたコンテンツの共有を目的としたウェブサイトの運営（最長10年の禁錮刑の可能性）という3つの主要分野を明確に犯罪としています。
新法は、加害者がAIを用いて実在する子どもの画像を「ヌード化」したり、子どもの顔を既存の虐待画像に合成したりするという懸念すべき傾向にも対応しています。これらのAI生成画像は、被害者をさらなる搾取（加害者とのライブ配信など）に追い込むための脅迫に使われることもあります。
英国では既存の法律（1978年児童保護法や2009年検死官・司法法）でも児童性的虐待画像の一部を禁止していますが、新法はAI技術に特有の重大な抜け穴を埋めるものです。政府は、犯罪的な悪用を標的とし、正当なAI開発やイノベーションを妨げないための安全策も盛り込んでいると強調しています。
児童保護団体もこの動きを歓迎しており、NSPCC（全英児童虐待防止協会）のオンライン子ども安全政策マネージャー、ラニ・ゴヴェンダー氏は「AI生成の児童性的虐待画像を作成する犯罪者への対策として政府が行動を起こしたことは心強い」とコメントしています。ただし、専門家はAI生成の虐待が国境を越えて広がるため、実効性ある対策には国際協力が不可欠だと指摘しています。