为应对人工智能日益被滥用的趋势，英国成为全球首个对AI生成儿童性虐待内容（CSAM）设立专门刑事处罚的国家。
该立法作为《犯罪与警务法案》的一部分，于2025年2月25日提交议会，旨在应对AI生成虐待内容激增的严峻形势。据互联网观察基金会（Internet Watch Foundation）统计，2024年AI生成的CSAM举报数量几乎增长了五倍，截至2024年年中，暗网已出现3500多张新生成的儿童性虐待图像。
主导该举措的内政大臣伊薇特·库珀（Yvette Cooper）强调新措施的紧迫性：“线上儿童性虐待内容在增加，儿童和青少年的网络诱骗也在加剧。如今AI让这一切变本加厉。”
该法案明确将三类行为定为犯罪：一是持有、制作或传播用于生成儿童性虐待内容的AI模型；二是持有教授如何利用AI对儿童实施性虐待的AI“恋童手册”；三是运营用于分享此类内容的网站，后者最高可被判处十年监禁。
新法针对了一个令人担忧的趋势：不法分子利用AI将现实中儿童的照片“脱衣”或将儿童面部拼接到现有虐待图像上。这些AI生成的图片有时还被用来勒索受害者，迫使其进一步遭受剥削，包括被迫与施害者进行直播。
虽然英国现行法律（如1978年《儿童保护法》和2009年《验尸官与司法法案》）已禁止部分儿童性虐待影像，但新立法填补了AI技术相关的关键法律空白。政府强调，法律针对的是犯罪滥用，而非合法的AI开发，并设有保障措施以保护创新、预防危害。
儿童保护机构对此举表示欢迎，英国儿童保护协会（NSPCC）儿童网络安全政策经理拉尼·戈文德（Rani Govender）表示：“看到政府采取措施打击制作AI生成儿童性虐待图像的犯罪分子令人鼓舞。”不过，专家指出，AI生成虐待内容跨越国界，法律的有效实施还需国际合作。