В историческом шаге по борьбе с растущим злоупотреблением искусственным интеллектом Великобритания стала первой страной, которая ввела конкретные уголовные наказания за создание материалов с сексуальным насилием над детьми (CSAM), сгенерированных ИИ.
Законодательство, являющееся частью законопроекта о преступности и полиции, внесённого в парламент 25 февраля 2025 года, направлено на решение проблемы стремительного роста количества материалов с насилием, созданных с помощью ИИ. По данным Фонда интернет-наблюдения (Internet Watch Foundation), количество сообщений о CSAM, сгенерированных ИИ, увеличилось почти в пять раз в 2024 году, а к середине 2024 года в даркнете появилось более 3500 новых изображений сексуального насилия над детьми, созданных ИИ.
Министр внутренних дел Иветт Купер, возглавившая инициативу, подчеркнула срочность новых мер: «Онлайн-материалы с сексуальным насилием над детьми растут, но также увеличивается онлайн-груминг детей и подростков. Сейчас же ИИ усиливает эту проблему в разы».
Закон специально криминализирует три ключевых направления: хранение, создание или распространение ИИ-моделей, предназначенных для генерации материалов с сексуальным насилием над детьми; хранение так называемых ИИ-«пособий педофила», обучающих использовать ИИ для сексуального насилия над детьми; а также управление сайтами, предназначенными для обмена таким контентом — за это может грозить до 10 лет лишения свободы.
Новые законы отвечают на тревожную тенденцию, когда злоумышленники используют ИИ для «раздевания» реальных фотографий детей или подстановки лиц детей на существующие изображения насилия. Такие ИИ-генерируемые изображения иногда используются для шантажа жертв с целью дальнейшей эксплуатации, включая трансляции с преступниками.
Хотя действующее законодательство Великобритании уже запрещает отдельные виды изображений сексуального насилия над детьми (включая Закон о защите детей 1978 года и Закон о коронерах и правосудии 2009 года), новый закон устраняет критические пробелы, связанные именно с технологиями ИИ. Правительство подчёркивает, что закон направлен на пресечение преступного использования, а не на ограничение легитимной разработки ИИ, и содержит гарантии для защиты инноваций при предотвращении вреда.
Эксперты по защите детей приветствовали инициативу. Менеджер по политике безопасности детей в интернете организации NSPCC Рани Говендер заявила: «Отрадно видеть, что правительство предпринимает шаги по борьбе с преступниками, создающими изображения сексуального насилия над детьми с помощью ИИ». Однако специалисты отмечают, что для эффективной реализации потребуется международное сотрудничество, поскольку злоупотребления с использованием ИИ выходят за рамки национальных границ.