У знаковому кроці для боротьби з дедалі ширшим зловживанням штучним інтелектом Велика Британія стала першою країною, що запровадила конкретну кримінальну відповідальність за створення матеріалів із сексуальним насильством над дітьми (CSAM), згенерованих ШІ.
Законодавство, що є частиною законопроєкту про злочинність і поліцію, внесеного до парламенту 25 лютого 2025 року, відповідає на тривожне зростання кількості зловмисного контенту, створеного за допомогою ШІ. За даними Фонду інтернет-спостереження (Internet Watch Foundation), у 2024 році кількість повідомлень про CSAM, згенерований ШІ, зросла майже вп’ятеро, а до середини 2024 року в даркнеті з’явилося понад 3500 нових зображень сексуального насильства над дітьми, створених штучним інтелектом.
Міністерка внутрішніх справ Іветт Купер, яка очолила цю ініціативу, наголосила на нагальності нових заходів: «Онлайн-матеріали із сексуальним насильством над дітьми зростають, як і випадки онлайн-грумінгу дітей та підлітків. А зараз штучний інтелект підсилює цю проблему у рази».
Законодавство спеціально криміналізує три ключові напрямки: володіння, створення або розповсюдження моделей ШІ, призначених для генерування матеріалів із сексуальним насильством над дітьми; володіння ШІ-«педофільськими посібниками», які навчають, як використовувати ШІ для сексуального насильства над дітьми; а також адміністрування вебсайтів для обміну таким контентом, за що може загрожувати до 10 років ув’язнення.
Нові закони відповідають на тривожну тенденцію, коли зловмисники використовують ШІ для «оголення» реальних зображень дітей або підставляння дитячих облич на вже існуючі зображення насильства. Такі згенеровані ШІ зображення іноді використовують для шантажу жертв з метою подальшої експлуатації, зокрема примусу до трансляцій у реальному часі з кривдниками.
Хоча чинне законодавство Великої Британії вже забороняє окремі аспекти створення та розповсюдження зображень сексуального насильства над дітьми (зокрема, Закон про захист дітей 1978 року та Закон про коронерів і правосуддя 2009 року), новий закон закриває критичні прогалини, пов’язані саме з технологіями штучного інтелекту. Уряд підкреслює, що закон спрямований на кримінальне зловживання, а не на легітимну розробку ШІ, і містить запобіжники для захисту інновацій при запобіганні шкоді.
Захисники прав дітей вітають нововведення. Менеджерка з політики NSPCC щодо безпеки дітей онлайн Рані Говендер зазначила: «Обнадійливо, що уряд вживає заходів для боротьби зі злочинцями, які створюють зображення сексуального насильства над дітьми за допомогою ШІ». Водночас експерти наголошують, що для ефективної реалізації закону необхідна міжнародна співпраця, адже зловживання ШІ не знає державних кордонів.