В исторически ход за борба с нарастващата злоупотреба с изкуствен интелект, Великобритания стана първата страна, която въвежда конкретни наказателни санкции за генерирани от ИИ материали с детска сексуална злоупотреба (CSAM).
Законодателството, което е част от Законопроекта за престъпленията и полицейската дейност, внесен в парламента на 25 февруари 2025 г., адресира тревожното нарастване на съдържание с насилие, генерирано чрез ИИ. Според Фондацията за интернет наблюдение, сигналите за генерирани от ИИ CSAM са се увеличили почти петкратно през 2024 г., като до средата на 2024 г. в тъмната мрежа са се появили над 3500 нови изображения с детска сексуална злоупотреба, създадени от ИИ.
Министърът на вътрешните работи Ивет Купър, която ръководи инициативата, подчерта спешността на новите мерки: „Онлайн материалите с детска сексуална злоупотреба нарастват, но също така и онлайн подмамването на деца и тийнейджъри. А това, което се случва сега, е, че ИИ усилва този проблем неимоверно.“
Законодателството изрично криминализира три основни области: притежаването, създаването или разпространението на ИИ модели, предназначени за генериране на материали с детска сексуална злоупотреба; притежаването на ИИ „ръководства за педофили“, които учат хората как да използват ИИ за сексуална злоупотреба с деца; и управляването на уебсайтове, предназначени за споделяне на такова съдържание, което може да доведе до до 10 години затвор.
Новите закони адресират тревожна тенденция, при която извършителите използват ИИ, за да „разголят“ реални изображения на деца или да поставят лицата им върху съществуващи изображения със злоупотреба. Тези генерирани от ИИ изображения понякога се използват за изнудване на жертвите с цел по-нататъшна експлоатация, включително излъчване на живо с извършителите.
Въпреки че съществуващите британски закони вече забраняват аспекти на изображенията с детска сексуална злоупотреба, включително Закона за защита на децата от 1978 г. и Закона за коронерите и правосъдието от 2009 г., новото законодателство затваря критични пропуски, свързани конкретно с технологиите на ИИ. Правителството подчертава, че законът е насочен срещу престъпната злоупотреба, а не срещу легитимното развитие на ИИ, като са предвидени гаранции за защита на иновациите при предотвратяване на вреди.
Защитниците на детската безопасност приветстваха мярката, като мениджърът по политики за онлайн безопасност на децата към NSPCC, Рани Говендер, заяви: „Обнадеждаващо е да видим, че правителството предприема действия, насочени към борба с престъпниците, които създават генерирани от ИИ изображения с детска сексуална злоупотреба.“ Експертите обаче отбелязват, че ефективното прилагане ще изисква международно сътрудничество, тъй като злоупотребата, генерирана от ИИ, надхвърля националните граници.