U povijesnom potezu protiv sve češće zloupotrebe umjetne inteligencije, Ujedinjeno Kraljevstvo postalo je prva država koja uvodi specifične kaznene mjere za AI-generirani materijal seksualnog zlostavljanja djece (CSAM).
Zakonodavstvo, dio Zakona o kriminalu i policiji predstavljenog Parlamentu 25. veljače 2025., odgovara na alarmantan porast AI-generiranog zlostavljačkog sadržaja. Prema podacima Internet Watch Foundationa, prijave AI-generiranog CSAM-a gotovo su se učetverostručile u 2024. godini, s više od 3.500 novih AI-generiranih slika seksualnog zlostavljanja djece koje su se pojavile na dark webu do sredine 2024.
Ministrica unutarnjih poslova Yvette Cooper, koja je predvodila ovu inicijativu, naglasila je hitnost novih mjera: "Online materijal seksualnog zlostavljanja djece raste, ali i online vrbovanje djece i tinejdžera. Ono što se sada događa jest da AI ovo dodatno ubrzava."
Zakon posebno kriminalizira tri ključna područja: posjedovanje, stvaranje ili distribuciju AI modela namijenjenih generiranju materijala seksualnog zlostavljanja djece; posjedovanje AI 'priručnika za pedofile' koji podučavaju kako koristiti AI za seksualno zlostavljanje djece; te upravljanje web stranicama namijenjenima dijeljenju takvog sadržaja, što može rezultirati kaznom do 10 godina zatvora.
Novi zakoni odgovaraju zabrinjavajućem trendu u kojem počinitelji koriste AI za 'nudeifikaciju' stvarnih slika djece ili za montiranje dječjih lica na postojeće slike zlostavljanja. Ove AI-generirane slike ponekad se koriste za ucjenjivanje žrtava radi daljnje eksploatacije, uključujući prijenose uživo s počiniteljima.
Iako postojeći zakoni UK-a već zabranjuju određene aspekte slika seksualnog zlostavljanja djece, uključujući Zakon o zaštiti djece iz 1978. i Zakon o mrtvozornicima i pravdi iz 2009., novo zakonodavstvo zatvara ključne rupe koje se odnose na AI tehnologiju. Vlada je naglasila da zakon cilja na kriminalnu zloupotrebu, a ne na legitimni razvoj umjetne inteligencije, uz zaštitne mjere za očuvanje inovacija i sprječavanje štete.
Zagovornici zaštite djece pozdravili su ovaj potez, a Rani Govender, voditeljica politike za sigurnost djece na internetu pri NSPCC-u, izjavila je: "Ohrabrujuće je vidjeti da vlada poduzima mjere protiv kriminalaca koji stvaraju AI-generirane slike seksualnog zlostavljanja djece." Međutim, stručnjaci napominju da će za učinkovitu provedbu biti potrebna međunarodna suradnja, budući da AI-generirano zlostavljanje nadilazi nacionalne granice.