I et skelsættende skridt for at bekæmpe det stigende misbrug af kunstig intelligens er Storbritannien blevet det første land til at indføre specifikke strafferetlige sanktioner for AI-genereret børneseksuelt misbrugsmateriale (CSAM).
Lovgivningen, som er en del af Forbrydelses- og Politiloven, blev fremlagt for parlamentet den 25. februar 2025 og adresserer den alarmerende stigning i AI-genereret misbrugsindhold. Ifølge Internet Watch Foundation steg antallet af rapporter om AI-genereret CSAM næsten femdoblet i 2024, og over 3.500 nye AI-genererede billeder af børneseksuelt misbrug blev fundet på dark web allerede midt i 2024.
Indenrigsminister Yvette Cooper, der har stået i spidsen for initiativet, understregede nødvendigheden af de nye tiltag: "Online børneseksuelt misbrugsmateriale vokser, men også grooming af børn og unge online. Og det, der nu sker, er, at AI sætter turbo på denne udvikling."
Lovgivningen kriminaliserer specifikt tre hovedområder: besiddelse, skabelse eller distribution af AI-modeller designet til at generere børneseksuelt misbrugsmateriale; besiddelse af AI-baserede 'pædofile-manualer', der lærer folk at bruge AI til seksuelt misbrug af børn; samt drift af hjemmesider designet til deling af sådant indhold, hvilket kan medføre op til 10 års fængsel.
De nye love adresserer en bekymrende tendens, hvor gerningsmænd bruger AI til at 'nøgenificere' virkelige billeder af børn eller sætte børns ansigter ind i eksisterende misbrugsbilleder. Disse AI-genererede billeder bruges nogle gange til at afpresse ofrene til yderligere udnyttelse, herunder livestreaming med gerningsmænd.
Selvom eksisterende britisk lovgivning allerede forbyder aspekter af børneseksuelt misbrugsmateriale, herunder Protection of Children Act 1978 og Coroners and Justice Act 2009, lukker den nye lovgivning kritiske smuthuller, der specifikt relaterer sig til AI-teknologi. Regeringen har understreget, at loven retter sig mod kriminelt misbrug og ikke legitim AI-udvikling, og der er indført beskyttelsesforanstaltninger for at sikre innovation samtidig med forebyggelse af skade.
Børnebeskyttelsesforkæmpere har budt tiltaget velkommen, og NSPCC's Policy Manager for Child Safety Online, Rani Govender, udtaler: "Det er opmuntrende at se regeringen tage initiativ til at bekæmpe kriminelle, der skaber AI-genererede billeder af børneseksuelt misbrug." Eksperter påpeger dog, at effektiv håndhævelse vil kræve internationalt samarbejde, da AI-genereret misbrug overskrider nationale grænser.