Den britiske regering har taget afgørende skridt mod misbrug af kunstig intelligens til at skabe materiale om seksuelt misbrug af børn (CSAM) gennem omfattende lovgivning, der lukker væsentlige huller i den eksisterende lovgivning.
Crime and Policing Bill, der blev fremlagt for Parlamentet den 25. februar 2025, indfører en række nye lovovertrædelser, der specifikt retter sig mod AI-genereret materiale om seksuelt misbrug af børn. Selvom det allerede var ulovligt at skabe eller besidde billeder af seksuelt misbrug af børn i Storbritannien, udvider den nye lov beskyttelsen ved at kriminalisere besiddelse og distribution af AI-modeller, der er optimeret til at skabe sådant materiale, samt manualer, der instruerer i brugen af AI til dette formål.
Indenrigsminister Yvette Cooper, som fremlagde lovforslaget, understregede lovgivningens nødvendighed og udtalte, at "AI sætter misbrug af børn på steroider", og at rovdyrs onlineaktiviteter ofte fører til fysisk misbrug. Internet Watch Foundation (IWF) rapporterede, at AI-genereret materiale om seksuelt misbrug af børn steg næsten femdoblet i 2024, hvor der blev identificeret over 3.000 kriminelle billeder på et enkelt dark web-forum i løbet af en måneds overvågning.
Lovgivningen indeholder flere centrale bestemmelser: kriminalisering af besiddelse, skabelse eller distribution af AI-værktøjer designet til at generere CSAM (strafferamme op til fem års fængsel); forbud mod besiddelse af AI-"pædofilmanualer", der lærer folk at bruge AI til at skabe misbrugsmateriale; indførelse af en specifik lovovertrædelse for personer, der driver hjemmesider til deling af materiale om seksuelt misbrug af børn (strafferamme op til ti års fængsel); samt nye beføjelser til Border Force-officerer, der kan pålægge personer at låse digitale enheder op til inspektion ved ind- eller udrejse fra Storbritannien.
Eksperter i børnebeskyttelse har taget godt imod lovgivningen. NSPCC’s Policy Manager for Child Safety Online, Rani Govender, kaldte det "opmuntrende at se regeringen handle", og bemærkede, at deres Childline-tjeneste regelmæssigt hører fra unge, der er ødelagte over AI-genererede billeder, der er skabt af dem. IWF har opfordret andre regeringer verden over til at indføre lignende tiltag for at sikre internationalt samarbejde mod spredningen af AI-genereret materiale om seksuelt misbrug af børn.
Crime and Policing Bill behandles i øjeblikket i Parlamentet, hvor Public Bill Committee gennemgår lovforslaget linje for linje, inden der rapporteres tilbage til Underhuset i midten af maj 2025. Lovgivningen repræsenterer et væsentligt skridt i tilpasningen af de juridiske rammer til de nye trusler, som kunstig intelligens udgør, når den bruges til kriminelle formål.