Den brittiska regeringen har vidtagit avgörande åtgärder mot missbruket av artificiell intelligens för att skapa sexuellt övergreppsmaterial på barn (CSAM) genom omfattande lagstiftning som täpper till kritiska luckor i nuvarande lagar.
Crime and Policing Bill, som lades fram i parlamentet den 25 februari 2025, inför flera nya brottsrubriceringar som specifikt riktar in sig på AI-genererat övergreppsmaterial på barn. Även om det redan tidigare var olagligt att skapa eller inneha sexuella övergreppsbilder på barn i Storbritannien, utvidgar den nya lagen skyddet genom att kriminalisera även innehav och spridning av AI-modeller som är optimerade för att skapa sådant material, samt manualer som ger instruktioner om hur AI kan användas för detta syfte.
Inrikesminister Yvette Cooper, som presenterade lagförslaget, betonade lagens angelägenhet och sade att "AI sätter barnövergrepp på steroider" och att förövares aktiviteter på nätet ofta leder till fysiska övergrepp. Internet Watch Foundation (IWF) rapporterade att AI-genererat sexuellt övergreppsmaterial på barn ökade nästan femfaldigt under 2024, med över 3 000 brottsliga bilder identifierade på ett enda forum på darknet under en månads övervakning.
Lagstiftningen innehåller flera centrala bestämmelser: kriminalisering av innehav, skapande eller spridning av AI-verktyg avsedda att generera CSAM (straffbart med upp till fem års fängelse); förbud mot innehav av AI-"pedofilmanualer" som lär ut hur man använder AI för att skapa övergreppsmaterial; särskilt brott för dem som driver webbplatser avsedda för delning av sexuellt övergreppsmaterial på barn (straffbart med upp till tio års fängelse); samt nya befogenheter för gränspolisen att kräva att personer låser upp digitala enheter för inspektion vid in- eller utresa ur Storbritannien.
Experter på barnskydd har välkomnat lagstiftningen. NSPCC:s policyansvariga för barns säkerhet online, Rani Govender, kallade det "uppmuntrande att se regeringen agera" och noterade att deras stödlinje Childline regelbundet hör från unga som drabbats av AI-genererade bilder av sig själva. IWF har uppmanat andra regeringar världen över att införa liknande åtgärder för att säkerställa internationell samordning mot spridningen av AI-genererat övergreppsmaterial på barn.
Crime and Policing Bill behandlas nu i parlamentet, där Public Bill Committee granskar lagförslaget paragraf för paragraf innan de rapporterar tillbaka till underhuset i mitten av maj 2025. Lagstiftningen utgör ett viktigt steg i att anpassa rättssystemet till de nya hot som artificiell intelligens innebär när tekniken används för brottsliga syften.