I ett banbrytande steg för att bekämpa det växande missbruket av artificiell intelligens har Storbritannien blivit det första landet att införa specifika straffrättsliga påföljder för AI-genererat sexuellt övergreppsmaterial mot barn (CSAM).
Lagstiftningen, som ingår i Crime and Policing Bill och lades fram för parlamentet den 25 februari 2025, adresserar den oroande ökningen av AI-genererat övergreppsinnehåll. Enligt Internet Watch Foundation ökade rapporterna om AI-genererat CSAM nästan femfaldigt under 2024, med över 3 500 nya AI-genererade bilder av sexuella övergrepp mot barn som dök upp på darknet fram till mitten av 2024.
Inrikesminister Yvette Cooper, som drivit initiativet, betonade vikten av de nya åtgärderna: "Sexuellt övergreppsmaterial mot barn på nätet ökar, men även grooming av barn och tonåringar online. Och det som nu sker är att AI gör detta ännu värre."
Lagstiftningen kriminaliserar specifikt tre huvudområden: att inneha, skapa eller sprida AI-modeller avsedda för att generera sexuellt övergreppsmaterial mot barn; att inneha AI-baserade 'pedofilmanualer' som lär ut hur AI kan användas för att sexuellt utnyttja barn; samt att driva webbplatser avsedda för att dela sådant innehåll, vilket kan leda till upp till tio års fängelse.
De nya lagarna adresserar en oroande trend där förövare använder AI för att "nudeifiera" verkliga bilder av barn eller klistra in barns ansikten på befintliga övergreppsbilder. Dessa AI-genererade bilder används ibland för att utpressa offer till ytterligare exploatering, inklusive livesändningar med förövare.
Även om befintlig brittisk lagstiftning redan förbjuder vissa former av sexuellt övergreppsmaterial mot barn, däribland Protection of Children Act 1978 och Coroners and Justice Act 2009, täpper den nya lagstiftningen till viktiga kryphål kopplade till AI-teknik. Regeringen har betonat att lagen riktar sig mot kriminellt missbruk snarare än legitim AI-utveckling, med skyddsåtgärder för att främja innovation samtidigt som skada förhindras.
Barnrättsorganisationer har välkomnat initiativet. NSPCC:s Policy Manager för barns säkerhet online, Rani Govender, säger: "Det är uppmuntrande att se regeringen agera för att stoppa kriminella som skapar AI-genererade bilder av sexuella övergrepp mot barn." Experter påpekar dock att effektivt genomförande kräver internationellt samarbete, eftersom AI-genererat övergreppsmaterial lätt överskrider nationsgränser.