In een baanbrekende stap tegen het toenemende misbruik van kunstmatige intelligentie is het Verenigd Koninkrijk het eerste land dat specifieke strafrechtelijke sancties invoert voor AI-gegenereerd kinderpornografisch materiaal (CSAM).
De wetgeving, onderdeel van de Crime and Policing Bill die op 25 februari 2025 aan het parlement werd gepresenteerd, pakt de alarmerende toename van AI-gegenereerde misbruikcontent aan. Volgens de Internet Watch Foundation is het aantal meldingen van AI-gegenereerde CSAM in 2024 bijna vervijfvoudigd, met meer dan 3.500 nieuwe AI-gegenereerde afbeeldingen van seksueel kindermisbruik die medio 2024 op het dark web opdoken.
Minister van Binnenlandse Zaken Yvette Cooper, die het initiatief leidde, benadrukte de urgentie van de nieuwe maatregelen: "Online kindermisbruikmateriaal neemt toe, maar ook het online benaderen en misleiden van kinderen en tieners. Wat we nu zien, is dat AI dit proces enorm versnelt."
De wetgeving stelt drie kerngebieden strafbaar: het bezitten, creëren of verspreiden van AI-modellen die bedoeld zijn om kinderpornografisch materiaal te genereren; het bezitten van AI-'pedofielhandleidingen' die mensen leren hoe AI kan worden ingezet voor seksueel misbruik van kinderen; en het beheren van websites die bedoeld zijn voor het delen van dergelijke content, waarvoor een gevangenisstraf tot tien jaar kan worden opgelegd.
De nieuwe wetten pakken een zorgwekkende trend aan waarbij daders AI gebruiken om echte kinderfoto's te "nudeïfieren" of gezichten van kinderen te plakken op bestaande misbruikbeelden. Deze AI-gegenereerde beelden worden soms gebruikt om slachtoffers te chanteren tot verdere uitbuiting, waaronder livestreams met daders.
Hoewel bestaande Britse wetten al aspecten van kinderpornografisch beeldmateriaal verbieden, waaronder de Protection of Children Act 1978 en de Coroners and Justice Act 2009, sluit de nieuwe wetgeving belangrijke mazen die specifiek met AI-technologie samenhangen. De overheid benadrukt dat de wet zich richt op crimineel misbruik en niet op legitieme AI-ontwikkeling, met waarborgen om innovatie te beschermen en schade te voorkomen.
Kinderrechtenorganisaties verwelkomen de maatregel. Rani Govender, beleidsmanager Kindveiligheid Online bij NSPCC, stelt: "Het is bemoedigend dat de overheid actie onderneemt tegen criminelen die AI-gegenereerde afbeeldingen van seksueel kindermisbruik maken." Experts wijzen er echter op dat effectieve handhaving internationale samenwerking vereist, omdat AI-gegenereerd misbruik landsgrenzen overstijgt.