Mit einem wegweisenden Schritt im Kampf gegen den zunehmenden Missbrauch von Künstlicher Intelligenz ist Großbritannien das erste Land, das spezifische strafrechtliche Sanktionen für KI-generiertes kinderpornografisches Material (CSAM) einführt.
Das Gesetz, Teil des am 25. Februar 2025 ins Parlament eingebrachten Gesetzespakets zu Kriminalität und Polizeiwesen, reagiert auf den alarmierenden Anstieg von KI-generierten Missbrauchsinhalten. Laut der Internet Watch Foundation stieg die Zahl der Meldungen zu KI-generiertem CSAM im Jahr 2024 fast um das Fünffache; bis Mitte 2024 tauchten über 3.500 neue KI-generierte Missbrauchsbilder von Kindern im Darknet auf.
Innenministerin Yvette Cooper, die die Initiative vorangetrieben hat, betonte die Dringlichkeit der neuen Maßnahmen: „Online-Material mit sexuellem Missbrauch von Kindern nimmt zu, ebenso wie das Anbahnen von Kindern und Jugendlichen im Netz. Und was jetzt passiert, ist, dass KI das Ganze massiv beschleunigt.“
Das Gesetz kriminalisiert gezielt drei zentrale Bereiche: den Besitz, die Erstellung oder die Verbreitung von KI-Modellen, die zur Erzeugung von kinderpornografischem Material bestimmt sind; den Besitz von KI-„Pädophilen-Handbüchern“, die erklären, wie man KI zur sexuellen Ausbeutung von Kindern nutzt; sowie das Betreiben von Webseiten, die dem Austausch solcher Inhalte dienen – Letzteres kann mit bis zu zehn Jahren Haft bestraft werden.
Die neuen Regelungen adressieren einen besorgniserregenden Trend, bei dem Täter KI nutzen, um reale Kinderfotos zu „entkleiden“ oder Gesichter von Kindern in bestehende Missbrauchsbilder zu montieren. Solche KI-generierten Bilder werden mitunter zur Erpressung der Opfer eingesetzt, etwa um sie zu weiteren Übergriffen oder Livestreams mit den Tätern zu zwingen.
Zwar verbieten bestehende britische Gesetze wie der Protection of Children Act 1978 und der Coroners and Justice Act 2009 bereits verschiedene Formen kinderpornografischer Darstellungen, doch schließt die neue Gesetzgebung gezielt kritische Lücken im Zusammenhang mit KI-Technologie. Die Regierung betont, dass das Gesetz den kriminellen Missbrauch adressiert und nicht die legitime KI-Entwicklung, und dass Schutzmechanismen Innovation ermöglichen und gleichzeitig Schaden verhindern sollen.
Kinderschutzorganisationen begrüßen das Vorgehen. Rani Govender, Policy Manager für Online-Kinderschutz bei der NSPCC, erklärte: „Es ist ermutigend zu sehen, dass die Regierung Maßnahmen ergreift, um gegen Kriminelle vorzugehen, die KI-generierte Missbrauchsbilder von Kindern erstellen.“ Fachleute weisen jedoch darauf hin, dass eine wirksame Umsetzung internationale Zusammenarbeit erfordert, da KI-generierter Missbrauch nicht an Landesgrenzen haltmacht.