W przełomowym kroku w walce z rosnącym nadużywaniem sztucznej inteligencji, Wielka Brytania stała się pierwszym krajem, który wprowadził konkretne sankcje karne za tworzenie materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM) generowanych przez AI.
Przepisy, będące częścią Ustawy o przestępczości i policji przedstawionej w parlamencie 25 lutego 2025 roku, odpowiadają na niepokojący wzrost liczby treści nadużywających dzieci generowanych przez AI. Według Internet Watch Foundation, liczba zgłoszeń dotyczących CSAM wygenerowanego przez AI wzrosła niemal pięciokrotnie w 2024 roku, a do połowy 2024 roku na darknecie pojawiło się ponad 3500 nowych obrazów tego typu.
Minister spraw wewnętrznych Yvette Cooper, która przewodziła tej inicjatywie, podkreśliła pilność nowych rozwiązań: „Materiały przedstawiające seksualne wykorzystywanie dzieci w sieci rosną, ale także rośnie zjawisko uwodzenia dzieci i nastolatków online. A to, co dzieje się teraz, to fakt, że AI działa jak sterydy dla tych zjawisk.”
Ustawa wprost kryminalizuje trzy kluczowe obszary: posiadanie, tworzenie lub rozpowszechnianie modeli AI zaprojektowanych do generowania CSAM; posiadanie „podręczników pedofilskich” opartych na AI, które uczą, jak wykorzystać AI do wykorzystywania dzieci; oraz prowadzenie stron internetowych służących do dzielenia się takimi treściami, co może skutkować karą do 10 lat więzienia.
Nowe przepisy odpowiadają na niepokojący trend, w którym sprawcy wykorzystują AI do „nagoizowania” prawdziwych zdjęć dzieci lub nakładania twarzy dzieci na istniejące obrazy nadużyć. Tak wygenerowane obrazy bywają wykorzystywane do szantażowania ofiar i zmuszania ich do dalszej eksploatacji, w tym transmisji na żywo z udziałem sprawców.
Chociaż dotychczasowe brytyjskie prawo już zakazywało niektórych form obrazów przedstawiających wykorzystywanie dzieci, m.in. na mocy Protection of Children Act 1978 oraz Coroners and Justice Act 2009, nowe przepisy zamykają istotne luki dotyczące technologii AI. Rząd podkreślił, że ustawa wymierzona jest w przestępcze wykorzystanie AI, a nie w legalny rozwój tej technologii, i zawiera zabezpieczenia chroniące innowacyjność przy jednoczesnym zapobieganiu szkodom.
Rzecznicy ochrony dzieci z zadowoleniem przyjęli nowe przepisy. Rani Govender, menedżer ds. polityki bezpieczeństwa dzieci online w NSPCC, stwierdziła: „Cieszy nas, że rząd podejmuje działania mające na celu zwalczanie przestępców tworzących obrazy wykorzystywania dzieci generowane przez AI.” Eksperci zauważają jednak, że skuteczna realizacja tych przepisów będzie wymagała współpracy międzynarodowej, ponieważ nadużycia generowane przez AI przekraczają granice państw.