V prelomovom kroku v boji proti rastúcemu zneužívaniu umelej inteligencie sa Spojené kráľovstvo stalo prvou krajinou, ktorá zavádza špecifické trestné sankcie za AI-generovaný materiál zobrazujúci sexuálne zneužívanie detí (CSAM).
Legislatíva, ktorá je súčasťou Zákona o trestnej činnosti a polícii predloženého parlamentu 25. februára 2025, reaguje na alarmujúci nárast zneužívajúceho obsahu vytváraného umelou inteligenciou. Podľa Internet Watch Foundation sa v roku 2024 počet hlásení o AI-generovanom CSAM takmer zpäťnásobil, pričom do polovice roka 2024 sa na dark webe objavilo viac ako 3 500 nových AI-generovaných obrázkov sexuálneho zneužívania detí.
Ministerka vnútra Yvette Cooper, ktorá iniciatívu viedla, zdôraznila naliehavosť nových opatrení: „Online materiál so sexuálnym zneužívaním detí narastá, rovnako ako online lákanie detí a tínedžerov. A to, čo sa teraz deje, je, že AI tento problém ešte znásobuje.“
Legislatíva špecificky kriminalizuje tri hlavné oblasti: držbu, vytváranie alebo distribúciu AI modelov určených na generovanie materiálu so sexuálnym zneužívaním detí; držbu AI „pedofilných manuálov“, ktoré učia, ako využiť AI na sexuálne zneužívanie detí; a prevádzkovanie webových stránok určených na zdieľanie takéhoto obsahu, za čo môže hroziť až 10 rokov väzenia.
Nové zákony reagujú na znepokojujúci trend, keď páchatelia používajú AI na „odhalenie“ reálnych fotografií detí alebo na vkladanie detských tvárí do existujúcich zneužívajúcich obrázkov. Takto vytvorené AI obrázky sú niekedy využívané na vydieranie obetí za účelom ďalšieho zneužívania, vrátane núteného livestreamingu s páchateľmi.
Hoci existujúce britské zákony už zakazujú určité aspekty detskej pornografie, vrátane Zákona o ochrane detí z roku 1978 a Zákona o koroneroch a spravodlivosti z roku 2009, nová legislatíva uzatvára kľúčové medzery týkajúce sa špecificky AI technológií. Vláda zdôraznila, že zákon cieli na kriminálne zneužitie, nie na legitímny vývoj AI, pričom obsahuje záruky na ochranu inovácií a zároveň zabraňuje škodám.
Ochrancovia detí tento krok privítali. Manažérka politiky pre online bezpečnosť detí v NSPCC, Rani Govender, uviedla: „Je povzbudzujúce vidieť, že vláda podniká kroky proti zločincom, ktorí vytvárajú AI-generované obrázky sexuálneho zneužívania detí.“ Odborníci však upozorňujú, že účinná implementácia si vyžiada medzinárodnú spoluprácu, keďže AI-generované zneužívanie nepozná hranice štátov.