Vláda Spojeného kráľovstva podnikla rozhodné kroky proti zneužívaniu umelej inteligencie na tvorbu materiálu sexuálneho zneužívania detí (CSAM) prostredníctvom komplexnej legislatívy, ktorá rieši kritické medzery v existujúcich zákonoch.
Zákon o trestnej činnosti a polícii, predstavený v parlamente 25. februára 2025, zavádza niekoľko nových trestných činov zameraných špeciálne na AI-generovaný obsah zneužívania detí. Hoci vytváranie alebo vlastnenie obrazového materiálu sexuálneho zneužívania detí bolo už v Spojenom kráľovstve nelegálne, nový zákon rozširuje ochranu tým, že kriminalizuje aj vlastnenie a šírenie AI modelov optimalizovaných na tvorbu takéhoto materiálu, ako aj príručiek poskytujúcich návody na využitie AI na tento účel.
Ministerka vnútra Yvette Cooperová, ktorá zákon predstavila, zdôraznila jeho naliehavosť slovami: „AI posúva zneužívanie detí na steroidy“ a upozornila, že online aktivity predátorov často vedú k fyzickému zneužívaniu. Nadácia Internet Watch Foundation (IWF) uviedla, že v roku 2024 sa výskyt AI-generovaného obrazového materiálu sexuálneho zneužívania detí zvýšil takmer päťnásobne, pričom počas jedného mesiaca monitorovania bolo na jednom fóre dark webu identifikovaných viac ako 3 000 trestných snímok.
Legislatíva zavádza niekoľko kľúčových opatrení: kriminalizuje vlastnenie, tvorbu alebo distribúciu AI nástrojov určených na generovanie CSAM (s trestom až do piatich rokov väzenia); zakazuje vlastnenie AI „pedofilných manuálov“, ktoré učia, ako využívať AI na tvorbu zneužívajúceho materiálu; vytvára samostatný trestný čin pre osoby prevádzkujúce webstránky určené na zdieľanie materiálu sexuálneho zneužívania detí (s trestom až do desať rokov väzenia); a udeľuje príslušníkom pohraničnej stráže nové právomoci požadovať od osôb odomknutie digitálnych zariadení na kontrolu pri vstupe alebo výstupe zo Spojeného kráľovstva.
Odborníci na ochranu detí legislatívu privítali. Manažérka politiky pre bezpečnosť detí online z organizácie NSPCC, Rani Govenderová, označila za „povzbudzujúce vidieť, že vláda koná“, pričom poznamenala, že ich služba Childline pravidelne počúva od mladých ľudí, ktorých zničili AI-generované snímky vytvorené o nich. IWF vyzvala ostatné vlády sveta, aby prijali podobné opatrenia a zabezpečili tak medzinárodnú koordináciu v boji proti šíreniu AI-generovaného materiálu sexuálneho zneužívania detí.
Zákon o trestnej činnosti a polícii je aktuálne prerokúvaný v parlamente, pričom verejný výbor pre zákon ho podrobne skúma a má o ňom podať správu snemovni do polovice mája 2025. Legislatíva predstavuje významný krok v adaptácii právnych rámcov na nové hrozby, ktoré umelá inteligencia predstavuje pri jej zneužití na trestnú činnosť.