Ve významném kroku v boji proti rostoucímu zneužívání umělé inteligence se Velká Británie stala první zemí, která zavádí konkrétní trestní postihy za AI-generovaný materiál zobrazující sexuální zneužívání dětí (CSAM).
Tato legislativa, která je součástí Zákona o trestné činnosti a policii předloženého parlamentu 25. února 2025, reaguje na alarmující nárůst zneužívajícího obsahu vytvářeného pomocí AI. Podle Internet Watch Foundation vzrostl počet hlášení AI-generovaného CSAM v roce 2024 téměř pětinásobně, přičemž do poloviny roku 2024 se na dark webu objevilo přes 3 500 nových snímků tohoto typu.
Ministryně vnitra Yvette Cooperová, která iniciativu vedla, zdůraznila naléhavost nových opatření: „Online materiál zobrazující sexuální zneužívání dětí narůstá, stejně jako online oslovování a manipulace dětí a dospívajících. A co se nyní děje, je, že AI tento trend dramaticky urychluje.“
Zákon konkrétně kriminalizuje tři klíčové oblasti: držení, vytváření nebo šíření AI modelů určených k produkci materiálu zobrazujícího sexuální zneužívání dětí; držení AI 'pedofilních manuálů', které učí, jak využít AI k sexuálnímu zneužívání dětí; a provozování webových stránek určených ke sdílení takového obsahu, za což může hrozit až 10 let vězení.
Nové zákony reagují na znepokojivý trend, kdy pachatelé využívají AI k „odhalování“ skutečných fotografií dětí nebo k montáži dětských tváří na existující zneužívající snímky. Tyto AI-generované obrázky jsou někdy zneužívány k vydírání obětí a k dalšímu zneužívání, včetně nátlaku na živé vysílání s pachateli.
Ačkoliv již stávající britské zákony zakazují některé aspekty zobrazování sexuálního zneužívání dětí, například Zákon na ochranu dětí z roku 1978 a Zákon o koronerech a spravedlnosti z roku 2009, nová legislativa zaceluje zásadní mezery týkající se právě AI technologií. Vláda zdůraznila, že zákon cílí na kriminální zneužití a ne na legitimní vývoj AI, přičemž obsahuje pojistky na ochranu inovací a zároveň brání vzniku škod.
Ochránci dětí tento krok uvítali. Manažerka politiky bezpečnosti dětí online z organizace NSPCC, Rani Govenderová, uvedla: „Je povzbudivé vidět, že vláda podniká kroky proti pachatelům, kteří vytvářejí AI-generované snímky sexuálního zneužívání dětí.“ Odborníci však upozorňují, že účinné prosazování bude vyžadovat mezinárodní spolupráci, neboť AI-generované zneužívání překračuje hranice států.