Britská vláda podnikla rozhodné kroky proti zneužívání umělé inteligence k tvorbě materiálu zobrazujícího sexuální zneužívání dětí (CSAM) prostřednictvím komplexní legislativy, která řeší zásadní mezery v dosavadních zákonech.
Zákon o trestné činnosti a policii, předložený parlamentu 25. února 2025, zavádí několik nových trestných činů zaměřených přímo na AI-generovaný obsah zneužívající děti. Zatímco tvorba nebo držení obrazového materiálu se sexuálním zneužíváním dětí bylo již v Británii nelegální, nový zákon rozšiřuje ochranu tím, že kriminalizuje i držení a šíření AI modelů optimalizovaných pro tvorbu takových materiálů, stejně jako manuálů s návodem, jak AI k tomuto účelu využít.
Ministryně vnitra Yvette Cooper, která zákon představila, zdůraznila jeho naléhavost slovy, že „umělá inteligence posouvá zneužívání dětí na steroidy“ a že online aktivity predátorů často vedou i k fyzickému zneužívání. Nadace Internet Watch Foundation (IWF) uvedla, že počet AI-generovaných obrazů zneužívání dětí v roce 2024 vzrostl téměř pětinásobně, přičemž během jednoho měsíce bylo na jednom fóru na dark webu identifikováno přes 3 000 nelegálních snímků.
Zákon zavádí několik klíčových opatření: kriminalizuje držení, tvorbu nebo šíření AI nástrojů určených k vytváření CSAM (s trestem až pět let vězení); zakazuje držení AI „pedofilních manuálů“, které učí, jak pomocí AI vytvářet materiály zneužívající děti; vytváří samostatný trestný čin pro ty, kdo provozují webové stránky určené ke sdílení materiálu se zneužíváním dětí (s trestem až deset let vězení); a dává pracovníkům pohraniční stráže nové pravomoci, aby mohli při vstupu nebo odchodu z Británie vyžadovat od osob odemčení digitálních zařízení k prohlídce.
Odborníci na ochranu dětí legislativu přivítali. Rani Govender, manažerka politiky pro bezpečnost dětí online v organizaci NSPCC, označila vládní kroky za „pozitivní“, přičemž upozornila, že jejich linka Childline pravidelně přijímá výpovědi mladých lidí, které AI-generované snímky hluboce zasáhly. IWF zároveň vyzvala další vlády po celém světě, aby přijaly podobná opatření a zajistily tak mezinárodní shodu v boji proti šíření AI-generovaného materiálu zneužívajícího děti.
Zákon o trestné činnosti a policii je nyní projednáván v parlamentu, kde jej podrobně analyzuje výbor pro veřejné návrhy zákonů, který má předložit zprávu sněmovně do poloviny května 2025. Tato legislativa představuje významný krok k přizpůsobení právního rámce novým hrozbám, které přináší využívání umělé inteligence ke kriminálním účelům.