V dôležitom kroku v boji proti novým digitálnym hrozbám predstavila nezávislá poslankyňa Kate Chaney 28. júla v austrálskom parlamente návrh zákona Criminal Code Amendment (Using Technology to Generate Child Abuse Material) Bill 2025. Legislatíva cieli na rastúci problém zneužívania umelej inteligencie na tvorbu materiálov o sexuálnom zneužívaní detí (CSAM).
Návrh zákona by zakázal sťahovanie, držbu alebo šírenie AI technológií špeciálne vyvinutých na produkciu CSAM, ako aj zber či získavanie dát na trénovanie takýchto nástrojov. „V súčasnosti je držba týchto obrázkov nelegálna, ale nie je nelegálne vlastniť konkrétne typy AI nástrojov, ktoré sú navrhnuté výhradne na vytváranie materiálov o sexuálnom zneužívaní detí,“ vysvetlila Chaney.
Navrhovaná legislatíva obsahuje výnimky pre orgány činné v trestnom konaní a výskumníkov, pričom sa zameriava na trestné zneužitie. Nasleduje po okrúhlom stole o zneužívaní detí prostredníctvom AI, ktorý vyzval na urgentné opatrenia a poukázal na to, ako sa AI čoraz viac využíva na tvorbu deepfake videí a generovanie materiálov o zneužívaní detí, čo vytvára priestor na zneužívanie, vydieranie a šikanovanie.
Nezávislá poslankyňa Zali Steggall, ktorá návrh podporila, označila tento problém za „najhoršiu nočnú moru každého rodiča“ a poznamenala, že keď zločinci sťahujú túto technológiu, môže to mať celoživotné následky pre deti. Opatrenie privítali aj obhajcovia bezpečnosti detí, pričom Dannielle Kelly z Medzinárodného centra pre nezvestné a zneužívané deti zdôraznila, že v procese je vždy poškodzované skutočné dieťa.
Návrh zákona je súčasťou celosvetového trendu regulovať škodlivé aplikácie umelej inteligencie. Začiatkom tohto roka predstavil podobnú legislatívu aj Spojené kráľovstvo, kde ministerstvo vnútra navrhlo zákon o trestnej činnosti a polícii, ktorý by zakazoval držbu a šírenie informácií o tom, ako používať AI na tvorbu materiálov o sexuálnom zneužívaní detí.
Generálna prokurátorka Michelle Rowland uviedla, že ochrana zraniteľných Austrálčanov je prioritou vlády a súkromný návrh zákona bude dôkladne posúdený. Chaney vyzvala na rýchle prijatie opatrení: „Tieto ochranné mantinely potrebujeme urýchlene. Obávam sa, že uprostred paralýzy spôsobenej širokou revíziou AI zostávajú tieto jasné oblasti škody celé mesiace neriešené.“