Dalam langkah bersejarah untuk memerangi penyalahgunaan kecerdasan buatan yang semakin meningkat, Inggris menjadi negara pertama yang memperkenalkan sanksi pidana khusus untuk materi pelecehan seksual anak (CSAM) yang dihasilkan oleh AI.
Undang-undang ini, yang merupakan bagian dari RUU Kejahatan dan Kepolisian yang diajukan ke Parlemen pada 25 Februari 2025, menanggapi lonjakan mengkhawatirkan konten pelecehan yang dihasilkan AI. Menurut Internet Watch Foundation, laporan tentang CSAM berbasis AI meningkat hampir lima kali lipat pada tahun 2024, dengan lebih dari 3.500 gambar pelecehan seksual anak yang dihasilkan AI muncul di dark web hingga pertengahan 2024.
Menteri Dalam Negeri Yvette Cooper, yang memimpin inisiatif ini, menekankan urgensi langkah baru tersebut: "Materi pelecehan seksual anak secara daring terus meningkat, begitu pula dengan upaya grooming terhadap anak-anak dan remaja secara online. Dan yang kini terjadi adalah AI membuat masalah ini semakin parah."
Undang-undang ini secara khusus mengkriminalisasi tiga area utama: memiliki, membuat, atau mendistribusikan model AI yang dirancang untuk menghasilkan materi pelecehan seksual anak; memiliki 'manual pedofil' berbasis AI yang mengajarkan cara menggunakan AI untuk melecehkan anak; serta mengelola situs web yang dirancang untuk berbagi konten tersebut, yang dapat berujung hukuman penjara hingga 10 tahun.
Aturan baru ini menanggapi tren mengkhawatirkan di mana pelaku menggunakan AI untuk 'menelanjangi' gambar anak-anak di dunia nyata atau menempelkan wajah anak pada gambar pelecehan yang sudah ada. Gambar-gambar yang dihasilkan AI ini terkadang digunakan untuk memeras korban agar dieksploitasi lebih lanjut, termasuk melalui siaran langsung dengan pelaku.
Meski hukum Inggris yang ada sudah melarang berbagai aspek gambar pelecehan seksual anak, seperti dalam Protection of Children Act 1978 dan Coroners and Justice Act 2009, undang-undang baru ini menutup celah hukum penting yang berkaitan khusus dengan teknologi AI. Pemerintah menegaskan bahwa hukum ini menargetkan penyalahgunaan kriminal, bukan pengembangan AI yang sah, dengan perlindungan untuk menjaga inovasi sekaligus mencegah bahaya.
Para pegiat perlindungan anak menyambut baik langkah ini. Manajer Kebijakan Keamanan Anak Daring NSPCC, Rani Govender, menyatakan: "Sangat menggembirakan melihat pemerintah mengambil tindakan untuk menindak pelaku kriminal yang membuat gambar pelecehan seksual anak berbasis AI." Namun, para ahli menekankan bahwa implementasi yang efektif akan membutuhkan kerja sama internasional, karena penyalahgunaan AI melampaui batas negara.