Dalam satu langkah bersejarah untuk membanteras penyalahgunaan kecerdasan buatan yang semakin meningkat, UK telah menjadi negara pertama yang memperkenalkan hukuman jenayah khusus untuk bahan penderaan seksual kanak-kanak (CSAM) yang dihasilkan oleh AI.
Undang-undang ini, sebahagian daripada Rang Undang-Undang Jenayah dan Kepolisan yang dibentangkan di Parlimen pada 25 Februari 2025, menangani peningkatan membimbangkan kandungan penderaan yang dihasilkan AI. Menurut Internet Watch Foundation, laporan mengenai CSAM yang dihasilkan AI meningkat hampir lima kali ganda pada tahun 2024, dengan lebih 3,500 imej penderaan seksual kanak-kanak yang dihasilkan AI muncul di dark web menjelang pertengahan 2024.
Setiausaha Dalam Negeri, Yvette Cooper, yang mengetuai inisiatif ini, menekankan keperluan mendesak langkah baharu tersebut: "Bahan penderaan seksual kanak-kanak dalam talian semakin meningkat, begitu juga dengan aktiviti penggoda kanak-kanak dan remaja secara dalam talian. Dan apa yang berlaku kini ialah AI mempercepatkan perkara ini secara mendadak."
Undang-undang ini secara khusus mengharamkan tiga perkara utama: memiliki, mencipta, atau mengedarkan model AI yang direka untuk menghasilkan bahan penderaan seksual kanak-kanak; memiliki 'manual pedofil' AI yang mengajar orang cara menggunakan AI untuk mendera kanak-kanak secara seksual; dan mengendalikan laman web yang direka untuk berkongsi kandungan tersebut, yang boleh membawa hukuman penjara sehingga 10 tahun.
Undang-undang baharu ini menangani trend membimbangkan di mana pelaku menggunakan AI untuk 'menanggalkan pakaian' imej sebenar kanak-kanak atau menyunting wajah kanak-kanak ke atas imej penderaan sedia ada. Imej yang dihasilkan AI ini kadangkala digunakan untuk memeras ugut mangsa supaya terus dieksploitasi, termasuk penstriman langsung bersama pelaku.
Walaupun undang-undang sedia ada di UK telah melarang aspek tertentu imej penderaan seksual kanak-kanak, termasuk Akta Perlindungan Kanak-Kanak 1978 dan Akta Koroner dan Keadilan 2009, undang-undang baharu ini menutup jurang kritikal yang berkaitan khusus dengan teknologi AI. Kerajaan menegaskan bahawa undang-undang ini menyasarkan penyalahgunaan jenayah dan bukannya pembangunan AI yang sah, dengan perlindungan untuk memastikan inovasi tidak terjejas sambil mencegah kemudaratan.
Aktivis perlindungan kanak-kanak menyambut baik langkah ini, dengan Pengurus Dasar Keselamatan Kanak-Kanak Dalam Talian NSPCC, Rani Govender, berkata: "Adalah menggembirakan melihat kerajaan mengambil tindakan untuk membanteras penjenayah yang mencipta imej penderaan seksual kanak-kanak yang dihasilkan AI." Namun, pakar menegaskan bahawa pelaksanaan berkesan memerlukan kerjasama antarabangsa, kerana penderaan yang dihasilkan AI melangkaui sempadan negara.