Yapay zekanın kötüye kullanımına karşı mücadelede önemli bir adım atan Birleşik Krallık, yapay zeka ile üretilen çocuklara yönelik cinsel istismar materyali (ÇİM) için özel cezai yaptırımlar getiren ilk ülke oldu.
25 Şubat 2025’te Parlamento’ya sunulan Suç ve Polislik Yasa Tasarısı kapsamında hazırlanan bu mevzuat, yapay zeka ile üretilen istismar içeriklerindeki endişe verici artışı hedef alıyor. Internet Watch Foundation’a göre, 2024 yılında yapay zeka ile üretilen ÇİM raporları neredeyse beş kat arttı ve 2024 ortasına kadar karanlık ağda 3.500’den fazla yeni yapay zeka üretimi çocuk istismarı görseli tespit edildi.
Girişimin öncüsü İçişleri Bakanı Yvette Cooper, yeni önlemlerin aciliyetine dikkat çekerek şunları söyledi: “Çevrimiçi çocuk cinsel istismarı materyalleri artıyor, ancak aynı zamanda çocukların ve gençlerin çevrimiçi ortamda kandırılması da artıyor. Şu anda ise yapay zeka bu durumu adeta steroidlemiş durumda.”
Yasa, üç temel alanı açıkça suç kapsamına alıyor: Çocuklara yönelik cinsel istismar materyali üretmek için tasarlanmış yapay zeka modellerinin bulundurulması, oluşturulması veya dağıtılması; çocuklara yönelik cinsel istismarda yapay zekanın nasıl kullanılacağını öğreten 'pedofil el kitaplarının' bulundurulması; ve bu tür içeriklerin paylaşımı için kurulan web sitelerinin işletilmesi. Bu son durumda 10 yıla kadar hapis cezası öngörülüyor.
Yeni yasalar, faillerin çocukların gerçek fotoğraflarını 'çıplaklaştırmak' veya çocukların yüzlerini mevcut istismar görsellerine yapay zeka ile yerleştirmek gibi yöntemlerle içerik üretmesinin önüne geçmeyi hedefliyor. Bu tür yapay zeka üretimi görseller bazen mağdurları daha fazla istismara, hatta faillerle canlı yayın yapmaya zorlamak için şantaj amacıyla kullanılıyor.
Birleşik Krallık’ta mevcut yasalar (1978 Çocukların Korunması Yasası ve 2009 Adli Tıp ve Adalet Yasası dahil) çocuk istismarı görsellerinin birçok yönünü zaten yasaklıyor olsa da, yeni mevzuat özellikle yapay zeka teknolojisiyle ilgili kritik boşlukları kapatıyor. Hükümet, yasanın meşru yapay zeka geliştirmelerini değil, suç amaçlı kötüye kullanımı hedef aldığını ve yeniliği korurken zararı önlemeye yönelik güvenceler içerdiğini vurguladı.
Çocuk koruma savunucuları bu adımı memnuniyetle karşıladı. NSPCC’nin Çevrimiçi Çocuk Güvenliği Politika Müdürü Rani Govender, “Hükümetin, yapay zeka ile üretilen çocuk istismarı görselleri oluşturan suçlularla mücadeleye yönelik adım atması sevindirici,” dedi. Ancak uzmanlar, yapay zeka ile üretilen istismar içeriklerinin ulusal sınırları aştığına dikkat çekerek, etkin uygulama için uluslararası iş birliğinin gerekliliğine vurgu yaptı.