Em uma medida histórica para combater o crescente uso indevido da inteligência artificial, o Reino Unido tornou-se a primeira nação a introduzir penalidades criminais específicas para material de abuso sexual infantil (CSAM) gerado por IA.
A legislação, parte do Projeto de Lei de Crimes e Policiamento apresentado ao Parlamento em 25 de fevereiro de 2025, aborda o alarmante aumento de conteúdos abusivos gerados por IA. Segundo a Internet Watch Foundation, os relatos de CSAM gerado por IA aumentaram quase cinco vezes em 2024, com mais de 3.500 novas imagens de abuso sexual infantil geradas por IA aparecendo na dark web até meados de 2024.
A secretária do Interior, Yvette Cooper, que liderou a iniciativa, destacou a urgência das novas medidas: "O material de abuso sexual infantil online está crescendo, assim como o aliciamento de crianças e adolescentes na internet. E o que está acontecendo agora é que a IA está potencializando isso de forma alarmante."
A legislação criminaliza especificamente três áreas principais: possuir, criar ou distribuir modelos de IA projetados para gerar material de abuso sexual infantil; possuir 'manuais de pedofilia' baseados em IA que ensinam como usar IA para abusar sexualmente de crianças; e administrar sites criados para compartilhar esse tipo de conteúdo, o que pode resultar em até 10 anos de prisão.
As novas leis abordam uma tendência preocupante em que criminosos usam IA para 'desnudar' imagens reais de crianças ou inserir rostos de crianças em imagens já existentes de abuso. Essas imagens geradas por IA às vezes são usadas para chantagear as vítimas, levando a novas formas de exploração, incluindo transmissões ao vivo com os agressores.
Embora as leis britânicas já proíbam aspectos da produção e posse de imagens de abuso sexual infantil, como a Lei de Proteção à Criança de 1978 e a Lei de Coroners e Justiça de 2009, a nova legislação fecha lacunas críticas relacionadas especificamente à tecnologia de IA. O governo enfatizou que a lei tem como alvo o uso criminoso, e não o desenvolvimento legítimo de IA, com salvaguardas para proteger a inovação enquanto previne danos.
Defensores da proteção infantil receberam bem a medida. Rani Govender, gerente de políticas de Segurança Infantil Online da NSPCC, afirmou: "É encorajador ver o governo agir para combater criminosos que criam imagens de abuso sexual infantil geradas por IA." No entanto, especialistas observam que a implementação eficaz exigirá cooperação internacional, já que o abuso gerado por IA transcende fronteiras nacionais.