인공지능의 악용이 급증하는 가운데, 영국이 AI로 생성된 아동 성착취물(CSAM)에 대해 구체적 형사처벌 조항을 도입한 세계 최초의 국가가 됐다.
2025년 2월 25일 의회에 제출된 '범죄 및 치안 법안'은 AI 기반 아동 성착취물의 급증에 대응하기 위한 조치다. 인터넷 감시재단(Internet Watch Foundation)에 따르면, 2024년 AI 생성 CSAM 신고 건수는 전년 대비 거의 5배 증가했으며, 2024년 중반까지 다크웹에서 3,500건 이상의 신규 AI 생성 아동 성착취 이미지가 발견됐다.
이번 법안을 주도한 예벳 쿠퍼 내무장관은 "온라인 아동 성착취물뿐 아니라, 아동과 청소년 대상 온라인 그루밍도 증가하고 있다. 이제는 AI가 이러한 범죄를 더욱 가속화시키고 있다"며 법안의 시급성을 강조했다.
법안은 세 가지 주요 행위를 명확히 범죄로 규정한다. 아동 성착취물을 생성하도록 설계된 AI 모델의 소지, 제작, 유포 행위, AI를 이용한 아동 성착취 방법을 안내하는 'AI 소아성애 매뉴얼'의 소지, 그리고 해당 콘텐츠 공유를 목적으로 한 웹사이트 운영 등이다. 특히 웹사이트 운영의 경우 최대 10년의 징역형이 부과될 수 있다.
새 법은 범죄자들이 AI를 이용해 실제 아동의 이미지를 '누드화'하거나, 아동의 얼굴을 기존 성착취 이미지에 합성하는 등 새로운 범죄 수법에 대응한다. 이처럼 생성된 이미지는 피해 아동을 협박해 추가 착취, 심지어 가해자와의 라이브 스트리밍까지 이어질 수 있다.
영국은 이미 1978년 '아동보호법'과 2009년 '검시관 및 사법법' 등으로 아동 성착취 이미지의 제작·유포를 금지하고 있으나, 이번 법안은 AI 기술과 관련된 핵심 사각지대를 해소한다. 정부는 이번 법이 합법적 AI 개발이 아닌 범죄적 악용만을 겨냥하며, 혁신 보호와 피해 방지의 균형을 맞췄다고 강조했다.
아동 보호 단체들은 이번 조치를 환영했다. NSPCC(영국 아동학대방지협회) 온라인 아동 안전 정책 매니저 라니 고벤더는 "정부가 AI 생성 아동 성착취 이미지 제작 범죄에 대응하는 조치를 취한 것은 고무적"이라고 평가했다. 다만 전문가들은 AI 기반 범죄가 국경을 초월하는 만큼, 효과적인 집행을 위해서는 국제 협력이 필수적이라고 지적했다.