Într-o mișcare de referință pentru combaterea utilizării abuzive a inteligenței artificiale, Regatul Unit a devenit prima națiune care introduce pedepse penale specifice pentru materialele de abuz sexual asupra copiilor (CSAM) generate de AI.
Legislația, parte a proiectului de lege privind Criminalitatea și Poliția, introdus în Parlament pe 25 februarie 2025, răspunde creșterii alarmante a conținutului abuziv generat de AI. Potrivit Internet Watch Foundation, rapoartele privind CSAM generat de AI au crescut de aproape cinci ori în 2024, cu peste 3.500 de noi imagini de abuz sexual asupra copiilor generate de AI apărute pe dark web până la jumătatea anului 2024.
Yvette Cooper, ministrul de interne care a condus această inițiativă, a subliniat urgența noilor măsuri: „Materialele online cu abuz sexual asupra copiilor sunt în creștere, la fel ca și racolarea copiilor și adolescenților online. Iar ceea ce se întâmplă acum este că AI accelerează acest fenomen la cote alarmante.”
Legea incriminează în mod specific trei domenii cheie: deținerea, crearea sau distribuirea de modele AI concepute pentru a genera materiale cu abuz sexual asupra copiilor; deținerea de „manuale pedofile” AI care îi învață pe oameni cum să folosească AI pentru a abuza sexual copii; și gestionarea de site-uri web destinate distribuirii unui astfel de conținut, fapt care poate duce la până la 10 ani de închisoare.
Noile reglementări răspund unei tendințe îngrijorătoare, în care infractorii folosesc AI pentru a „dezbrăca” digital imagini reale cu copii sau pentru a suprapune fețele copiilor pe imagini de abuz deja existente. Aceste imagini generate de AI sunt uneori folosite pentru a șantaja victimele și a le forța la exploatare suplimentară, inclusiv transmisiuni live cu agresorii.
Deși legislația britanică existentă interzice deja anumite aspecte ale imaginilor cu abuz sexual asupra copiilor, inclusiv Legea privind Protecția Copilului din 1978 și Legea Coronerilor și Justiției din 2009, noua lege închide lacunele critice legate în mod specific de tehnologia AI. Guvernul a subliniat că legea vizează utilizarea criminală, nu dezvoltarea legitimă a AI, existând garanții pentru protejarea inovației și prevenirea abuzurilor.
Militanții pentru protecția copiilor au salutat această inițiativă, managerul de politici pentru siguranța copiilor online al NSPCC, Rani Govender, declarând: „Este încurajator să vedem guvernul luând măsuri împotriva infractorilor care creează imagini cu abuz sexual asupra copiilor generate de AI.” Totuși, experții avertizează că implementarea eficientă va necesita cooperare internațională, întrucât abuzurile generate de AI depășesc granițele naționale.