Con la diffusione massiccia di contenuti generati dall'intelligenza artificiale su Internet, distinguere tra media creati da esseri umani e quelli prodotti da macchine è diventato sempre più difficile. Il nuovo SynthID Detector di Google rappresenta un importante passo avanti nella tecnologia di verifica dei contenuti, offrendo agli utenti uno strumento potente per identificare materiali generati dall'IA.
Il portale SynthID Detector, annunciato al Google I/O 2025, consente agli utenti di caricare immagini, tracce audio, video o testi per essere analizzati alla ricerca delle filigrane proprietarie SynthID di Google. Queste filigrane digitali sono impercettibili all'occhio umano ma rilevabili da software specializzati. Quando viene individuata una filigrana, il portale evidenzia le porzioni specifiche del contenuto che con maggiore probabilità contengono elementi generati dall'IA, offrendo una trasparenza senza precedenti nella verifica dei contenuti.
Google riferisce che SynthID ha già filigranato oltre 10 miliardi di contenuti dal suo lancio iniziale nel 2023. La tecnologia si è estesa oltre l'ecosistema Google grazie a partnership strategiche, tra cui una collaborazione con NVIDIA per filigranare i video generati dal microservizio di anteprima NVIDIA Cosmos. Inoltre, Google ha reso open source la filigranatura dei testi SynthID, permettendo agli sviluppatori di integrare la tecnologia nei propri modelli.
Il tempismo di questo rilascio è particolarmente significativo, considerando l'aumento allarmante del 550% dei video deepfake dal 2019 al 2024. Secondo analisi recenti, i contenuti generati dall'IA compaiono sempre più spesso tra i post più visualizzati sulle piattaforme social, evidenziando l'urgenza di strumenti di verifica affidabili.
Attualmente, SynthID Detector è in fase di distribuzione ai primi tester; giornalisti, professionisti dei media e ricercatori possono iscriversi a una lista d'attesa per ottenere l'accesso. Sebbene la tecnologia rappresenti un importante passo avanti nella lotta alla disinformazione, Google riconosce alcune limitazioni: SynthID rileva solo i contenuti creati con strumenti che adottano la specifica di Google e le filigrane possono essere potenzialmente eluse tramite modifiche estreme.
Nonostante queste sfide, SynthID Detector segna uno sviluppo cruciale per ristabilire la fiducia nei media digitali, in un momento in cui distinguere tra contenuti autentici e generati dall'IA non è mai stato così importante.