In un’epoca in cui distinguere tra contenuti creati dall’uomo e quelli generati dall’intelligenza artificiale è diventato sempre più difficile, Google ha introdotto un nuovo strumento fondamentale nella lotta contro la disinformazione e i deepfake.
Annunciato al Google I/O 2025 a maggio, SynthID Detector offre un portale centralizzato di verifica in cui gli utenti possono caricare media per determinare se contengono i watermark invisibili SynthID di Google. Il sistema è in grado di analizzare immagini, testi, audio e video, evidenziando le porzioni più probabilmente generate dall’IA.
"Man mano che queste capacità avanzano e diventano più ampiamente disponibili, emergono domande su autenticità, contesto e verifica", ha dichiarato Pushmeet Kohli, Vicepresidente di Science and Strategic Initiatives presso Google DeepMind. Il portale risponde a queste preoccupazioni offrendo trasparenza essenziale in un panorama dei media generativi in rapida evoluzione.
La tecnologia SynthID ha già contrassegnato oltre 10 miliardi di contenuti dalla sua introduzione nel 2023. Inizialmente focalizzata sulle immagini generate dall’IA, Google ha ampliato la tecnologia per includere testi, audio e video prodotti dai suoi modelli Gemini, Imagen, Lyria e Veo.
Sebbene SynthID rappresenti un importante passo avanti nella verifica dei contenuti, presenta alcune limitazioni. Il sistema funziona principalmente all’interno dell’ecosistema Google, anche se l’azienda ha stretto una partnership con NVIDIA per applicare i watermark ai video generati dal modello Cosmos. Inoltre, Google riconosce che SynthID non è infallibile e può essere aggirato, soprattutto per quanto riguarda i testi o tramite modifiche estreme alle immagini.
Uno studio dell’Università del Maryland ha rilevato che tecniche avversarie possono spesso rimuovere i watermark dell’IA, con i ricercatori che hanno concluso: "I watermark offrono valore negli sforzi di trasparenza, ma non garantiscono una sicurezza assoluta contro la manipolazione dei contenuti generati dall’IA".
Per ampliare la diffusione di SynthID, Google ha reso open source il suo framework di watermarking per i testi e ha stretto una collaborazione con GetReal Security per la verifica da parte di terzi. L’azienda sta attualmente distribuendo SynthID Detector ai primi tester, consentendo a giornalisti, professionisti dei media e ricercatori di iscriversi a una lista d’attesa per l’accesso.