In risposta alla crescita esplosiva dei media generati dall’intelligenza artificiale e alle crescenti preoccupazioni sull’autenticità, Google ha presentato SynthID Detector, uno strumento di verifica avanzato progettato per identificare i contenuti creati tramite le tecnologie IA di Google.
Annunciato al Google I/O 2025, SynthID Detector funziona scansionando i media caricati alla ricerca di filigrane digitali invisibili che Google incorpora nei contenuti generati dai suoi modelli IA, tra cui Gemini, Imagen, Lyria e Veo. Quando viene rilevata una filigrana, il portale individua con precisione le porzioni del contenuto che con maggiore probabilità la contengono, evidenziando segmenti specifici nelle tracce audio o aree particolari nelle immagini.
La tecnologia risponde a un’esigenza urgente nel panorama digitale attuale. Secondo stime recenti, i video deepfake sono aumentati del 550% dal 2019 al 2024, con una quota significativa dei post più visualizzati sui social media che ora include elementi generati dall’IA. Il sistema di filigranatura di SynthID è progettato per rimanere rilevabile anche quando i contenuti subiscono varie trasformazioni, offrendo un metodo robusto per la verifica.
“La trasparenza dei contenuti resta una sfida complessa”, ha sottolineato Google nel suo annuncio. Per estendere la portata della tecnologia, Google ha stretto una collaborazione con NVIDIA per filigranare i video generati dal modello NVIDIA Cosmos e con GetReal Security per ampliare le capacità di rilevamento. Inoltre, Google ha reso open source la filigranatura di testo SynthID, consentendo agli sviluppatori di integrare la tecnologia nei propri modelli.
Tuttavia, SynthID Detector presenta alcune limitazioni. Funziona principalmente all’interno dell’ecosistema Google e non può rilevare contenuti creati con strumenti di altre aziende come Microsoft, Meta o OpenAI, che hanno sviluppato proprie tecnologie di filigranatura. Gli esperti sottolineano inoltre che le filigrane possono potenzialmente essere rimosse tramite tecniche avversarie.
Attualmente disponibile per i primi tester tramite una lista d’attesa rivolta a giornalisti, ricercatori e professionisti dei media, SynthID Detector rappresenta un passo importante verso la creazione di fiducia in un mondo sempre più popolato da contenuti generati dall’IA. Con l’espansione dell’accesso allo strumento prevista nelle prossime settimane, Google segna una tappa significativa nello sforzo continuo di mantenere l’autenticità nei media digitali.