U eri u kojoj je sve teže razlikovati sadržaj koji su stvorili ljudi od onoga koji je generirala umjetna inteligencija, Google je predstavio ključni novi alat u borbi protiv dezinformacija i deepfakeova.
Najavljen na Google I/O 2025 u svibnju, SynthID Detector omogućuje centralizirani portal za provjeru gdje korisnici mogu učitati medijske datoteke i utvrditi sadrže li nevidljive SynthID vodene žigove. Sustav može analizirati slike, tekst, audio i video, ističući dijelove koji su najvjerojatnije generirani umjetnom inteligencijom.
"Kako ove mogućnosti napreduju i postaju široko dostupne, pojavljuju se pitanja autentičnosti, konteksta i provjere," izjavio je Pushmeet Kohli, potpredsjednik za znanost i strateške inicijative u Google DeepMindu. Portal odgovara na te izazove pružajući ključnu transparentnost u brzo mijenjajućem okruženju generativnih medija.
SynthID tehnologija već je označila više od 10 milijardi sadržaja od svog prvog predstavljanja 2023. godine. Izvorno usmjerena na AI-generirane slike, Google je proširio tehnologiju i na tekst, audio te video sadržaje generirane njegovim Gemini, Imagen, Lyria i Veo modelima.
Iako SynthID predstavlja značajan napredak u provjeri sadržaja, ima i svoja ograničenja. Sustav prvenstveno funkcionira unutar Googleovog ekosustava, iako je tvrtka surađivala s NVIDIA-om na označavanju videa iz njihovog Cosmos modela. Google također priznaje da SynthID nije nepogrešiv i da ga je moguće zaobići, osobito kod teksta ili ekstremnih izmjena slika.
Studija Sveučilišta Maryland pokazala je da se naprednim tehnikama često mogu ukloniti AI vodeni žigovi, a istraživači zaključuju kako "vodeni žigovi doprinose transparentnosti, ali ne pružaju apsolutnu sigurnost protiv manipulacije AI-generiranim sadržajem".
Kako bi proširio doseg SynthID-a, Google je otvorio svoj okvir za označavanje teksta i udružio se s tvrtkom GetReal Security za verifikaciju trećih strana. Tvrtka trenutačno uvodi SynthID Detector za rane testere, a novinari, medijski profesionalci i istraživači mogu se prijaviti na listu čekanja za pristup.