Google je napravio veliki iskorak u borbi protiv dezinformacija generiranih umjetnom inteligencijom predstavljanjem SynthID Detectora, sveobuhvatnog portala za provjeru autentičnosti koji je predstavljen na Google I/O 2025 u svibnju.
Novi alat omogućuje korisnicima brzo prepoznavanje je li slika, audio, video ili tekst nastao korištenjem Googleovih AI alata, detektirajući nevidljive vodene žigove umetnute tijekom procesa stvaranja sadržaja. SynthID Detector ne samo da potvrđuje sadrži li sadržaj vodene žigove, već i ističe konkretne dijelove koji su najvjerojatnije generirani umjetnom inteligencijom.
"Napredak u generativnoj umjetnoj inteligenciji omogućuje ljudima stvaranje sadržaja na potpuno nove načine," izjavio je Pushmeet Kohli, potpredsjednik za znanost i strateške inicijative u Google DeepMind-u. "Kako ove mogućnosti napreduju i postaju široko dostupne, pojavljuju se pitanja autentičnosti, konteksta i provjere."
Tehnologija predstavlja značajno postignuće u pogledu razmjera, a Google otkriva da je već više od 10 milijardi komada sadržaja označeno SynthID-om od njegovog početnog lansiranja 2023. godine. Sustav označavanja radi kroz cijeli Googleov AI ekosustav, uključujući sadržaj generiran modelima Gemini, Imagen, Lyria i Veo.
Kako bi proširio doseg SynthID-a izvan vlastitih proizvoda, Google je otvorio izvorni kod okvira za označavanje teksta i udružio se s tvrtkama poput NVIDIA-e radi označavanja videa generiranih njihovim AI modelima. Tvrtka je također surađivala s GetReal Securityjem na poboljšanju mogućnosti detekcije SynthID vodenih žigova.
Iako SynthID Detector nudi obećavajuća rješenja za provjeru sadržaja, Google priznaje i njegova ograničenja. Sustav prvenstveno funkcionira unutar Googleovog ekosustava i može se zaobići ekstremnim izmjenama slika ili temeljitim prepravljanjem teksta. Unatoč tim izazovima, alat predstavlja važan korak prema uspostavljanju povjerenja u sve više AI-generiranom digitalnom okruženju.
Novinari, medijski profesionalci i istraživači zainteresirani za rani pristup SynthID Detectoru mogu se prijaviti na Googleovu listu čekanja dok se tvrtka priprema za širu dostupnost alata u nadolazećim tjednima.