Kako AI-generirani sadržaj postaje sve sofisticiraniji i rašireniji, Google je predstavio snažan novi alat za rješavanje rastućih zabrinutosti oko digitalne autentičnosti i transparentnosti.
Najavljen na Google I/O 2025, SynthID Detector je portal za provjeru koji korisnicima omogućuje brzo prepoznavanje je li sadržaj nastao korištenjem Googleovih AI alata. Sustav funkcionira tako da skenira učitane datoteke u potrazi za nevidljivim SynthID vodenim žigovima koje Google ugrađuje izravno u AI-generirani sadržaj, bez utjecaja na njegovu kvalitetu.
Detektor može analizirati slike, zvuk, video i tekst stvoren Googleovim AI modelima, uključujući Gemini, Imagen, Lyria i Veo. Kada se otkrije vodeni žig, portal ističe konkretne dijelove sadržaja u kojima je najvjerojatnije prisutan – precizno određujući segmente u audio zapisima ili specifična područja na slikama.
"Kako ove mogućnosti napreduju i postaju široko dostupne, pojavljuju se pitanja autentičnosti, konteksta i provjere," naveli su iz Googlea u svojoj objavi. Tvrtka izvještava da je od lansiranja 2023. SynthID već označio više od 10 milijardi sadržaja, što pokazuje značajnu prihvaćenost.
Iako obećavajuć, SynthID Detector ima svoja ograničenja. Primarno identificira sadržaj stvoren Googleovim AI modelima ili onima partnera poput NVIDIA-e koji su integrirali SynthID tehnologiju. Sadržaj iz drugih AI sustava, poput OpenAI-jevog ChatGPT-a, neće biti detektiran. Sustav vodenih žigova također je manje učinkovit kod vrlo kratkih tekstova, opsežno uređenog sadržaja ili pri prijevodu na druge jezike.
Kako bi proširio ekosustav, Google je otvorio izvorni kod SynthID označavanja teksta, omogućujući developerima da tehnologiju uključe u vlastite modele. Tvrtka je također sklopila partnerstvo s GetReal Security, platformom za provjeru sadržaja, kako bi proširila mogućnosti detekcije.
Trenutno dostupan prvim testerima, novinari, medijski profesionalci i istraživači mogu se prijaviti na listu čekanja za pristup, a šira dostupnost očekuje se u narednim tjednima. Kako su deepfake videi porasli za 550% od 2019. do 2024. prema nekim procjenama, alati poput SynthID Detectora predstavljaju važan korak prema uspostavi povjerenja u sve više AI-generiranom digitalnom okruženju.