I en tid hvor det bliver stadigt sværere at skelne mellem menneskeskabt og AI-genereret indhold, har Google introduceret et vigtigt nyt værktøj i kampen mod misinformation og deepfakes.
Annonceret på Google I/O 2025 i maj, giver SynthID Detector en centraliseret verifikationsportal, hvor brugere kan uploade medier for at afgøre, om de indeholder Googles usynlige SynthID-vandmærker. Systemet kan analysere billeder, tekst, lyd og video og fremhæver specifikke dele, der med størst sandsynlighed er AI-genereret.
"Efterhånden som disse muligheder udvikler sig og bliver bredt tilgængelige, opstår der spørgsmål om autenticitet, kontekst og verifikation," udtalte Pushmeet Kohli, Vice President of Science and Strategic Initiatives hos Google DeepMind. Portalen adresserer disse bekymringer ved at tilbyde nødvendig gennemsigtighed i det hastigt udviklende landskab for generativt indhold.
SynthID-teknologien har allerede vandmærket over 10 milliarder stykker indhold siden den første lancering i 2023. Oprindeligt fokuserede teknologien på AI-genererede billeder, men Google har udvidet den til også at omfatte tekst, lyd og video skabt af deres Gemini-, Imagen-, Lyria- og Veo-modeller.
Selvom SynthID markerer et betydeligt fremskridt inden for indholdsverifikation, har systemet sine begrænsninger. Det fungerer primært inden for Googles eget økosystem, selvom virksomheden har indgået et samarbejde med NVIDIA om at vandmærke videoer fra deres Cosmos-model. Google erkender desuden, at SynthID ikke er ufejlbarlig og kan omgås, især med tekst eller ved ekstreme ændringer af billeder.
En undersøgelse fra University of Maryland viste, at modstridende teknikker ofte kan fjerne AI-vandmærker. Forskerne konkluderede, at "vandmærker bidrager til gennemsigtighed, men de giver ikke absolut sikkerhed mod manipulation af AI-genereret indhold."
For at udvide SynthIDs rækkevidde har Google open-sourcet deres tekst-vandmærkningsramme og indgået partnerskab med GetReal Security for tredjepartsverifikation. Virksomheden ruller i øjeblikket SynthID Detector ud til de første testere, hvor journalister, mediefolk og forskere kan skrive sig på venteliste for adgang.