I en tid, hvor det bliver stadig sværere at skelne mellem menneskeskabt og AI-genereret indhold, har Google introduceret et kraftfuldt nyt verifikationsværktøj på sin I/O 2025-udviklerkonference.
SynthID Detector-portalen gør det muligt for brugere hurtigt at identificere AI-genereret indhold ved at scanne efter usynlige vandmærker indlejret af Googles AI-systemer. Når brugere uploader et billede, et lydspor, en video eller tekst skabt med Googles AI-værktøjer som Gemini, Imagen, Lyria eller Veo, kan portalen ikke blot afgøre, om indholdet indeholder et SynthID-vandmærke, men også fremhæve de specifikke dele, der med størst sandsynlighed er vandmærket.
Denne teknologi imødekommer et kritisk behov, efterhånden som AI-genereret indhold oversvømmer internettet. Ifølge nye estimater steg antallet af deepfake-videoer med 550% mellem 2019 og 2024, og en betydelig andel af de mest sete opslag på sociale medier indeholder nu AI-skabt indhold. SynthIDs vandmærkningssystem forbliver detekterbart, selv når indholdet gennemgår transformationer som beskæring, ændring af størrelse eller andre modifikationer, hvilket gør det særligt effektivt mod forsøg på at skjule AI-oprindelse.
Google har allerede udvidet SynthIDs rækkevidde ud over sin egen økosystem gennem strategiske partnerskaber. Virksomheden har open-sourcet sin tekst-vandmærkningsteknologi og indgået samarbejde med NVIDIA om at vandmærke videoer genereret af NVIDIAs Cosmos-model. Derudover vil et samarbejde med GetReal Security muliggøre ekstern verifikation af SynthID-vandmærker og bidrage til at opbygge et mere tillidsfuldt digitalt økosystem.
Selvom SynthID Detector markerer betydelige fremskridt inden for indholdsverifikation, har værktøjet visse begrænsninger. Det fungerer primært med Googles AI-modeller og dem, der bruger virksomhedens vandmærkningsteknologi, hvilket betyder, at indhold fra andre platforme ikke kan opdages. Kritikere påpeger også, at vandmærkning ikke forhindrer misbrug af indhold, men kun muliggør efterfølgende detektion.
SynthID Detector er i øjeblikket tilgængelig for en udvalgt gruppe af tidlige testere, og journalister, mediefolk, forskere og undervisere kan skrive sig på venteliste for adgang. En bredere udrulning forventes i de kommende uger, efterhånden som Google fortsætter med at forfine dette vigtige værktøj i kampen mod AI-genereret misinformation.