Som svar på den eksplosive vækst i AI-genereret medieindhold og stigende bekymringer om autenticitet har Google præsenteret SynthID Detector, et avanceret verifikationsværktøj designet til at identificere indhold skabt med Googles AI-teknologier.
SynthID Detector, der blev annonceret på Google I/O 2025, fungerer ved at scanne uploadede medier for usynlige digitale vandmærker, som Google indlejrer i indhold genereret af sine AI-modeller, herunder Gemini, Imagen, Lyria og Veo. Når et vandmærke opdages, identificerer portalen præcist, hvilke dele af indholdet der med størst sandsynlighed indeholder det – eksempelvis bestemte segmenter i lydspor eller særlige områder i billeder.
Teknologien adresserer et presserende behov i det digitale landskab i dag. Ifølge nylige estimater er antallet af deepfake-videoer alene steget med 550% fra 2019 til 2024, og en betydelig del af de mest sete opslag på sociale medier indeholder nu AI-genererede elementer. SynthIDs vandmærkningssystem er designet til at forblive detekterbart, selv når indholdet gennemgår forskellige transformationer, hvilket giver en robust metode til verifikation.
"Indholdstransparens forbliver en kompleks udfordring," bemærkede Google i deres annoncering. For at udvide teknologiens rækkevidde har Google indgået partnerskab med NVIDIA om at vandmærke videoer genereret af deres NVIDIA Cosmos-model og med GetReal Security for bredere detektionsmuligheder. Derudover har Google gjort SynthID tekst-vandmærkning open source, så udviklere kan integrere teknologien i deres egne modeller.
Dog har SynthID Detector visse begrænsninger. Den fungerer primært inden for Googles økosystem og kan ikke detektere indhold skabt med værktøjer fra andre virksomheder som Microsoft, Meta eller OpenAI, der har udviklet deres egne vandmærkningsteknologier. Eksperter påpeger også, at vandmærker potentielt kan fjernes gennem avancerede teknikker.
SynthID Detector er i øjeblikket tilgængelig for udvalgte testere via et ventelistesystem med fokus på journalister, forskere og medieprofessionelle. Værktøjet repræsenterer et vigtigt skridt mod at skabe tillid i en verden med stadig mere AI-genereret indhold. Efterhånden som Google udvider adgangen til værktøjet i de kommende uger, markerer det en væsentlig milepæl i den fortsatte indsats for at opretholde autenticitet i digitale medier.