Google har taget et stort skridt fremad i kampen mod AI-genereret misinformation med lanceringen af SynthID Detector, en omfattende verifikationsportal præsenteret på Google I/O 2025 i maj.
Det nye værktøj gør det muligt for brugere hurtigt at identificere, om billeder, lyd, video eller tekst er skabt med Googles AI-værktøjer ved at detektere usynlige vandmærker, der indlejres under selve indholdsskabelsen. SynthID Detector bekræfter ikke blot, om indholdet indeholder vandmærker, men fremhæver også specifikke dele, der med størst sandsynlighed er AI-genereret.
"Fremskridt inden for generativ AI gør det muligt for folk at skabe indhold på helt nye måder," udtaler Pushmeet Kohli, VP for Science and Strategic Initiatives hos Google DeepMind. "Efterhånden som disse muligheder udvikler sig og bliver bredt tilgængelige, opstår der spørgsmål om autenticitet, kontekst og verifikation."
Teknologien repræsenterer en betydelig bedrift i skala, idet Google oplyser, at over 10 milliarder stykker indhold allerede er blevet vandmærket med SynthID siden den første lancering i 2023. Dette vandmærkningssystem fungerer på tværs af Googles AI-økosystem, herunder indhold genereret af Gemini-, Imagen-, Lyria- og Veo-modellerne.
For at udvide SynthID's rækkevidde ud over egne produkter har Google gjort tekst-vandmærkningsrammeværket open source og indgået partnerskaber med virksomheder som NVIDIA for at vandmærke videoer genereret af deres AI-modeller. Selskabet har også samarbejdet med GetReal Security for at forbedre detektionen af SynthID-vandmærker.
Selvom SynthID Detector tilbyder lovende løsninger til indholdsverifikation, anerkender Google også dets begrænsninger. Systemet fungerer primært inden for Googles eget økosystem og kan omgås gennem ekstreme ændringer af billeder eller grundige omskrivninger af tekst. På trods af disse udfordringer udgør værktøjet et vigtigt skridt mod at skabe tillid i et digitalt landskab, hvor AI-genereret indhold fylder mere og mere.
Journalister, medieprofessionelle og forskere, der ønsker tidlig adgang til SynthID Detector, kan skrive sig på Googles venteliste, mens virksomheden forbereder en bredere udrulning i de kommende uger.