Efterhånden som AI-genereret indhold bliver stadig mere sofistikeret og udbredt, har Google introduceret et kraftfuldt nyt værktøj for at imødekomme de voksende bekymringer om digital ægthed og gennemsigtighed.
Præsenteret på Google I/O 2025 er SynthID Detector en verifikationsportal, der gør det muligt for brugere hurtigt at identificere, om indhold er skabt ved hjælp af Googles AI-værktøjer. Systemet fungerer ved at scanne uploadede filer for usynlige SynthID-vandmærker, som Google indlejrer direkte i AI-genereret indhold uden at påvirke kvaliteten.
Detektoren kan analysere billeder, lyd, video og tekst skabt af Googles AI-modeller, herunder Gemini, Imagen, Lyria og Veo. Når et vandmærke opdages, fremhæver portalen de specifikke dele af indholdet, der sandsynligvis indeholder det – for eksempel bestemte segmenter i lydspor eller specifikke områder i billeder.
"I takt med at disse muligheder udvikler sig og bliver bredt tilgængelige, opstår der spørgsmål om ægthed, kontekst og verificering," udtalte Google i sin annoncering. Virksomheden oplyser, at over 10 milliarder stykker indhold allerede er blevet vandmærket med SynthID siden lanceringen i 2023, hvilket vidner om stor udbredelse.
Selvom SynthID Detector er lovende, har den begrænsninger. Den identificerer primært indhold skabt med Googles egne AI-modeller eller fra partnere som NVIDIA, der har integreret SynthID-teknologien. Indhold fra andre AI-systemer, såsom OpenAI's ChatGPT, kan ikke detekteres. Vandmærkningssystemet bliver også mindre effektivt ved meget korte tekster, stærkt redigeret indhold eller når det oversættes til andre sprog.
For at udvide økosystemet har Google gjort SynthID tekst-vandmærkning open source, så udviklere kan integrere teknologien i deres egne modeller. Virksomheden har desuden indgået partnerskab med GetReal Security, en platform for indholdsverificering, for at udvide detektionsmulighederne.
SynthID Detector er i øjeblikket tilgængelig for de første testere, og journalister, medieprofessionelle og forskere kan skrive sig på venteliste for adgang. En bredere udrulning forventes i de kommende uger. Da antallet af deepfake-videoer ifølge nogle estimater er steget med 550% fra 2019 til 2024, repræsenterer værktøjer som SynthID Detector et vigtigt skridt mod at skabe tillid i en digital verden med stadigt mere AI-genereret indhold.