Efterhånden som generativ AI udvisker grænsen mellem menneskeskabt og maskinskabt indhold, har Google introduceret et vigtigt værktøj til at bevare digital tillid. SynthID Detector-portalen, annonceret på Google I/O 2025, tilbyder en central platform til at verificere, om indhold indeholder Googles usynlige SynthID-vandmærker.
Teknologien fungerer ved at scanne uploadede medier for usynlige vandmærker, der indlejres under AI-genereringsprocessen. Når et vandmærke opdages, kan systemet udpege specifikke områder af et billede, segmenter af lyd eller video eller tekstdele, der med størst sandsynlighed indeholder vandmærket. Denne detaljerede tilgang hjælper brugere med ikke blot at forstå, om indholdet er AI-genereret, men også præcis hvilke dele der er skabt eller ændret med Googles AI-værktøjer.
SynthID har udviklet sig markant siden introduktionen i 2023. Teknologien fokuserede oprindeligt på billeder, men dækker nu alle større indholdstyper og fungerer på tværs af Googles AI-økosystem, herunder Gemini til tekst, Imagen til billeder, Lyria til lyd og Veo til video. Systemet har allerede vandmærket over 10 milliarder stykker indhold, hvilket vidner om en omfattende implementering.
For at udvide SynthIDs rækkevidde uden for Googles økosystem har virksomheden indgået partnerskab med NVIDIA om at vandmærke videoer genereret af deres Cosmos-mikrotjeneste og med GetReal Security for tredjeparts-verificeringsmuligheder. Google har desuden open-sourcet SynthID-rammeværket til tekstvandmærkning, så udviklere kan integrere teknologien i deres egne modeller.
På trods af disse fremskridt har SynthID sine begrænsninger. Systemet fungerer primært med indhold genereret af Googles AI-værktøjer eller dem, der benytter virksomhedens vandmærkningsteknologi. Indhold fra andre AI-udbydere, såsom OpenAIs ChatGPT, forbliver uopdageligt. Derudover erkender Google, at SynthID ikke er ufejlbarligt over for ekstreme manipulationer, især når tekst omskrives eller oversættes kraftigt.
SynthID Detector er i øjeblikket tilgængelig for tidlige testere, hvor journalister, mediefolk og forskere kan skrive sig på venteliste for adgang. I takt med at AI-genereret indhold bliver stadig mere sofistikeret, repræsenterer værktøjer som SynthID et vigtigt skridt mod at bevare gennemsigtighed og bekæmpe misinformation i det digitale landskab.