Som svar på den explosionsartade tillväxten av AI-genererat media och ökande oro kring äkthet har Google lanserat SynthID Detector, ett sofistikerat verifieringsverktyg utformat för att identifiera innehåll som skapats med Googles AI-teknologier.
SynthID Detector, som presenterades på Google I/O 2025, fungerar genom att skanna uppladdat material efter osynliga digitala vattenmärken som Google bäddar in i innehåll genererat av deras AI-modeller, inklusive Gemini, Imagen, Lyria och Veo. När ett vattenmärke upptäcks identifierar portalen exakt vilka delar av innehållet som mest sannolikt innehåller det – den kan peka ut specifika segment i ljudspår eller markera särskilda områden i bilder.
Teknologin adresserar ett akut behov i dagens digitala landskap. Enligt färska uppskattningar har deepfake-videor ökat med 550 % mellan 2019 och 2024, och en betydande andel av de mest visade inläggen på sociala medier innehåller nu AI-genererade inslag. SynthIDs vattenmärkningssystem är utformat för att förbli detekterbart även när innehållet genomgår olika transformationer, vilket ger en robust metod för verifiering.
"Transparens kring innehåll är fortsatt en komplex utmaning", konstaterade Google i sitt tillkännagivande. För att utöka teknikens räckvidd har Google samarbetat med NVIDIA för att vattenmärka videor genererade av deras NVIDIA Cosmos-modell och med GetReal Security för bredare detekteringsmöjligheter. Dessutom har Google gjort SynthIDs textvattenmärkning öppen källkod, vilket gör det möjligt för utvecklare att integrera tekniken i sina egna modeller.
SynthID Detector har dock vissa begränsningar. Den fungerar främst inom Googles ekosystem och kan inte upptäcka innehåll som skapats med verktyg från andra företag som Microsoft, Meta eller OpenAI, vilka har utvecklat egna vattenmärkningsteknologier. Experter påpekar också att vattenmärken potentiellt kan tas bort genom avancerade motåtgärder.
SynthID Detector är för närvarande tillgänglig för tidiga testare via ett väntelistesystem med fokus på journalister, forskare och medieproffs. Verktyget utgör ett viktigt steg mot att skapa förtroende i en allt mer AI-genererad värld. När Google fortsätter att utöka tillgången till verktyget de kommande veckorna, markerar det en betydande milstolpe i det pågående arbetet för att bevara äkthet i digitala medier.