I en tid då det blir allt svårare att skilja mellan mänskligt och AI-genererat innehåll har Google introducerat ett avgörande verktyg i kampen mot desinformation och deepfakes.
SynthID Detector, som presenterades på Google I/O 2025 i maj, erbjuder en centraliserad verifieringsportal där användare kan ladda upp media för att avgöra om det innehåller Googles osynliga SynthID-vattenmärken. Systemet kan analysera bilder, text, ljud och video och lyfter fram de delar som sannolikt är AI-genererade.
"I takt med att dessa möjligheter utvecklas och blir mer tillgängliga uppstår frågor om äkthet, kontext och verifiering," säger Pushmeet Kohli, Vice President of Science and Strategic Initiatives på Google DeepMind. Portalen adresserar dessa frågor genom att erbjuda nödvändig transparens i det snabbt föränderliga landskapet för generativ media.
SynthID-tekniken har redan vattenmärkt över 10 miljarder innehåll sedan den första lanseringen 2023. Ursprungligen fokuserade tekniken på AI-genererade bilder, men Google har nu utökat den till att omfatta text, ljud och video som skapats av Gemini, Imagen, Lyria och Veo.
Även om SynthID är ett stort framsteg inom verifiering av innehåll finns det begränsningar. Systemet fungerar främst inom Googles ekosystem, även om företaget samarbetar med NVIDIA för att vattenmärka videor från deras Cosmos-modell. Google medger också att SynthID inte är ofelbart och kan kringgås, särskilt när det gäller text eller genom kraftiga modifieringar av bilder.
En studie från University of Maryland visar att så kallade adversarial-tekniker ofta kan ta bort AI-vattenmärken. Forskarna konstaterar att "vattenmärken bidrar till transparens, men de ger inte ett fullständigt skydd mot manipulation av AI-genererat innehåll."
För att öka räckvidden för SynthID har Google gjort sitt ramverk för vattenmärkning av text öppen källkod och samarbetar med GetReal Security för tredjepartsverifiering. Företaget rullar nu ut SynthID Detector till tidiga testare, där journalister, medieproffs och forskare kan anmäla sig till en väntelista för tillgång.