I takt med att AI-genererat innehåll blir allt mer sofistikerat och utbrett har Google introducerat ett kraftfullt nytt verktyg för att möta de växande utmaningarna kring digital äkthet och transparens.
Tillkännagivet på Google I/O 2025 är SynthID Detector en verifieringsportal som gör det möjligt för användare att snabbt avgöra om innehåll har skapats med Googles AI-verktyg. Systemet fungerar genom att skanna uppladdade filer efter osynliga SynthID-vattenstämplar som Google bäddar in direkt i AI-genererat innehåll utan att påverka dess kvalitet.
Detektorn kan analysera bilder, ljud, video och text som skapats av Googles AI-modeller, inklusive Gemini, Imagen, Lyria och Veo. När en vattenstämpel upptäcks markerar portalen de specifika delarna av innehållet där den sannolikt finns – till exempel vissa segment i ljudspår eller specifika områden i bilder.
"I takt med att dessa möjligheter utvecklas och blir mer allmänt tillgängliga uppstår frågor om äkthet, kontext och verifiering," uppgav Google i sitt tillkännagivande. Företaget rapporterar att över 10 miljarder innehållsdelar redan har vattenstämplats med SynthID sedan lanseringen 2023, vilket visar på en betydande spridning.
Trots lovande resultat har SynthID Detector vissa begränsningar. Den identifierar främst innehåll som skapats med Googles egna AI-modeller eller partners som NVIDIA som har integrerat SynthID-tekniken. Innehåll från andra AI-system, som OpenAIs ChatGPT, kan inte upptäckas. Vattenstämplingen blir också mindre effektiv vid mycket korta texter, kraftigt redigerat innehåll eller vid översättning till andra språk.
För att utöka ekosystemet har Google gjort SynthID:s textvattenstämpling öppen källkod, vilket gör det möjligt för utvecklare att integrera tekniken i sina egna modeller. Företaget har även inlett ett samarbete med GetReal Security, en plattform för innehållsverifiering, för att bredda detekteringsmöjligheterna.
SynthID Detector är för närvarande tillgänglig för tidiga testare, och journalister, medieproffs samt forskare kan anmäla sig till en väntelista för tillgång. En bredare lansering väntas inom de närmaste veckorna. Eftersom deepfake-videor har ökat med 550 % mellan 2019 och 2024 enligt vissa uppskattningar, utgör verktyg som SynthID Detector ett viktigt steg mot att skapa förtroende i en allt mer AI-genererad digital värld.