I en tid hvor generativ AI hurtigt forandrer digital indholdsskabelse, har Google taget et vigtigt skridt mod at imødekomme bekymringer om ægthed og verificering med lanceringen af SynthID Detector.
Annonceret på Google I/O 2025 er SynthID Detector en specialiseret verificeringsportal, der er designet til at identificere AI-genereret indhold, som indeholder Googles SynthID-vandmærker. Disse umærkelige digitale signaturer indlejres i indhold skabt af Googles AI-modeller, herunder Gemini, Imagen, Lyria og Veo. Teknologien er allerede blevet brugt til at vandmærke over 10 milliarder stykker indhold siden den første lancering i 2023.
Detektoren fungerer ved at scanne uploadede mediefiler for SynthID-vandmærker og kan identificere, om hele filen eller kun specifikke dele indeholder AI-genererede elementer. For billeder fremhæver den områder, der sandsynligvis er vandmærkede, mens den for lyd udpeger specifikke tidssegmenter. Vandmærkerne forbliver detekterbare, selv når indholdet ændres, for eksempel ved beskæring, filtrering eller komprimering.
Googles initiativ kommer i kølvandet på alarmerende statistikker, der viser, at deepfake-videoer er steget med 550% fra 2019 til 2024. For at udvide SynthID's økosystem har Google gjort sin tekst-vandmærkningsteknologi open source og indgået strategiske partnerskaber, blandt andet med NVIDIA for at vandmærke videoer genereret af deres Cosmos-model og med GetReal Security for bredere detektionsmuligheder.
Selvom SynthID Detector repræsenterer et betydeligt fremskridt inden for indholdsverificering, har den begrænsninger. Den kan kun detektere indhold, der er skabt med værktøjer, som bruger Googles SynthID-specifikation, og ikke indhold fra andre AI-platforme som Microsoft, Meta eller OpenAI, der anvender deres egne vandmærkningsteknologier.
SynthID Detector-portalen udrulles i øjeblikket til tidlige testere, hvor journalister, mediefolk og forskere kan skrive sig på venteliste for adgang. Dette initiativ afspejler Googles engagement i at fremme gennemsigtighed og tillid i et digitalt landskab, der i stigende grad præges af AI-genereret indhold.