In een tijd waarin het steeds moeilijker wordt om onderscheid te maken tussen door mensen gemaakte en door AI gegenereerde content, heeft Google een belangrijk nieuw hulpmiddel geïntroduceerd in de strijd tegen desinformatie en deepfakes.
Aangekondigd tijdens Google I/O 2025 in mei, biedt SynthID Detector een gecentraliseerd verificatieportaal waar gebruikers media kunnen uploaden om te bepalen of deze voorzien is van het onzichtbare SynthID-watermerk van Google. Het systeem kan afbeeldingen, tekst, audio en video analyseren en markeert specifieke delen die waarschijnlijk door AI zijn gegenereerd.
"Naarmate deze mogelijkheden zich ontwikkelen en breder beschikbaar worden, ontstaan er vragen over authenticiteit, context en verificatie," aldus Pushmeet Kohli, Vice President Science and Strategic Initiatives bij Google DeepMind. Het portaal speelt in op deze zorgen door essentiële transparantie te bieden in het snel veranderende landschap van generatieve media.
Sinds de eerste introductie in 2023 heeft SynthID-technologie al meer dan 10 miljard contentstukken van een watermerk voorzien. Oorspronkelijk lag de focus op AI-gegenereerde afbeeldingen, maar Google heeft de technologie inmiddels uitgebreid naar tekst, audio en video die zijn gegenereerd door de Gemini-, Imagen-, Lyria- en Veo-modellen.
Hoewel SynthID een belangrijke stap vooruit is op het gebied van contentverificatie, zijn er ook beperkingen. Het systeem werkt voornamelijk binnen het ecosysteem van Google, al is er een samenwerking met NVIDIA om video's van hun Cosmos-model te voorzien van een watermerk. Daarnaast erkent Google dat SynthID niet onfeilbaar is en omzeild kan worden, met name bij tekst of bij extreme bewerkingen van afbeeldingen.
Uit een studie van de University of Maryland blijkt dat tegenwerkende technieken AI-watermerken vaak kunnen verwijderen. Onderzoekers concluderen dat "watermerken waardevol zijn voor transparantie, maar geen absolute zekerheid bieden tegen manipulatie van AI-gegenereerde content."
Om het bereik van SynthID te vergroten, heeft Google het tekst-watermerkraamwerk open source gemaakt en werkt het samen met GetReal Security voor verificatie door derden. Het bedrijf rolt SynthID Detector momenteel uit naar vroege testers; journalisten, mediaprofessionals en onderzoekers kunnen zich aanmelden voor de wachtlijst om toegang te krijgen.