In einer Zeit, in der es immer schwieriger wird, zwischen menschlich erstellten und KI-generierten Inhalten zu unterscheiden, hat Google ein entscheidendes neues Werkzeug im Kampf gegen Desinformation und Deepfakes vorgestellt.
Der auf der Google I/O 2025 im Mai angekündigte SynthID Detector bietet ein zentrales Verifizierungsportal, auf dem Nutzer:innen Medien hochladen können, um zu prüfen, ob diese mit Googles unsichtbaren SynthID-Wasserzeichen versehen sind. Das System kann Bilder, Texte, Audiodateien und Videos analysieren und hebt dabei gezielt Bereiche hervor, die mit hoher Wahrscheinlichkeit KI-generiert sind.
"Mit dem Fortschritt und der zunehmenden Verfügbarkeit dieser Technologien stellen sich Fragen nach Authentizität, Kontext und Verifikation", erklärte Pushmeet Kohli, Vice President of Science and Strategic Initiatives bei Google DeepMind. Das Portal begegnet diesen Herausforderungen, indem es wichtige Transparenz in der sich rasant entwickelnden Welt generativer Medien schafft.
Seit dem ersten Start im Jahr 2023 hat die SynthID-Technologie bereits über 10 Milliarden Inhalte markiert. Ursprünglich auf KI-generierte Bilder fokussiert, hat Google die Technologie inzwischen auf Texte, Audios und Videos ausgeweitet, die von den eigenen Modellen Gemini, Imagen, Lyria und Veo erzeugt wurden.
Obwohl SynthID einen bedeutenden Fortschritt bei der Inhaltsverifikation darstellt, gibt es Einschränkungen. Das System funktioniert hauptsächlich innerhalb des Google-Ökosystems, wobei das Unternehmen mit NVIDIA kooperiert, um Videos aus deren Cosmos-Modell zu kennzeichnen. Zudem räumt Google ein, dass SynthID nicht unfehlbar ist und umgangen werden kann – insbesondere bei Texten oder durch starke Modifikationen an Bildern.
Eine Studie der University of Maryland zeigte, dass gegnerische Techniken KI-Wasserzeichen oft entfernen können. Die Forschenden kommen zu dem Schluss: "Wasserzeichen bieten einen Mehrwert für Transparenzbemühungen, stellen jedoch keinen absoluten Schutz gegen die Manipulation KI-generierter Inhalte dar."
Um die Reichweite von SynthID zu erhöhen, hat Google sein Framework zur Text-Wasserzeichnung als Open Source veröffentlicht und arbeitet mit GetReal Security für eine unabhängige Verifikation zusammen. Derzeit wird der SynthID Detector an erste Tester:innen ausgerollt. Journalist:innen, Medienschaffende und Forschende können sich auf eine Warteliste für den Zugang setzen lassen.