V dobe, keď je čoraz ťažšie rozlíšiť medzi obsahom vytvoreným človekom a umelou inteligenciou, Google predstavil dôležitý nový nástroj v boji proti dezinformáciám a deepfakeom.
SynthID Detector, oznámený v máji na Google I/O 2025, poskytuje centralizovaný overovací portál, kde môžu používatelia nahrať médiá a zistiť, či obsahujú neviditeľné vodoznaky SynthID od Googlu. Systém dokáže analyzovať obrázky, text, zvuk aj video a zvýrazniť konkrétne časti, ktoré sú s najväčšou pravdepodobnosťou generované AI.
"Ako tieto schopnosti napredujú a stávajú sa široko dostupnými, objavujú sa otázky autenticity, kontextu a overovania," uviedol Pushmeet Kohli, viceprezident pre vedu a strategické iniciatívy v Google DeepMind. Portál tieto obavy rieši tým, že poskytuje zásadnú transparentnosť v rýchlo sa vyvíjajúcom prostredí generatívnych médií.
Technológia SynthID už od svojho prvotného spustenia v roku 2023 označila viac ako 10 miliárd kusov obsahu. Pôvodne sa zameriavala na AI-generované obrázky, no Google rozšíril jej použitie aj na text, zvuk a video vytvorené modelmi Gemini, Imagen, Lyria a Veo.
Hoci SynthID predstavuje významný pokrok v overovaní obsahu, má aj svoje obmedzenia. Systém funguje predovšetkým v rámci ekosystému Googlu, hoci spoločnosť spolupracuje s NVIDIA na označovaní videí z ich modelu Cosmos. Google zároveň priznáva, že SynthID nie je neprelomiteľný a dá sa obísť, najmä pri texte alebo extrémnych úpravách obrázkov.
Štúdia University of Maryland zistila, že adversariálne techniky často dokážu odstrániť AI vodoznaky, pričom výskumníci konštatovali, že "vodoznaky majú hodnotu pre transparentnosť, ale neposkytujú absolútnu ochranu pred manipuláciou AI-generovaného obsahu".
Aby Google rozšíril dosah SynthID, open-sourcoval svoj framework na vodoznakovanie textu a uzavrel partnerstvo s GetReal Security pre overovanie tretími stranami. Spoločnosť aktuálne sprístupňuje SynthID Detector prvým testerom, pričom novinári, mediálni profesionáli a výskumníci sa môžu zapísať na čakaciu listinu na prístup.