V době, kdy je stále obtížnější rozeznat obsah vytvořený člověkem od toho generovaného umělou inteligencí, přichází Google s klíčovým novým nástrojem v boji proti dezinformacím a deepfake obsahu.
Na konferenci Google I/O 2025 v květnu byl představen SynthID Detector, který poskytuje centralizovaný ověřovací portál. Uživatelé zde mohou nahrát média a zjistit, zda obsahují neviditelné vodoznaky SynthID od Googlu. Systém analyzuje obrázky, texty, audio i video a zvýrazní konkrétní části, které jsou s největší pravděpodobností generované AI.
„S tím, jak se tyto schopnosti rozvíjejí a stávají se široce dostupnými, vyvstávají otázky autenticity, kontextu a ověřování,“ uvedl Pushmeet Kohli, viceprezident pro vědu a strategické iniciativy ve společnosti Google DeepMind. Portál tyto obavy řeší tím, že přináší potřebnou transparentnost v rychle se vyvíjejícím prostředí generativních médií.
Technologie SynthID již od svého uvedení v roce 2023 označila více než 10 miliard obsahů. Původně se zaměřovala na AI-generované obrázky, nyní však Google rozšířil technologii i na text, audio a video vytvářené modely Gemini, Imagen, Lyria a Veo.
Ačkoliv SynthID představuje významný pokrok v ověřování obsahu, má i své limity. Systém funguje především v rámci ekosystému Googlu, přičemž společnost navázala partnerství s NVIDIA pro vodoznakování videí z jejich modelu Cosmos. Google také přiznává, že SynthID není neomylný a lze jej obejít, zejména u textu nebo při extrémních úpravách obrázků.
Studie Univerzity v Marylandu zjistila, že tzv. adversariální techniky často dokážou AI vodoznaky odstranit. Výzkumníci uzavírají, že „vodoznaky mají hodnotu v rámci snah o transparentnost, ale neposkytují absolutní ochranu proti manipulaci s AI-generovaným obsahem“.
Aby Google rozšířil dosah SynthID, open-sourcoval svůj framework pro vodoznakování textu a navázal spolupráci se společností GetReal Security pro ověřování třetí stranou. V současnosti Google zpřístupňuje SynthID Detector prvním testerům, přičemž novináři, mediální profesionálové a výzkumníci se mohou zapsat na čekací listinu pro přístup.