Google učinil významný krok směrem k řešení narůstajícího problému identifikace AI-generovaného obsahu oficiálním spuštěním svého portálu SynthID Detector pro první testery dne 12. června 2025.
Ověřovací portál, oznámený na Google I/O 2025 minulý měsíc, umožňuje uživatelům nahrávat obrázky, audio, video nebo text a zjistit, zda byly vytvořeny pomocí AI nástrojů Googlu. Pokud je detekována vodoznaková technologie SynthID, systém zvýrazní konkrétní části obsahu, které s největší pravděpodobností obsahují vodoznak, a poskytne tak detailní informace místo jednoduché odpovědi ano/ne.
„S tím, jak se schopnosti generativní AI rozvíjejí a stávají se široce dostupnými, vyvstávají otázky autenticity, kontextu a ověřování,“ uvedl Pushmeet Kohli, viceprezident pro vědu a strategické iniciativy ve společnosti Google DeepMind. Nástroj má za cíl poskytnout nezbytnou transparentnost v rychle se měnícím prostředí médií generovaných AI.
Od svého prvního představení v roce 2023 se SynthID rozšířil z vodoznakování obrázků na text, audio i video obsah generovaný modely Google Gemini, Imagen, Lyria a Veo. Podle Googlu bylo touto technologií již označeno více než 10 miliard kusů obsahu, přičemž vodoznak zůstává detekovatelný i po různých úpravách nebo sdílení napříč platformami.
Ačkoliv je detekce zatím omezena na obsah vytvořený AI nástroji Googlu, společnost pracuje na rozšíření ekosystému SynthID. Google již uvolnil svůj framework pro vodoznakování textu jako open-source a navázal spolupráci s NVIDIA na vodoznakování videí generovaných jejich modelem Cosmos. Platforma pro ověřování obsahu GetReal Security navíc bude schopna ověřovat vodoznaky SynthID.
Nástroj má však i svá omezení. Nedokáže detekovat AI obsah vytvořený platformami, které nepoužívají vodoznaky SynthID, jako je například ChatGPT od OpenAI nebo AI nástroje společnosti Meta. Odborníci také upozorňují, že extrémní úpravy obrázků nebo adversariální techniky mohou vodoznaky obejít.
Novináři, mediální profesionálové a výzkumníci, kteří mají zájem o přístup k SynthID Detectoru, se mohou zapsat na čekací listinu Googlu. Širší dostupnost se očekává v následujících týdnech.