Google učinil významný krok vpřed v boji proti dezinformacím generovaným umělou inteligencí představením SynthID Detectoru, komplexního ověřovacího portálu, který byl odhalen na konferenci Google I/O 2025 v květnu.
Nový nástroj umožňuje uživatelům rychle zjistit, zda byly obrázky, audio, video nebo text vytvořeny pomocí AI nástrojů od Googlu, a to detekcí neviditelných vodoznaků vložených během procesu tvorby obsahu. SynthID Detector nejen potvrzuje přítomnost vodoznaku, ale také zvýrazňuje konkrétní části, které byly s největší pravděpodobností vytvořeny umělou inteligencí.
„Pokroky v generativní AI umožňují lidem vytvářet obsah zcela novými způsoby,“ uvedl Pushmeet Kohli, viceprezident pro vědu a strategické iniciativy ve společnosti Google DeepMind. „Jak se tyto schopnosti rozšiřují a stávají se běžně dostupnými, vyvstávají otázky autenticity, kontextu a ověřování.“
Technologie představuje významný úspěch v rozsahu nasazení – Google oznámil, že od prvního spuštění v roce 2023 bylo pomocí SynthID označeno již více než 10 miliard kusů obsahu. Tento systém vodoznaků funguje napříč AI ekosystémem Googlu, včetně obsahu generovaného modely Gemini, Imagen, Lyria a Veo.
Aby Google rozšířil dosah SynthID i mimo své produkty, otevřel framework pro vkládání vodoznaků do textu jako open source a navázal spolupráci se společnostmi jako NVIDIA, aby bylo možné označovat videa generovaná jejich AI modely. Firma také spolupracuje s GetReal Security na posílení schopností detekce vodoznaků SynthID.
Ačkoliv SynthID Detector nabízí slibné řešení pro ověřování obsahu, Google si je vědom jeho omezení. Systém funguje především v rámci ekosystému Googlu a lze jej obejít extrémními úpravami obrázků nebo důkladným přepsáním textu. Přes tyto výzvy představuje nástroj důležitý krok k budování důvěry v digitálním prostředí, kde stále více obsahu vzniká pomocí AI.
Novináři, mediální profesionálové a výzkumníci, kteří mají zájem o předčasný přístup k SynthID Detectoru, se mohou zapsat na čekací listinu Googlu, zatímco firma připravuje širší zpřístupnění v následujících týdnech.