Google urobil významný krok v boji proti dezinformáciám generovaným umelou inteligenciou uvedením SynthID Detectoru, komplexného overovacieho portálu, ktorý bol predstavený na Google I/O 2025 v máji.
Nový nástroj umožňuje používateľom rýchlo zistiť, či boli obrázky, zvuk, video alebo text vytvorené pomocou AI nástrojov od Googlu, a to detekciou neviditeľných vodoznakov vložených počas procesu tvorby obsahu. SynthID Detector nielen potvrdzuje prítomnosť vodoznaku, ale tiež zvýrazňuje konkrétne časti, ktoré boli s najväčšou pravdepodobnosťou vygenerované umelou inteligenciou.
„Pokroky v generatívnej AI umožňujú ľuďom vytvárať obsah úplne novými spôsobmi,“ povedal Pushmeet Kohli, viceprezident pre vedu a strategické iniciatívy v Google DeepMind. „Ako sa tieto schopnosti rozvíjajú a stávajú sa dostupnejšími, vynárajú sa otázky autenticity, kontextu a overovania.“
Technológia predstavuje významný úspech v oblasti škálovateľnosti – Google prezradil, že od pôvodného spustenia v roku 2023 už SynthID označil viac ako 10 miliárd kusov obsahu. Tento systém vodoznakov funguje naprieč AI ekosystémom Googlu, vrátane obsahu generovaného modelmi Gemini, Imagen, Lyria a Veo.
Aby Google rozšíril dosah SynthID aj mimo vlastných produktov, otvoril zdrojový kód rámca pre vodoznakovanie textu a nadviazal partnerstvá so spoločnosťami ako NVIDIA na vodoznakovanie videí generovaných ich AI modelmi. Firma tiež spolupracuje s GetReal Security na zlepšení detekčných schopností pre vodoznaky SynthID.
Hoci SynthID Detector ponúka sľubné riešenia pre overovanie obsahu, Google priznáva aj jeho limity. Systém funguje predovšetkým v rámci ekosystému Googlu a je možné ho obísť extrémnymi úpravami obrázkov alebo dôkladným prepisom textu. Napriek týmto výzvam predstavuje nástroj dôležitý krok smerom k budovaniu dôvery v čoraz viac AI-generovanom digitálnom prostredí.
Novinári, mediálni profesionáli a výskumníci, ktorí majú záujem o skorý prístup k SynthID Detectoru, sa môžu zapísať na čakaciu listinu, keďže Google pripravuje širšie sprístupnenie v najbližších týždňoch.