W czasach, gdy rozróżnienie między treściami tworzonymi przez ludzi a generowanymi przez sztuczną inteligencję staje się coraz trudniejsze, Google wprowadza istotne narzędzie w walce z dezinformacją i deepfake’ami.
Ogłoszony podczas Google I/O 2025 w maju SynthID Detector to scentralizowany portal weryfikacyjny, w którym użytkownicy mogą przesyłać materiały, aby sprawdzić, czy zawierają one niewidoczne znaki wodne SynthID od Google. System analizuje obrazy, teksty, dźwięki i filmy, wskazując fragmenty najbardziej prawdopodobne jako wygenerowane przez AI.
„Wraz z rozwojem tych możliwości i ich coraz szerszą dostępnością pojawiają się pytania o autentyczność, kontekst i weryfikację” – powiedział Pushmeet Kohli, wiceprezes ds. nauki i inicjatyw strategicznych w Google DeepMind. Portal odpowiada na te wyzwania, zapewniając niezbędną przejrzystość w dynamicznie zmieniającym się środowisku mediów generatywnych.
Technologia SynthID od momentu debiutu w 2023 roku oznaczyła już ponad 10 miliardów materiałów. Początkowo skupiała się na obrazach generowanych przez AI, ale Google rozszerzył jej zastosowanie na tekst, dźwięk i wideo tworzone przez modele Gemini, Imagen, Lyria i Veo.
Choć SynthID stanowi znaczący postęp w weryfikacji treści, ma swoje ograniczenia. System działa głównie w ekosystemie Google, choć firma nawiązała współpracę z NVIDIA w celu znakowania filmów generowanych przez model Cosmos. Google przyznaje także, że SynthID nie jest niezawodny i może zostać obejście, zwłaszcza w przypadku tekstu lub przy ekstremalnych modyfikacjach obrazów.
Badanie Uniwersytetu Maryland wykazało, że techniki ataków mogą często usuwać znaki wodne AI, a naukowcy podsumowali: „Znaki wodne mają wartość w działaniach na rzecz przejrzystości, ale nie zapewniają całkowitego bezpieczeństwa przed manipulacją treściami generowanymi przez AI”.
Aby zwiększyć zasięg SynthID, Google udostępnił framework do znakowania tekstu na zasadach open source i nawiązał współpracę z GetReal Security w zakresie weryfikacji przez podmioty trzecie. Firma udostępnia obecnie SynthID Detector wczesnym testerom – dziennikarze, przedstawiciele mediów i naukowcy mogą zapisać się na listę oczekujących.