Google wykonało znaczący krok naprzód w walce z dezinformacją generowaną przez AI, prezentując SynthID Detector – kompleksowy portal weryfikacyjny zaprezentowany podczas Google I/O 2025 w maju.
Nowe narzędzie umożliwia użytkownikom szybkie sprawdzenie, czy obrazy, dźwięk, wideo lub tekst zostały stworzone przy użyciu narzędzi AI Google, wykrywając niewidoczne znaki wodne osadzone podczas procesu tworzenia treści. SynthID Detector nie tylko potwierdza obecność znaków wodnych, ale także wskazuje konkretne fragmenty najbardziej prawdopodobne do wygenerowania przez AI.
"Postępy w generatywnej sztucznej inteligencji umożliwiają ludziom tworzenie treści na zupełnie nowe sposoby" – powiedział Pushmeet Kohli, wiceprezes ds. nauki i inicjatyw strategicznych w Google DeepMind. – "Wraz z rozwojem tych możliwości i ich szerszą dostępnością pojawiają się pytania o autentyczność, kontekst i weryfikację".
Technologia ta stanowi znaczące osiągnięcie pod względem skali – Google ujawniło, że od premiery w 2023 roku ponad 10 miliardów materiałów zostało oznaczonych SynthID. System znakowania działa w całym ekosystemie AI Google, obejmując treści generowane przez modele Gemini, Imagen, Lyria i Veo.
Aby rozszerzyć zasięg SynthID poza własne produkty, Google udostępniło framework znakowania tekstu jako open source oraz nawiązało współpracę z firmami takimi jak NVIDIA, by znakować wideo generowane przez ich modele AI. Firma współpracuje także z GetReal Security, by zwiększyć skuteczność wykrywania znaków wodnych SynthID.
Choć SynthID Detector oferuje obiecujące rozwiązania w zakresie weryfikacji treści, Google przyznaje, że system ma swoje ograniczenia. Działa on głównie w ekosystemie Google i może zostać obejścięty poprzez ekstremalne modyfikacje obrazów lub gruntowne przeredagowanie tekstu. Mimo tych wyzwań, narzędzie stanowi ważny krok w budowaniu zaufania w coraz bardziej generowanym przez AI cyfrowym świecie.
Dziennikarze, profesjonaliści z branży medialnej oraz naukowcy zainteresowani wcześniejszym dostępem do SynthID Detector mogą zapisać się na listę oczekujących Google, gdy firma przygotowuje się do szerszego wdrożenia narzędzia w nadchodzących tygodniach.