menu
close

Google prezentuje detektor SynthID w walce z dezinformacją AI

Google uruchomiło SynthID Detector – portal weryfikacyjny, który identyfikuje treści oznaczone technologią SynthID. Narzędzie potrafi wykryć obrazy, dźwięki, wideo i teksty wygenerowane przez modele AI Google, wskazując konkretne fragmenty zawierające znak wodny. Od premiery SynthID w 2023 roku oznaczono już ponad 10 miliardów treści. Na początku detektor jest udostępniany dziennikarzom, mediom i naukowcom w ramach systemu listy oczekujących.
Google prezentuje detektor SynthID w walce z dezinformacją AI

W miarę jak generatywna sztuczna inteligencja coraz bardziej zaciera granicę między treściami tworzonymi przez ludzi a maszynami, Google wprowadza istotne narzędzie mające na celu utrzymanie zaufania w świecie cyfrowym. Portal SynthID Detector, zapowiedziany podczas Google I/O 2025, oferuje scentralizowaną platformę do weryfikacji, czy dana treść zawiera niewidzialny znak wodny SynthID od Google.

Technologia działa poprzez skanowanie przesłanych materiałów w poszukiwaniu niewidocznych znaków wodnych, które są dodawane podczas procesu generowania przez AI. Po wykryciu znaku wodnego system potrafi wskazać konkretne obszary obrazu, fragmenty dźwięku lub wideo, a także części tekstu, które najprawdopodobniej zawierają oznaczenie. Tak szczegółowe podejście pozwala użytkownikom nie tylko stwierdzić, czy treść została wygenerowana przez AI, ale także dokładnie określić, które jej fragmenty powstały lub zostały zmodyfikowane przy użyciu narzędzi Google.

SynthID znacząco się rozwinął od swojej premiery w 2023 roku. Początkowo skupiał się na obrazach, dziś obejmuje wszystkie główne typy treści i działa w całym ekosystemie AI Google, w tym Gemini (tekst), Imagen (obrazy), Lyria (audio) oraz Veo (wideo). System oznaczył już ponad 10 miliardów treści, co świadczy o jego szerokim wdrożeniu.

Aby rozszerzyć zasięg SynthID poza własny ekosystem, Google nawiązało współpracę z firmą NVIDIA w celu znakowania wideo generowanych przez ich mikroserwis Cosmos oraz z GetReal Security w zakresie weryfikacji przez podmioty trzecie. Google udostępniło także otwartą wersję frameworka do znakowania tekstu SynthID, umożliwiając deweloperom integrację tej technologii z własnymi modelami.

Mimo tych postępów SynthID ma swoje ograniczenia. System działa głównie z treściami wygenerowanymi przez narzędzia AI Google lub te korzystające z jego technologii znakowania. Treści pochodzące od innych dostawców AI, takich jak ChatGPT od OpenAI, pozostają niewykrywalne. Google przyznaje również, że SynthID nie jest całkowicie odporny na ekstremalne manipulacje, zwłaszcza w przypadku tekstów mocno przeredagowanych lub tłumaczonych.

Obecnie SynthID Detector jest dostępny dla wczesnych testerów – dziennikarze, przedstawiciele mediów oraz naukowcy mogą zapisać się na listę oczekujących. Wraz z rosnącą zaawansowaniem treści generowanych przez AI, narzędzia takie jak SynthID stanowią kluczowy krok w kierunku zachowania przejrzystości i walki z dezinformacją w cyfrowym świecie.

Source:

Latest News