Google wykonało istotny krok w kierunku rozwiązania narastającego problemu identyfikacji treści generowanych przez sztuczną inteligencję, oficjalnie uruchamiając portal SynthID Detector dla wczesnych testerów 12 czerwca 2025 roku.
Portal weryfikacyjny, zapowiedziany podczas konferencji Google I/O 2025 w zeszłym miesiącu, pozwala użytkownikom przesyłać obrazy, dźwięk, wideo lub tekst, aby sprawdzić, czy zostały one stworzone za pomocą narzędzi AI Google. Gdy wykryty zostanie znak wodny SynthID, system podświetla konkretne fragmenty treści najbardziej prawdopodobne do zawierania tego oznaczenia, oferując szczegółowe informacje zamiast prostych odpowiedzi „tak” lub „nie”.
„Wraz z rozwojem generatywnej sztucznej inteligencji i jej coraz szerszą dostępnością pojawiają się pytania o autentyczność, kontekst i weryfikację” – powiedział Pushmeet Kohli, wiceprezes ds. nauki i inicjatyw strategicznych w Google DeepMind. Narzędzie ma zapewnić niezbędną transparentność w dynamicznie zmieniającym się świecie mediów generowanych przez AI.
Od swojego debiutu w 2023 roku SynthID rozszerzył zakres działania z oznaczania obrazów na tekst, dźwięk oraz wideo generowane przez modele Google takie jak Gemini, Imagen, Lyria i Veo. Według Google, ponad 10 miliardów materiałów zostało już oznaczonych tą technologią, która pozostaje wykrywalna nawet po licznych modyfikacjach treści czy jej udostępnianiu na różnych platformach.
Obecnie narzędzie ogranicza się do wykrywania treści stworzonych za pomocą narzędzi AI Google, jednak firma pracuje nad rozbudową ekosystemu SynthID. Google udostępniło już otwartą wersję frameworka do znakowania tekstu oraz nawiązało współpracę z NVIDIA w celu znakowania wideo generowanych przez model Cosmos. Dodatkowo, platforma weryfikacyjna GetReal Security będzie mogła potwierdzać obecność znaków wodnych SynthID.
Narzędzie ma jednak swoje ograniczenia. Nie wykryje treści AI wygenerowanych przez platformy, które nie stosują znaków wodnych SynthID, takie jak ChatGPT od OpenAI czy narzędzia AI od Meta. Eksperci zwracają też uwagę, że ekstremalne modyfikacje obrazów lub techniki omijające zabezpieczenia mogą potencjalnie zniwelować skuteczność znaków wodnych.
Dziennikarze, profesjonaliści medialni oraz naukowcy zainteresowani dostępem do SynthID Detector mogą zapisać się na listę oczekujących Google, a szersza dostępność narzędzia spodziewana jest w nadchodzących tygodniach.