Di era ketika membedakan antara konten buatan manusia dan konten yang dihasilkan AI semakin sulit, Google memperkenalkan alat penting baru dalam upaya melawan misinformasi dan deepfake.
Diumumkan pada Google I/O 2025 di bulan Mei, SynthID Detector menyediakan portal verifikasi terpusat di mana pengguna dapat mengunggah media untuk menentukan apakah media tersebut mengandung watermark tak kasat mata SynthID milik Google. Sistem ini dapat menganalisis gambar, teks, audio, dan video, serta menyoroti bagian-bagian tertentu yang kemungkinan besar dihasilkan oleh AI.
"Seiring kemampuan ini berkembang dan semakin luas tersedia, pertanyaan tentang keaslian, konteks, dan verifikasi pun muncul," ujar Pushmeet Kohli, Wakil Presiden Ilmu Pengetahuan dan Inisiatif Strategis di Google DeepMind. Portal ini menjawab kekhawatiran tersebut dengan memberikan transparansi penting di lanskap media generatif yang berkembang pesat.
Teknologi SynthID telah memberi watermark pada lebih dari 10 miliar konten sejak peluncuran awalnya pada 2023. Awalnya berfokus pada gambar buatan AI, Google kini memperluas teknologi ini untuk mencakup teks, audio, dan video yang dihasilkan oleh model Gemini, Imagen, Lyria, dan Veo.
Meski SynthID merupakan kemajuan signifikan dalam verifikasi konten, teknologi ini memiliki keterbatasan. Sistem ini terutama bekerja dalam ekosistem Google, meskipun perusahaan telah bermitra dengan NVIDIA untuk memberi watermark pada video dari model Cosmos mereka. Selain itu, Google mengakui bahwa SynthID tidak sempurna dan dapat dilewati, terutama pada teks atau melalui modifikasi ekstrem pada gambar.
Sebuah studi dari University of Maryland menemukan bahwa teknik adversarial sering kali dapat menghapus watermark AI, dengan para peneliti menyimpulkan bahwa "watermark menawarkan nilai dalam upaya transparansi, namun tidak memberikan keamanan mutlak terhadap manipulasi konten buatan AI."
Untuk memperluas jangkauan SynthID, Google telah membuka kode framework watermarking teks dan bermitra dengan GetReal Security untuk verifikasi pihak ketiga. Saat ini, perusahaan mulai meluncurkan SynthID Detector kepada penguji awal, dengan jurnalis, profesional media, dan peneliti dapat bergabung dalam daftar tunggu untuk mendapatkan akses.