谷歌在打击 AI 生成虚假信息方面迈出了重要一步，于 2025 年 5 月的 Google I/O 大会上正式发布了综合性验证门户 SynthID Detector。
这款新工具能够帮助用户快速识别图片、音频、视频或文本等内容是否由谷歌的 AI 工具生成，其原理是检测内容创作过程中嵌入的隐形水印。SynthID Detector 不仅能确认内容是否含有水印，还能突出显示最有可能由 AI 生成的具体部分。
谷歌 DeepMind 科学与战略项目副总裁 Pushmeet Kohli 表示：“生成式 AI 的进步让人们能够以全新方式创作内容。随着这些能力不断提升并广泛普及，内容的真实性、语境和验证问题也随之而来。”
这项技术在规模上取得了重大突破。谷歌透露，自 2023 年首次发布以来，已有超过 100 亿条内容被 SynthID 水印标记。该水印系统覆盖谷歌 AI 生态，包括 Gemini、Imagen、Lyria 和 Veo 等模型生成的内容。
为进一步拓展 SynthID 的应用范围，谷歌已开源文本水印框架，并与 NVIDIA 等公司合作，为其 AI 模型生成的视频添加水印。同时，谷歌还与 GetReal Security 合作，提升 SynthID 水印的检测能力。
尽管 SynthID Detector 为内容验证提供了有力工具，谷歌也坦言其存在一定局限性。该系统主要适用于谷歌生态，若对图片进行极端修改或对文本彻底重写，水印可能被绕过。尽管面临这些挑战，这一工具仍是建立 AI 生成数字内容信任体系的重要一步。
目前，记者、媒体从业者及研究人员可申请加入谷歌 SynthID Detector 的候补名单，谷歌计划在未来几周内逐步扩大该工具的开放范围。