menu
close

谷歌推出 SynthID Detector,打击 AI 内容欺诈

谷歌正式发布 SynthID Detector 验证门户,可识别带有 SynthID 水印的内容。该工具能够检测由谷歌 AI 模型生成的图像、音频、视频和文本,并高亮显示包含水印的具体部分。自 2023 年 SynthID 推出以来,已有超过 100 亿条内容被水印标记。谷歌目前通过候补名单系统,率先向记者、媒体专业人士和研究人员开放该检测工具。
谷歌推出 SynthID Detector,打击 AI 内容欺诈

随着生成式 AI 日益模糊人类与机器创作内容的界限,谷歌推出了一项重要工具以维护数字信任。在 Google I/O 2025 大会上,谷歌宣布 SynthID Detector 门户,为验证内容是否含有谷歌隐形 SynthID 水印提供了集中平台。

该技术通过扫描上传的媒体内容,检测在 AI 生成过程中嵌入的不可见水印。当检测到水印时,系统可精确定位图像的特定区域、音频或视频的片段,或文本中最有可能包含水印的部分。这种细致的检测方式不仅帮助用户判断内容是否由 AI 生成,还能明确指出哪些部分是由谷歌 AI 工具创作或修改的。

自 2023 年首次推出以来,SynthID 技术已实现重大升级。最初仅支持图像,如今已覆盖所有主流内容类型,并适用于谷歌 AI 生态系统,包括文本的 Gemini、图像的 Imagen、音频的 Lyria 以及视频的 Veo。迄今为止,SynthID 已为超过 100 亿条内容添加了水印,显示出广泛的应用前景。

为扩展 SynthID 在谷歌生态之外的影响力,谷歌与 NVIDIA 合作,为其 Cosmos 微服务生成的视频添加水印,并与 GetReal Security 合作,提供第三方验证能力。此外,谷歌还将 SynthID 文本水印框架开源,允许开发者将该技术集成到自有模型中。

尽管取得诸多进展,SynthID 仍存在一定局限。该系统主要适用于由谷歌 AI 工具或采用其水印技术生成的内容,无法检测来自其他 AI 提供商(如 OpenAI 的 ChatGPT)的内容。此外,谷歌也坦言,SynthID 并非在极端篡改下(尤其是被大幅重写或翻译的文本)绝对可靠。

目前,SynthID Detector 已向早期测试用户开放,记者、媒体专业人士和研究人员可通过候补名单申请访问。随着 AI 生成内容日益复杂,SynthID 等工具成为维护透明度、打击数字环境中虚假信息的重要一步。

Source:

Latest News