人間が作成したコンテンツとAIが生成したコンテンツの区別がますます困難になる中、Googleは偽情報やディープフェイクへの対抗策として重要な新ツールを導入した。
2025年5月のGoogle I/Oで発表された「SynthID Detector」は、ユーザーがメディアファイルをアップロードし、Googleの不可視ウォーターマーク「SynthID」が含まれているかどうかを判定できる集中型認証ポータルだ。このシステムは画像、テキスト、音声、動画を解析し、AI生成の可能性が高い部分を特定してハイライトする。
Google DeepMindのサイエンス＆戦略イニシアティブ担当バイスプレジデント、Pushmeet Kohli氏は「これらの技術が進化し、広く利用可能になるにつれ、真正性や文脈、検証の問題が浮上しています」とコメント。急速に進化する生成系メディアの分野で、本ポータルは透明性を提供し、こうした懸念に対応する。
SynthID技術は2023年の初期リリース以降、すでに100億件以上のコンテンツにウォーターマークを付与している。当初はAI生成画像に特化していたが、現在ではGemini、Imagen、Lyria、VeoといったGoogleのAIモデルで生成されたテキスト、音声、動画にも対応範囲を拡大している。
SynthIDはコンテンツ認証の大きな進歩だが、制限もある。主にGoogleのエコシステム内で動作するものの、同社はNVIDIAと提携し、NVIDIAのCosmosモデルで生成された動画へのウォーターマーク付与も実現している。また、GoogleはSynthIDが万能ではなく、特にテキストや画像への極端な加工によって回避される可能性があることも認めている。
メリーランド大学の研究では、敵対的手法によってAIのウォーターマークがしばしば除去できることが判明。「ウォーターマークは透明性向上に寄与するが、AI生成コンテンツの改ざんに対する絶対的なセキュリティは提供しない」と研究者は結論づけている。
GoogleはSynthIDの普及拡大のため、テキスト用ウォーターマークフレームワークをオープンソース化し、第三者認証のためGetReal Securityと提携。現在、ジャーナリストやメディア関係者、研究者を対象にウェイトリスト制でSynthID Detectorの早期テスト提供を開始している。