ऐसे दौर में जब मानव-निर्मित और AI-जनित कंटेंट के बीच अंतर कर पाना लगातार मुश्किल होता जा रहा है, Google ने गलत सूचना और डीपफेक्स से लड़ने के लिए एक महत्वपूर्ण नया टूल पेश किया है।
मई में Google I/O 2025 के दौरान घोषित SynthID Detector एक केंद्रीकृत सत्यापन पोर्टल प्रदान करता है, जहां उपयोगकर्ता मीडिया अपलोड कर यह पता लगा सकते हैं कि उसमें Google का अदृश्य SynthID वॉटरमार्क मौजूद है या नहीं। यह सिस्टम चित्र, टेक्स्ट, ऑडियो और वीडियो का विश्लेषण कर सकता है और उन हिस्सों को हाइलाइट करता है जो सबसे अधिक संभावना AI-जनित होने की होती है।
Google DeepMind के साइंस और स्ट्रैटेजिक इनिशिएटिव्स के वाइस प्रेसिडेंट, पुषमीत कोहली ने कहा, "जैसे-जैसे ये क्षमताएं आगे बढ़ रही हैं और अधिक लोगों के लिए उपलब्ध हो रही हैं, प्रामाणिकता, संदर्भ और सत्यापन के सवाल सामने आते हैं।" यह पोर्टल तेजी से बदलते जनरेटिव मीडिया के परिदृश्य में आवश्यक पारदर्शिता प्रदान करता है।
SynthID तकनीक ने 2023 में अपनी शुरुआत के बाद से अब तक 10 अरब से अधिक कंटेंट को वॉटरमार्क किया है। शुरुआत में यह तकनीक केवल AI-जनित चित्रों पर केंद्रित थी, लेकिन अब Google ने इसे अपने Gemini, Imagen, Lyria और Veo मॉडल्स द्वारा जनरेट किए गए टेक्स्ट, ऑडियो और वीडियो कंटेंट तक विस्तारित कर दिया है।
हालांकि SynthID कंटेंट सत्यापन में एक महत्वपूर्ण प्रगति है, इसकी कुछ सीमाएं भी हैं। यह सिस्टम मुख्यतः Google के इकोसिस्टम के भीतर ही काम करता है, हालांकि कंपनी ने NVIDIA के Cosmos मॉडल से जनरेट किए गए वीडियो को वॉटरमार्क करने के लिए साझेदारी की है। इसके अलावा, Google मानता है कि SynthID पूरी तरह अचूक नहीं है और खासकर टेक्स्ट या चित्रों में अत्यधिक बदलाव के जरिए इसे बायपास किया जा सकता है।
मैरीलैंड विश्वविद्यालय के एक अध्ययन में पाया गया कि विरोधी तकनीकों के माध्यम से अक्सर AI वॉटरमार्क हटाए जा सकते हैं। शोधकर्ताओं ने निष्कर्ष निकाला कि "वॉटरमार्क पारदर्शिता के प्रयासों में मूल्यवान हैं, लेकिन वे AI-जनित कंटेंट में हेरफेर के विरुद्ध पूर्ण सुरक्षा प्रदान नहीं करते।"
SynthID की पहुंच बढ़ाने के लिए Google ने अपने टेक्स्ट वॉटरमार्किंग फ्रेमवर्क को ओपन-सोर्स किया है और थर्ड-पार्टी सत्यापन के लिए GetReal Security के साथ साझेदारी की है। फिलहाल कंपनी SynthID Detector को शुरुआती परीक्षकों के लिए जारी कर रही है, जिसमें पत्रकार, मीडिया पेशेवर और शोधकर्ता वेटलिस्ट के जरिए एक्सेस प्राप्त कर सकते हैं।