AI-जनित मीडिया की तेज़ी से बढ़ती लोकप्रियता और प्रामाणिकता को लेकर बढ़ती चिंताओं के बीच, Google ने SynthID डिटेक्टर पेश किया है, जो एक उन्नत वेरिफिकेशन टूल है और Google की AI तकनीकों से बने कंटेंट की पहचान के लिए डिज़ाइन किया गया है।
Google I/O 2025 में घोषित किए गए SynthID डिटेक्टर की कार्यप्रणाली यह है कि यह अपलोड किए गए मीडिया को स्कैन करता है और उसमें Google के AI मॉडल्स—जैसे Gemini, Imagen, Lyria और Veo—द्वारा डाले गए अदृश्य डिजिटल वॉटरमार्क्स की तलाश करता है। जब वॉटरमार्क मिल जाता है, तो पोर्टल सटीक रूप से उन हिस्सों को चिन्हित करता है, जिनमें वॉटरमार्क होने की सबसे अधिक संभावना है—जैसे ऑडियो ट्रैक के खास सेगमेंट या इमेज के विशेष क्षेत्र।
यह तकनीक आज के डिजिटल माहौल में एक अहम जरूरत को पूरा करती है। हालिया अनुमानों के अनुसार, 2019 से 2024 के बीच डीपफेक वीडियो में 550% की बढ़ोतरी हुई है और अब सोशल मीडिया पर देखे जाने वाले कई प्रमुख पोस्ट में AI-जनित तत्व शामिल हैं। SynthID का वॉटरमार्किंग सिस्टम इस तरह बनाया गया है कि कंटेंट में बदलाव होने के बाद भी वॉटरमार्क डिटेक्ट किया जा सके, जिससे वेरिफिकेशन की प्रक्रिया मजबूत होती है।
"कंटेंट ट्रांसपेरेंसी अब भी एक जटिल चुनौती है," Google ने अपनी घोषणा में कहा। इस तकनीक की पहुंच बढ़ाने के लिए, Google ने NVIDIA के साथ साझेदारी की है ताकि उनके NVIDIA Cosmos मॉडल से बने वीडियो में भी वॉटरमार्क लगाया जा सके, और GetReal Security के साथ मिलकर व्यापक डिटेक्शन क्षमताएं विकसित की हैं। इसके अलावा, Google ने SynthID टेक्स्ट वॉटरमार्किंग को ओपन-सोर्स कर दिया है, जिससे डेवलपर्स इसे अपने खुद के मॉडलों में भी इस्तेमाल कर सकते हैं।
हालांकि, SynthID डिटेक्टर की कुछ सीमाएं भी हैं। यह मुख्य रूप से Google के इकोसिस्टम के भीतर ही काम करता है और Microsoft, Meta या OpenAI जैसी अन्य कंपनियों के टूल्स से बने कंटेंट की पहचान नहीं कर सकता, जिनके अपने वॉटरमार्किंग सिस्टम हैं। विशेषज्ञों का यह भी कहना है कि वॉटरमार्क्स को एडवर्सरियल तकनीकों से हटाया भी जा सकता है।
फिलहाल, SynthID डिटेक्टर शुरुआती टेस्टर्स के लिए वेटलिस्ट सिस्टम के जरिए उपलब्ध है, जिसमें पत्रकार, शोधकर्ता और मीडिया प्रोफेशनल्स को प्राथमिकता दी जा रही है। जैसे-जैसे Google आने वाले हफ्तों में इस टूल की पहुंच बढ़ाएगा, यह डिजिटल मीडिया में प्रामाणिकता बनाए रखने की दिशा में एक महत्वपूर्ण मील का पत्थर साबित होगा।