في عصر أصبح فيه التمييز بين المحتوى البشري والمحتوى المُنتج بالذكاء الاصطناعي أكثر صعوبة، قدمت جوجل أداة جديدة وهامة في مواجهة التضليل العميق والمعلومات المضللة.
أُعلن عن أداة SynthID Detector خلال مؤتمر Google I/O 2025 في مايو، حيث توفر بوابة تحقق مركزية تتيح للمستخدمين رفع الوسائط لمعرفة ما إذا كانت تحتوي على علامات SynthID غير المرئية من جوجل. يمكن للنظام تحليل الصور والنصوص والصوتيات والفيديوهات، مع إبراز الأجزاء الأكثر احتمالاً أن تكون مُنتجة بالذكاء الاصطناعي.
وقال بوشميت كوهلي، نائب رئيس قسم العلوم والمبادرات الاستراتيجية في Google DeepMind: "مع تطور هذه القدرات وانتشارها، تظهر تساؤلات حول الأصالة والسياق والتحقق". وتعمل البوابة على معالجة هذه المخاوف من خلال توفير الشفافية الضرورية في مشهد الوسائط التوليدية المتغير بسرعة.
وقد تم وسم أكثر من 10 مليارات قطعة محتوى بتقنية SynthID منذ إطلاقها الأول في عام 2023. وبينما كانت التقنية تركز في البداية على الصور المُنتجة بالذكاء الاصطناعي، وسعت جوجل نطاقها لتشمل النصوص والصوتيات والفيديوهات التي تنتجها نماذج Gemini وImagen وLyria وVeo.
ورغم أن SynthID تمثل تقدماً كبيراً في مجال التحقق من المحتوى، إلا أن لها بعض القيود. إذ تعمل الأداة بشكل أساسي ضمن منظومة جوجل، رغم أن الشركة تعاونت مع NVIDIA لوضع علامات مائية على الفيديوهات المنتجة بنموذج Cosmos الخاص بها. كما أقرت جوجل بأن SynthID ليست حلاً مثالياً ويمكن تجاوزها، خاصة في حالة النصوص أو عند إجراء تعديلات جذرية على الصور.
وأظهرت دراسة أجرتها جامعة ميريلاند أن التقنيات المضادة يمكنها غالباً إزالة العلامات المائية للذكاء الاصطناعي، وخلص الباحثون إلى أن "العلامات المائية تقدم قيمة في جهود الشفافية، لكنها لا توفر حماية مطلقة ضد التلاعب بالمحتوى المُنتج بالذكاء الاصطناعي".
ولتوسيع نطاق استخدام SynthID، أتاحت جوجل إطار عمل العلامات المائية للنصوص كمصدر مفتوح، وتعاونت مع شركة GetReal Security للتحقق من قبل جهات خارجية. وتقوم الشركة حالياً بطرح أداة SynthID Detector للمستخدمين الأوائل، حيث يمكن للصحفيين والمتخصصين في الإعلام والباحثين الانضمام إلى قائمة الانتظار للحصول على إمكانية الوصول.