في عصر أصبح فيه التمييز بين المحتوى البشري والمحتوى المُنتَج بالذكاء الاصطناعي أكثر صعوبة، قدمت جوجل أداة جديدة مهمة في مواجهة المعلومات المضللة وتقنيات التزييف العميق.
تم الإعلان عن أداة SynthID Detector خلال مؤتمر Google I/O 2025 في شهر مايو، حيث توفر بوابة تحقق مركزية تتيح للمستخدمين رفع الوسائط المختلفة لمعرفة ما إذا كانت تحتوي على علامات مائية غير مرئية بتقنية SynthID من جوجل. يمكن للنظام تحليل الصور والنصوص والصوت والفيديو، مع إبراز الأجزاء الأكثر احتمالاً أن تكون مُنتَجة بالذكاء الاصطناعي.
وقال بوشميت كوهلي، نائب رئيس قسم العلوم والمبادرات الاستراتيجية في Google DeepMind: "مع تطور هذه القدرات وانتشارها بشكل أوسع، تظهر تساؤلات حول الأصالة والسياق والتحقق". وتعمل هذه البوابة على معالجة هذه المخاوف من خلال توفير الشفافية الضرورية في عالم الوسائط المُنتَجة بالذكاء الاصطناعي سريع التطور.
وقد قامت تقنية SynthID بالفعل بوضع علامات مائية على أكثر من 10 مليارات قطعة محتوى منذ إطلاقها الأول في عام 2023. وبعد أن كانت تركز في البداية على الصور المُنتَجة بالذكاء الاصطناعي، وسعت جوجل التقنية لتشمل النصوص والصوت والفيديو المُنتَج بواسطة نماذج Gemini وImagen وLyria وVeo.
ورغم أن SynthID تمثل تطوراً كبيراً في مجال التحقق من المحتوى، إلا أن لها بعض القيود. حيث يعمل النظام بشكل أساسي ضمن منظومة جوجل، رغم أن الشركة تعاونت مع NVIDIA لوضع علامات مائية على الفيديوهات المُنتَجة بنموذج Cosmos الخاص بهم. كما أقرت جوجل بأن SynthID ليست حلاً مثالياً ويمكن تجاوزها، خاصة في النصوص أو عند إجراء تعديلات كبيرة على الصور.
وأظهرت دراسة من جامعة ميريلاند أن التقنيات المضادة يمكنها غالباً إزالة العلامات المائية للذكاء الاصطناعي، حيث خلص الباحثون إلى أن "العلامات المائية تقدم قيمة في جهود الشفافية، لكنها لا توفر حماية مطلقة ضد التلاعب بالمحتوى المُنتَج بالذكاء الاصطناعي".
ولتوسيع نطاق استخدام SynthID، قامت جوجل بإتاحة إطار عمل العلامات المائية للنصوص كمصدر مفتوح، كما تعاونت مع شركة GetReal Security للتحقق من قبل جهات خارجية. وتقوم الشركة حالياً بإتاحة أداة SynthID Detector للمستخدمين الأوائل، حيث يمكن للصحفيين والمتخصصين في الإعلام والباحثين الانضمام إلى قائمة الانتظار للحصول على حق الوصول.