تتعرض منصات التواصل الاجتماعي لغزو من مقاطع الفيديو التي ينتجها الذكاء الاصطناعي، تروج لمنتجات صحية مشبوهة، خاصة علاجات جنسية غير مثبتة، مما يخلق بيئة رقمية مليئة بالخداع تهدف إلى استغلال المستهلكين الأكثر عرضة للتأثر.
وثق باحثون من جامعة كورنيل تك ارتفاعًا ملحوظًا في ظهور "أفاتارات الأطباء الذكية" على تيك توك، تروج لعلاجات جنسية مشكوك فيها، حيث حصدت بعض هذه المقاطع ملايين المشاهدات. غالبًا ما تظهر هذه المقاطع رجالًا مفتولي العضلات بلا قمصان أو شخصيات افتراضية تستخدم لغة مواربة لتجنب الرقابة، وتوجه المستخدمين لشراء مكملات بادعاءات مبالغ فيها أو مختلقة بالكامل.
الأخطر من ذلك، أن تطور أدوات الذكاء الاصطناعي السريع أتاح إنتاج ديب فيك تقلد مشاهير وشخصيات عامة. فقد رصدت شركة Resemble AI، المتخصصة في كشف الديب فيك في منطقة خليج سان فرانسيسكو، العديد من المقاطع التي يظهر فيها شخصيات عامة مثل أنتوني فاوتشي والممثلين روبرت دي نيرو وأماندا سيفريد وهم يروجون لعلاجات غير مثبتة. وغالبًا ما يتم إنتاج هذه المقاطع عبر تعديل محتوى حقيقي باستخدام أصوات مولدة بالذكاء الاصطناعي وتقنيات مزامنة شفاه متقدمة.
وقال زهيب أحمد، الرئيس التنفيذي لشركة Resemble AI: "كما هو واضح في هذا المثال، يتم استخدام محتوى مضلل من إنتاج الذكاء الاصطناعي لتسويق مكملات بادعاءات مبالغ فيها أو غير مثبتة، مما قد يعرض صحة المستهلكين للخطر"، مشددًا على المخاوف المتعلقة بسلامة المستهلكين جراء هذه الاحتيالات.
وقد استجابت لجنة التجارة الفيدرالية لهذا التهديد المتزايد باقتراح لوائح جديدة تستهدف تحديدًا الاحتيال عبر انتحال الهوية باستخدام الذكاء الاصطناعي. ففي فبراير 2024، نشرت اللجنة إشعارًا تكميليًا بمشروع قانون يحظر انتحال هوية الأفراد في الأنشطة التجارية، وقد يمتد ليشمل تحميل منصات الذكاء الاصطناعي المسؤولية إذا وفرت أدوات تُستخدم عمدًا في مثل هذه الاحتيالات.
وقالت رئيسة لجنة التجارة الفيدرالية، لينا م. خان: "يستخدم المحتالون أدوات الذكاء الاصطناعي لانتحال هوية الأفراد بدقة مخيفة وعلى نطاق أوسع بكثير. ومع تزايد عمليات استنساخ الأصوات والاحتيال المدفوع بالذكاء الاصطناعي، أصبح حماية الأمريكيين من احتيال الانتحال أكثر أهمية من أي وقت مضى".
ويشكل التسارع في إنتاج مقاطع الفيديو القصيرة بالذكاء الاصطناعي تحديات فريدة أمام جهود الرقابة، إذ حتى عند إزالة المحتوى المشكوك فيه، تظهر نسخ شبه مطابقة بسرعة. ويقول الباحثون إن ذلك يخلق وضعية "لعبة القط والفأر" تتطلب أدوات كشف أكثر تطورًا ونهجًا تنظيميًا جديدًا لمواجهة تهديد الاحتيالات المدعومة بالذكاء الاصطناعي بشكل فعال.