تغرق منصات التواصل الاجتماعي بمقاطع فيديو تم إنشاؤها بواسطة الذكاء الاصطناعي تروّج لمنتجات صحية مشكوك فيها، وخاصة علاجات جنسية غير مثبتة، ما يخلق بيئة رقمية مليئة بالخداع تهدف إلى استغلال المستهلكين الأكثر عرضة للتأثر.
وقد وثق باحثون من جامعة كورنيل تيك تصاعد ظهور شخصيات "طبيب الذكاء الاصطناعي" على تيك توك تروّج لعلاجات جنسية مشكوك فيها، حيث حصدت بعض هذه المقاطع ملايين المشاهدات. وغالبًا ما تظهر هذه الفيديوهات رجالًا مفتولي العضلات بلا قمصان أو شخصيات افتراضية تم توليدها بالذكاء الاصطناعي يستخدمون لغة مواربة لتجاوز أنظمة الرقابة على المحتوى، ويوجهون المستخدمين لشراء مكملات عبر ادعاءات مبالغ فيها أو مختلقة بالكامل.
والأخطر من ذلك، أن أدوات الذكاء الاصطناعي المتطورة باتت تتيح إنشاء مقاطع تزييف عميق تقلّد مشاهير وشخصيات عامة. وقد رصدت شركة Resemble AI، المتخصصة في كشف التزييف العميق في منطقة خليج سان فرانسيسكو، العديد من المقاطع التي يظهر فيها شخصيات عامة مثل أنتوني فاوتشي والممثلين روبرت دي نيرو وأماندا سيفريد وهم يبدون وكأنهم يروّجون لعلاجات غير مثبتة. وغالبًا ما يتم إنتاج هذه المقاطع عبر تعديل محتوى حقيقي باستخدام أصوات مولدة بالذكاء الاصطناعي وتقنيات متقدمة لمزامنة حركة الشفاه.
وقال زهيب أحمد، الرئيس التنفيذي لشركة Resemble AI: "كما نرى في هذا المثال، يتم استخدام محتوى مضلل مولد بالذكاء الاصطناعي لتسويق مكملات بادعاءات مبالغ فيها أو غير موثقة، مما قد يعرّض صحة المستهلكين للخطر"، مشددًا على المخاوف المتعلقة بسلامة المستهلكين من هذه الاحتيالات.
وقد استجابت لجنة التجارة الفيدرالية لهذا التهديد المتزايد عبر اقتراح لوائح جديدة تستهدف بشكل خاص الاحتيال القائم على انتحال الهوية باستخدام الذكاء الاصطناعي. ففي فبراير 2024، نشرت اللجنة إشعارًا تكميليًا بمشروع قانون يحظر انتحال هوية الأفراد في الأنشطة التجارية، وقد يمتد ليشمل تحميل منصات الذكاء الاصطناعي المسؤولية في حال علمها بتوفير أدوات تُستخدم في مثل هذه الاحتيالات.
وقالت لينا م. خان، رئيسة لجنة التجارة الفيدرالية: "يستخدم المحتالون أدوات الذكاء الاصطناعي لانتحال هوية الأفراد بدقة مخيفة وعلى نطاق أوسع بكثير. ومع تزايد عمليات استنساخ الأصوات والاحتيالات المدفوعة بالذكاء الاصطناعي، أصبح من الضروري أكثر من أي وقت مضى حماية الأمريكيين من احتيال انتحال الهوية".
ويشكل التسارع في إنتاج مقاطع الفيديو القصيرة بالذكاء الاصطناعي تحديات فريدة أمام أنظمة الرقابة على المحتوى، إذ أنه حتى عند إزالة المحتوى المشكوك فيه، تظهر نسخ مشابهة بسرعة. ويقول الباحثون إن ذلك يخلق حالة أشبه بلعبة "اضرب الخلد" تتطلب أدوات كشف أكثر تطورًا ونهجًا تنظيميًا مبتكرًا لمكافحة التهديد المتنامي للاحتيالات المدعومة بالذكاء الاصطناعي بشكل فعال.