تدفع شركة ميتا، المالكة لفيسبوك وإنستغرام وواتساب، بقوة نحو تنفيذ خطط لأتمتة الإشراف على المحتوى عبر منصاتها، حيث بدأت في الاستغناء عن آلاف الوظائف البشرية المعنية بأمان المحتوى لصالح أنظمة الذكاء الاصطناعي.
وبحسب وثائق داخلية للشركة، تعتزم ميتا أتمتة ما يصل إلى 90% من مراجعات الخصوصية والنزاهة، مما سيقلل بشكل كبير من اعتمادها على المشرفين البشريين. وأشار تقرير النزاهة الفصلي للشركة إلى أن نماذج اللغة الضخمة لديها "تعمل الآن بما يتجاوز أداء البشر في بعض مجالات السياسات"، ما يسمح للذكاء الاصطناعي بفحص المحتوى الذي تكون الشركة "واثقة للغاية" من أنه لا ينتهك قواعد المنصة.
وترى ميتا أن هذا التحول سيسهم في تحسين التكاليف، مع تمكين منصاتها من معالجة حجم أكبر من المحتوى بسرعة وثبات أكبر. وكانت الشركة قد زادت تدريجياً من اعتمادها على الذكاء الاصطناعي في تصفية المحتوى خلال السنوات الماضية، إلا أن هذه الخطوة الأخيرة تمثل تسارعاً كبيراً في هذه الاستراتيجية.
ومع ذلك، يرى منتقدون أن الذكاء الاصطناعي، رغم قدرته على تعزيز الكفاءة، يفتقر إلى الحكم البشري اللازم لاتخاذ قرارات الإشراف المعقدة. وأعربت سارة روبرتس، أستاذة في جامعة كاليفورنيا ومديرة مركز الاستقصاء النقدي للإنترنت، عن قلقها من أن أنظمة الذكاء الاصطناعي "مليئة بالتحيزات ومعرضة للأخطاء". وغالباً ما تتطلب القضايا المتعلقة بخطاب الكراهية أو المعلومات المضللة أو الحساسية الثقافية فهماً سياقياً لا يزال الذكاء الاصطناعي يواجه صعوبة في توفيره.
كما يثير هذا التحول تساؤلات أخلاقية تتعلق بالعمالة والشفافية ومسؤولية الشركات. لطالما عبر مشرفو المحتوى عن قلقهم بشأن ظروف العمل، إلا أن دورهم يُعتبر أساسياً في الحفاظ على أمان المنصات. وقد يؤدي استبدالهم بالذكاء الاصطناعي إلى تآكل ثقة الجمهور، خاصة إذا لم يتم معالجة أخطاء الإشراف بالشكل المناسب.
ويأتي هذا التحول في ظل تغييرات أوسع في سياسات ميتا المتعلقة بالمحتوى، بما في ذلك استبدال جهات التحقق من الحقائق الخارجية بنموذج قائم على المجتمع وتخفيف القيود على بعض أنواع الخطاب. ومع تزايد تدقيق الجهات التنظيمية في أوروبا والولايات المتحدة حول كيفية إدارة المنصات للمحتوى الضار، ستواجه استراتيجية ميتا المعتمدة على الذكاء الاصطناعي اختبارات كبيرة في تحقيق التوازن بين الكفاءة والمسؤولية.