تدفع شركة ميتا، الشركة الأم لفيسبوك وإنستغرام وواتساب، بقوة نحو تنفيذ خطط لأتمتة الإشراف على المحتوى عبر منصاتها، حيث بدأت في الاستغناء عن آلاف من وظائف أمن المحتوى البشري لصالح أنظمة الذكاء الاصطناعي.
ووفقًا لوثائق داخلية للشركة، تعتزم ميتا أتمتة ما يصل إلى 90% من مراجعات الخصوصية والنزاهة، مما يقلل بشكل كبير اعتمادها على المشرفين البشريين. ويشير تقرير النزاهة الفصلي للشركة إلى أن نماذج اللغة الكبيرة لديها "تعمل الآن بمستوى يتجاوز الأداء البشري في بعض مجالات السياسات"، مما يسمح للذكاء الاصطناعي بفحص المحتوى الذي "تثق الشركة بدرجة عالية" في عدم مخالفته لقواعد المنصة.
وترى ميتا أن هذا التحول سيسهم في تحسين التكاليف مع تمكين منصاتها من معالجة حجم أكبر من المحتوى بسرعة وثبات أكبر. وقد زادت الشركة تدريجيًا من اعتمادها على الذكاء الاصطناعي في تصفية المحتوى خلال السنوات الماضية، لكن هذه الخطوة الأخيرة تمثل تسريعًا ملحوظًا لهذه الاستراتيجية.
ومع ذلك، يرى المنتقدون أنه رغم قدرة الذكاء الاصطناعي على تعزيز الكفاءة، إلا أنه يفتقر إلى الحكم البشري اللازم لاتخاذ قرارات الإشراف المعقدة. وأعربت سارة روبرتس، أستاذة في جامعة كاليفورنيا في لوس أنجلوس ومديرة مركز الاستقصاء النقدي للإنترنت، عن قلقها من أن أنظمة الذكاء الاصطناعي "مليئة بالتحيزات ومعرضة للأخطاء". وغالبًا ما تتطلب القضايا المتعلقة بخطاب الكراهية أو المعلومات المضللة أو الحساسية الثقافية فهمًا سياقيًا، وهو ما لا يزال الذكاء الاصطناعي يواجه صعوبة في توفيره.
كما تثير هذه الخطوة تساؤلات أخلاقية حول العمل والشفافية ومسؤولية الشركات. لطالما أعرب مشرفو المحتوى عن مخاوفهم بشأن ظروف العمل، إلا أن دورهم يُعتبر أساسيًا في الحفاظ على أمان المنصات. وقد يؤدي استبدالهم بالذكاء الاصطناعي إلى تآكل ثقة الجمهور، خاصة إذا لم تتم معالجة أخطاء الإشراف.
ويأتي هذا التحول في ظل تغييرات أوسع في سياسات ميتا المتعلقة بالمحتوى، بما في ذلك استبدال جهات التحقق من الحقائق الخارجية بنموذج قائم على المجتمع وتخفيف القيود على بعض أنواع الخطاب. ومع تزايد التدقيق من قبل الجهات التنظيمية في أوروبا والولايات المتحدة حول كيفية إدارة المنصات للمحتوى الضار، ستواجه استراتيجية ميتا المعتمدة على الذكاء الاصطناعي اختبارات كبيرة في تحقيق التوازن بين الكفاءة والمسؤولية.