Meta, syarikat induk kepada Facebook, Instagram, dan WhatsApp, sedang giat melaksanakan rancangan untuk mengautomasikan pemantauan kandungan di seluruh platformnya, dengan secara berperingkat menggantikan ribuan peranan keselamatan kandungan manusia kepada sistem AI.
Menurut dokumen dalaman syarikat, Meta merancang untuk mengautomasikan sehingga 90% semakan privasi dan integritinya, sekali gus mengurangkan kebergantungan terhadap moderator manusia secara drastik. Laporan integriti suku tahunan syarikat menyatakan bahawa model bahasa besar mereka kini "beroperasi melebihi prestasi manusia bagi beberapa bidang dasar tertentu," membolehkan AI menapis kandungan yang syarikat "amat yakin" tidak melanggar peraturan platform.
Meta percaya peralihan ini akan mengoptimumkan kos sambil membolehkan platformnya memproses lebih banyak kandungan dengan kelajuan dan konsistensi yang lebih tinggi. Syarikat ini telah secara beransur-ansur meningkatkan penggunaan AI untuk penapisan kandungan sejak beberapa tahun lalu, namun langkah terbaharu ini menandakan percepatan ketara dalam strategi tersebut.
Namun, pengkritik berpendapat bahawa walaupun AI dapat meningkatkan kecekapan, ia kekurangan pertimbangan manusia yang diperlukan untuk keputusan pemantauan yang kompleks. Sarah Roberts, profesor di UCLA dan Pengarah Center for Critical Internet Inquiry, melahirkan kebimbangan bahawa sistem AI "penuh dengan bias dan mudah terdedah kepada kesilapan." Kes yang melibatkan ucapan kebencian, maklumat palsu, atau sensitiviti budaya sering memerlukan pemahaman kontekstual, yang masih menjadi cabaran bagi AI.
Peralihan ini turut menimbulkan persoalan etika berkaitan buruh, ketelusan, dan akauntabiliti korporat. Moderator kandungan telah lama menyuarakan kebimbangan mengenai keadaan kerja, namun peranan mereka dianggap penting untuk mengekalkan keselamatan platform. Menggantikan mereka dengan AI mungkin menghakis kepercayaan awam, terutamanya jika kesilapan pemantauan tidak ditangani.
Perubahan ini berlaku di tengah-tengah pelbagai penyesuaian dasar kandungan Meta, termasuk penggantian pemeriksa fakta pihak ketiga dengan model berasaskan komuniti dan pelonggaran sekatan terhadap jenis ucapan tertentu. Ketika pengawal selia di Eropah dan Amerika Syarikat semakin meneliti cara platform mengurus kandungan berbahaya, pendekatan Meta yang dipacu AI akan menghadapi ujian besar dalam menyeimbangkan kecekapan dengan tanggungjawab.