मेटा, जो फेसबुक, इंस्टाग्राम और व्हाट्सएप की मूल कंपनी है, अपने प्लेटफॉर्म्स पर कंटेंट मॉडरेशन को स्वचालित करने की योजनाओं को आक्रामक रूप से आगे बढ़ा रही है। इसके तहत, हजारों मानव कंटेंट सुरक्षा भूमिकाओं को AI सिस्टम्स से प्रतिस्थापित किया जा रहा है।
आंतरिक कंपनी दस्तावेजों के अनुसार, मेटा अपनी प्राइवेसी और इंटीग्रिटी रिव्यूज़ का 90% तक हिस्सा स्वचालित करने का इरादा रखती है, जिससे मानव मॉडरेटर पर निर्भरता काफी कम हो जाएगी। कंपनी की तिमाही इंटीग्रिटी रिपोर्ट में कहा गया है कि उसके बड़े भाषा मॉडल अब "कुछ नीतिगत क्षेत्रों में मानव प्रदर्शन से भी आगे काम कर रहे हैं," जिससे AI उन कंटेंट को छांट सकता है जिनके बारे में कंपनी "पूरी तरह आश्वस्त" है कि वे प्लेटफॉर्म नियमों का उल्लंघन नहीं करते।
मेटा का मानना है कि यह बदलाव लागत को अनुकूलित करेगा और उसके प्लेटफॉर्म्स को अधिक मात्रा में कंटेंट को तेज़ और एकरूपता के साथ प्रोसेस करने में सक्षम बनाएगा। कंपनी पिछले कुछ वर्षों से कंटेंट फिल्टरिंग के लिए AI का उपयोग बढ़ा रही थी, लेकिन यह ताज़ा कदम इस रणनीति में एक बड़ा और तेज़ बदलाव है।
हालांकि, आलोचकों का कहना है कि जहां AI दक्षता बढ़ा सकता है, वहीं जटिल मॉडरेशन फैसलों के लिए आवश्यक मानवीय विवेक उसमें नहीं है। UCLA की प्रोफेसर और सेंटर फॉर क्रिटिकल इंटरनेट इन्क्वायरी की निदेशक सारा रॉबर्ट्स ने चिंता जताई कि AI सिस्टम्स "पूर्वाग्रहों से भरे और गलतियों के प्रति संवेदनशील" हैं। नफरत फैलाने वाले भाषण, गलत सूचना या सांस्कृतिक संवेदनशीलता जैसे मामलों में अक्सर संदर्भ की समझ जरूरी होती है, जो AI के लिए अब भी चुनौतीपूर्ण है।
यह बदलाव श्रम, पारदर्शिता और कॉर्पोरेट जवाबदेही से जुड़े नैतिक सवाल भी उठाता है। कंटेंट मॉडरेटर लंबे समय से कार्य परिस्थितियों को लेकर चिंता जताते रहे हैं, लेकिन उनकी भूमिका प्लेटफॉर्म की सुरक्षा बनाए रखने के लिए महत्वपूर्ण मानी जाती है। उन्हें AI से बदलना सार्वजनिक विश्वास को कमजोर कर सकता है, खासकर अगर मॉडरेशन में हुई गलतियों को ठीक से संबोधित नहीं किया गया।
यह परिवर्तन मेटा की कंटेंट नीतियों में व्यापक बदलावों के बीच आ रहा है, जिसमें थर्ड-पार्टी फैक्ट-चेकर्स को कम्युनिटी-ड्रिवन मॉडल से बदलना और कुछ प्रकार की अभिव्यक्ति पर लगी पाबंदियों को ढील देना शामिल है। यूरोप और अमेरिका में नियामक संस्थाएं जिस तरह से हानिकारक कंटेंट के प्रबंधन को लेकर प्लेटफॉर्म्स की जांच बढ़ा रही हैं, ऐसे में मेटा का AI-आधारित दृष्टिकोण दक्षता और जिम्मेदारी के संतुलन की बड़ी परीक्षा से गुजरेगा।