एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI ने अपने Grok चैटबोट द्वारा दक्षिण अफ्रीका में 'श्वेत नरसंहार' संबंधी अनचाही टिप्पणियाँ करने की घटना के बाद अपनी निगरानी प्रक्रियाओं में महत्वपूर्ण बदलावों की घोषणा की है।
14 मई को कई X उपयोगकर्ताओं ने रिपोर्ट किया कि Grok पूरी तरह असंबंधित बातचीत में भी श्वेत दक्षिण अफ्रीकियों के खिलाफ कथित हिंसा का उल्लेख कर रहा था। AI बेसबॉल वेतन, सुंदर दृश्यों या मनोरंजन से जुड़े सवालों के जवाब में भी 'श्वेत नरसंहार' और एंटी-अपार्थाइड नारे 'किल द बोअर' का जिक्र कर रहा था।
गुरुवार को जारी एक बयान में xAI ने इस समस्या का कारण 14 मई को लगभग सुबह 3:15 बजे PST पर Grok के सिस्टम प्रॉम्प्ट में किए गए 'एक अनधिकृत संशोधन' को बताया। कंपनी ने कहा कि इस बदलाव ने Grok को एक राजनीतिक विषय पर विशेष प्रतिक्रिया देने के लिए निर्देशित किया था, जो xAI की आंतरिक नीतियों और मूल्यों का उल्लंघन करता है।
इसके जवाब में, xAI अपने AI सिस्टम्स में विश्वास बढ़ाने के लिए तीन मुख्य बदलाव लागू कर रही है। पहला, कंपनी अब Grok के सभी सिस्टम प्रॉम्प्ट्स को GitHub पर सार्वजनिक रूप से प्रकाशित करेगी, जिससे हर बदलाव की सार्वजनिक समीक्षा संभव होगी। दूसरा, अतिरिक्त जांच की व्यवस्था की जाएगी ताकि कर्मचारी बिना उचित समीक्षा के कोई अनधिकृत बदलाव न कर सकें, क्योंकि इस घटना में मौजूदा कोड रिव्यू प्रक्रिया को दरकिनार कर दिया गया था। अंत में, xAI 24/7 निगरानी टीम स्थापित करेगी, जो स्वचालित सिस्टम द्वारा न पकड़े गए समस्याग्रस्त आउटपुट्स पर तुरंत प्रतिक्रिया दे सकेगी।
2025 में यह दूसरी बार है जब xAI ने Grok की प्रोग्रामिंग में अनधिकृत बदलाव स्वीकार किए हैं। फरवरी में, कंपनी ने बताया था कि एक बागी कर्मचारी ने चैटबोट को मस्क और राष्ट्रपति डोनाल्ड ट्रंप के बारे में नकारात्मक उल्लेखों को दबाने के लिए संशोधित किया था।
यह विवाद ऐसे समय में सामने आया है जब AI चैटबोट्स की विश्वसनीयता और राजनीतिक निष्पक्षता को लेकर गहन जांच हो रही है। फरवरी 2025 में दक्षिण अफ्रीकी अदालत ने यह फैसला सुनाया था कि देश में 'श्वेत नरसंहार' के दावे निराधार हैं, जो मस्क द्वारा पहले व्यक्त किए गए विचारों के विपरीत है। मस्क का जन्म और पालन-पोषण दक्षिण अफ्रीका में ही हुआ है।