इटली के डेटा संरक्षण प्रहरी 'गारांटे' ने AI चैटबोट Replika के डेवलपर Luka Inc. पर €5 मिलियन ($5.64 मिलियन) का जुर्माना लगाया है, जो यूरोपीय संघ द्वारा आर्टिफिशियल इंटेलिजेंस प्लेटफार्मों पर बढ़ती निगरानी के तहत एक और महत्वपूर्ण प्रवर्तन कार्रवाई है।
Replika, जिसे 2017 में सैन फ्रांसिस्को में लॉन्च किया गया था, उपयोगकर्ताओं को व्यक्तिगत AI अवतार प्रदान करता है, जो संवाद में संलग्न होते हैं और भावनात्मक कल्याण को बेहतर बनाने के रूप में प्रचारित किए जाते हैं। कंपनी प्रीमियम फीचर्स जैसे वॉयस चैट्स से लगभग $2 मिलियन मासिक राजस्व अर्जित करती है, जबकि बुनियादी सेवाएं मुफ्त में उपलब्ध कराती है।
इतालवी नियामक ने फरवरी 2023 में Replika को इटली में परिचालन निलंबित करने का आदेश दिया था, जिसमें बच्चों और भावनात्मक रूप से संवेदनशील व्यक्तियों के लिए विशिष्ट जोखिमों का हवाला दिया गया था। विस्तृत जांच के बाद, गारांटे ने निष्कर्ष निकाला कि Luka Inc. ने दो महत्वपूर्ण मोर्चों पर EU गोपनीयता नियमों का उल्लंघन किया: उपयोगकर्ताओं के व्यक्तिगत डेटा को संसाधित करने के लिए वैध कानूनी आधार की कमी और नाबालिगों को सेवा तक पहुंचने से रोकने के लिए कोई आयु सत्यापन तंत्र लागू न करना।
नियामकों के लिए विशेष रूप से चिंता का विषय यह था कि ऐप उपयोगकर्ताओं को एक "सुरक्षित स्थान" के रूप में प्रस्तुत कर संवेदनशील व्यक्तिगत जानकारी साझा करने के लिए प्रोत्साहित करता है, जिससे कमजोर उपयोगकर्ताओं को सामान्य से अधिक जानकारी साझा करने के लिए प्रेरित किया जा सकता है। जबकि Replika की शर्तों में दावा किया गया है कि सेवा 18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए नहीं है, जांचकर्ताओं को इस प्रतिबंध को लागू करने के लिए कोई प्रभावी उपाय नहीं मिले।
आर्थिक दंड के अतिरिक्त, गारांटे ने एक अलग जांच शुरू की है ताकि यह आकलन किया जा सके कि Replika की जनरेटिव AI प्रणाली यूरोपीय संघ के गोपनीयता नियमों का पालन करती है या नहीं, विशेष रूप से इसके भाषा मॉडल के प्रशिक्षण के संदर्भ में। यह इटली के नियामक द्वारा प्रवर्तन की व्यापक प्रवृत्ति का हिस्सा है, जो AI क्षेत्र में EU के सबसे सक्रिय नियामकों में से एक के रूप में उभरा है।
पिछले वर्ष, गारांटे ने ChatGPT के निर्माता OpenAI पर भी €15 मिलियन का जुर्माना लगाया था, जब कथित EU गोपनीयता नियमों के उल्लंघन के चलते इटली में लोकप्रिय चैटबोट पर अस्थायी प्रतिबंध लगाया गया था। ये कार्रवाइयाँ दिखाती हैं कि AI कंपनियों को यूरोपीय डेटा संरक्षण कानूनों के जटिल परिदृश्य में किस प्रकार की बढ़ती नियामकीय चुनौतियों का सामना करना पड़ रहा है, खासकर जब EU AI अधिनियम 2025 और उसके बाद चरणबद्ध रूप से लागू होना शुरू हो गया है।