فرضت هيئة حماية البيانات الإيطالية "غارانتي" غرامة قدرها 5 ملايين يورو (5.64 مليون دولار) على شركة لوكا إنك، المطورة لروبوت الدردشة الذكي روبليكا، في خطوة تمثل إجراءً تنفيذياً جديداً ضمن جهود الاتحاد الأوروبي المستمرة لمراقبة منصات الذكاء الاصطناعي.
تأسست روبليكا في سان فرانسيسكو عام 2017، وتوفر للمستخدمين روبوتات ذكاء اصطناعي مخصصة تتفاعل معهم في محادثات ويجري تسويقها كوسيلة لتحسين الصحة العاطفية. وتحقق الشركة إيرادات شهرية تقارب مليوني دولار من الميزات المدفوعة مثل المحادثات الصوتية، بينما تقدم الخدمات الأساسية مجاناً.
كانت الهيئة الإيطالية قد أمرت في البداية بتعليق عمل روبليكا في إيطاليا في فبراير 2023، مشيرة إلى وجود مخاطر محددة على الأطفال والأشخاص ذوي الهشاشة العاطفية. وبعد تحقيق موسع، خلصت "غارانتي" إلى أن شركة لوكا إنك انتهكت لوائح الخصوصية الأوروبية في جانبين أساسيين: عدم وجود أساس قانوني صالح لمعالجة البيانات الشخصية للمستخدمين، وعدم تطبيق أي آليات تحقق من العمر لمنع القُصّر من الوصول إلى الخدمة.
وأعرب المنظمون عن قلق خاص بشأن الطريقة التي شجعت بها التطبيق المستخدمين على مشاركة معلومات شخصية حساسة في ما يُصوَّر على أنه "مساحة آمنة"، مما قد يدفع المستخدمين الأكثر هشاشة للكشف عن معلومات أكثر مما يفعلون عادة. وعلى الرغم من أن شروط استخدام روبليكا تنص على أن الخدمة غير مخصصة لمن هم دون 18 عاماً، إلا أن التحقيقات كشفت عن غياب تدابير فعالة لتطبيق هذا القيد.
وبالإضافة إلى العقوبة المالية، أطلقت "غارانتي" تحقيقاً منفصلاً لتقييم مدى التزام نظام الذكاء الاصطناعي التوليدي لروبليكا بقواعد الخصوصية الأوروبية، خاصة فيما يتعلق بكيفية تدريب نموذج اللغة المستخدم. ويأتي ذلك ضمن توجه أوسع من الهيئة الإيطالية، التي باتت واحدة من أكثر الجهات التنظيمية نشاطاً في مجال الذكاء الاصطناعي على مستوى الاتحاد الأوروبي.
وكانت الهيئة قد فرضت العام الماضي غرامة قدرها 15 مليون يورو على شركة أوبن إيه آي، المطورة لتطبيق ChatGPT، بعد حظر مؤقت للتطبيق الشهير في إيطاليا بسبب مزاعم انتهاك قواعد الخصوصية الأوروبية. وتسلط هذه الإجراءات الضوء على التحديات التنظيمية المتزايدة التي تواجه شركات الذكاء الاصطناعي أثناء تعاملها مع تعقيدات قوانين حماية البيانات الأوروبية، خاصة مع بدء تطبيق قانون الذكاء الاصطناعي الأوروبي تدريجياً حتى عام 2025 وما بعده.