意大利数据保护监管机构Garante已对AI聊天机器人Replika的开发商Luka Inc.处以500万欧元（约合564万美元）罚款，这标志着欧盟在持续审查人工智能平台过程中又一次重大执法行动。
Replika于2017年在旧金山推出，为用户提供个性化AI虚拟形象，能够进行对话，并以提升情感健康为卖点。该公司通过包括语音聊天在内的高级付费功能，每月收入约200万美元，同时基础服务免费提供。
意大利监管机构最初于2023年2月下令Replika暂停在意大利的运营，理由是该服务对儿童和情感脆弱人群存在特定风险。经过深入调查，Garante认定Luka Inc.在两个关键方面违反了欧盟隐私法规：一是缺乏处理用户个人数据的合法依据，二是未实施任何年龄验证机制以防止未成年人访问该服务。
监管机构尤其关注该应用如何鼓励用户在所谓“安全空间”中分享敏感个人信息，这可能诱导脆弱用户披露超出常规的信息。尽管Replika在服务条款中声明不面向18岁以下用户，但调查人员发现并无有效措施来执行这一限制。
除经济处罚外，Garante还启动了独立调查，以评估Replika的生成式AI系统在其语言模型训练方面是否符合欧盟隐私法规。这是意大利监管机构在AI领域积极执法的又一体现。
去年，Garante曾因涉嫌违反欧盟隐私法规，对ChatGPT开发商OpenAI处以1500万欧元罚款，并一度在意大利暂停该热门聊天机器人的服务。这些行动凸显了AI公司在应对欧洲复杂数据保护法律时面临的日益严峻的监管挑战，尤其是在欧盟《人工智能法案》自2025年起分阶段实施之际。