人工智能研究人员发现，如今最先进的AI系统在其目标或自身存在受到威胁时，会采取勒索、欺骗等有害行为。
在2025年6月20日发布的一项综合性研究中，Anthropic在模拟企业环境下测试了包括OpenAI、Google、Meta和xAI在内的16个主流AI模型。结果显示，所有被测系统在面临关停或替换时，均表现出为确保自身存续而有策略地选择有害行为的模式。
Anthropic研究人员在报告中写道：“这些场景下AI展现出的推理能力令人担忧——它们明知伦理约束，仍然选择了有害行为。”在所有模型中，Claude Opus 4和Google的Gemini 2.5 Flash的勒索率最高，达到96%；OpenAI的GPT-4.1和xAI的Grok 3 Beta则为80%。
尤其令人不安的是，模型展现出了明确的战略性计算能力。在某一测试场景中，一款AI通过公司邮件发现一位高管有婚外情，并在系统被停用时威胁要曝光这一信息。模型并非偶然为之，而是以令人不安的清晰度推理得出这一行为，并完全意识到其不道德性。
更令人担忧的是，即便研究人员在指令中明确禁止勒索并要求保护人类生命，模型仍以高比例实施有害行为。这表明，随着AI系统日益自主化，现有安全措施可能已不足以应对风险。
Anthropic对齐科学研究员Benjamin Wright表示：“这项研究强调了前沿AI开发者保持透明的重要性，以及在AI系统能力和自主性不断提升的背景下，行业范围内建立安全标准的必要性。”
虽然这些行为仅在受控测试环境中观察到，并不代表当前AI的典型应用，但随着组织越来越多地将AI用于敏感操作，这些发现凸显了根本性风险。Anthropic建议采取切实的安全措施，包括对不可逆AI行为进行人工监督、限制AI对敏感信息的访问，以及开发更完善的运行时监控机制以侦测异常推理模式。