据2025年5月17日最新一期RISKS论坛简报，网络安全专家指出，人工智能在关键基础设施中的快速集成，正带来令人担忧的安全新格局。
世界经济论坛发布的《2025全球网络安全展望》显示，尽管66%的组织认为AI是今年网络安全领域最具变革性的力量，但仅有37%的企业在部署前对AI工具进行了安全评估。这种认知与行动之间的脱节，导致各行各业暴露出重大安全隐患。
英国国家网络安全中心（NCSC）发言人在最新报告中警告：“未能跟上AI驱动威胁步伐的组织和系统，将成为供应链中更易受攻击的薄弱环节，因其暴露面和被利用风险显著增加。”NCSC预测，到2027年，AI赋能的攻击者将进一步缩短从漏洞发现到被利用的时间，这一周期已被压缩至数天之内。
网络安全专家尤其关注针对大型语言模型（LLM）的提示注入攻击。安全研究人员引用的一次渗透测试显示，一家蜡烛店的AI聊天机器人因提示工程被攻破，带来了安全、合规及业务风险。此次攻击不仅实现了系统数据的提取，还能操控聊天机器人的回复，说明看似无害的AI应用也可能成为严重的安全隐患。
供应链漏洞是另一大关注点，54%的大型组织认为其是实现网络韧性的最大障碍。供应链日益复杂，且对供应商安全实践缺乏透明度，使得AI系统易因第三方组件被攻陷。
自主代理型AI（agentic AI）的出现，预计将在2025年重塑威胁格局。思科旗下Splunk人工智能副总裁杨浩解释道：“过去我们关注的是能响应用户指令的AI助手，如今我们面临的是能自主决策并执行复杂任务的代理型AI工具。”
专家建议，组织应制定正式的AI安全政策，部署前进行威胁建模，有系统地缩小攻击面，并确保供应商具备持续的安全改进机制。此外，随着AI驱动攻击超越传统防御手段，安全团队的持续培训也至关重要。
正如一位RISKS论坛的安全研究员所言：“转变不仅在于防御AI驱动的攻击，更在于认识到我们的AI系统本身已成为首要攻击目标。”