2025年5月22日,CISA及多家安全合作伙伴联合发布了题为《AI数据安全:保护用于训练与运行AI系统数据的最佳实践》的网络安全信息表,标志着应对AI安全漏洞日益增长的担忧迈出了重要一步。
该指南由国家安全局人工智能安全中心(AISC)、联邦调查局(FBI)以及澳大利亚网络安全中心(ACSC)、新西兰国家网络安全中心(NCSC-NZ)、英国国家网络安全中心(NCSC)等国际合作伙伴共同撰写,强调数据安全是确保AI系统可靠性的基础。
信息表详细列出了AI生命周期各阶段(从开发、测试到部署和运行)中可能因数据安全与完整性问题引发的关键风险,并为保护AI系统核心数据提供了具体建议,包括实施加密、数字签名和数据溯源等强有力的数据保护措施。
指南特别针对AI系统中的三大数据安全风险领域进行了说明:数据供应链漏洞、恶意篡改(“投毒”)数据以及数据漂移。针对每一类风险,文件都给出了详细的缓解策略和最佳实践。
CISA警示称:“随着AI系统日益融入关键运营,组织必须保持警惕,采取有针对性的措施保护其核心数据。”该机构建议组织采取强有力的数据保护措施,主动管理风险,并加强监控、威胁检测与网络防御能力。
本指南对于国防工业基地、国家安全系统所有者、联邦机构及关键基础设施运营商尤为重要,这些组织正越来越多地在敏感环境中部署AI系统。通过落实推荐的安全实践,组织能够更好地防范潜在威胁,同时保障AI驱动结果的准确性与完整性。