2025년 5월 22일, CISA와 여러 보안 파트너 기관들은 'AI 데이터 보안: AI 시스템 학습 및 운영 데이터 보호를 위한 모범 사례'라는 제목의 공동 사이버보안 정보 시트를 공개하며, AI 보안 취약성에 대한 우려에 대응하는 중요한 조치를 내놓았다.
이번 가이드는 미국 국가안보국(NSA) 산하 인공지능 보안센터(AISC), 연방수사국(FBI), 그리고 호주 사이버보안센터(ACSC), 뉴질랜드 국가사이버보안센터(NCSC-NZ), 영국 국가사이버보안센터(NCSC) 등 국제 파트너들이 공동 집필했다. 이들은 데이터 보안이 신뢰할 수 있는 AI 시스템 구축의 핵심임을 강조했다.
정보 시트는 개발, 테스트, 배포, 운영 등 AI 라이프사이클 전 단계에서 발생할 수 있는 데이터 보안 및 무결성 관련 주요 위험을 설명한다. 또한 암호화, 디지털 서명, 데이터 출처 추적 등 강력한 데이터 보호 조치를 포함한 구체적인 데이터 보호 방안을 제시한다.
가이드는 특히 AI 시스템에서 발생할 수 있는 세 가지 주요 데이터 보안 위험 영역—데이터 공급망 취약점, 악의적으로 변조된(‘포이즌드’) 데이터, 데이터 드리프트—을 중점적으로 다룬다. 각 위험 요소별로 상세한 대응 전략과 모범 사례도 함께 제공된다.
CISA 경고문은 “AI 시스템이 핵심 운영에 점점 더 통합됨에 따라, 조직은 이를 구동하는 데이터 보안을 위해 경계를 늦추지 말고 적극적인 조치를 취해야 한다”고 강조했다. CISA는 조직들이 강력한 데이터 보호 조치 도입, 위험 사전 관리, 모니터링·위협 탐지·네트워크 방어 역량 강화 등을 권고했다.
이번 가이드는 특히 국방 산업 기반, 국가안보 시스템 소유자, 연방 기관, 주요 인프라 운영자 등 민감한 환경에서 AI 시스템을 도입하는 조직에 매우 중요하다. 권장된 보안 관행을 적용함으로써, 조직은 AI 시스템을 잠재적 위협으로부터 보다 효과적으로 보호하고 AI 기반 결과의 정확성과 무결성을 유지할 수 있다.