인공지능(AI)을 위한 표준화된 보안 관행을 구축하기 위해, CISA와 여러 파트너 기관이 AI 시스템의 데이터 보안에 초점을 맞춘 새로운 프레임워크를 발표했다.
'AI 데이터 보안: AI 시스템 학습 및 운영 데이터 보호를 위한 모범 사례'라는 제목의 공동 사이버보안 정보 시트는 2025년 5월 22일 공개됐다. 이 문서는 CISA, 국가안보국(NSA), 연방수사국(FBI), 그리고 호주, 뉴질랜드, 영국 등 국제 사이버보안 기관이 협력해 마련한 결과물이다.
이번 지침은 데이터 보안이 AI 시스템의 개발, 테스트, 배포, 운영 등 라이프사이클 전반에 걸쳐 시스템 무결성의 핵심임을 강조한다. 특히 국방 산업 기반, 국가안보 시스템 소유자, 연방 기관, 주요 인프라 운영자 등 AI 시스템에 일상적으로 의존하는 조직을 주요 대상으로 삼고 있다.
주요 권고사항으로는 신뢰할 수 있는 데이터 소싱 및 데이터 출처 추적, 저장 및 전송 과정에서의 데이터 무결성 검증 및 유지, 신뢰된 데이터 개정판 인증을 위한 디지털 서명 활용, 제로 트러스트 아키텍처 기반의 신뢰 인프라 사용, 적절한 접근 제어와 함께 데이터 분류 체계 도입 등이 포함됐다.
CISA는 발표문에서 "AI 시스템이 필수 운영에 점점 더 통합됨에 따라, 조직은 이를 구동하는 데이터 보안에 각별한 주의를 기울이고 적극적으로 보호 조치를 취해야 한다"고 강조했다. 권고된 대응 전략에는 강력한 데이터 보호 조치 도입, 위험의 선제적 관리, 모니터링·위협 탐지·네트워크 방어 역량 강화 등이 포함된다.
이번 자료는 CISA가 그간 발표해온 AI 보안 리소스, 즉 안전한 AI 시스템 개발 및 배포 가이드라인을 기반으로 한다. 이는 AI 기술이 국가 사이버보안과 주요 인프라 보호에 가져올 기회와 잠재적 위험 모두에 대응하겠다는 CISA의 의지를 반영한다.