2025년 7월 25일 발표된 인공지능(AI) 규제 프레임워크로 인해 의료 및 금융 서비스 산업이 중대한 변화를 맞이하게 됐다.
이번 규제는 연방 기관과 업계 이해관계자 간의 협력을 통해 마련됐으며, 환자 치료, 보험 보장, 금융 서비스, 투자 관리 등에서 의사결정에 관여하거나 영향을 미치는 AI 시스템에 대한 명확한 가이드라인을 제시한다. 이는 AI 안전성, 알고리즘 편향, 일자리 및 개인정보 보호에 대한 우려가 커지는 상황에 대응하기 위한 조치다.
의료 분야에서는, 진단 및 치료 권고에 AI를 활용하는 시스템에 대해 강력한 감독 메커니즘을 도입하도록 의료 제공자와 보험사에 요구한다. 의료 기관은 AI 도구가 진단, 치료 결정, 자원 배분 등에서 환자에게 차별적 영향을 미치지 않도록 보장해야 한다. 또한, AI 기반의 의료 이용 관리 결정에 대해 임상 전문가의 인간 검토를 의무화해 자동화 시스템이 부적절하게 필수 치료를 거부할 수 있다는 우려를 해소한다.
금융 분야에서는 신용 평가, 사기 탐지, 투자 관리에 활용되는 AI 시스템에 대한 기준을 마련했다. 금융 기관은 AI 모델이 설명 가능하고 투명하며 차별적 편향이 없음을 입증해야 한다. 또한 데이터 프라이버시 문제를 다루고, 포트폴리오 관리, 트레이딩, 고객 응대 등에서 AI를 사용할 때 위험 관리 요건을 명확히 했다.
이번 규제 접근법은 미국의 AI 리더십을 강화하는 한편, 핵심 산업에 맞춤형 보호장치를 도입하려는 현 행정부의 방침을 반영한다. 최근 AI 개발 가속화를 위한 행정명령에 서명한 트럼프 대통령은 "AI라는 아기를 키우고 번성하게 해야 한다"며, 민감한 분야에서의 적절한 보호장치 마련의 필요성을 강조했다.
업계 반응은 엇갈리고 있다. 일부 기관은 새로운 프레임워크가 제공하는 명확성을 환영하는 반면, 다른 곳에서는 준수 부담 증가에 대한 우려를 표했다. 의료 및 금융 서비스 업계 리더들은 이제 AI의 효율성과 성과 개선 효과를 유지하면서도 새로운 규제 요건을 이행해야 하는 과제에 직면하게 됐다.