医疗和金融服务行业将在2025年7月25日新公布的人工智能应用监管框架下迎来重大变革。
这些规定由联邦机构与行业利益相关方协作制定，为在患者护理、保险理赔、金融服务及投资管理等领域作出或影响决策的AI系统设立了明确指引。此举回应了社会对AI安全、算法偏见以及其对就业和隐私潜在影响的持续担忧。
在医疗领域，新规要求医疗服务提供者与保险公司为AI驱动的诊断和治疗推荐系统建立健全的监督机制。医疗机构必须确保AI工具不会对患者产生歧视性影响，尤其是在诊断、治疗决策和资源分配方面。规定还要求对基于AI的医疗利用管理决策进行人工临床审核，以应对自动化系统可能不当拒绝必要治疗的担忧。
在金融行业，框架为涉及信贷决策、欺诈检测和投资管理的AI系统设定了标准。金融机构必须证明其AI模型具备可解释性、透明性，并且不存在歧视性偏见。新规还关注数据隐私问题，并对AI在投资组合管理、交易及面向客户的应用中的风险管理提出了要求。
这一监管思路体现了现任政府在推动美国AI领导力的同时，针对关键行业实施有针对性防护的政策取向。特朗普总统近期签署行政命令以加速AI发展，并强调要“让AI茁壮成长”，同时确保在敏感领域采取适当保护措施。
行业反应不一，一些组织欢迎新框架带来的明确性，另一些则担忧潜在的合规负担。医疗和金融服务业的领导者如今面临着在持续利用AI提升运营效率和优化结果的同时，落实这些新要求的挑战。