Сферы здравоохранения и финансовых услуг ожидают значительные преобразования после объявления 25 июля новых нормативных рамок для применения искусственного интеллекта в этих отраслях.
Правила, разработанные в сотрудничестве между федеральными ведомствами и представителями отрасли, устанавливают четкие требования к ИИ-системам, которые принимают решения или влияют на решения в области ухода за пациентами, страхового покрытия, финансовых услуг и управления инвестициями. Эти меры отвечают на растущие опасения по поводу безопасности ИИ, алгоритмической предвзятости, а также возможного влияния на занятость и конфиденциальность данных.
В здравоохранении новые правила обязывают поставщиков и страховщиков внедрять эффективные механизмы контроля за ИИ-системами, используемыми для диагностики и рекомендаций по лечению. Медицинские организации должны гарантировать, что ИИ-инструменты не приводят к дискриминации пациентов, особенно при постановке диагнозов, принятии решений о лечении и распределении ресурсов. Кроме того, правила требуют обязательного клинического пересмотра решений по управлению использованием медицинских услуг, принятых на основе ИИ, чтобы избежать необоснованных отказов в необходимой помощи со стороны автоматизированных систем.
Для финансового сектора рамки устанавливают стандарты для ИИ-систем, применяемых при принятии кредитных решений, выявлении мошенничества и управлении инвестициями. Финансовые организации должны продемонстрировать, что их ИИ-модели объяснимы, прозрачны и не содержат дискриминационной предвзятости. Также правила затрагивают вопросы конфиденциальности данных и устанавливают требования по управлению рисками при использовании ИИ для управления портфелями, торговли и клиентских сервисов.
Регуляторный подход отражает стремление нынешней администрации продвигать лидерство США в области ИИ, одновременно внедряя целевые меры безопасности в ключевых секторах. Президент Трамп, недавно подписавший указы, ускоряющие развитие ИИ, подчеркнул необходимость "развивать это направление и дать ему процветать", при этом обеспечивая надлежащую защиту в чувствительных сферах.
Реакция отрасли оказалась неоднозначной: одни организации приветствуют ясность новых рамок, другие выражают опасения по поводу возможных трудностей с соблюдением требований. Руководителям в здравоохранении и финансовых услугах теперь предстоит реализовать эти требования, продолжая использовать преимущества ИИ для повышения эффективности и улучшения результатов.