Os setores de saúde e serviços financeiros passam por uma transformação significativa após o anúncio, em 25 de julho, de novos marcos regulatórios para aplicações de inteligência artificial nesses segmentos.
As regulamentações, desenvolvidas em colaboração entre agências federais e representantes da indústria, estabelecem diretrizes claras para sistemas de IA que tomam ou influenciam decisões sobre cuidados médicos, cobertura de seguros, serviços financeiros e gestão de investimentos. Essas medidas respondem a preocupações crescentes sobre segurança da IA, viés algorítmico e possíveis impactos sobre empregos e privacidade.
Na área da saúde, as novas regras exigem que prestadores de serviços e seguradoras implementem mecanismos robustos de supervisão para sistemas de diagnóstico e recomendação de tratamento baseados em IA. As organizações de saúde devem garantir que as ferramentas de IA não resultem em impactos discriminatórios sobre pacientes, especialmente em relação a diagnósticos, decisões terapêuticas e alocação de recursos. As normas também determinam a revisão clínica humana em decisões de gestão de utilização baseadas em IA, abordando preocupações de que sistemas automatizados possam negar cuidados necessários de forma inadequada.
Para o setor financeiro, o marco estabelece padrões para sistemas de IA envolvidos em decisões de crédito, detecção de fraudes e gestão de investimentos. Instituições financeiras devem demonstrar que seus modelos de IA são explicáveis, transparentes e livres de viés discriminatório. As regulamentações também tratam de questões de privacidade de dados e estabelecem exigências para gestão de riscos quando a IA é utilizada em gestão de portfólios, operações de trading e aplicações voltadas ao cliente.
A abordagem regulatória reflete a ênfase da administração atual em promover a liderança americana em IA, ao mesmo tempo em que implementa salvaguardas direcionadas em setores críticos. O presidente Trump, que recentemente assinou ordens executivas para acelerar o desenvolvimento de IA, destacou a necessidade de "fazer esse bebê crescer e prosperar", garantindo proteções adequadas em domínios sensíveis.
As reações do setor têm sido mistas, com algumas organizações acolhendo a clareza proporcionada pelos novos marcos, enquanto outras expressam preocupação com possíveis encargos de conformidade. Líderes dos setores de saúde e serviços financeiros agora enfrentam o desafio de implementar esses requisitos, ao mesmo tempo em que continuam aproveitando os benefícios da IA para eficiência operacional e melhores resultados.