Os sectores da saúde e dos serviços financeiros enfrentam uma transformação significativa após o anúncio, a 25 de julho, de novos quadros regulamentares para aplicações de inteligência artificial nestas áreas.
As regulamentações, desenvolvidas em colaboração entre agências federais e intervenientes do sector, estabelecem diretrizes claras para sistemas de IA que tomam ou influenciam decisões relativas a cuidados de saúde, cobertura de seguros, serviços financeiros e gestão de investimentos. Estas medidas respondem a preocupações crescentes sobre a segurança da IA, viés algorítmico e potenciais impactos no emprego e na privacidade.
No sector da saúde, as novas regras exigem que prestadores de cuidados e seguradoras implementem mecanismos robustos de supervisão para sistemas de diagnóstico e recomendação de tratamentos baseados em IA. As organizações de saúde devem garantir que as ferramentas de IA não resultam em impactos discriminatórios sobre os pacientes, sobretudo no que diz respeito ao diagnóstico, decisões de tratamento e alocação de recursos. As regulamentações também impõem a revisão clínica humana das decisões de gestão de utilização baseadas em IA, respondendo a preocupações de que sistemas automatizados possam recusar cuidados necessários de forma inadequada.
Para o sector financeiro, o quadro estabelece normas para sistemas de IA envolvidos em decisões de crédito, deteção de fraude e gestão de investimentos. As instituições financeiras têm de demonstrar que os seus modelos de IA são explicáveis, transparentes e isentos de viés discriminatório. As regulamentações abordam ainda preocupações relativas à privacidade de dados e estabelecem requisitos de gestão de risco quando a IA é utilizada na gestão de carteiras, negociação e aplicações voltadas para o cliente.
A abordagem regulamentar reflete a ênfase da atual administração em promover a liderança americana em IA, ao mesmo tempo que implementa salvaguardas direcionadas em sectores críticos. O Presidente Trump, que assinou recentemente ordens executivas para acelerar o desenvolvimento da IA, sublinhou a necessidade de "fazer crescer esse bebé e deixá-lo prosperar", assegurando simultaneamente proteções adequadas em domínios sensíveis.
As reações da indústria têm sido mistas, com algumas organizações a acolherem a clareza proporcionada pelos novos quadros regulamentares, enquanto outras expressam preocupação com potenciais encargos de conformidade. Os líderes dos sectores da saúde e dos serviços financeiros enfrentam agora o desafio de implementar estes requisitos, continuando a aproveitar os benefícios da IA para a eficiência operacional e a melhoria dos resultados.