Las industrias de salud y servicios financieros enfrentan una transformación significativa tras el anuncio, el 25 de julio, de nuevos marcos regulatorios para las aplicaciones de inteligencia artificial que operan en estos sectores.
Las regulaciones, desarrolladas mediante la colaboración entre agencias federales y actores de la industria, establecen lineamientos claros para los sistemas de IA que toman o influyen en decisiones sobre atención médica, cobertura de seguros, servicios financieros y gestión de inversiones. Estas medidas responden a crecientes preocupaciones sobre la seguridad de la IA, el sesgo algorítmico y los posibles impactos en el empleo y la privacidad.
En el sector salud, las nuevas reglas exigen que los proveedores y aseguradoras implementen mecanismos sólidos de supervisión para los sistemas de diagnóstico y recomendaciones de tratamiento impulsados por IA. Las organizaciones de salud deben garantizar que las herramientas de IA no generen impactos discriminatorios en los pacientes, especialmente en lo relativo a diagnósticos, decisiones de tratamiento y asignación de recursos. Además, las regulaciones obligan a que las decisiones de gestión de utilización basadas en IA sean revisadas clínicamente por humanos, atendiendo así la preocupación de que los sistemas automatizados puedan negar indebidamente la atención necesaria.
Para el sector financiero, el marco establece estándares para los sistemas de IA involucrados en decisiones de crédito, detección de fraudes y gestión de inversiones. Las instituciones financieras deberán demostrar que sus modelos de IA son explicables, transparentes y libres de sesgos discriminatorios. Las regulaciones también abordan preocupaciones sobre privacidad de datos y establecen requisitos de gestión de riesgos cuando la IA se utiliza para administración de portafolios, operaciones bursátiles y aplicaciones orientadas al cliente.
El enfoque regulatorio refleja el énfasis de la administración actual en promover el liderazgo estadounidense en IA, al tiempo que implementa salvaguardas específicas en sectores críticos. El presidente Trump, quien recientemente firmó órdenes ejecutivas para acelerar el desarrollo de la IA, ha destacado la necesidad de "hacer crecer ese bebé y dejar que prospere" mientras se aseguran protecciones adecuadas en ámbitos sensibles.
Las reacciones de la industria han sido mixtas: algunas organizaciones han recibido con agrado la claridad que aportan los nuevos marcos, mientras que otras expresan preocupación por las posibles cargas de cumplimiento. Ahora, los líderes de los sectores de salud y servicios financieros enfrentan el reto de implementar estos requisitos sin dejar de aprovechar los beneficios de la IA para la eficiencia operativa y la mejora de resultados.