Las industrias sanitaria y de servicios financieros afrontan una transformación significativa tras el anuncio, el 25 de julio, de nuevos marcos regulatorios para las aplicaciones de inteligencia artificial que operan en estos sectores.
Las regulaciones, desarrolladas en colaboración entre agencias federales y actores del sector, establecen directrices claras para los sistemas de IA que toman o influyen en decisiones sobre la atención al paciente, la cobertura de seguros, los servicios financieros y la gestión de inversiones. Estas medidas responden a la creciente preocupación por la seguridad de la IA, el sesgo algorítmico y los posibles impactos en el empleo y la privacidad.
En el ámbito sanitario, las nuevas normas exigen a los proveedores y aseguradoras la implantación de mecanismos sólidos de supervisión para los sistemas de diagnóstico y recomendación de tratamientos basados en IA. Las organizaciones sanitarias deben garantizar que las herramientas de IA no provoquen impactos discriminatorios en los pacientes, especialmente en lo relativo al diagnóstico, las decisiones terapéuticas y la asignación de recursos. Además, las regulaciones obligan a que las decisiones de gestión de utilización basadas en IA sean revisadas clínicamente por humanos, abordando así la preocupación de que los sistemas automatizados puedan denegar de forma inapropiada la atención necesaria.
Para el sector financiero, el marco establece estándares para los sistemas de IA implicados en decisiones de crédito, detección de fraudes y gestión de inversiones. Las entidades financieras deben demostrar que sus modelos de IA son explicables, transparentes y están libres de sesgos discriminatorios. Las regulaciones también abordan la privacidad de los datos y establecen requisitos de gestión de riesgos cuando la IA se utiliza para la gestión de carteras, el trading y las aplicaciones orientadas al cliente.
El enfoque regulatorio refleja el énfasis de la actual administración en promover el liderazgo estadounidense en IA, al tiempo que implementa salvaguardias específicas en sectores críticos. El presidente Trump, quien recientemente ha firmado órdenes ejecutivas para acelerar el desarrollo de la IA, ha subrayado la necesidad de "hacer crecer ese bebé y dejar que prospere", asegurando al mismo tiempo las protecciones adecuadas en ámbitos sensibles.
Las reacciones del sector han sido mixtas: algunas organizaciones han acogido con satisfacción la claridad que aportan los nuevos marcos, mientras que otras expresan su preocupación por la posible carga de cumplimiento. Los líderes de la sanidad y los servicios financieros se enfrentan ahora al reto de implementar estos requisitos sin dejar de aprovechar los beneficios de la IA para la eficiencia operativa y la mejora de los resultados.