Les industries des soins de santé et des services financiers connaîtront une transformation majeure à la suite de l’annonce, le 25 juillet, de nouveaux cadres réglementaires pour les applications d’intelligence artificielle dans ces secteurs.
Élaborés en collaboration entre les agences fédérales et les parties prenantes de l’industrie, ces règlements établissent des lignes directrices claires pour les systèmes d’IA qui prennent ou influencent des décisions concernant les soins aux patients, la couverture d’assurance, les services financiers et la gestion des investissements. Ces mesures répondent à des inquiétudes grandissantes concernant la sécurité de l’IA, les biais algorithmiques et les répercussions potentielles sur l’emploi et la vie privée.
Dans le domaine de la santé, les nouvelles règles exigent que les fournisseurs et les assureurs mettent en place des mécanismes de surveillance rigoureux pour les systèmes d’IA utilisés dans le diagnostic et les recommandations de traitement. Les organisations de santé devront s’assurer que les outils d’IA n’entraînent pas d’impacts discriminatoires sur les patients, notamment en ce qui concerne le diagnostic, les décisions de traitement et l’allocation des ressources. Les règlements imposent également une révision clinique humaine des décisions de gestion de l’utilisation fondées sur l’IA, afin de répondre aux préoccupations selon lesquelles des systèmes automatisés pourraient refuser à tort des soins nécessaires.
Pour le secteur financier, le cadre établit des normes pour les systèmes d’IA impliqués dans les décisions de crédit, la détection de la fraude et la gestion des investissements. Les institutions financières devront démontrer que leurs modèles d’IA sont explicables, transparents et exempts de biais discriminatoires. Les règlements abordent aussi les enjeux de confidentialité des données et imposent des exigences en matière de gestion des risques lorsque l’IA est utilisée pour la gestion de portefeuille, les opérations de marché et les applications destinées à la clientèle.
Cette approche réglementaire reflète l’accent mis par l’administration actuelle sur le maintien du leadership américain en matière d’IA, tout en mettant en place des garde-fous ciblés dans les secteurs critiques. Le président Trump, qui a récemment signé des décrets visant à accélérer le développement de l’IA, a souligné la nécessité de « faire grandir ce bébé et de le laisser s’épanouir » tout en assurant des protections appropriées dans les domaines sensibles.
Les réactions de l’industrie sont partagées : certaines organisations saluent la clarté apportée par ces nouveaux cadres, tandis que d’autres s’inquiètent du fardeau potentiel lié à la conformité. Les dirigeants des soins de santé et des services financiers devront maintenant relever le défi de mettre en œuvre ces exigences tout en continuant de miser sur les avantages de l’IA pour améliorer l’efficacité opérationnelle et les résultats.