Les secteurs de la santé et des services financiers connaissent une transformation majeure à la suite de l’annonce, le 25 juillet, de nouveaux cadres réglementaires pour les applications d’intelligence artificielle opérant dans ces domaines.
Élaborées en collaboration entre les agences fédérales et les parties prenantes du secteur, ces réglementations définissent des lignes directrices claires pour les systèmes d’IA qui prennent ou influencent des décisions concernant les soins aux patients, la couverture d’assurance, les services financiers et la gestion d’investissements. Ces mesures répondent à des préoccupations croissantes liées à la sécurité de l’IA, aux biais algorithmiques et à leurs impacts potentiels sur l’emploi et la vie privée.
Dans le secteur de la santé, les nouvelles règles imposent aux prestataires et assureurs de mettre en place des mécanismes de supervision rigoureux pour les systèmes d’aide au diagnostic et à la recommandation de traitements basés sur l’IA. Les organisations de santé doivent garantir que les outils d’IA ne puissent entraîner de discriminations envers les patients, notamment en ce qui concerne le diagnostic, les décisions thérapeutiques et l’allocation des ressources. Les réglementations imposent également une revue clinique humaine des décisions de gestion des soins prises par l’IA, afin de répondre aux inquiétudes selon lesquelles des systèmes automatisés pourraient refuser à tort des soins nécessaires.
Pour le secteur financier, le cadre établit des normes pour les systèmes d’IA impliqués dans les décisions de crédit, la détection de fraude et la gestion d’investissements. Les institutions financières doivent démontrer que leurs modèles d’IA sont explicables, transparents et exempts de biais discriminatoires. Les réglementations abordent également les questions de confidentialité des données et fixent des exigences en matière de gestion des risques lorsque l’IA est utilisée pour la gestion de portefeuilles, le trading et les applications destinées à la clientèle.
Cette approche réglementaire reflète la volonté de l’administration actuelle de promouvoir le leadership américain en matière d’IA tout en mettant en place des garde-fous ciblés dans les secteurs critiques. Le président Trump, qui a récemment signé des décrets visant à accélérer le développement de l’IA, a souligné la nécessité de « faire grandir ce bébé et de le laisser prospérer » tout en assurant des protections appropriées dans les domaines sensibles.
Les réactions du secteur sont mitigées : certaines organisations saluent la clarté apportée par ces nouveaux cadres, tandis que d’autres s’inquiètent de la charge potentielle liée à la conformité. Les responsables de la santé et des services financiers doivent désormais relever le défi de mettre en œuvre ces exigences tout en continuant à exploiter les avantages de l’IA pour l’efficacité opérationnelle et l’amélioration des résultats.