La volonté ambitieuse de la Food and Drug Administration (FDA) d’intégrer l’intelligence artificielle se heurte à d’importants défis, son outil spécialisé d’examen des dispositifs médicaux peinant à accomplir des tâches élémentaires.
Selon plusieurs sources proches du système, CDRH-GPT — un outil d’IA développé pour assister le Center for Devices and Radiological Health (CDRH) de la FDA dans l’examen de dossiers complexes pour des dispositifs tels que les pacemakers et les pompes à insuline — rencontre des difficultés techniques sur des opérations fondamentales, notamment le téléchargement de documents et la soumission de requêtes.
« Je crains qu’ils ne se tournent vers l’IA trop rapidement, par désespoir, avant qu’elle ne soit prête à fonctionner », déclare Arthur Caplan, responsable de l’éthique médicale au NYU Langone Medical Center. « Il faut encore une intervention humaine. L’IA n’est tout simplement pas encore assez intelligente pour véritablement interroger le demandeur, remettre en question ou interagir. »
L’outil CDRH-GPT a été conçu pour pallier les problèmes de ressources humaines consécutifs à des réductions d’effectifs récentes au sein du Department of Health and Human Services. Bien que de nombreux examinateurs de dispositifs aient été épargnés par les licenciements, l’agence a supprimé une grande partie du personnel de soutien en arrière-plan, indispensable à la prise de décisions d’approbation dans les délais. Le système d’IA devait aider les examinateurs à traiter de grands volumes de données issues d’études animales et d’essais cliniques — un travail qui peut actuellement prendre des mois, voire plus d’un an.
Parallèlement, le commissaire de la FDA, le Dr Marty Makary, a annoncé lundi qu’un autre outil d’IA, Elsa, avait été déployé auprès de tous les employés de la FDA en avance sur le calendrier. Toutefois, des sources indiquent que ce système rencontre également des difficultés. Cela intervient malgré le calendrier serré fixé par Makary pour une mise en œuvre de l’IA dans tous les centres de la FDA d’ici au 30 juin 2025, annoncé après ce qu’il a qualifié de pilote réussi d’IA générative pour les examinateurs scientifiques.
« On parle depuis des années des capacités de l’IA dans des cadres, des conférences et des panels, mais nous ne pouvons plus nous contenter de parler », a précédemment déclaré Makary. « L’opportunité de réduire des tâches qui prenaient des jours à quelques minutes est trop importante pour être repoussée. »
Les experts restent préoccupés par le fait que la course rapide de la FDA vers l’intégration de l’IA pourrait dépasser les capacités réelles de la technologie, avec des conséquences potentielles sur la sécurité et l’efficacité des dispositifs médicaux en cours d’examen. On ignore encore si CDRH-GPT sera finalement intégré au système Elsa ou s’il restera autonome, l’agence s’efforçant de résoudre ces défis techniques avant l’échéance de juin.