Den amerikanska läkemedelsmyndighetens (FDA) ambitiösa satsning på artificiell intelligens möter nu betydande utmaningar, då dess specialiserade granskningsverktyg för medicintekniska produkter har svårt att utföra grundläggande uppgifter.
Enligt flera källor med insyn i systemet har CDRH-GPT—ett AI-verktyg utvecklat för att hjälpa FDAs Center for Devices and Radiological Health med att granska komplexa ansökningar för exempelvis pacemakers och insulinpumpar—tekniska problem med fundamentala funktioner som dokumentuppladdning och frågehantering.
"Jag oroar mig för att de rusar mot AI av desperation, innan tekniken är redo att leverera," säger Arthur Caplan, chef för medicinsk etik vid NYU Langone Medical Center. "Det krävs fortfarande mänsklig komplettering. AI är helt enkelt inte tillräckligt intelligent än för att verkligen utmana eller interagera med sökanden."
CDRH-GPT togs fram för att möta bemanningsutmaningar efter personalneddragningar inom Department of Health and Human Services. Även om många granskare av medicintekniska produkter undgick uppsägningar, försvann stora delar av den administrativa stödfunktionen som möjliggör snabba beslut. AI-systemet var tänkt att hjälpa granskare att hantera stora datamängder från djurstudier och kliniska prövningar—arbete som idag kan ta månader eller över ett år att slutföra.
Samtidigt meddelade FDA-kommissionären Dr. Marty Makary i måndags att ett separat AI-verktyg, Elsa, rullats ut till alla FDA-anställda i förtid. Men även detta system uppges ha problem. Detta trots Makarys offensiva tidsplan om att införa AI i samtliga FDA-centra senast den 30 juni 2025, vilken han presenterade efter vad han kallade ett lyckat pilotprojekt med generativ AI för vetenskapliga granskare.
"Det har talats i åratal om AI:s möjligheter i ramverk, på konferenser och paneler, men vi har inte råd att bara prata längre," har Makary tidigare sagt. "Möjligheten att minska arbetsuppgifter som tidigare tog dagar till bara minuter är för viktig för att skjutas på framtiden."
Experter är fortsatt oroade över att FDA:s snabba AI-satsning kan gå fortare än teknikens faktiska kapacitet, vilket kan få konsekvenser för säkerheten och effektiviteten hos de medicintekniska produkter som granskas. Det är fortfarande oklart om CDRH-GPT så småningom kommer att integreras i Elsa-systemet eller förbli fristående, medan myndigheten försöker lösa de tekniska problemen inför tidsfristen i juni.