Det amerikanske Food and Drug Administration (FDA) står over for betydelige udfordringer i deres ambitiøse satsning på kunstig intelligens, da deres specialiserede værktøj til gennemgang af medicinsk udstyr har svært ved at udføre basale opgaver.
Ifølge flere kilder med kendskab til systemet oplever CDRH-GPT—et AI-værktøj udviklet til at assistere FDA's Center for Devices and Radiological Health med at gennemgå komplekse ansøgninger for udstyr som pacemakere og insulinpumper—tekniske problemer med fundamentale funktioner, herunder upload af dokumenter og indsendelse af forespørgsler.
"Jeg er bekymret for, at de måske bevæger sig for hurtigt mod AI af desperation, før teknologien er klar," siger Arthur Caplan, leder af medicinsk etik ved NYU Langone Medical Center. "Der er stadig behov for menneskelig supplementering. AI er simpelthen ikke intelligent nok endnu til virkelig at udfordre ansøgeren eller interagere på et højt niveau."
CDRH-GPT-værktøjet blev udviklet for at imødekomme bemandingsudfordringer efter nylige nedskæringer i Department of Health and Human Services. Selvom mange sagsbehandlere for medicinsk udstyr undgik afskedigelser, blev størstedelen af det administrative støttepersonale, der muliggør hurtige godkendelsesbeslutninger, fjernet. AI-systemet var tænkt som en hjælp til at behandle store mængder data fra dyreforsøg og kliniske studier—arbejde, der i dag kan tage måneder eller endda over et år at gennemføre.
Samtidig annoncerede FDA-kommissær Dr. Marty Makary mandag, at et separat AI-værktøj kaldet Elsa er blevet rullet ud til alle FDA-ansatte før tid. Dog oplever dette system ifølge kilder også problemer. Dette sker på trods af Makarys aggressive tidsplan om at implementere AI på tværs af alle FDA-centre inden 30. juni 2025, hvilket han annoncerede efter at have gennemført et, ifølge ham, succesfuldt generativt AI-pilotprojekt for videnskabelige sagsbehandlere.
"Der har i årevis været snak om AI's muligheder på konferencer og paneldebatter, men vi har ikke længere råd til blot at tale," udtalte Makary tidligere. "Muligheden for at reducere opgaver, der tidligere tog dage, til blot minutter, er for vigtig til at blive forsinket."
Eksperter er fortsat bekymrede for, at FDA's hurtige satsning på AI-integration kan overhale teknologiens faktiske kapaciteter, hvilket kan få konsekvenser for sikkerheden og effektiviteten af det medicinske udstyr, der gennemgås. Det er endnu uklart, om CDRH-GPT på sigt vil blive integreret i Elsa-systemet eller forblive et selvstændigt værktøj, mens myndigheden arbejder på at løse de tekniske udfordringer inden deadline i juni.