De ambitieuze inzet van de Amerikaanse Food and Drug Administration (FDA) op het gebied van kunstmatige intelligentie stuit op aanzienlijke uitdagingen, nu het gespecialiseerde hulpmiddel voor de beoordeling van medische apparaten moeite heeft met het uitvoeren van basistaken.
Volgens meerdere bronnen die bekend zijn met het systeem, ondervindt CDRH-GPT—een AI-hulpmiddel ontwikkeld om het Center for Devices and Radiological Health van de FDA te ondersteunen bij het beoordelen van complexe aanvragen voor apparaten zoals pacemakers en insulinepompen—technische problemen met fundamentele handelingen, waaronder het uploaden van documenten en het indienen van zoekopdrachten.
"Ik maak me zorgen dat ze uit pure noodzaak te snel richting AI gaan, voordat het systeem echt klaar is om te functioneren," zegt Arthur Caplan, hoofd medische ethiek aan het NYU Langone Medical Center. "Het heeft nog steeds menselijke aanvulling nodig. AI is simpelweg nog niet intelligent genoeg om de aanvrager echt te bevragen, uit te dagen of interactie aan te gaan."
Het CDRH-GPT-hulpmiddel is ontwikkeld om het personeelstekort op te vangen na recente bezuinigingen bij het Department of Health and Human Services. Hoewel veel beoordelaars van medische apparaten hun baan behielden, werd een groot deel van het ondersteunend personeel, dat zorgt voor tijdige goedkeuringsbeslissingen, ontslagen. Het AI-systeem was bedoeld om beoordelaars te helpen bij het verwerken van grote hoeveelheden data uit dierstudies en klinische proeven—werk dat nu maanden tot zelfs meer dan een jaar kan duren.
Ondertussen kondigde FDA-commissaris Dr. Marty Makary maandag aan dat een ander AI-hulpmiddel, Elsa, eerder dan gepland is uitgerold naar alle FDA-medewerkers. Volgens bronnen kampt ook dit systeem met problemen. Dit alles speelt terwijl Makary vasthoudt aan zijn ambitieuze planning om AI uiterlijk 30 juni 2025 in alle FDA-centra te implementeren, een doel dat hij stelde na een volgens hem geslaagd generatief AI-pilotproject voor wetenschappelijke beoordelaars.
"Er is jarenlang gesproken over AI-mogelijkheden op congressen, in kaders en panels, maar we kunnen het ons niet veroorloven om te blijven praten," stelde Makary eerder. "De kans om taken die voorheen dagen kostten terug te brengen tot minuten is te belangrijk om uit te stellen."
Deskundigen blijven bezorgd dat de snelle AI-integratie bij de FDA de daadwerkelijke mogelijkheden van de technologie voorbijstreeft, met mogelijke gevolgen voor de veiligheid en effectiviteit van medische apparaten die worden beoordeeld. Het is nog onduidelijk of CDRH-GPT uiteindelijk zal worden geïntegreerd in het Elsa-systeem of zelfstandig zal blijven functioneren, terwijl de organisatie werkt aan het oplossen van deze technische uitdagingen voor de deadline in juni.