Ambiciózní snaha Úřadu pro kontrolu potravin a léčiv (FDA) o integraci umělé inteligence naráží na významné překážky, protože jeho specializovaný nástroj pro kontrolu zdravotnických zařízení má potíže i se základními úkoly.
Podle několika zdrojů obeznámených se systémem čelí CDRH-GPT—AI nástroj vyvinutý pro Centrum pro zdravotnická zařízení a radiologické zdraví FDA, který má pomáhat při posuzování složitých žádostí o schválení zařízení jako jsou kardiostimulátory nebo inzulinové pumpy—technickým problémům se základními operacemi, včetně nahrávání dokumentů a zadávání dotazů.
"Obávám se, že se k AI uchylují příliš rychle z nouze, dřív než je připravena plnit svou roli," uvedl Arthur Caplan, vedoucí lékařské etiky na NYU Langone Medical Center. "Stále je potřeba lidský dohled. Umělá inteligence zatím není dostatečně inteligentní na to, aby skutečně kladla žadatelům otázky, zpochybňovala je nebo s nimi interagovala."
Nástroj CDRH-GPT měl pomoci řešit personální problémy po nedávném snižování stavů na Ministerstvu zdravotnictví a sociálních služeb. Ačkoli většina hodnotitelů zdravotnických zařízení zůstala, agentura propustila velkou část podpůrného personálu, který umožňoval včasné rozhodování o schválení. AI systém měl recenzentům pomoci zpracovávat velké objemy dat ze zvířecích studií a klinických zkoušek—práce, která nyní může trvat měsíce až více než rok.
Mezitím komisař FDA Dr. Marty Makary v pondělí oznámil, že samostatný AI nástroj Elsa byl mezi zaměstnance FDA nasazen před plánovaným termínem. Podle zdrojů však i tento systém naráží na problémy. To vše navzdory Makaryho ambicióznímu plánu zavést AI do všech center FDA do 30. června 2025, který oznámil po dokončení podle něj úspěšného pilotního projektu generativní AI pro vědecké recenzenty.
"O schopnostech AI se roky mluvilo v rámci různých rámců, konferencí a panelů, ale už si nemůžeme dovolit jen mluvit," uvedl Makary dříve. "Možnost zkrátit úkoly, které dříve trvaly dny, na pouhé minuty, je příliš důležitá na to, abychom ji odkládali."
Odborníci však zůstávají znepokojeni, že rychlé prosazování AI v FDA může předbíhat skutečné možnosti technologie, což by mohlo mít dopad na bezpečnost a účinnost posuzovaných zdravotnických zařízení. Zůstává nejasné, zda bude CDRH-GPT nakonec integrován do systému Elsa, nebo zůstane samostatný, zatímco agentura se snaží tyto technické překážky vyřešit před červnovým termínem.