Ambiciózna snaha amerického Úradu pre kontrolu potravín a liečiv (FDA) o integráciu umelej inteligencie naráža na výrazné prekážky, keďže jeho špecializovaný nástroj na hodnotenie zdravotníckych zariadení má problémy so základnými úlohami.
Podľa viacerých zdrojov oboznámených so systémom, CDRH-GPT—AI nástroj vyvinutý na podporu Centra pre zdravotnícke zariadenia a rádiologické zdravie FDA pri hodnotení zložitých podaní pre zariadenia ako kardiostimulátory či inzulínové pumpy—zaznamenáva technické ťažkosti pri základných operáciách, vrátane nahrávania dokumentov a zadávania dopytov.
"Obávam sa, že smerujú k AI príliš rýchlo z núdze, skôr než je pripravená na nasadenie," povedal Arthur Caplan, vedúci lekárskej etiky na NYU Langone Medical Center. "Stále je potrebná ľudská podpora. AI zatiaľ nie je dostatočne inteligentná na to, aby dôkladne preverila žiadateľa, kládla otázky alebo interagovala."
Nástroj CDRH-GPT bol navrhnutý ako riešenie personálnych výziev po nedávnych zníženiach stavov na Ministerstve zdravotníctva a sociálnych služieb. Hoci mnohí hodnotitelia zdravotníckych zariadení neboli prepustení, agentúra zrušila väčšinu podporného personálu, ktorý umožňoval včasné rozhodovanie o schválení. AI systém mal pomôcť hodnotiteľom spracovať veľké objemy dát zo zvieracích štúdií a klinických skúšok—práca, ktorá dnes môže trvať mesiace či dokonca viac ako rok.
Medzitým komisár FDA Dr. Marty Makary v pondelok oznámil, že samostatný AI nástroj Elsa bol nasadený všetkým zamestnancom FDA pred plánovaným termínom. Podľa zdrojov však aj tento systém zápasí s problémami. Toto sa deje napriek Makaryho agresívnemu harmonogramu, podľa ktorého má byť AI implementovaná vo všetkých centrách FDA do 30. júna 2025, čo oznámil po úspešnom pilotnom projekte generatívnej AI pre vedeckých hodnotiteľov.
"Roky sa hovorí o možnostiach AI na konferenciách, v paneloch a rámcoch, ale už si nemôžeme dovoliť len rozprávať," vyhlásil Makary. "Príležitosť skrátiť úlohy, ktoré trvali dni, na minúty je príliš dôležitá na odklad."
Odborníci však naďalej vyjadrujú obavy, že rýchly tlak FDA na integráciu AI môže predbiehať reálne schopnosti technológie, čo môže mať dôsledky na bezpečnosť a účinnosť hodnotených zdravotníckych zariadení. Zostáva nejasné, či bude CDRH-GPT nakoniec integrovaný do systému Elsa alebo ostane samostatným riešením, kým agentúra do júna neodstráni technické problémy.