Ambiciozni napori američke Agencije za hranu i lijekove (FDA) na području integracije umjetne inteligencije suočavaju se sa značajnim izazovima, budući da njihov specijalizirani alat za pregled medicinskih uređaja ima poteškoća s obavljanjem osnovnih zadataka.
Prema više izvora upoznatih sa sustavom, CDRH-GPT—AI alat razvijen kako bi pomogao FDA-inom Centru za uređaje i radiološko zdravlje (CDRH) u pregledu složenih prijava za uređaje poput pacemakera i inzulinskih pumpi—susreće se s tehničkim poteškoćama pri temeljnim operacijama, uključujući učitavanje dokumenata i podnošenje upita.
"Brinem se da možda prelaze na AI prebrzo iz očaja, prije nego što je spreman za rad," izjavio je Arthur Caplan, voditelj medicinske etike u NYU Langone Medical Centeru. "I dalje je potrebna ljudska nadopuna. AI jednostavno još nije dovoljno inteligentan da bi zaista ispitivao podnositelja zahtjeva, postavljao izazove ili interagirao."
Alat CDRH-GPT osmišljen je kako bi pomogao u rješavanju problema s kadrovima nakon nedavnih smanjenja radne snage u Ministarstvu zdravstva i socijalne skrbi. Iako su mnogi recenzenti uređaja pošteđeni otkaza, agencija je ukinula velik dio pomoćnog osoblja koje omogućuje pravovremeno donošenje odluka o odobrenju. AI sustav trebao je pomoći recenzentima u obradi velikih količina podataka iz ispitivanja na životinjama i kliničkih studija—posla koji trenutno može potrajati mjesecima ili čak više od godinu dana.
U međuvremenu, povjerenik FDA-e dr. Marty Makary u ponedjeljak je najavio da je zaseban AI alat nazvan Elsa uveden svim zaposlenicima FDA-e prije planiranog roka. Međutim, izvori navode da i ovaj sustav ima problema. To se događa unatoč Makaryjevom ambicioznom planu za implementaciju AI-a u svim FDA centrima do 30. lipnja 2025., koji je najavio nakon, kako je rekao, uspješnog pilot-projekta generativne AI za znanstvene recenzente.
"Godinama se govori o AI mogućnostima na konferencijama, panelima i u raznim okvirima, ali ne možemo si više priuštiti samo razgovarati," ranije je izjavio Makary. "Prilika da se zadaci koji su nekad trajali danima sada obave u nekoliko minuta previše je važna da bi se odgađala."
Stručnjaci i dalje izražavaju zabrinutost da bi FDA-ino ubrzano uvođenje AI-a moglo nadmašiti stvarne mogućnosti tehnologije, što bi moglo imati posljedice po sigurnost i učinkovitost medicinskih uređaja koji su na pregledu. Još uvijek nije jasno hoće li CDRH-GPT na kraju biti integriran u sustav Elsa ili će ostati samostalan, dok agencija nastoji riješiti ove tehničke izazove prije lipanjskog roka.