Ambitne dążenie Amerykańskiej Agencji ds. Żywności i Leków (FDA) do integracji sztucznej inteligencji napotyka poważne wyzwania, ponieważ jej wyspecjalizowane narzędzie do przeglądu urządzeń medycznych ma trudności z wykonywaniem podstawowych zadań.
Według wielu źródeł zaznajomionych z systemem, CDRH-GPT — narzędzie AI opracowane, by wspierać Centrum ds. Urządzeń i Zdrowia Radiologicznego FDA (CDRH) w przeglądzie skomplikowanych zgłoszeń dotyczących urządzeń takich jak rozruszniki serca czy pompy insulinowe — napotyka problemy techniczne przy podstawowych operacjach, takich jak przesyłanie dokumentów i składanie zapytań.
"Obawiam się, że mogą zbyt szybko przechodzić na AI z desperacji, zanim będzie ona gotowa do działania," powiedział Arthur Caplan, kierownik etyki medycznej w NYU Langone Medical Center. "Nadal wymaga to wsparcia człowieka. Sztuczna inteligencja po prostu nie jest jeszcze wystarczająco inteligentna, by naprawdę przepytywać wnioskodawcę, stawiać wyzwania czy wchodzić w interakcje."
Narzędzie CDRH-GPT zostało zaprojektowane, by pomóc w rozwiązaniu problemów kadrowych po ostatnich redukcjach zatrudnienia w Departamencie Zdrowia i Opieki Społecznej. Chociaż wielu recenzentów urządzeń uniknęło zwolnień, agencja zredukowała znaczną część personelu wsparcia zaplecza, który umożliwiał terminowe podejmowanie decyzji o zatwierdzeniu. System AI miał pomóc recenzentom w przetwarzaniu dużych ilości danych z badań na zwierzętach i prób klinicznych — praca ta obecnie może zajmować miesiące, a nawet ponad rok.
Tymczasem komisarz FDA, dr Marty Makary, ogłosił w poniedziałek, że osobne narzędzie AI o nazwie Elsa zostało wdrożone dla wszystkich pracowników FDA przed planowanym terminem. Jednak według źródeł ten system również napotyka na problemy. Dzieje się to pomimo agresywnego harmonogramu Makary'ego, zakładającego wdrożenie AI we wszystkich centrach FDA do 30 czerwca 2025 roku, który ogłosił po zakończeniu, jak to określił, udanego pilotażu generatywnej AI dla recenzentów naukowych.
"Od lat mówi się o możliwościach AI na konferencjach, panelach i w ramach teoretycznych, ale nie możemy sobie pozwolić na dalsze rozmowy," stwierdził wcześniej Makary. "Możliwość skrócenia zadań, które kiedyś zajmowały dni, do zaledwie kilku minut, jest zbyt ważna, by ją opóźniać."
Eksperci pozostają zaniepokojeni, że szybkie dążenie FDA do integracji AI może wyprzedzać rzeczywiste możliwości technologii, co może mieć konsekwencje dla bezpieczeństwa i skuteczności przeglądanych urządzeń medycznych. Nie jest jasne, czy CDRH-GPT ostatecznie zostanie zintegrowane z systemem Elsa, czy pozostanie samodzielnym narzędziem, podczas gdy agencja stara się rozwiązać te problemy techniczne przed czerwcowym terminem.