Амбітний курс Управління з контролю за продуктами і ліками США (FDA) на інтеграцію штучного інтелекту стикається з серйозними викликами, оскільки спеціалізований інструмент для перевірки медичних пристроїв не справляється навіть з базовими завданнями.
За даними кількох джерел, знайомих із системою, CDRH-GPT — інструмент ШІ, розроблений для допомоги Центру пристроїв та радіологічної охорони здоров'я FDA у розгляді складних заявок на такі пристрої, як кардіостимулятори та інсулінові помпи, — стикається з технічними труднощами при виконанні основних операцій, зокрема завантаження документів та подання запитів.
"Я хвилююся, що вони можуть надто поспішати з впровадженням ШІ через відчай, коли він ще не готовий до роботи," — зазначив Артур Каплан, керівник відділу медичної етики медичного центру NYU Langone. "ШІ все ще потребує людського супроводу. Він поки що недостатньо розумний, щоб дійсно ставити питання заявнику, оскаржувати чи взаємодіяти."
Інструмент CDRH-GPT був створений для вирішення кадрових проблем, що виникли після скорочень у Департаменті охорони здоров'я та соціальних служб. Хоча багатьох рецензентів медичних пристроїв звільнень оминули, агентство ліквідувало значну частину допоміжного персоналу, який забезпечував своєчасне ухвалення рішень. Система ШІ мала допомогти рецензентам обробляти великі обсяги даних з доклінічних та клінічних досліджень — роботу, яка зараз може тривати місяцями або навіть понад рік.
Тим часом комісар FDA доктор Марті Макарі у понеділок оголосив про достроковий запуск окремого інструменту ШІ під назвою Elsa для всіх співробітників агентства. Однак, за словами джерел, і ця система працює з перебоями. Це відбувається попри жорсткі строки, встановлені Макарі для впровадження ШІ у всіх центрах FDA до 30 червня 2025 року, про які він повідомив після завершення, за його словами, успішного пілотного проєкту генеративного ШІ для наукових рецензентів.
"Роки точилися розмови про можливості ШІ на конференціях, у рамках та на панелях, але ми більше не можемо дозволити собі лише говорити," — раніше заявляв Макарі. "Можливість скоротити завдання, які займали дні, до хвилин — надто важлива, щоб її відкладати."
Експерти все ще занепокоєні, що стрімке впровадження ШІ у FDA може випереджати реальні можливості технології, що може вплинути на безпеку та ефективність медичних пристроїв, які проходять перевірку. Поки що незрозуміло, чи буде CDRH-GPT інтегровано в систему Elsa, чи він залишиться окремим інструментом, поки агентство намагається вирішити технічні проблеми до встановленого дедлайну.