Dorongan ambisius Food and Drug Administration (FDA) Amerika Serikat untuk mengintegrasikan kecerdasan buatan kini menghadapi tantangan besar, karena alat khusus peninjau perangkat medis mereka kesulitan menjalankan tugas-tugas dasar.
Menurut beberapa sumber yang memahami sistem tersebut, CDRH-GPT—alat AI yang dikembangkan untuk membantu Pusat Perangkat dan Kesehatan Radiologi FDA (Center for Devices and Radiological Health) dalam meninjau pengajuan perangkat kompleks seperti alat pacu jantung dan pompa insulin—mengalami kendala teknis pada operasi fundamental, termasuk unggah dokumen dan pengajuan pertanyaan.
"Saya khawatir mereka mungkin terlalu terburu-buru mengadopsi AI karena keputusasaan, sebelum sistemnya benar-benar siap," ujar Arthur Caplan, kepala etika medis di NYU Langone Medical Center. "AI masih membutuhkan pelengkap manusia. Kecerdasan buatan saat ini belum cukup cerdas untuk benar-benar menguji pemohon, menantang, atau berinteraksi."
Alat CDRH-GPT dirancang untuk membantu mengatasi tantangan kekurangan staf setelah adanya pengurangan tenaga kerja di Departemen Kesehatan dan Layanan Kemanusiaan (Department of Health and Human Services). Meskipun banyak peninjau perangkat tidak terkena pemutusan hubungan kerja, FDA memangkas sebagian besar staf pendukung backend yang selama ini berperan penting dalam pengambilan keputusan persetujuan secara tepat waktu. Sistem AI ini diharapkan dapat membantu peninjau dalam memproses data dalam jumlah besar dari studi hewan dan uji klinis—pekerjaan yang saat ini bisa memakan waktu berbulan-bulan hingga lebih dari setahun untuk diselesaikan.
Sementara itu, Komisioner FDA Dr. Marty Makary pada hari Senin mengumumkan bahwa alat AI terpisah bernama Elsa telah diluncurkan ke seluruh pegawai FDA lebih cepat dari jadwal. Namun, menurut sumber, sistem ini juga mengalami sejumlah masalah. Hal ini terjadi meski Makary telah menetapkan target agresif untuk menerapkan AI di seluruh pusat FDA pada 30 Juni 2025, setelah sebelumnya ia menyatakan sukses menjalankan pilot AI generatif untuk peninjau ilmiah.
"Selama bertahun-tahun kita hanya berbicara tentang kemampuan AI di kerangka kerja, konferensi, dan panel, namun kita tidak bisa terus-menerus hanya berbicara," ujar Makary sebelumnya. "Kesempatan untuk memangkas tugas yang biasanya memakan waktu berhari-hari menjadi hanya beberapa menit terlalu penting untuk ditunda."
Para ahli tetap khawatir bahwa langkah cepat FDA dalam mengintegrasikan AI mungkin melampaui kemampuan teknologi yang ada saat ini, dengan potensi dampak terhadap keamanan dan efektivitas perangkat medis yang sedang ditinjau. Masih belum jelas apakah CDRH-GPT nantinya akan diintegrasikan ke dalam sistem Elsa atau tetap berdiri sendiri, sementara FDA berupaya mengatasi tantangan teknis ini sebelum tenggat waktu bulan Juni.