El ambicioso impulso de la Administración de Alimentos y Medicamentos (FDA) hacia la integración de la inteligencia artificial está enfrentando importantes desafíos, ya que su herramienta especializada para la revisión de dispositivos médicos tiene dificultades para realizar tareas básicas.
Según varias fuentes familiarizadas con el sistema, CDRH-GPT—una herramienta de IA desarrollada para ayudar al Centro de Dispositivos y Salud Radiológica de la FDA en la revisión de complejas solicitudes para dispositivos como marcapasos y bombas de insulina—está experimentando problemas técnicos en operaciones fundamentales, como la carga de documentos y el envío de consultas.
"Me preocupa que estén avanzando hacia la IA demasiado rápido, por desesperación, antes de que esté lista para funcionar", declaró Arthur Caplan, jefe de ética médica en el Centro Médico NYU Langone. "Todavía necesita la intervención humana. La IA aún no es lo suficientemente inteligente como para indagar en el solicitante, cuestionar o interactuar realmente".
La herramienta CDRH-GPT se diseñó para ayudar a paliar los problemas de personal tras los recientes recortes en el Departamento de Salud y Servicios Humanos. Aunque muchos revisores de dispositivos se libraron de los despidos, la agencia eliminó gran parte del personal de apoyo administrativo que permite tomar decisiones de aprobación a tiempo. El sistema de IA pretendía ayudar a los revisores a procesar grandes volúmenes de datos procedentes de estudios con animales y ensayos clínicos, un trabajo que actualmente puede llevar meses o incluso más de un año.
Mientras tanto, el comisionado de la FDA, el Dr. Marty Makary, anunció el lunes que una herramienta de IA independiente llamada Elsa se ha desplegado a todos los empleados de la FDA antes de lo previsto. Sin embargo, fuentes indican que este sistema también está experimentando problemas. Esto ocurre a pesar del agresivo calendario de Makary para implementar la IA en todos los centros de la FDA antes del 30 de junio de 2025, anunciado tras completar lo que denominó un exitoso piloto de IA generativa para revisores científicos.
"Llevamos años hablando de las capacidades de la IA en marcos, conferencias y paneles, pero no podemos permitirnos seguir hablando", declaró anteriormente Makary. "La oportunidad de reducir tareas que antes llevaban días a solo minutos es demasiado importante como para retrasarla".
Los expertos siguen preocupados por la posibilidad de que el rápido avance de la FDA hacia la integración de la IA esté superando las capacidades reales de la tecnología, lo que podría tener implicaciones para la seguridad y eficacia de los dispositivos médicos en revisión. Aún no está claro si CDRH-GPT acabará integrándose en el sistema Elsa o seguirá funcionando de forma independiente mientras la agencia trabaja para resolver estos desafíos técnicos antes de la fecha límite de junio.