A iniciativa ambiciosa da Food and Drug Administration (FDA) para integrar inteligência artificial está enfrentando desafios significativos, já que sua ferramenta especializada para revisão de dispositivos médicos tem dificuldades para executar tarefas básicas.
De acordo com várias fontes próximas ao sistema, a CDRH-GPT—uma ferramenta de IA desenvolvida para auxiliar o Centro de Dispositivos e Saúde Radiológica da FDA na análise de submissões complexas para dispositivos como marcapassos e bombas de insulina—está enfrentando dificuldades técnicas em operações fundamentais, incluindo upload de documentos e envio de consultas.
"Me preocupo que estejam avançando rápido demais em direção à IA, por desespero, antes que ela esteja pronta para funcionar", disse Arthur Caplan, chefe de ética médica do NYU Langone Medical Center. "Ainda precisa de complementação humana. A IA ainda não é inteligente o suficiente para realmente questionar o solicitante, desafiar ou interagir."
A ferramenta CDRH-GPT foi projetada para ajudar a lidar com desafios de pessoal após recentes reduções na força de trabalho do Departamento de Saúde e Serviços Humanos. Embora muitos revisores de dispositivos tenham sido poupados de demissões, a agência eliminou grande parte da equipe de suporte de backoffice, responsável por viabilizar decisões de aprovação em tempo hábil. O sistema de IA foi criado para ajudar revisores a processar grandes volumes de dados de estudos com animais e ensaios clínicos—um trabalho que atualmente pode levar meses ou até mais de um ano para ser concluído.
Enquanto isso, o comissário da FDA, Dr. Marty Makary, anunciou na segunda-feira que uma ferramenta de IA separada, chamada Elsa, foi disponibilizada para todos os funcionários da FDA antes do previsto. No entanto, fontes indicam que esse sistema também está enfrentando problemas. Isso ocorre apesar do cronograma agressivo de Makary para implementar IA em todos os centros da FDA até 30 de junho de 2025, anunciado após a conclusão do que ele chamou de piloto bem-sucedido de IA generativa para revisores científicos.
"Há anos se fala sobre as capacidades da IA em frameworks, conferências e painéis, mas não podemos mais nos dar ao luxo de apenas conversar", declarou Makary anteriormente. "A oportunidade de reduzir tarefas que antes levavam dias para apenas minutos é importante demais para ser adiada."
Especialistas continuam preocupados que o avanço acelerado da FDA em direção à integração da IA possa estar ultrapassando as capacidades reais da tecnologia, com possíveis implicações para a segurança e a eficácia dos dispositivos médicos em análise. Ainda não está claro se a CDRH-GPT será eventualmente integrada ao sistema Elsa ou se permanecerá independente, enquanto a agência trabalha para resolver esses desafios técnicos antes do prazo de junho.