A aposta ambiciosa da Food and Drug Administration (FDA) na integração da inteligência artificial está a enfrentar desafios significativos, uma vez que a sua ferramenta especializada para revisão de dispositivos médicos tem dificuldades em executar tarefas básicas.
De acordo com várias fontes próximas do sistema, o CDRH-GPT—uma ferramenta de IA desenvolvida para apoiar o Centro de Dispositivos e Saúde Radiológica da FDA na análise de submissões complexas de dispositivos como pacemakers e bombas de insulina—tem enfrentado dificuldades técnicas em operações fundamentais, incluindo o carregamento de documentos e a submissão de pedidos de informação.
"Temo que estejam a avançar demasiado depressa para a IA, por desespero, antes de estar pronta para desempenhar o seu papel", afirmou Arthur Caplan, responsável pela ética médica no NYU Langone Medical Center. "Ainda necessita de suplementação humana. A IA, na verdade, ainda não é suficientemente inteligente para questionar, desafiar ou interagir com o requerente."
A ferramenta CDRH-GPT foi concebida para ajudar a colmatar desafios de pessoal após recentes reduções de trabalhadores no Departamento de Saúde e Serviços Humanos. Embora muitos revisores de dispositivos tenham sido poupados aos despedimentos, a agência eliminou grande parte do pessoal de apoio de backoffice, fundamental para decisões de aprovação atempadas. O sistema de IA pretendia ajudar os revisores a processar grandes volumes de dados provenientes de estudos em animais e ensaios clínicos—trabalho que atualmente pode demorar meses ou até mais de um ano a concluir.
Entretanto, o comissário da FDA, Dr. Marty Makary, anunciou na segunda-feira que uma ferramenta de IA separada, chamada Elsa, foi disponibilizada a todos os funcionários da FDA antes do previsto. No entanto, fontes indicam que este sistema também está a enfrentar problemas. Isto acontece apesar do calendário ambicioso de Makary para implementar a IA em todos os centros da FDA até 30 de junho de 2025, anunciado após o que considerou ser um piloto bem-sucedido de IA generativa para revisores científicos.
"Durante anos falou-se das capacidades da IA em estruturas, conferências e painéis, mas não podemos continuar apenas a falar", afirmou Makary anteriormente. "A oportunidade de reduzir tarefas que antes levavam dias para apenas minutos é demasiado importante para ser adiada."
Especialistas continuam preocupados que a rápida aposta da FDA na integração da IA possa estar a ultrapassar as capacidades reais da tecnologia, com potenciais implicações para a segurança e eficácia dos dispositivos médicos em análise. Não está claro se o CDRH-GPT será eventualmente integrado no sistema Elsa ou se permanecerá autónomo, enquanto a agência tenta resolver estes desafios técnicos antes do prazo de junho.