Der ambitionierte Vorstoß der US-Arzneimittelbehörde FDA zur Integration künstlicher Intelligenz steht vor erheblichen Herausforderungen, da ihr spezialisiertes Tool zur Überprüfung von Medizinprodukten bereits bei grundlegenden Aufgaben Schwierigkeiten hat.
Mehreren mit dem System vertrauten Quellen zufolge hat CDRH-GPT—ein KI-Tool, das das Center for Devices and Radiological Health (CDRH) der FDA bei der Überprüfung komplexer Einreichungen für Geräte wie Herzschrittmacher und Insulinpumpen unterstützen soll—technische Probleme bei fundamentalen Abläufen wie dem Hochladen von Dokumenten und dem Absenden von Anfragen.
"Ich befürchte, dass sie aus Verzweiflung zu schnell auf KI setzen, bevor diese wirklich einsatzbereit ist", sagte Arthur Caplan, Leiter der medizinischen Ethik am NYU Langone Medical Center. "Es braucht weiterhin menschliche Ergänzung. KI ist einfach noch nicht intelligent genug, um Antragsteller wirklich zu hinterfragen, herauszufordern oder zu interagieren."
Das CDRH-GPT-Tool wurde entwickelt, um Personalengpässe nach jüngsten Stellenkürzungen im US-Gesundheitsministerium abzufedern. Während viele Prüfer von Medizinprodukten von Entlassungen verschont blieben, wurde ein Großteil des unterstützenden Backoffice-Personals abgebaut, das für zeitnahe Zulassungsentscheidungen sorgt. Das KI-System sollte Prüfern helfen, große Datenmengen aus Tierversuchen und klinischen Studien zu verarbeiten—eine Arbeit, die bislang Monate oder sogar über ein Jahr dauern kann.
Unterdessen verkündete FDA-Kommissar Dr. Marty Makary am Montag, dass ein weiteres KI-Tool namens Elsa vorzeitig für alle FDA-Mitarbeitenden ausgerollt wurde. Doch auch dieses System soll Insidern zufolge mit Problemen kämpfen. Dies geschieht trotz Makarys ehrgeizigem Zeitplan, bis zum 30. Juni 2025 KI in allen FDA-Zentren einzuführen, den er nach Abschluss eines aus seiner Sicht erfolgreichen generativen KI-Pilotprojekts für wissenschaftliche Prüfer bekanntgab.
"Es wurde jahrelang über KI-Fähigkeiten in Rahmenwerken, auf Konferenzen und Podiumsdiskussionen gesprochen, aber wir können es uns nicht leisten, nur zu reden", erklärte Makary zuvor. "Die Möglichkeit, Aufgaben, die früher Tage dauerten, in wenigen Minuten zu erledigen, ist zu wichtig, um sie weiter aufzuschieben."
Fachleute äußern weiterhin Bedenken, dass der schnelle KI-Kurs der FDA die tatsächlichen Fähigkeiten der Technologie übersteigen könnte—mit möglichen Auswirkungen auf die Sicherheit und Wirksamkeit der überprüften Medizinprodukte. Ob CDRH-GPT letztlich in das Elsa-System integriert oder eigenständig bleiben wird, ist unklar, während die Behörde versucht, die technischen Probleme vor Ablauf der Juni-Frist zu beheben.