Das Gesundheitswesen und die Finanzdienstleistungsbranche stehen vor einem tiefgreifenden Wandel, nachdem am 25. Juli neue regulatorische Rahmenbedingungen für den Einsatz von Künstlicher Intelligenz in diesen Sektoren angekündigt wurden.
Die Vorschriften, die in Zusammenarbeit zwischen Bundesbehörden und Branchenvertretern entwickelt wurden, legen klare Richtlinien für KI-Systeme fest, die Entscheidungen über Patientenversorgung, Versicherungsleistungen, Finanzdienstleistungen und Investmentmanagement treffen oder beeinflussen. Damit reagieren die Behörden auf zunehmende Bedenken bezüglich KI-Sicherheit, algorithmischer Voreingenommenheit sowie möglicher Auswirkungen auf Arbeitsplätze und Datenschutz.
Im Gesundheitswesen verlangen die neuen Regeln von Anbietern und Versicherern, robuste Kontrollmechanismen für KI-gestützte Diagnose- und Behandlungsempfehlungssysteme einzuführen. Organisationen im Gesundheitswesen müssen sicherstellen, dass KI-Tools keine diskriminierenden Auswirkungen auf Patienten haben, insbesondere im Hinblick auf Diagnosen, Therapieentscheidungen und Ressourcenzuteilung. Zudem schreiben die Vorschriften eine menschliche klinische Überprüfung von KI-basierten Entscheidungen im Bereich des Leistungsmanagements vor, um Bedenken entgegenzuwirken, dass automatisierte Systeme notwendige Behandlungen unangemessen verweigern könnten.
Für den Finanzsektor legt das Rahmenwerk Standards für KI-Systeme fest, die an Kreditentscheidungen, Betrugserkennung und Investmentmanagement beteiligt sind. Finanzinstitute müssen nachweisen, dass ihre KI-Modelle erklärbar, transparent und frei von diskriminierender Voreingenommenheit sind. Die Vorschriften adressieren zudem Datenschutzbedenken und schreiben Anforderungen an das Risikomanagement vor, wenn KI für Portfoliomanagement, Handel und kundenorientierte Anwendungen eingesetzt wird.
Der regulatorische Ansatz spiegelt den Fokus der aktuellen Regierung wider, die amerikanische Führungsrolle im Bereich KI zu stärken und gleichzeitig gezielte Schutzmaßnahmen in kritischen Sektoren umzusetzen. Präsident Trump, der kürzlich Durchführungsverordnungen zur Beschleunigung der KI-Entwicklung unterzeichnete, betonte die Notwendigkeit, „dieses Baby wachsen zu lassen und gedeihen zu sehen“, während zugleich angemessene Schutzmechanismen in sensiblen Bereichen sichergestellt werden sollen.
Die Reaktionen aus der Branche fallen gemischt aus: Einige Organisationen begrüßen die durch die neuen Rahmenwerke geschaffene Klarheit, während andere die potenziellen Belastungen durch die Einhaltung der Vorschriften kritisch sehen. Führungskräfte im Gesundheitswesen und im Finanzsektor stehen nun vor der Herausforderung, diese Anforderungen umzusetzen und gleichzeitig die Vorteile von KI für Effizienzsteigerungen und bessere Ergebnisse weiterhin zu nutzen.