In einer Zeit, in der KI-Systeme zunehmend kritische Entscheidungen in verschiedensten Branchen treffen, wird die Fähigkeit, Unsicherheiten zu erkennen, immer wichtiger. Am 3. Juni 2025 stellte Themis AI, ein Spin-off des MIT, eine bahnbrechende Technologie vor, die KI-Modelle dazu befähigt, ihre eigenen Wissenslücken zu erkennen – eine Fähigkeit, die die Zuverlässigkeit von KI in sicherheitskritischen Anwendungen grundlegend verändern könnte.
Die Capsa-Plattform von Themis AI funktioniert, indem sie gezielt die Architektur beliebiger Machine-Learning-Modelle aktualisiert, um eine Quantifizierung von Unsicherheiten zu ermöglichen. „Die Idee ist, ein Modell zu nehmen, es mit Capsa zu umhüllen, die Unsicherheiten und Schwachstellen des Modells zu identifizieren und es dann zu verbessern“, erklärt Themis AI-Mitgründerin und MIT-Professorin Daniela Rus, die zugleich das Computer Science and Artificial Intelligence Laboratory (CSAIL) am MIT leitet.
Gegründet wurde Themis AI 2021 von Rus gemeinsam mit Alexander Amini (MIT '17, SM '18, PhD '22) und Elaheh Ahmadi (MIT '20, MEng '21) und baut auf über fünf Jahre grundlegender Forschung auf. Die Mission des Unternehmens adressiert ein zentrales Problem: KI-Systeme wie große Sprachmodelle geben häufig plausibel klingende Antworten, ohne Wissenslücken oder Unsicherheiten offenzulegen.
Die Auswirkungen auf Hochrisikobereiche sind erheblich. In autonomen Fahrzeugen zeigen Studien, dass die Integration der Unsicherheitsabschätzungs-Algorithmen von Themis AI zu 16-mal weniger Kollisionen und einer Reduktion automatischer Anfragen an menschliche Fahrer um 93 % führte. Für Anwendungen im Gesundheitswesen und in der Pharmaforschung hilft Capsa, zu erkennen, wann KI-Vorhersagen durch Evidenz gestützt sind oder lediglich auf Spekulation beruhen – was die Medikamentenentwicklung beschleunigen und Risiken senken könnte.
„Wir wollen KI in den kritischsten Anwendungen jeder Branche ermöglichen“, sagt Amini. „Wir alle haben schon Beispiele gesehen, in denen KI halluziniert oder Fehler macht. Wenn KI breiter eingesetzt wird, könnten solche Fehler verheerende Folgen haben. Themis macht es möglich, dass jede KI ihre eigenen Fehler vorhersagen und erkennen kann, bevor sie passieren.“
Die Technologie wird bereits in verschiedenen Branchen eingesetzt. Viele Unternehmen, die große Sprachmodelle entwickeln, nutzen Capsa, um die Unsicherheit jeder Ausgabe zu quantifizieren, was zuverlässigere Antworten und das Kennzeichnen unsicherer Resultate ermöglicht. Themis AI arbeitet zudem mit Halbleiterunternehmen zusammen, um kleinere KI-Modelle für Smartphones oder eingebettete Systeme zu verbessern – mit niedriger Latenz und hoher Qualität.