In einem bedeutenden Schritt für die sich rasant entwickelnde KI-Branche hat Lloyd’s of London über das Startup Armilla eine neuartige Versicherung eingeführt, die gezielt die finanziellen Risiken von Fehlfunktionen Künstlicher Intelligenz adressiert.
Die neue Police, die offiziell am 30. April 2025 gestartet ist, wird von mehreren Lloyd’s-Syndikaten, darunter der Chaucer Group, gezeichnet. Sie bietet Unternehmen expliziten Schutz bei Rechtsansprüchen, wenn KI-Tools fehlerhafte Ergebnisse liefern oder unter den Erwartungen bleiben, und übernimmt dabei Kosten wie gerichtlich zugesprochene Schadensersatzzahlungen und Anwaltsgebühren.
Karthik Ramakrishnan, CEO von Armilla, erläutert die Bedeutung des Produkts: „Unternehmen drängen auf den Einsatz von KI, doch ihre Risikomanagement- und Versicherungsinstrumente halten nicht Schritt. Es wächst die Sorge um eine ‚stille KI-Deckung‘ – also die Unsicherheit, ob bestehende Policen bei KI-spezifischen Ausfällen überhaupt greifen.“
Die Versicherung richtet sich gezielt gegen Risiken wie KI-Halluzinationen (wenn Modelle mit Überzeugung erfundene Informationen präsentieren), nachlassende Modellleistung und Abweichungen vom erwarteten Verhalten. Im Gegensatz zu herkömmlichen Technologieversicherungen, die oft niedrige Deckungsgrenzen für KI-bezogene Schäden vorsehen, greift die Armilla-Police nur dann, wenn die Leistung eines KI-Systems deutlich unter zuvor festgelegte Benchmarks fällt.
Diese Entwicklung kommt zu einer Zeit, in der Unternehmen KI-Technologien immer stärker einsetzen und es bereits zu mehreren aufsehenerregenden Vorfällen kam, bei denen KI-Chatbots irreführende oder schädliche Ausgaben erzeugten. In einem bekannten Fall musste Air Canada Rabatte anerkennen, die ihr Chatbot versehentlich angeboten hatte – ein Schaden, der laut Armilla von ihrer Police abgedeckt worden wäre, wenn der Chatbot als leistungsschwach eingestuft worden wäre.
Branchenexperten sehen in diesem Versicherungsprodukt einen wichtigen Meilenstein für die Reifung des KI-Sektors. Mit einem prognostizierten jährlichen Wachstum des globalen KI-Versicherungsmarkts von 33,06 % zwischen 2024 und 2034 stellt die Zusammenarbeit von Lloyd’s und Armilla einen evolutionären Schritt dar, um den Anforderungen einer digitalisierten Wirtschaft gerecht zu werden und gleichzeitig einen verantwortungsvollen KI-Einsatz zu fördern.
Wie Tom Graham von Chaucer betont, werden Versicherer selektiv vorgehen: „Wir werden keine KI-Systeme versichern, die besonders anfällig für Ausfälle sind.“ Dieser Ansatz soll Unternehmen dazu motivieren, hohe KI-Standards einzuhalten, während gleichzeitig der notwendige finanzielle Schutz für eine breitere KI-Nutzung bereitgestellt wird.