Ve významném kroku pro rychle se rozvíjející odvětví umělé inteligence uvedla Lloyd’s of London ve spolupráci se startupem Armilla průkopnický pojistný produkt, který se zaměřuje na finanční rizika spojená s poruchami systémů AI.
Nová pojistka, oficiálně spuštěná 30. dubna 2025, je upisována několika syndikáty Lloyd’s, včetně Chaucer Group. Poskytuje explicitní krytí firmám, které čelí právním nárokům v případě, že jejich AI nástroje generují nepřesné výstupy nebo neplní očekávaný výkon, a pokrývá náklady jako soudem přiznané odškodné a právní výlohy.
Karthik Ramakrishnan, generální ředitel Armilla, vysvětluje význam produktu: „Firmy se předhánějí v zavádění AI, ale jejich nástroje pro řízení rizik a pojištění s tímto tempem nedrží krok. Roste obava z tzv. ‚tichého krytí AI‘ – tedy nejistoty, zda stávající pojistky skutečně pokrývají specifická selhání AI.“
Pojištění se zaměřuje zejména na rizika, jako jsou halucinace AI (kdy modely sebevědomě prezentují smyšlené informace), zhoršení výkonu modelu a odchylky od očekávaného chování. Na rozdíl od tradičních technologických pojistek, které často stanovují nízké limity pro odpovědnost spojenou s AI, se krytí Armilla aktivuje pouze tehdy, když výkon systému AI výrazně klesne pod předem stanovené parametry.
Tento krok přichází v době rostoucího firemního nasazení AI technologií a několika mediálně známých incidentů, kdy chatboti generovali zavádějící či škodlivé výstupy. V jednom známém případu musela Air Canada uznat slevy, které její chatbot omylem nabídl – ztrátu, kterou by podle Armilla jejich pojistka pokryla, pokud by chatbot byl vyhodnocen jako neplnící očekávání.
Odborníci na odvětví vnímají tento pojistný produkt jako významný milník v dospívání AI sektoru. S tím, jak se očekává, že globální trh s pojištěním AI poroste mezi lety 2024 a 2034 průměrným ročním tempem 33,06 %, představuje spolupráce Lloyd’s a Armilla evoluční krok v pojišťovnictví, který reaguje na požadavky digitalizující se ekonomiky a zároveň podporuje odpovědné zavádění AI.
Jak podotýká Tom Graham z Chaucer, pojišťovny budou vybíravé: „Nebudeme pojišťovat AI systémy, které jsou nadměrně náchylné k poruchám.“ Tento přístup motivuje firmy k udržování vysokých standardů AI a zároveň poskytuje finanční jistotu nezbytnou pro širší nasazení umělé inteligence.