Hızla gelişen yapay zeka sektörü için önemli bir adım olarak, Lloyd's of London, girişim Armilla aracılığıyla yapay zeka arızalarından kaynaklanan finansal riskleri özel olarak ele alan öncü bir sigorta ürünü başlattı.
30 Nisan 2025'te resmen piyasaya sürülen yeni poliçe, Chaucer Group da dahil olmak üzere birkaç Lloyd's sendikası tarafından sigortalanıyor. Bu poliçe, yapay zeka araçlarının yanlış çıktılar üretmesi veya beklenenin altında performans göstermesi durumunda işletmelerin karşılaşabileceği yasal talepler için açık bir koruma sunuyor; mahkeme tarafından hükmedilen tazminatlar ve yasal masraflar gibi maliyetleri kapsıyor.
Armilla CEO'su Karthik Ramakrishnan, ürünün önemini şöyle açıklıyor: "İşletmeler yapay zekayı hızla devreye alıyor, ancak risk yönetimi ve sigorta araçları aynı hızda gelişmedi. 'Sessiz yapay zeka teminatı'na dair artan bir endişe var – yani mevcut poliçelerin yapay zeka kaynaklı özel hatalara yanıt verip vermeyeceği belirsiz."
Sigorta ürünü, özellikle yapay zeka halüsinasyonları (modellerin güvenle uydurma bilgiler sunması), model performansında bozulma ve beklenen davranıştan sapmalar gibi riskleri hedefliyor. Geleneksel teknoloji poliçelerinin genellikle yapay zeka ile ilgili sorumluluklarda düşük limitler uygulamasının aksine, Armilla'nın teminatı yalnızca bir yapay zeka sisteminin performansı önceden belirlenmiş eşiklerin önemli ölçüde altına düştüğünde devreye giriyor.
Bu gelişme, şirketlerin yapay zeka teknolojilerini giderek daha fazla benimsemesi ve bazı yüksek profilli olaylarda yapay zeka sohbet botlarının yanıltıcı veya zararlı çıktılar üretmesiyle birlikte geldi. Dikkat çeken bir örnekte, Air Canada, sohbet botunun yanlışlıkla sunduğu indirimleri onurlandırmak zorunda kalmıştı – Armilla, sohbet botunun beklenenin altında performans gösterdiği kabul edilseydi bu kaybın poliçeleri kapsamında olacağını belirtiyor.
Sektör uzmanları, bu sigorta ürününü yapay zeka sektörünün olgunlaşmasında önemli bir dönüm noktası olarak görüyor. Küresel yapay zeka sigorta pazarının 2024 ile 2034 arasında yıllık bileşik %33,06 büyümesi beklenirken, Lloyd's ve Armilla'nın iş birliği, dijitalleşen ekonominin taleplerine uyum sağlamak ve sorumlu yapay zeka kullanımını teşvik etmek için sigortacılığın evrimsel bir adımı olarak değerlendiriliyor.
Chaucer'dan Tom Graham'ın da belirttiği gibi, sigortacılar seçici olacak: "Aşırı derecede arızalanmaya yatkın yapay zeka sistemlerini sigortalamayacağız." Bu yaklaşım, şirketleri yüksek yapay zeka standartlarını korumaya teşvik ederken, daha geniş çaplı yapay zeka uygulamaları için gerekli finansal güvenceyi de sağlıyor.