Dalam perkembangan penting bagi industri AI yang berkembang pesat, Lloyd's of London meluncurkan produk asuransi perintis melalui startup Armilla yang secara khusus mengatasi risiko finansial terkait malfungsi kecerdasan buatan.
Polis baru ini, yang resmi diluncurkan pada 30 April 2025, dijamin oleh beberapa sindikat Lloyd's termasuk Chaucer Group. Produk ini memberikan perlindungan eksplisit bagi bisnis yang menghadapi klaim hukum ketika alat AI menghasilkan output yang tidak akurat atau berkinerja buruk, termasuk biaya ganti rugi yang ditetapkan pengadilan serta biaya hukum.
Karthik Ramakrishnan, CEO Armilla, menjelaskan pentingnya produk ini: "Bisnis berlomba-lomba mengadopsi AI, namun alat manajemen risiko dan asuransi mereka belum mampu mengimbangi. Ada kekhawatiran yang berkembang tentang 'perlindungan AI diam-diam' – ketidakpastian apakah polis yang ada akan menanggapi kegagalan spesifik AI."
Asuransi ini secara khusus menargetkan risiko seperti halusinasi AI (ketika model dengan percaya diri menyajikan informasi palsu), penurunan performa model, dan penyimpangan dari perilaku yang diharapkan. Berbeda dengan polis teknologi tradisional yang sering membatasi tanggung jawab terkait AI, perlindungan Armilla hanya aktif ketika performa sistem AI turun secara signifikan di bawah tolok ukur yang telah ditetapkan sebelumnya.
Langkah ini hadir di tengah meningkatnya adopsi teknologi AI oleh korporasi dan sejumlah insiden profil tinggi di mana chatbot AI menghasilkan output yang menyesatkan atau berbahaya. Dalam satu kasus, Air Canada diwajibkan untuk memenuhi diskon yang secara keliru ditawarkan oleh chatbot mereka – kerugian yang menurut Armilla akan ditanggung oleh polis mereka jika chatbot tersebut dinilai berkinerja di bawah ekspektasi.
Para ahli industri melihat produk asuransi ini sebagai tonggak penting dalam pendewasaan sektor AI. Dengan proyeksi pertumbuhan pasar asuransi AI global sebesar 33,06% per tahun antara 2024 dan 2034, kolaborasi Lloyd's dan Armilla merepresentasikan langkah evolusioner dalam dunia asuransi untuk memenuhi tuntutan ekonomi digital sekaligus mendorong adopsi AI yang bertanggung jawab.
Seperti yang dikatakan Tom Graham dari Chaucer, perusahaan asuransi akan selektif: "Kami tidak akan menanggung sistem AI yang terlalu rentan terhadap kerusakan." Pendekatan ini mendorong perusahaan untuk menjaga standar AI yang tinggi sekaligus menyediakan perlindungan finansial yang dibutuhkan untuk penerapan AI secara lebih luas.