빠르게 진화하는 AI 산업에서 로이즈 오브 런던이 스타트업 아르밀라를 통해 인공지능 오작동과 관련된 재정적 위험을 구체적으로 다루는 선구적인 보험 상품을 출시했다.
이번 신상품은 2025년 4월 30일 공식 출시됐으며, 차우서 그룹(Chaucer Group)을 포함한 여러 로이즈 신디케이트가 인수한다. 이 보험은 AI 도구가 부정확한 결과를 내거나 기대 이하의 성능을 보일 때 발생하는 법적 청구에 대해 명확한 보장을 제공하며, 법원이 판결한 손해배상금과 소송 비용 등도 포함된다.
아르밀라의 CEO 카르틱 라마크리슈난(Karthik Ramakrishnan)은 “기업들은 AI 도입 경쟁을 벌이고 있지만, 위험 관리와 보험 도구는 그 속도를 따라가지 못하고 있다. 기존 보험이 AI 특유의 실패에 대응할지 불확실한 ‘사일런트 AI 커버’에 대한 우려가 커지고 있다”고 설명했다.
이 보험은 특히 AI 환각(모델이 허위 정보를 자신 있게 제시하는 현상), 모델 성능 저하, 기대와의 괴리 등 AI 특유의 위험을 겨냥한다. 기존 기술 보험이 AI 관련 책임에 대해 낮은 한도를 두는 것과 달리, 아르밀라의 보험은 AI 시스템의 성능이 사전에 정한 기준보다 현저히 떨어질 때만 보장이 활성화된다.
이번 출시는 기업의 AI 기술 도입이 확대되고, AI 챗봇이 오해의 소지가 있거나 유해한 결과를 생성한 사례가 잇따르는 가운데 나왔다. 대표적으로 에어캐나다는 챗봇이 실수로 제공한 할인 혜택을 인정해야 했는데, 아르밀라 측은 해당 챗봇이 기대 이하의 성능으로 간주됐다면 자사 보험으로 손실을 보장받을 수 있었다고 밝혔다.
업계 전문가들은 이번 보험 상품이 AI 산업의 성숙을 알리는 중요한 이정표라고 평가한다. 글로벌 AI 보험 시장이 2024년부터 2034년까지 연평균 33.06% 성장할 것으로 예상되는 가운데, 로이즈와 아르밀라의 협업은 디지털 경제의 요구에 부응하고 책임 있는 AI 도입을 촉진하는 보험의 진화적 단계를 보여준다.
차우서의 톰 그레이엄(Tom Graham)은 “고장 가능성이 지나치게 높은 AI 시스템은 보장 대상에서 제외된다”고 밝혀, 보험사가 신중하게 선별할 것임을 시사했다. 이러한 접근법은 기업이 높은 AI 기준을 유지하도록 유도하는 동시에, AI 확산에 필요한 재정적 안전망을 제공한다.