En un avance significativo para la industria de la inteligencia artificial, que evoluciona rápidamente, Lloyd's de Londres ha lanzado, a través de la startup Armilla, un producto de seguro pionero que aborda específicamente los riesgos financieros asociados con fallas en sistemas de IA.
La nueva póliza, presentada oficialmente el 30 de abril de 2025, está respaldada por varios sindicatos de Lloyd's, incluido Chaucer Group. Ofrece cobertura explícita para empresas que enfrentan reclamaciones legales cuando las herramientas de IA generan resultados inexactos o tienen un desempeño deficiente, cubriendo costos como indemnizaciones ordenadas por tribunales y gastos legales.
Karthik Ramakrishnan, director general de Armilla, explica la importancia del producto: "Las empresas están compitiendo por implementar IA, pero sus herramientas de gestión de riesgos y seguros no han avanzado al mismo ritmo. Existe una preocupación creciente por la 'cobertura silenciosa de IA', es decir, la incertidumbre sobre si las pólizas existentes responderán ante fallas específicas de IA".
El seguro está dirigido específicamente a riesgos como alucinaciones de IA (cuando los modelos presentan con confianza información inventada), deterioro en el desempeño del modelo y desviaciones respecto al comportamiento esperado. A diferencia de las pólizas tecnológicas tradicionales, que suelen imponer límites bajos a las responsabilidades relacionadas con IA, la cobertura de Armilla se activa solo cuando el desempeño de un sistema de IA cae significativamente por debajo de los parámetros preestablecidos.
Este desarrollo ocurre en medio de una creciente adopción corporativa de tecnologías de IA y varios incidentes de alto perfil en los que chatbots de IA han generado resultados engañosos o perjudiciales. En un caso destacado, Air Canada tuvo que respetar descuentos ofrecidos erróneamente por su chatbot, una pérdida que, según Armilla, habría estado cubierta bajo su póliza si el chatbot hubiera sido considerado como de desempeño inferior al esperado.
Expertos de la industria ven este producto de seguro como un hito importante en la maduración del sector de IA. Con proyecciones de que el mercado global de seguros para IA crecerá a una tasa anual compuesta del 33.06% entre 2024 y 2034, la colaboración entre Lloyd's y Armilla representa un paso evolutivo en los seguros para adaptarse a las demandas de una economía cada vez más digital, al tiempo que promueve una adopción responsable de la IA.
Como señala Tom Graham, de Chaucer, las aseguradoras serán selectivas: "No cubriremos sistemas de IA que sean excesivamente propensos a fallar". Este enfoque incentiva a las empresas a mantener altos estándares en sus sistemas de IA, mientras proporciona las garantías financieras necesarias para una adopción más amplia de la inteligencia artificial.