Las principales compañías de seguros están haciendo sonar la alarma: la inteligencia artificial se está volviendo demasiado impredecible y peligrosa para cubrirla. Líderes de la industria como AIG, Great American y WR Berkley están buscando activamente la aprobación regulatoria para excluir los pasivos relacionados con la IA de sus políticas corporativas, lo que indica una crisis creciente en la forma en que las empresas gestionan el riesgo de la IA.
El problema de la “caja negra”
El problema central es la opacidad de muchos modelos de IA. Los aseguradores los describen como “cajas negras”, lo que significa que sus procesos de toma de decisiones son difíciles o imposibles de auditar. Esto crea una enorme brecha de responsabilidad porque las aseguradoras no pueden evaluar con precisión el potencial de errores o uso malicioso. Las consecuencias financieras de tales errores ya se están materializando:
- Escándalo de la descripción general de la IA de Google: Una acusación falsa generada por la IA de Google dio lugar a una demanda de 110 millones de dólares contra una empresa de energía solar en marzo.
- Error del chatbot de Air Canada: La aerolínea se vio obligada a respetar los descuentos inventados ofrecidos por su propio chatbot.
- Fraude Arup: Un ejecutivo clonado digitalmente fue utilizado en una videollamada deepfake para robar 25 millones de dólares de una empresa con sede en Londres.
Riesgo sistémico: la verdadera amenaza
Las aseguradoras no sólo se preocupan por los incidentes aislados; temen un colapso sistémico. Un solo fallo de la IA que afecte a miles de empresas simultáneamente podría provocar pagos catastróficos. Un ejecutivo de Aon explicó que, si bien una pérdida de 400 millones de dólares es manejable, un “percance de inteligencia artificial” generalizado que provocara 10.000 reclamaciones simultáneas llevaría a la quiebra incluso a las aseguradoras más grandes.
Esta falta de aseguramiento crea un incentivo perverso: las empresas pueden ser menos cuidadosas con la IA si saben que las aseguradoras no cubrirán las consecuencias. La falta de respaldo financiero podría frenar la adopción de la IA u obligar a las empresas a internalizar riesgos para los que no están preparadas.
El futuro del riesgo de la IA
La situación pone de relieve una brecha crítica en el panorama actual de la IA. A medida que la IA se vuelve más poderosa y autónoma, también se vuelve más impredecible. Hasta que se implementen mejores salvaguardias y transparencia, las aseguradoras seguirán dudando a la hora de cubrir los pasivos relacionados con la IA, lo que dejará a las empresas vulnerables a pérdidas potencialmente ruinosas.
La exclusión de los riesgos de la IA de las pólizas de seguro es una señal clara: la industria considera que los peligros son demasiado grandes para ignorarlos. Este puede ser el primer paso hacia un enfoque más cauteloso y regulado para el despliegue de la IA en el mundo empresarial.
