As principais companhias de seguros estão a soar o alarme: a inteligência artificial está a tornar-se demasiado imprevisível e perigosa para ser coberta. Os líderes da indústria como a AIG, a Great American e a WR Berkley estão ativamente a procurar aprovação regulamentar para excluir responsabilidades relacionadas com a IA das suas políticas corporativas, sinalizando uma crise crescente na forma como as empresas gerem o risco da IA.
O problema da “caixa preta”
A questão central é a opacidade de muitos modelos de IA. Os subscritores os descrevem como “caixas pretas”, o que significa que seus processos de tomada de decisão são difíceis ou impossíveis de auditar. Isto cria uma enorme lacuna de responsabilidade porque as seguradoras não conseguem avaliar com precisão o potencial de erros ou uso malicioso. As consequências financeiras de tais erros já estão se materializando:
- Escândalo da visão geral da IA do Google: Uma falsa acusação gerada pela IA do Google levou a um processo de US$ 110 milhões contra uma empresa de energia solar em março.
- Erro do chatbot da Air Canada: A companhia aérea foi forçada a honrar descontos fabricados oferecidos por seu próprio chatbot.
- Fraude Arup: Um executivo clonado digitalmente foi usado em uma videochamada deepfake para roubar US$ 25 milhões de uma empresa com sede em Londres.
Risco Sistêmico: A Verdadeira Ameaça
As seguradoras não estão apenas preocupadas com incidentes isolados; eles temem o colapso sistêmico. Uma única falha de IA que afetasse milhares de empresas simultaneamente poderia desencadear pagamentos catastróficos. Um executivo da Aon explicou que, embora uma perda de US$ 400 milhões seja administrável, um “acidente de IA agente” generalizado, causando 10.000 sinistros simultâneos, levaria à falência até mesmo as maiores seguradoras.
Esta insegurabilidade cria um incentivo perverso: as empresas podem ser menos cuidadosas com a IA se souberem que as seguradoras não cobrirão as consequências. A falta de apoios financeiros poderá retardar a adoção da IA ou forçar as empresas a internalizar riscos para os quais não estão preparadas para lidar.
O futuro do risco de IA
A situação sublinha uma lacuna crítica no panorama atual da IA. À medida que a IA se torna mais poderosa e autónoma, também se torna mais imprevisível. Até que sejam implementadas melhores salvaguardas e transparência, as seguradoras continuarão hesitantes em cobrir responsabilidades relacionadas com a IA, deixando as empresas vulneráveis a perdas potencialmente ruinosas.
A exclusão dos riscos da IA das apólices de seguro é um sinal claro: a indústria considera os perigos demasiado grandes para serem ignorados. Este pode ser o primeiro passo em direcção a uma abordagem mais cautelosa e regulamentada à implantação da IA no mundo empresarial.
