Grote verzekeringsmaatschappijen luiden de noodklok: kunstmatige intelligentie wordt te onvoorspelbaar en te gevaarlijk om te dekken. Marktleiders als AIG, Great American en WR Berkley streven actief naar goedkeuring van de toezichthouders om AI-gerelateerde aansprakelijkheden uit te sluiten van hun bedrijfsbeleid, wat wijst op een groeiende crisis in de manier waarop bedrijven AI-risico’s beheren.
Het “Black Box”-probleem
Het kernprobleem is de ondoorzichtigheid van veel AI-modellen. Underwriters omschrijven ze als ‘zwarte dozen’, wat betekent dat hun besluitvormingsprocessen moeilijk of onmogelijk te controleren zijn. Dit creëert een enorme aansprakelijkheidskloof omdat verzekeraars de kans op fouten of kwaadwillig gebruik niet nauwkeurig kunnen inschatten. De financiële gevolgen van dergelijke fouten zijn nu al zichtbaar:
- Google’s AI-overzichtschandaal: Een valse beschuldiging gegenereerd door de AI van Google leidde in maart tot een rechtszaak van $110 miljoen tegen een zonne-energiebedrijf.
- Chatbot-blunder van Air Canada: De luchtvaartmaatschappij werd gedwongen om verzonnen kortingen te honoreren die door haar eigen chatbot werden aangeboden.
- Arup-fraude: Een digitaal gekloonde leidinggevende werd gebruikt in een deepfake-videogesprek om 25 miljoen dollar te stelen van een in Londen gevestigd bedrijf.
Systeemrisico: de echte bedreiging
Verzekeraars maken zich niet alleen zorgen over geïsoleerde incidenten; ze zijn bang voor een systemische ineenstorting. Eén enkele AI-fout die duizenden bedrijven tegelijkertijd treft, kan tot catastrofale uitbetalingen leiden. Een directeur van Aon legde uit dat hoewel een verlies van $400 miljoen beheersbaar is, een wijdverbreid ‘agentic AI-ongeluk’ dat 10.000 gelijktijdige claims veroorzaakt, zelfs de grootste verzekeraars failliet zou laten gaan.
Deze onverzekerbaarheid creëert een perverse prikkel: bedrijven kunnen minder voorzichtig zijn met AI als ze weten dat verzekeraars de gevolgen niet zullen dekken. Het gebrek aan financiële achtervang kan de adoptie van AI vertragen of bedrijven dwingen risico’s te internaliseren waar ze niet tegen kunnen.
De toekomst van AI-risico
De situatie onderstreept een kritieke kloof in het huidige AI-landschap. Naarmate AI krachtiger en autonomer wordt, wordt het ook onvoorspelbaarder. Tot er betere waarborgen en transparantie zijn geïmplementeerd, zullen verzekeraars huiverig blijven om AI-gerelateerde verplichtingen te dekken, waardoor bedrijven kwetsbaar blijven voor potentieel rampzalige verliezen.
De uitsluiting van AI-risico’s uit verzekeringspolissen is een duidelijk signaal: de sector beschouwt de gevaren als te groot om te negeren. Dit kan de eerste stap zijn in de richting van een voorzichtiger, gereguleerde aanpak van de inzet van AI in de bedrijfswereld.
