Le principali compagnie assicurative lanciano l’allarme: l’intelligenza artificiale sta diventando troppo imprevedibile e pericolosa da coprire. Leader del settore come AIG, Great American e WR Berkley stanno cercando attivamente l’approvazione normativa per escludere le passività legate all’IA dalle loro politiche aziendali, segnalando una crescente crisi nel modo in cui le aziende gestiscono il rischio dell’IA.
Il problema della “scatola nera”.
Il problema principale è l’opacità di molti modelli di intelligenza artificiale. Gli assicuratori li descrivono come “scatole nere”, il che significa che i loro processi decisionali sono difficili o impossibili da controllare. Ciò crea un enorme divario di responsabilità perché gli assicuratori non possono valutare accuratamente il potenziale di errori o usi dannosi. Le conseguenze finanziarie di tali errori si stanno già materializzando:
- Scandalo della panoramica sull’intelligenza artificiale di Google: una falsa accusa generata dall’intelligenza artificiale di Google ha portato a una causa da 110 milioni di dollari contro un’azienda solare a marzo.
- L’errore del chatbot di Air Canada: La compagnia aerea è stata costretta a onorare gli sconti inventati offerti dal proprio chatbot.
- Frode Arup: un dirigente clonato digitalmente è stato utilizzato in una videochiamata deepfake per rubare 25 milioni di dollari da un’azienda con sede a Londra.
Rischio sistemico: la vera minaccia
Gli assicuratori non si preoccupano soltanto degli incidenti isolati; temono il collasso sistemico. Un singolo guasto dell’intelligenza artificiale che colpisca migliaia di aziende contemporaneamente potrebbe innescare pagamenti catastrofici. Un dirigente di Aon ha spiegato che, sebbene una perdita di 400 milioni di dollari sia gestibile, un diffuso “incidente dell’intelligenza artificiale” che causasse 10.000 sinistri simultanei manderebbe in bancarotta anche i più grandi assicuratori.
Questa non assicurabilità crea un incentivo perverso: le aziende potrebbero essere meno attente con l’intelligenza artificiale se sanno che gli assicuratori non copriranno le ricadute. La mancanza di garanzie finanziarie potrebbe rallentare l’adozione dell’intelligenza artificiale o costringere le aziende a internalizzare i rischi che non sono in grado di gestire.
Il futuro del rischio legato all’intelligenza artificiale
La situazione sottolinea una lacuna critica nell’attuale panorama dell’IA. Man mano che l’intelligenza artificiale diventa più potente e autonoma, diventa anche più imprevedibile. Fino a quando non verranno implementate migliori tutele e trasparenza, gli assicuratori rimarranno riluttanti a coprire le responsabilità legate all’intelligenza artificiale, lasciando le aziende vulnerabili a perdite potenzialmente rovinose.
L’esclusione dei rischi legati all’intelligenza artificiale dalle polizze assicurative è un chiaro segnale: l’industria vede i pericoli come troppo grandi per essere ignorati. Questo potrebbe essere il primo passo verso un approccio più cauto e regolamentato all’implementazione dell’IA nel mondo aziendale.
