Velké pojišťovny bijí na poplach: umělá inteligence se stává pro pojistné krytí příliš nepředvídatelná a nebezpečná. Lídři v oboru, jako jsou AIG, Great American a WR Berkley, agresivně usilují o souhlas regulačních orgánů, aby vyloučili odpovědnost související s AI z podnikových politik, což signalizuje rostoucí krizi v řízení rizik AI v podnikání.
Problém černé skříňky
Hlavním problémem je nedostatečná transparentnost mnoha modelů AI. Pojišťovny je popisují jako „černé skříňky“, což znamená, že jejich rozhodovací procesy je obtížné nebo nemožné kontrolovat. To vytváří obrovskou mezeru v odpovědnosti, protože pojistitelé nemohou přesně vyhodnotit potenciál chyb nebo zneužití. Finanční důsledky takových chyb jsou již zřejmé:
- Skandál Google AI Review: Nepravdivé obvinění generované AI Google vedlo v březnu k žalobě proti solární společnosti ve výši 110 milionů dolarů.
- Chyba chatbota Air Canada: Letecká společnost byla nucena respektovat zmanipulované slevy nabízené jejím vlastním chatbotem.
- Podvod Arup: Digitální kopie CPA použitá při falešných videohovorech ke krádeži 25 milionů dolarů od londýnské firmy.
Systémové riziko: Skutečná hrozba
Pojišťovny se obávají nejen ojedinělých incidentů, ale také systémového kolapsu. Jediné selhání AI, které postihne tisíce společností současně, může vyvolat katastrofické výplaty. Jednatel společnosti Aon vysvětlil, že ztráta 400 milionů dolarů byla zvládnutelná, ale masivní „chyba AI agenta“ způsobující 10 000 současných nároků by zruinovala i ty největší pojistitele.
Tato nepojistitelnost vytváří zvrácenou pobídku: společnosti mohou být s umělou inteligencí méně obezřetné, protože vědí, že pojišťovny nepokryjí následky. Nedostatek finanční ochrany by mohl zpomalit přijetí AI nebo donutit společnosti podstupovat rizika, která nejsou připraveny podstoupit.
Budoucnost rizika umělé inteligence
Situace poukazuje na kritickou mezeru v současném prostředí umělé inteligence. Jak se AI stává výkonnější a autonomnější, stává se také nepředvídatelnější. Dokud nebudou zavedena lepší ochranná opatření a transparentnost, pojistitelé se nebudou zdráhat krýt odpovědnost za AI, takže podniky budou zranitelné vůči potenciálně zničujícím ztrátám.
Vyloučení rizik umělé inteligence z pojistných smluv vysílá jasný signál, že průmysl považuje tato nebezpečí za příliš velká, než aby je bylo možné ignorovat. To by mohl být první krok k obezřetnějšímu a regulovanému přístupu k přijetí AI v podnikovém světě.
