Największe firmy ubezpieczeniowe biją na alarm: sztuczna inteligencja staje się zbyt nieprzewidywalna i niebezpieczna dla ochrony ubezpieczeniowej. Liderzy branży, tacy jak AIG, Great American i WR Berkley, agresywnie zabiegają o zgodę organów regulacyjnych na wyłączenie odpowiedzialności związanej ze sztuczną inteligencją z polityk korporacyjnych, sygnalizując narastający kryzys w zarządzaniu ryzykiem związanym ze sztuczną inteligencją w biznesie.
Problem czarnej skrzynki
Głównym problemem jest brak przejrzystości wielu modeli AI. Ubezpieczyciele nazywają je „czarnymi skrzynkami”, co oznacza, że ich procesy decyzyjne są trudne lub niemożliwe do skontrolowania. Stwarza to ogromną lukę w odpowiedzialności, ponieważ ubezpieczyciele nie są w stanie dokładnie ocenić potencjału błędów lub złośliwego użycia. Konsekwencje finansowe takich błędów są już widoczne:
- Skandal dotyczący przeglądu sztucznej inteligencji Google: fałszywe oskarżenie wygenerowane przez sztuczną inteligencję Google doprowadziło w marcu do pozwu przeciwko firmie zajmującej się energią słoneczną na kwotę 110 milionów dolarów.
- Błąd chatbota Air Canada: linia lotnicza była zmuszona honorować sfałszowane zniżki oferowane przez własnego chatbota.
- Oszustwo Arup: Cyfrowa kopia CPA wykorzystana w fałszywych rozmowach wideo w celu kradzieży 25 milionów dolarów od londyńskiej firmy.
Ryzyko systemowe: realne zagrożenie
Ubezpieczyciele niepokoją się nie tylko pojedynczymi zdarzeniami, ale także obawiają się zapaści systemowej. Pojedyncza awaria sztucznej inteligencji dotykająca jednocześnie tysiące firm może spowodować katastrofalne skutki. Dyrektor Aon wyjaśnił, że stratę w wysokości 400 milionów dolarów można opanować, ale masowy „błąd sztucznej inteligencji agenta” powodujący 10 000 jednoczesnych roszczeń doprowadziłby do bankructwa nawet największych ubezpieczycieli.
Ten brak ubezpieczenia stwarza przewrotną zachętę: firmy mogą być mniej ostrożne w przypadku sztucznej inteligencji, wiedząc, że ubezpieczyciele nie pokryją konsekwencji. Brak ochrony finansowej może spowolnić wdrażanie sztucznej inteligencji lub zmusić firmy do podejmowania ryzyka, na które nie są przygotowane.
Przyszłość ryzyka związanego ze sztuczną inteligencją
Sytuacja ta uwydatnia krytyczną lukę w obecnym krajobrazie sztucznej inteligencji. W miarę jak sztuczna inteligencja staje się potężniejsza i autonomiczna, staje się również bardziej nieprzewidywalna. Dopóki nie zostaną wprowadzone lepsze zabezpieczenia i przejrzystość, ubezpieczyciele będą niechętni do pokrywania odpowiedzialności za sztuczną inteligencję, narażając przedsiębiorstwa na potencjalnie druzgocące straty.
Wyłączenie ryzyka związanego ze sztuczną inteligencją z polis ubezpieczeniowych stanowi wyraźny sygnał, że branża uważa zagrożenia za zbyt duże, aby je ignorować. Może to być pierwszy krok w kierunku bardziej ostrożnego i uregulowanego podejścia do wdrażania sztucznej inteligencji w świecie korporacji.
