Perusahaan asuransi besar mulai memberikan peringatan: kecerdasan buatan menjadi tidak dapat diprediksi dan berbahaya untuk ditanggung. Para pemimpin industri seperti AIG, Great American, dan WR Berkley secara aktif mencari persetujuan peraturan untuk mengecualikan kewajiban terkait AI dari kebijakan perusahaan mereka, yang menandakan krisis yang semakin besar dalam cara bisnis mengelola risiko AI.
Masalah “Kotak Hitam”.
Masalah utamanya adalah opasitas pada banyak model AI. Penjamin emisi menggambarkannya sebagai “kotak hitam”, yang berarti proses pengambilan keputusan mereka sulit atau tidak mungkin untuk diaudit. Hal ini menciptakan kesenjangan tanggung jawab yang sangat besar karena perusahaan asuransi tidak dapat secara akurat menilai potensi kesalahan atau penggunaan yang bermaksud jahat. Konsekuensi finansial dari kesalahan tersebut sudah mulai terlihat:
- Skandal Ikhtisar AI Google: Tuduhan palsu yang dibuat oleh AI Google menyebabkan tuntutan hukum senilai $110 juta terhadap sebuah perusahaan tenaga surya pada bulan Maret.
- Kesalahan chatbot Air Canada: Maskapai ini terpaksa menghormati diskon palsu yang ditawarkan oleh chatbotnya sendiri.
- Penipuan Arup: Seorang eksekutif yang dikloning secara digital digunakan dalam panggilan video deepfake untuk mencuri $25 juta dari sebuah perusahaan yang berbasis di London.
Risiko Sistemik: Ancaman Nyata
Perusahaan asuransi tidak hanya mengkhawatirkan kejadian-kejadian tertentu saja; mereka takut akan terjadinya keruntuhan sistemis. Satu kegagalan AI yang berdampak pada ribuan perusahaan secara bersamaan dapat memicu kerugian besar. Seorang eksekutif Aon menjelaskan bahwa meskipun kerugian sebesar $400 juta dapat diatasi, “kecelakaan agen AI” yang meluas yang menyebabkan 10.000 klaim secara bersamaan akan membuat perusahaan asuransi terbesar sekalipun bangkrut.
Ketidakmampuan untuk mengasuransikan hal ini menciptakan insentif yang buruk: dunia usaha mungkin kurang berhati-hati dalam menggunakan AI jika mereka tahu bahwa perusahaan asuransi tidak akan menanggung dampaknya. Kurangnya hambatan finansial dapat memperlambat penerapan AI atau memaksa perusahaan untuk menginternalisasi risiko yang tidak mampu mereka tangani.
Masa Depan Risiko AI
Situasi ini menggarisbawahi adanya kesenjangan kritis dalam lanskap AI saat ini. Ketika AI menjadi lebih kuat dan otonom, AI juga menjadi semakin tidak dapat diprediksi. Sebelum upaya perlindungan dan transparansi yang lebih baik diterapkan, perusahaan asuransi akan tetap ragu untuk menanggung kewajiban terkait AI, sehingga bisnis rentan terhadap potensi kerugian yang sangat besar.
Pengecualian risiko AI dalam polis asuransi merupakan sinyal yang jelas: industri memandang bahaya ini terlalu besar untuk diabaikan. Ini mungkin merupakan langkah pertama menuju pendekatan yang lebih hati-hati dan teregulasi dalam penerapan AI di dunia usaha.
