Крупные страховые компании бьют тревогу: искусственный интеллект становится слишком непредсказуемым и опасным для страхового покрытия. Лидеры отрасли, такие как AIG, Great American и WR Berkley, активно добиваются одобрения регуляторов на исключение ответственности, связанной с ИИ, из корпоративных полисов, что сигнализирует о растущем кризисе в управлении ИИ-рисками в бизнесе.
Проблема «Чёрного Ящика»
Основная проблема заключается в непрозрачности многих ИИ-моделей. Страховщики описывают их как «чёрные ящики», то есть их процессы принятия решений трудно или невозможно проверить. Это создаёт огромный пробел в ответственности, поскольку страховщики не могут точно оценить потенциал ошибок или злонамеренного использования. Финансовые последствия таких ошибок уже проявляются:
- Скандал с обзором Google AI: Ложное обвинение, сгенерированное ИИ Google, привело к иску на 110 миллионов долларов против солнечной компании в марте.
- Ошибка чат-бота Air Canada: Авиакомпания была вынуждена выполнить сфабрикованные скидки, предложенные её собственным чат-ботом.
- Мошенничество в Arup: Дипломированный специалист, цифровая копия, был использован в дипфейк-видеозвонке для кражи 25 миллионов долларов у лондонской фирмы.
Системный Риск: Реальная Угроза
Страховщики беспокоятся не только об изолированных инцидентах, но и боятся системного коллапса. Одиночный сбой ИИ, затрагивающий тысячи компаний одновременно, может спровоцировать катастрофические выплаты. Руководитель Aon объяснил, что убыток в 400 миллионов долларов можно выдержать, но масштабная «ошибка агентного ИИ», вызвавшая 10 000 одновременных претензий, обанкротит даже крупнейших страховщиков.
Эта нестрахуемость создаёт извращённый стимул: компании могут быть менее осторожными с ИИ, зная, что страховщики не покроют последствия. Отсутствие финансовой защиты может замедлить внедрение ИИ или заставить компании взять на себя риски, к которым они не готовы.
Будущее ИИ-Рисков
Ситуация подчёркивает критический пробел в текущем ИИ-ландшафте. По мере того как ИИ становится более мощным и автономным, он также становится более непредсказуемым. Пока не будут внедрены лучшие гарантии и прозрачность, страховщики будут неохотно покрывать ИИ-ответственность, оставляя предприятия уязвимыми к потенциально разрушительным потерям.
Исключение ИИ-рисков из страховых полисов — это чёткий сигнал: отрасль считает опасности слишком великими, чтобы их игнорировать. Это может быть первый шаг к более осторожному, регулируемому подходу к внедрению ИИ в корпоративном мире.
