Große Versicherungsgesellschaften schlagen Alarm: Künstliche Intelligenz wird zu unvorhersehbar und gefährlich, um sie abzudecken. Branchenführer wie AIG, Great American und WR Berkley bemühen sich aktiv um die behördliche Genehmigung, KI-bezogene Verbindlichkeiten aus ihren Unternehmensrichtlinien auszuschließen, was auf eine wachsende Krise bei der Art und Weise hindeutet, wie Unternehmen mit KI-Risiken umgehen.
Das „Black Box“-Problem
Das Kernproblem ist die Undurchsichtigkeit vieler KI-Modelle. Underwriter bezeichnen sie als „Black Boxes“, was bedeutet, dass ihre Entscheidungsprozesse nur schwer oder gar nicht zu prüfen sind. Dadurch entsteht eine enorme Haftungslücke, da die Versicherer das Potenzial für Fehler oder böswillige Nutzung nicht genau einschätzen können. Die finanziellen Folgen solcher Fehler zeichnen sich bereits jetzt ab:
- Googles KI-Übersichtsskandal: Eine durch Googles KI generierte falsche Anschuldigung führte im März zu einer Klage in Höhe von 110 Millionen US-Dollar gegen ein Solarunternehmen.
- Der Chatbot-Fehler von Air Canada: Die Fluggesellschaft war gezwungen, erfundene Rabatte anzuerkennen, die von ihrem eigenen Chatbot angeboten wurden.
- Arup-Betrug: Eine digital geklonte Führungskraft wurde in einem Fake-Videoanruf eingesetzt, um einem in London ansässigen Unternehmen 25 Millionen US-Dollar zu stehlen.
Systemisches Risiko: Die wahre Bedrohung
Versicherer machen sich nicht nur über Einzelfälle Sorgen; Sie befürchten einen Systemkollaps. Ein einziger KI-Ausfall, der Tausende von Unternehmen gleichzeitig betrifft, könnte katastrophale Auszahlungen auslösen. Ein Aon-Manager erklärte, dass ein Verlust von 400 Millionen US-Dollar zwar beherrschbar sei, ein weit verbreitetes „Agenten-KI-Missgeschick“, das 10.000 Schadensfälle gleichzeitig verursachte, jedoch selbst die größten Versicherer in den Bankrott treiben würde.
Diese Nichtversicherbarkeit schafft einen perversen Anreiz: Unternehmen gehen möglicherweise weniger vorsichtig mit KI um, wenn sie wissen, dass Versicherer die Folgen nicht abdecken. Das Fehlen finanzieller Absicherungen könnte die Einführung von KI verlangsamen oder Unternehmen dazu zwingen, Risiken zu internalisieren, für deren Bewältigung sie nicht gerüstet sind.
Die Zukunft des KI-Risikos
Die Situation verdeutlicht eine kritische Lücke in der aktuellen KI-Landschaft. Je leistungsfähiger und autonomer die KI wird, desto unberechenbarer wird sie auch. Bis bessere Schutzmaßnahmen und Transparenz umgesetzt werden, werden die Versicherer weiterhin zögern, KI-bezogene Verbindlichkeiten abzudecken, wodurch Unternehmen anfällig für potenziell ruinöse Verluste werden.
Der Ausschluss von KI-Risiken aus Versicherungspolicen ist ein klares Signal: Die Branche hält die Gefahren für zu groß, um sie zu ignorieren. Dies könnte der erste Schritt zu einem vorsichtigeren, regulierteren Ansatz für den KI-Einsatz in der Unternehmenswelt sein.
