Künstliche Intelligenz bei Versicherern

Ein Versicherer muss das Compliance und Risikomanagement weiterentwickeln, um die aktuellen und absehbaren Anforderungen der EU und der Aufsichtsbehörden bei der Nutzung von KI zu erfüllen. Anhand einiger Praxisbeispiele zeigen wir von Deloitte, was das konkret bedeutet:

• KI-Lösungen kommen in der Regel wenig bis kaum nachvollziehbar zu ihren Ergebnissen. Aus diesem Grund müssen Ergebnisse entwickelter Modelle entweder durch andere statistische Verfahren oder eine externe Stichprobe durch Expertenurteil begutachtet werden. Sonst besteht das Risiko, dass unbeabsichtigt eine Diskriminierung aufgrund von Geschlecht oder Hautfarbe vorliegt. Mittels klar definierter Prozesse in Risikomanagement und Compliance zur Kontrolle bei der Entwicklung und im laufenden Betrieb ist dauerhaft sichergestellt, dass ethisch indiskutable Entscheidungen, Strafzahlungen und beschädigte Reputation ausgeschlossen sind.
• Eine KI-Anwendung könnte auch Ziel von Kriminellen werden. Diese attackieren bereits heute mit hohem technischem Sachverstand unzureichend geschützte IT-Infrastruktur, verursachen erhebliche Schäden und erpressen Lösegeld. Eine KI-Lösung zur automatischen Schadenabwicklung, bei der anhand von Bildern die Schadenhöhe bestimmt wird, könnte zu zahlreichen überhöhten und ungerechtfertigten Auszahlungen kommen. Die finanziellen und die spezifischen Cyber-Risiken (Manipulation des Modells eingehender Daten) müssen Teil des Risikomanagements sein und von dort aus überwacht und mitigiert werden.
• Der Wunsch nach einer KI-Lösung zur Förderung des Vertriebs könnte in die Idee münden, auf Basis von Daten aus sozialen Medien seinen Bestandskunden oder Interessenten Produkte pauschal zu empfehlen, ohne deren Bedürfnisse genau zu berücksichtigen. Die Nutzung dieses Algorithmus würde möglicherweise gegen die EU-Richtlinie zum Vertrieb von Versicherungen sowie die EU-DSGVO verstoßen und erhebliche Bußgelder zur Folge haben. Im Rahmen eines verbindlichen KI-Complianceprozesses würde ein Versicherer eine solche Idee frühzeitig auf Konformität mit relevanten Vorgaben abgleichen und die Entwicklung stoppen oder gesetzeskonform gestalten.

BaFin, EIOPA und der EU AI Act fordern, dass Versicherungsunternehmen ein allumfassendes Rahmenwerk aus Compliance und Risikomanagement einführen, das alle Entscheidungen auf Basis von Algorithmen und entsprechende Wechselwirkungen einschließt. Während der Schwerpunkt von BaFin und EIOPA auf den versicherungsspezifischen Risiken liegt, stehen beim EU AI Act der Verbraucherschutz und das Thema Ethik im Fokus. 

Dabei ist es Aufgabe des Vorstandes eines jeden Versicherers, ein der Nutzung von KI adäquates Risikomanagement einzurichten. Bei Dienstleistern gehört ein entsprechendes Auslagerungs- bzw. Ausgliederungsmanagement dazu. Die Verantwortlichkeiten sind hier klar zu definieren, ebenso sind auch Rollen und Prozesse für Berichte und Kontrollen festzulegen.