DORA & AI-Act: Wie Finanzinstitute KI sicher und regelkonform einsetzen

Finanzinstitute stehen vor der Aufgabe, beide EU-Verordnungen für KI-Systeme umzusetzen, um diese sicher, nachvollziehbar und widerstandsfähig zu betreiben. Der Beitrag erläutert zentrale Überschneidungen, notwendige Ergänzungen und zeigt, warum Unternehmen jetzt ihre Governance und Prozesse für KI neu ausrichten sollten.

Regulatorische Ausgangslage und Bedeutung für Finanzinstitute

DORA und der AI-Act bilden gemeinsam den künftigen Rahmen für den sicheren Einsatz digita-ler Technologien im Finanzsektor. DORA definiert Anforderungen an die Sicherstellung der digi-talen Resilienz, also das Management von IKT-Risiken, IKT-Vorfällen, Tests der etablierten Si-cherheitsmaßnahmen und IKT-Dienstleistungsbezüge. Der AI-Act ergänzt dies um spezifische Pflichten für KI-Systeme, insbesondere für Hochrisiko KI Anwendungen. Für viele Unternehmen bedeutet das, dass bestehende interne Kontrollsystem weiter genutzt werden können, aber um zusätzliche Prozesse, Dokumentationen und Verantwortlichkeiten erweitert werden müssen. Finanzinstitute müssen daher prüfen, wie KI-Systeme heute eingesetzt werden und welche regulatorischen Vorgaben für ihre jeweiligen Risikoklassen gelten. Je nach Art und Einsatz eines KI-Systems greifen verschiedene Anforderungen aus beiden Regelwerken. 

IKT-Risikomanagement und KI-Risiken 

DORA erfasst alle Risiken im Zusammenhang mit IKT-Systemen. KI-Systeme können Software- oder Hardwarekomponenten sein und gelten damit als IKT-Asset bzw. konkret als IKT-System. Dadurch fallen sie automatisch in den DORA-Risikomanagementrahmen. Gleichzeitig verlangt der AI-Act eine gesonderte Betrachtung für KI-Systeme, die als Hochrisiko eingestuft werden sowie Transparenzpflichten für KI-Systeme, die Inhalte generieren oder mit dem Benutzer interagieren.

Zentrale Anforderungen im erweiterten Risikomanagement

• Ein vollständiges Verzeichnis aller KI-Systeme mit Angaben zu Modellen, Daten und Risikoklassifizierung
• Integration KI spezifischer Risiken in bestehende Risikobewertungsprozesse
• Prüfung von Residualrisiken anhand der Vorgaben des AI-Act
• Erweiterung der technischen Dokumentation um Anforderungen an Architektur, Daten und Sicherheitsmaßnahmen
• Erfassung und Dokumentation der Risikobewertung von KI-Systeme

Nicht alle KI-Risiken sind automatisch IKT-Risiken. Beispielsweise fallen Risiken, die Grundrechte betreffen, oft in die Zuständigkeit der Compliance Funktion. Deshalb müssen Unternehmen Verantwortungsketten präzise definieren und klare Governance Schnittstellen zwischen Risikomanagement, Compliance, IKT-Risikomanagement und ggf. einer dedizierten Organisationseinheit für die KI-Governance schaffen.

Unterschiedliche risikobasierte Ansätze und deren Konsequenzen

DORA bewertet Risiken primär anhand der Kritikalität verarbeiteter Daten und der Bedeutung der Funktionen für den Geschäftsbetrieb. Der AI-Act fokussiert auf mögliche Auswirkungen eines KI-Systems auf Grundrechte betroffener Personen. Beide Perspektiven müssen parallel angewendet werden, da sie unterschiedliche Dimensionen abdecken.

Praktische Konsequenzen für Unternehmen

• Schutzziele der Informationssicherheit und die Bewertung kritischer oder wichtiger Funktionen müssen um KI spezifische Risikostufen ergänzt werden.
• Der Sollmaßnahmenkatalog sollte erweitert werden, um Anforderungen aus dem AI-Act abzubilden - KI-Systeme können dabei als eigene Asset Kategorie geführt werden.
• Klassifizierungen sollten im Informationsverbund hinterlegt werden, damit sie jederzeit prüfbar sind.

Vorfallmanagement für KI im Zusammenspiel von DORA und AI-Act 

Sowohl DORA als auch der AI-Act verlangen ein strukturiertes Vorfallmanagement. In vielen Fällen ist ein KI-Vorfall gleichzeitig auch ein IKT-Vorfall. Dennoch unterscheiden sich Kriterien, Meldefristen und Verantwortlichkeiten.

Wesentliche Unterschiede

• Der AI-Act definiert schwerwiegende KI-Vorfälle mit einem Fokus auf Gesundheit, Sach- oder Umweltschäden, Grundrechte und kritischer Infrastrukturen.
• Bestimmte schwerwiegende IKT-Vorfälle gemäß DORA und schwerwiegende KI-Vorfälle können in einer einzelnen Meldung zusammengefasst werden.
• KI-Vorfälle, die auch einen Datenschutzvorfall oder einen Vorfall in Zusammenhang mit anderen Menschenrechten (wie z.B. Diskriminierung oder BIAS) oder KI-Systeme in technischen Anlagen gemäß Anhang 1 des AI-Acts müssen separat gemeldet werden.
• Ein KI-Vorfall kann meldepflichtig sein, ohne als schwerwiegend nach DORA eingestuft zu werden – in diesem Fall muss eine separate Meldung erfolgen.
• DORA verlangt eine Erstmeldung schwerwiegender IKT-Vorfälle innerhalb von 24 Stunden, während die Fristen des AI-Acts bei 48 Stunden anfangen und bis zu 15 Tagen skalieren können – im Falle einer konsolidierten Meldung sind also die DORA-Meldefristen von Relevanz.
• Der AI-Act verpflichtet den Anbieter eines KI-Systems zur Meldung, während bei DORA das Finanzinstitut immer für die Meldung verantwortlich ist (auch bei Ausgliederungen der Durchführung von Meldungen).

Für die Praxis bedeutet das, dass ein integrierter Prozess notwendig ist, der die Prüfkriterien für schwerwiegende KI-Vorfälle in die bestehenden DORA-Abläufe einbettet und zusätzlich AI-Act spezifische Kriterien prüft. Damit wird verhindert, dass Unternehmen parallele Meldeprozesse aufbauen müssen.

Testanforderungen für KI-Systeme im Rahmen digitaler Resilienz

DORA fordert regelmäßige Tests für alle IKT-Systeme. Der AI-Act verlangt explizit Tests für Hochrisiko KI-Systeme über deren gesamten Lebenszyklus hinweg. Eine Kombination aus klassischen Sicherheits- und Belastungstests sowie KI spezifischen Testarten wie Performance- oder Ethik-Tests ist notwendig, um alle Dimensionen eines KI-Systems zu testen. 

Beispiele für erforderliche Testarten

• Tests zur Genauigkeit und Robustheit von KI-Modellen
• Prüfungen möglicher Verzerrungen und Diskriminierungen
• Leistungstests zur Analyse des Verhaltens unter Last
• Überprüfung von Datenqualität, Trainingsdaten und Modellstabilität
• Sicherheitstests, die neue Bedrohungen wie Datenmanipulation oder unerwünschte Modellveränderungen berücksichtigen

Unternehmen sollten ihr bestehendes Testprogramm erweitern, statt separate KI-Testprogramme aufzubauen.

IKT-Drittparteienrisikomanagement und KI-Lieferketten

Im Drittparteienrisikomanagement bestehen nur wenige Synergien zwischen DORA und AI-Act, da sich die risikobasierten Ansätze der beiden Gesetze fundamental unterscheiden. Der AI-Act weist die Verantwortung für die Umsetzung von Anforderungen verschiedenen Rollen in der KI-Lieferkette zu, während DORA die Gesamtverantwortung für IKT-Dienstleistungen beim Finanzinstitut verankert.

Zentrale Anforderungen

• Klare Dokumentation der Rollen - insbesondere, ob das Unternehmen als Anbieter oder Betreiber eines KI-Systems gilt
• Erweiterte Due Diligence und Risikoanalysen für KI spezifische Risiken
• Vertragsgestaltung, die DORA-Anforderungen erfüllt, aber auch die erweiterte Due Diligence und Risikoanalyse um KI-Spezifika berücksichtigt
• Die Berücksichtigung zusätzlicher Szenarien für Exit-Strategien, wie z.B. die Möglichkeit der Aufsichten, KI-Systeme, die nicht dem AI-Act entsprechen temporär vom Markt zu nehmen

Kernergebnisse aus der Analyse

• Mittlere Überschneidung im IKT-Risikomanagement
• Hohe Überschneidung im IKT-Vorfallmanagement
• Mittlere Überschneidung bei dem Testen der digitalen operationalen Resilienz
• Geringe Überschneidung im IKT-Drittparteienrisikomanagement
• Zusätzliche Anforderungen für Hochrisiko KI Systeme, insbesondere Dokumentation, Testverfahren und Governance

Verantwortliche für die Umsetzung von KI-Compliance nach AI-Act und DORA

Die Umsetzung der regulatorischen Anforderungen aus dem AI-Act und aus DORA erfordert klar definierte Verantwortlichkeiten über mehrere Organisationseinheiten hinweg. Beide Regelwerke adressieren unterschiedliche Kontrollfunktionen und verlangen eine konsistente Steuerung entlang des gesamten Lebenszyklus von KI-Systemen.

Zentrale Verantwortungsbereiche im Finanzinstitut

• Die IKT-Risikomanagementfunktion verantwortet KI-Risiken, die als IKT-Risiken eingestuft sind.
• Die Compliance Funktion überwacht die Einhaltung der regulatorischen Anforderungen des AI-Act, insbesondere bei Grundrechtsthemen.
• Die übergreifende Risikomanagementfunktion stellt sicher, dass KI-Risiken im Gesamtrisikomanagement berücksichtigt werden.
• Die erste Verteidigungslinie ist verantwortlich für technische Umsetzung, Dokumentation und operative Kontrollen.
• Die interne Revision prüft, ob Prozesse und Nachweise den regulatorischen Anforderungen entsprechen.

Da der AI-Act zwischen verschiedenen Rollen in der KI-Lieferkette unterscheidet, kann sich die Verantwortung je nach Nutzung oder Weiterentwicklung eines KI-Systems verändern. DORA verfolgt einen anderen Ansatz und ordnet die Gesamtverantwortung stets dem Finanzinstitut zu. Deshalb ist eine eindeutige Governance erforderlich, um Risiken, Pflichten und Meldewege klar zu strukturieren.