Algorithm Assurance

Der Einfluss Algorithmus-basierter Technologien und künstlicher Intelligenz ist bereits in vielen Branchen allgegenwärtig: Egal, ob es sich nur um eine Suchanfrage im Internet handelt oder um komplexe Vorhersagemodelle. So werden z. B. in der Energiewirtschaft die zukünftige Entwicklung von Strompreisen oder in der Finanzwirtschaft Kreditausfallrisiken und Einstufungen von Kunden mittels KI-gestützter Systeme durchgeführt. Schon jetzt werden bereits autonome Entscheidungen durch KI getroffen. Daraus ergeben sich neue Risiken für die Unternehmensführung und Aufsichtsorgane. Diese zu adressieren bedarf es neue, auf die Spezifika von KI abgestimmte Maßnahmen. Mit unserem Algorithm Assurance Framework prüfen wir die bei Ihnen eingerichteten Maßnahmen, die diese Risiken adressieren und schaffen damit für Ihr Unternehmen und Ihre Stakeholder Vertrauen in und Sicherheit bei der Nutzung von KI und komplexen Algorithmen in Ihren Geschäftsprozessen.

Risiken bei Verwendung von Algorithmen und KI

Durch den Einsatz von KI und Algorithmen entstehen nicht nur Risiken für Unternehmen, die diese Systeme entwickeln oder nutzen, sondern auch für Nutzer:innen und Personen, die von Entscheidungen dieser Systeme direkt oder auch indirekt betroffen sind. 

In der aktuellen KI-Studie von Deloitte wird der Mangel an Transparenz bei KI-Entscheidungen als größtes Risiko im KI-Kontext in Deutschland erkannt. Weiter führt die Studie als Defizite die Sicherheit hinsichtlich KI-basierter Systeme oder die mögliche Diskriminierung durch KI-Algorithmen an. 

Werden diese Risiken nicht ausreichend adressiert, kann dies für Unternehmen weitreichende Konsequenzen nach sich ziehen, von Vertrauensverluste über Reputationsschäden bis hin zu Strafzahlungen, die allesamt zu erheblichen finanziellen Verlusten führen können.

Darüber hinaus wird momentan an verschiedenen Stellen hinsichtlich der Reglementierung und regulatorischen Anforderungen beim Einsatz von KI und Algorithmen gearbeitet. Mit dem Proposal zum EU Artificial Intelligence Act schlägt die Europäische Kommission erstmals einen rechtlichen Rahmen für die Erstellung, Inbetriebnahme und Nutzung von KI-Systemen vor und adressiert dabei vor allem ethische Risiken von künstlicher Intelligenz. 

Algorithmen und KI: Die Notwendigkeit von robusten Governance & Kontrollstrukturen

Ein robuster Kontrollrahmen für Algorithmen ist fundamental für das Risikomanagement und sollte Schlüsselbereiche wie Governance, Algorithm pre-, post- and go-live testing, Daten, Modelle sowie spezifische Kontrollen für wesentliche Risiken überwachen und abdecken.

Fragen, die Sie sich für Ihr Unternehmen in diesem Zusammenhang stellen müssen, sind unter anderem:

• Kennen Sie die bei Ihnen eingesetzten Algorithmen, die zu potenziellen Risiken für Ihr Unternhemen führen können?
• Wie ist gewährleistet, dass die verwendeten Algorithmen die Aufgaben, für die sie programmiert sind, auch unter unerwarteten Bedingungen erfüllen?
• Können Sie sicher sein, dass die verwendeten Algorithmen nicht zu unerwarteten und ungewollten Ergebnissen und Handlungen führen?
• Wie haben Sie sichergestellt, dass die verwendeten Algorithmen Kunden, Lieferanten, Mitarbeiter und andere Stakeholder einheitlich, fair und transparent behandeln? 
• Können Sie den Weg transparent nachvollziehen, wie Ihr Algorithmus oder Ihre KI zu bestimmten Ergebnissen kommt?
• Bestehen bei Ihnen ausreichende Kontrollen, um die Risiken zu managen, die aus der Anwendung von Algorithmen und KI entstehen können?

Um die genannten Risiken zu minimieren und sicherzustellen, müssen die verwendeten Algorithmen die Kriterien an einen vertrauenswürdigen Einsatz von KI erfüllen.

Was sind die Anforderungen an eine vertrauenswürdige Nutzung?

Vertrauen in Ihre Algorithmen und KI-Systeme ist ein essentieller Bestandteil bei der Nutzung dieser Technologien. Die folgenden Kriterien müssen hierfür erfüllt sein:

• Erklärbarkeit für die Transparenz der Entscheidungen

• Fairness und Nichtdiskriminierung von Entscheidungen, um die Unvoreingenommenheit der KI zu gewährleisten

• Einhaltung gesetzlicher Vorschriften und Zuordnung der Verantwortlichkeit, um juristische Risiken zu vermeiden

• Resilienz und Robustheit, um gegenüber Eingriffen von Unbefugten gewappnet zu sein und um konsistente und verlässliche Entscheidungen der KI zu garantieren

• Performanz, damit die KI weiterhin zur Erreichung des ursprünglichen Unternehmensziels beiträgt

• Vertraulicher Umgang mit Daten, damit das Vertrauen der Kunden, Lieferanten und anderer Stakeholder nicht gefährdet wird

Vertrauen und Sicherheit mit Algorithm Assurance von Deloitte

Deloitte unterstützt Sie bei diesen komplexen Herausforderungen. Dabei beschränken wir uns nicht nur auf die reine technische Sicht, sondern untersuchen Ihr System ganzheitlich. Dazu gehören insbesondere:

• Governance & Internes Kontrollsystem: Überprüfung und Weiterentwicklung der Governance Strukturen und des Internen Kontrollsystems um KI- und Algorithmusspezifische Maßnahmen und Kontrollziele sowie die Prüfung der Überwachungsprozesse zur rechtzeitigen Erkennung unbeabsichtigter oder falscher Entscheidungen von KI und Algorithmen.
• Algorithmus, Modell und Daten: Überprüfung der Verfahren und Anwendung hinsichtlich Entwicklung, Trainingsdaten- und Modellmanagement, Testing & Deployment. Beurteilung und Unterstützung zur Sicherstellung der Nachvollziehbarkeit von Modellen und Entscheidungen („Explainable AI“).

Unsere Teams, bestehend aus Spezialist:innen der unterschiedlichen Fachbereiche, helfen Ihnen dabei, die für Ihr Unternehmen resultierenden Risiken aus dem Einsatz von KI und Algorithmen einzuschätzen und zu mitigieren.

Mit unserer langjährigen Expertise zu Prozessen, Technologien, Modellen und Daten finden wir den für Sie besten Weg, um Ihnen die Gewissheit zu geben, dass Ihre Algorithmen robust sind, wie beabsichtigt funktionieren und das Ergebnis erreichen, für das sie entwickelt wurden.

Algorithm Assurance schafft für Sie und Ihre Stakeholder Transparenz und Vertrauen in Ihre KI-Systeme und Algorithmen.