IDW PS 861 zur Prüfung von künstlicher Intelligenz 

Warum braucht es den IDW PS 861?

Die rasante technologische Entwicklung führt zu einem enormen Anstieg des Einsatzes künstlicher Intelligenz (KI). Die Nutzung von KI-Systemen bietet viele Chancen, es entstehen aber auch neue Risiken. Besonders die Frage nach der Beurteilung der Verlässlichkeit der KI steht im Fokus.

Gleichzeitig gibt es bisher noch kein einheitliches Regelwerk zur Beurteilung der Verlässlichkeit der KI, mit denen Unternehmen sicherstellen können, zukünftige regulatorische Anforderungen bei der Entwicklung, Einführung und Nutzung von KI-Systemen zu erfüllen. Vielmehr gibt es eine Vielzahl von Frameworks und Whitepapers zur Prüfung von KI-Systemen, die sich teils inhaltlich unterscheiden oder auch nur bestimmte Teilbereiche abdecken.

Aus diesem Grund hat das Institut der Wirtschaftsprüfer (IDW) den Prüfungsstandard PS 861 zur Prüfung von KI-Systemen entwickelt. Dieser ist ein einheitliches Rahmenwerk, um Unternehmen und Prüfer verlässliche Kriterien und Maßnahmen zur Prüfung eines KI-Systems an die Hand zu geben.

Was ändert sich durch den IDW PS 861?

Bereits heute müssen KI-Systeme je nach Nutzung unterschiedliche Anforderungskriterien erfüllen (wie z.B. Erklärbarkeit, Nachvollziehbarkeit von Entscheidungen). Um sowohl die Prüfung von KI-Systemen als auch die Anforderungskriterien zu standardisieren, hat das IDW mit dem PS 861 einen allgemeingültigen Anforderungs- und Prüfkatalog vorgelegt. Durch dessen Anwendung können die gesetzlichen Vertreter im Unternehmen sicherstellen, ihrer Aufsichts- und Managementverantwortung nachzukommen, um mögliche Risiken aus der Nutzung von KI-Systemen zu minimieren.

Was zeichnet den IDW PS 861 aus?

Der PS 861 ist ein freiwillig anzuwendender Standard. Ein Prüfbericht erfolgt auf Grundlage des ISAE 3000 (Revised). Gegenstand der Prüfung ist die Beschreibung des KI-Systems einschließlich der Erklärung der gesetzlichen Vertreter des Unternehmens. Ziel der Prüfung ist es festzustellen, ob das KI-System die dem Prüfungsstandard zugrundeliegenden Kriterien einhält und entsprechende Maßnahmen implementiert sind.

Die zugrunde liegenden Kriterien umfassen:

1. Ethische und rechtliche Anforderungen für künstliche Intelligenz
   Das Kriterium zielt darauf ab, die Entwicklung, Einführung und Nutzung von KI so zu gestalten, dass sie mit ethisch unabdingbaren Werten des Unternehmens sowie gesetzlichen und regulatorischen Vorschriften im Einklang steht. Diese umfassen mindestens menschliche Autonomie sowie Fairness und Nichtdiskriminierung. 
2. Nachvollziehbarkeit
   Nachvollziehbarkeit bedeutet, dass das Unternehmen in der Lage ist, Entscheidungen des KI-Systems nachvollziehbar darzulegen. Hierzu gehören die Transparenz und Erklärbarkeit der genutzten Daten und KI-Algorithmen bzw. KI-Modelle. Transparenz bezieht sich auf die Bereitstellung von Informationen, d.h. die Datensätze und Prozessschritte, die zu der Entscheidung geführt haben, müssen nachvollziehbar dokumentiert werden. Erklärbarkeit bezieht sich auf die Möglichkeit, sowohl die Daten und die Modelle eines KI-Systems als auch die darauf basierenden Entscheidungen für den Anwender verständlich zu machen.
3. IT-Sicherheit
   KI-Systeme haben Anforderungen an die IT-Sicherheit einzuhalten - wie auch bisher für klassische IT-Systeme in den einschlägigen Standards definiert. Dazu zählen: Vertraulichkeit, Integrität, Verfügbarkeit, Autorisierung, Authentizität, Verbindlichkeit. Darüber hinaus gilt es besondere Spezifika von KI-Systemen zu berücksichtigen.
4. Leistungsfähigkeit
   Unter Leistungsfähigkeit wird verstanden, inwieweit das KI-System aufgrund interner Betriebspraktiken oder der Technologie in der Lage ist, den vom Unternehmen definierten Anforderungen zu entsprechen. 

Zur Prüfung von KI-Systemen nach PS861 bieten wir über unser Algorithm Assurance Services entsprechende Unterstützung an. 

Wir gehen davon aus, dass sich der PS 861, als anerkannter Standard zur Prüfung von KI-Systemen etablieren wird.

Damit steht aus regulatorischer Sicht ein Rahmenwerk zur Verfügung, an dem sich die Unternehmen wie auch Prüfer orientieren können, um einen Compliance-konformen Einsatz von KI-Systemen zu gewährleisten.

Kommen Sie gerne auf uns zu, wenn Sie Fragen zu den Implikationen und der Anwendung des PS 861 für Ihr Unternehmen haben.