Künstliche Intelligenz (KI) durchdringt immer mehr Branchen und beeinflusst entscheidend deren Entwicklung und Innovationskraft. Der EU AI Act markiert einen bedeutenden Schritt in der Regulierung von KI innerhalb Europas und legt spezifische Anforderungen und Standards für den Einsatz von KI-Technologien fest. Diese Gesetzgebung zielt darauf ab, ein Gleichgewicht zwischen Innovation und Sicherheit zu schaffen. Besonders relevant ist der EU AI Act etwa für den Automotive-Sektor, da sicherheitsrelevante Bauteile, die mittels KI gesteuert oder beeinflusst werden, einzigartige Herausforderungen und Chancen mit sich bringen.
Der EU AI Act - Das Wichtigste auf einen Blick
Der EU AI Act bietet einheitliche und verbindliche Vorschriften für KI in Europa. Die Gesetzgebung soll die Grundrechte und Sicherheitsinteressen der europäischen Bürger:innen schützen und gleichzeitig die Innovation und Wettbewerbsfähigkeit europäischer Unternehmen beibehalten. Die Verwendung bestimmter KI-Systeme bedingt ein systematisches Risikomanagement und ein umfassendes AI-Governance-Framework. Transparenzpflichten und strenge Konformitätsbewertungen sind zudem notwendig, um die Entwicklung und Nutzung von KI-Systemen zu ermöglichen.
Inakzeptables Risiko (Kapitel II, Art. 5)
Inakzeptable Praktiken sind beispielsweise AI-Anwendungen für Social Scoring, Gesichtserkennung, „Dark Patterns“ und Emotionserkennung am Arbeitsplatz. Alle Praktiken, die als unakzeptables Risiko eingestuft werden, sind laut Kapitel II, Art. 5 des AI Acts verboten. Diese Praktiken weisen das höchste Risiko für die Sicherheit und die Grundrechte der europäischen Bürger:innen auf und dürfen daher nicht eingesetzt werden.
Hochrisiko-Systeme (Kapitel III, Art. 6)
Hochrisiko-AI-Systeme beinhalten beispielsweise Sicherheitskomponenten von Produkten (auch im Bereich Automotive), kritische Infrastruktur, Biometrische Identifizierung, Kreditscore-Bewertung, Anwendungen für Recruiting und Personalmanagement. Hochrisiko-KI-Systeme müssen strengen Konformitätsbewertungen entsprechen, um sicherzustellen, dass sie die gesetzlichen Anforderungen erfüllen. Diese Bewertungen sind entscheidend, um die Sicherheit und Zuverlässigkeit dieser KI-Systeme zu garantieren. Hersteller:innen müssen vor dem Einsatz von solchen Systemen umfassende Prüfungen durchführen.
Begrenztes Risiko (Kapitel IV, Art. 50)
Unter die Kategorie „Systeme mit begrenztem Risiko“ fallen beispielsweise Chatbots, Deepfakes, Emotionserkennungssysteme und biometrische Kategorisierungssysteme. KI-Systeme mit begrenztem Risiko unterliegen Transparenzverpflichtungen. Nutzer:innen müssen klar darüber informiert werden, wenn sie mit einem AI-System interagieren. Diese Offenlegungsverpflichtungen sollen sicherstellen, dass die Anwender:innen fundierte Entscheidungen über die Nutzung solcher Systeme treffen können.
Minimales Risiko (Kapitel X, Art. 95)
Systeme mit minimalem Risiko sind beispielsweise Spamfilter. Für KI-Systeme mit minimalem Risiko gibt es keine verbindlichen gesetzlichen Anforderungen. Hersteller:innen können freiwillige Verhaltensregeln anwenden, um die Verantwortung und den ethischen Einsatz solcher Systeme zu fördern. Diese freiwilligen Maßnahmen können den langfristigen Nutzen und die Effizienz von minimalen Risiko-KI-Systemen unterstützen.
Implikationen für den Automotive-Sektor
Im Automotive-Sektor sind KI-Anwendungen bereits entlang der gesamten Wertschöpfungskette im Einsatz – von den Rohmaterialien bis zum fertigen Fahrzeug und darüber hinaus im After-Sales-Service. Die Einstufung von KI-Systemen als Sicherheitskomponenten und die fallweise Klassifizierung als Hochrisiko-KI-Systeme könnten signifikante Compliance-Auflagen für Hersteller:innen bedeuten.
Sicherheitskomponenten
Stringente Regulierung und Kontrolle bei sicherheitsrelevanten AI-Systemen
Compliance-Anforderungen
Zusätzliche Compliance-Anforderungen bei KI-Systemen mit verpflichtender Konformitätsbewertung
Transparenzverpflichtungen
Verpflichtende Offenlegung auch bei AI-Systemen mit geringerem Risiko
Deloitte-Expertise: Jetzt AI Governance aufrüsten
Angesichts der potenziell hohen finanziellen Strafen und eines möglichen Reputationsschadens bei Nichteinhaltung des EU AI Acts ist es für Unternehmen essenziell, die Compliance-Anforderungen als oberste Priorität zu betrachten. Jetzt ist die Zeit, Ihre AI-Governance, Datenmanagement und GRC-Policies zu testen und geeignete Maßnahmen zur Einhaltung des AI Acts zu implementieren. Deloitte unterstützt Sie dabei, die Implementierungsanforderungen des AI Acts zu meistern und Ihre Innovationsführerschaft im schnell wachsenden KI-Bereich auszubauen, ohne dabei ethische Standards zu verletzen.