Der Einsatz von KI in Unternehmen nimmt bereits seit geraumer Zeit zu, sowohl in der Breite als auch in der Tiefe der Anwendungsfälle. Dieser Trend wurde zuletzt durch das wachsende Angebot an generativen KI-Tools verstärkt. Während dies auf der einen Seite zu enormen Potenzialen für die Unternehmen führt, erhöht es gleichzeitig auch das Risiko, ein KI-System zu verwenden, das in Teilen zu unethischen und unangemessen Ergebnissen führt. Zukünftig wird die Interaktion zwischen Mensch und KI weiter zunehmen, sodass es unerlässlich ist, den komplexen ethischen Herausforderungen von KI umfassend zu begegnen.
Von KI-Systemen wird zurecht erwartet, dass sie den vorherrschenden sozialen Normen und ethischen Grundsätzen entsprechen. Dass sie zu fairen Entscheidungen führen, die konsistent, transparent, erklärbar und unvoreingenommen sind. Dabei ist es selbstverständlich nicht immer offensichtlich, was ethisch und sozial akzeptabel ist - selbst für das menschliche Auge. Systematische Verzerrungen und Vorurteile bleiben daher eine schwierige Herausforderung für unsere Gesellschaft im Allgemeinen. Durch den Einsatz von KI vergrößern sich diese Probleme jedoch exponentiell.
Heutigen „schwachen“ KI-Anwendungen fehlt der Aspekt allgemeiner Intelligenz, der erforderlich ist, um komplexe soziale Normen eigenständig zu verstehen und zu respektieren. Dies kann zu Ergebnissen der KI-Nutzung führen, die technisch korrekt, aber gesellschaftlich inakzeptabel sind.
Eine naheliegende Lösung für den digital ethischen Einsatz von KI ist die Schaffung einer fachspezifischen Stelle. Mit Blick auf die aufkommenden Herausforderungen im Umgang mit KI wird jedoch schnell deutlich, dass dies zukünftig nicht ausreichen wird:
Eine ähnliche Situation ließ sich in den letzten Jahren im Bereich Data Science und Analytics beobachten: Viele Unternehmen haben mit allen Mitteln nach Data Scientists gesucht. Dabei waren die Anforderungen an diese Rollen ebenso facettenreich, wie dies im Bereich der Operationalisierung von KI-Ethik der Fall ist: Meist wurde eine vielfältige Mischung aus technischen und fachlichen Fähigkeiten gesucht, die kaum in einer einzelnen Person zu finden waren. Obwohl sich viele Organisationen der Notwendigkeit von Data Scientists angesichts der wachsenden Bedeutung von Daten und deren Analyse bewusst waren, scheiterten sie in der Praxis doch in der Regel an unspezifischen und unrealistischen Erwartungen. Diesem Problem ist mit einer koordinierten Teamlösung begegnet worden: Anstatt die Anforderungen und Erwartungen einer Person aufzubürden, finden sich heute diverse Teams in Data-Science-Projekten, in denen Fachleute einzelne Spezialbereiche besetzen, wie zum Beispiel Data Engineering, Maschinelles Lernen oder DevOps.
In dem Moment, in dem KI zu einem strategischen Wettbewerbsvorteil werden soll, muss sich jede Person, die in das Thema KI involviert ist, der Verantwortung für die digital-ethischen Implikationen bewusst sein. Es kann durchaus notwendig sein, eine Position rein formell für die Betrachtung von KI-Ethik verantwortlich zu machen. Allerdings sollte diese nur ein Element in einem großen Netz an KI-Ethik-Maßnahmen darstellen, die als Teil einer umfassenderen KI-Ethik-Strategie zu verstehen sind. Wie an vielen anderen Stellen ist Teamwork der Schlüssel zum Erfolg.
Eine der Hauptaufgaben eines mit KI-Ethik beauftragten Teams wäre es, die technische Herangehensweise an KI zu verbessern, indem es ethische und soziale Perspektiven in das Design, die Entwicklung und den Einsatz von KI-Systemen einbringt. Außerdem steht die Beratung zu ethischen KI-Praktiken, der Schutz vor unbeabsichtigten Folgen des KI-Einsatzes sowie die Sicherstellung der Verantwortlichkeit für KI-bezogene Entscheidungen und Handlungen im Vordergrund. Auch der Aufbau einer verlässlichen Governance ist unerlässlich.
Die Erfüllung dieser Aufgaben erfordert ein breites Spektrum an Fachwissen und Fähigkeiten, die ein entsprechendes Team in sich vereinen sollte. Dazu zählen u.a.:
Auch wenn es von Organisation zu Organisation unterschiedlich sein kann, wie und mit welchen Rollen genau den Herausforderungen der KI-Ethik begegnet wird: Die Tatsache, dass KI immer stärker die Grundlage zukünftiger Geschäftsmodelle und -prozesse bildet und ihre Verwendung daher digital-ethischen Prinzipien folgen muss, ist kaum zu leugnen. Die Zeit, Teams für KI-Ethik aufzubauen, ist jetzt.
Wollen Sie mehr über KI-Ethik erfahren und wie sie diese in Ihrem Unternehmen berücksichtigen können? Kontaktieren Sie uns oder laden Sie sich die komplette Publikation (in Englisch) mit weiteren Informationen und Hinweisen hier herunter.