Zum Hauptinhalt springen

Digitale Ethik und Vertrauen in Technologien 2023

Welche ethischen Aspekte sind beim Einsatz von generativer KI in Unternehmen zu beachten?

Unter allen neu aufkommenden Technologien wie maschinellem Lernen, Blockchain, Augmented Reality, Quantencomputing oder Robotik hat sich vor allem der Bereich der künstlichen Intelligenz (KI) in rascher Geschwindigkeit zu einem wertvollen Werkzeug im Unternehmenskontext entwickelt. Mit der Entwicklung von Chatbots und anderen generativen KI-Tools hat sich die bisherige KI-Landschaft deutlich gewandelt und neue Räume für digital-ethische Betrachtungen geschaffen. Wie adaptieren Unternehmen generative KI und andere neue Technologien für ihre Geschäftsmodelle, Produkte und Dienstleistungen? Welche Bedenken hinsichtlich der damit aufkommenden digital-ethischen Aspekte haben sie? Um diese und weitere Fragen zu beantworten hat Deloitte weltweit Digitalexpert:innen befragt.

 

Die aktuelle Deloitte-Studie „State of Ethics and Trust in Technology Report – Second Edition” untersucht den Umgang von führenden Unternehmen mit digital-ethischen Fragen im Zusammenhang mit neuen Technologien. Besonderer Fokus liegt in diesem Jahr auf generativen KI-Tools, deren Entwicklung sich im Lauf des vergangenen Jahres rasant beschleunigt hat. Von der Frage, wie generative KI die Nutzungsgewohnheiten digitaler Dienste beeinflussen kann, über das Potenzial für Plagiate, die Verbreitung schädlicher Inhalte und Falschinformationen bis hin zur Anpassung der Arbeitswelt – Unternehmen sehen sich mit neuen digital-ethischen Fragen konfrontiert, die sich aus der breiten Einführung dieser neuen Technologie ergeben. Erfahren Sie hier die Kernergebnisse der Studie in Bezug auf digitale Ethik und generative KI.

Zwischen Chancen und Risiken: Der Balanceakt mit der generativen KI

 

Technologischer Fortschritt ist in vielerlei Hinsicht ein zweischneidiges Schwert, da er neben großen Potenzialen auch Risiken mit sich bringt. So bieten bspw. generative KI-Tools zwar erhebliche Möglichkeiten zur Produktivitätsoptimierung, können aber auch großen Schaden anrichten und letztlich den Ruf eines Unternehmens gefährden. Auch wenn die generative KI zurzeit im Mittelpunkt steht, gibt es bei allen aufkommenden Technologien ein ähnliches Potenzial für Schaden und Nutzen.

Diese Ansicht spiegelt sich auch in den Antworten der an der Umfrage Teilnehmenden wider, die der Meinung waren, dass kognitive Technologien (39%) – zu denen generative KI zählt – das größte Potenzial für das Gemeinwohl haben. Umgekehrt nannten die Befragten eben jene kognitiven Technologien (57%) als Technologien mit dem größten Potenzial für ernsthafte ethische Risiken. Trotz des hohen Risikopotenzials von kognitiven Technologien zeigt sich jedoch auch, dass Unternehmen die Einsatzmöglichkeiten von generativer KI in ihrer Organisation erproben möchten.

Generative KI bereits weit verbreitet

 

Die Stärken der generativen KI ergeben sich aus ihrer Fähigkeit, Aufgaben zu automatisieren, die zuvor nur von Menschen übernommen werden konnten, z. B. in der Text- und Bildgestaltung. Die damit verbundenen Produktivitäts- und Gewinnpotenziale stoßen auf großes Interesse: Obwohl generative KI erst vor weniger als einem Jahr in den Mainstream Einzug gehalten hat, hat sie bereits ihren Einfluss in Bereichen wie Design, Werbe- und Marketingkampagnen, Kundenbetreuung, Personalisierung von Kundenerlebnissen und mehr gezeigt. Entsprechend gaben fast dreiviertel der befragten Digital:expertinnen an, generative KI bereits im Unternehmen zu erproben und weit mehr als die Hälfte haben bereits damit begonnen, generative KI intern einzusetzen. Ein Drittel der Unternehmen gehen bereits so weit, generative KI auch für den externen Gebrauch zu nutzen. 

Ethische Bedenken beim Einsatz generativer KI

 

Trotz der Potenziale und vielerlei Einsatzmöglichkeiten von generativer KI äußerten die Befragten Befürchtungen hinsichtlich der möglichen Nachteile, die sich aus der Nutzung ergeben können. Hier zeigt sich ein unstrukturiertes Bild, da diese Bedenken auf sehr unterschiedlichen Ebenen angesiedelt sind. Sowohl ethische, technische als auch rechtliche Aspekte werden zusammen genannt. So zählen zu den drei meistgenannten Bedenken etwa:

  1. Privatsphäre: Auf maschinellem Lernen basierende Sprachmodelle können versehentlich Informationen aus den Daten offenlegen, die für ihr Training verwendet wurden, und so möglicherweise sensible Daten, einschließlich personenbezogener Daten preisgeben.
  2. Transparenz: Generative KI wird auf Millionen von Datenpunkten und Hunderten von Merkmalen trainiert, was zu technisch komplexen Systemen führt, bei denen oft nicht klar ist, wie die Informationen erzeugt werden. 
  3. Manipulation: Generative KI-Tools sind für ihre Wirksamkeit auf robuste Daten-Trainingssätze angewiesen. Diese Datensätze können von Hackern und anderen Akteuren absichtlich manipuliert oder "verunreinigt" werden, was zur Verbreitung ungenauer Ergebnisse führt. 

Darüber hinaus äußerten die Befragten noch weitere Bedenken bzgl. des geistigen Eigentums und Urheberrecht, KI-Halluzinationen oder der Verdrängung von Arbeitsplätzen. So zeigt diese Studie auf, dass Unternehmen im Umgang mit der Komplexität generativer KI derzeit noch vor großen Herausforderungen stehen und klare Orientierungsrahmen fehlen.

In drei Schritten zu digitaler Ethik und gesteigertem Vertrauen in Technologien

 

Um das komplexe Zusammenspiel von ethischen, rechtlichen und technischen Implikationen des Einsatzes von generativer KI zu durchdringen, benötigen Unternehmen das passende Werkzeug. Wie die Bedenken hinsichtlich der Nutzung von generativer KI bei gleichzeitiger hoher Verbreitung zeigen, ist es notwendig, mit Maßnahmen wie unternehmensspezifischen digital-ethischen Leitlinien für die entwickelten und genutzten Produkte und Dienstleistungen das Vertrauen von Kund:innen und Partnern in die Technologie zu fördern. Obwohl spezifische digital-ethische Leitlinien den fundiertesten Ansatz darstellen, gaben nur 11 Prozent der Befragten an, einen solchen zu verfolgen. Da generative KI und andere neue Technologien in unterschiedlichen Unternehmenskontexten eingesetzt werden, ist es ratsam, einen holistischen Ansatz für deren Einsatz zu wählen, in dem Leitlinien einen Teil weiterer, umfassenderer Maßnahmen bilden. Je nach Reifegrad des Unternehmens – dem digitalen Reifegrad sowie dem Reifegrad in Bezug auf digitale Ethik – lassen sich unterschiedliche Umsetzungsphasen mit unterschiedlichen Fragestellungen definieren, u. a.: 

  1. Explore:
    • Was ist digitale Ethik? Warum ist sie wichtig?
    • Welche Risiken gibt es in Bezug auf (generative) KI?
    • Welche Standards und Regulierungen sind zu beachten?
    • Was sind die größten Bedenken von Stakeholdern (u.a. Mitarbeitende, Kund:innen, Medien, Gesellschaft)? 
  2. Strategize:
    • Was sind Komponenten einer Digitalethik-Strategie?
    • Welche Verantwortungen und Rollen sind zu definieren?
    • Wo ist digitale Ethik organisatorisch zu verankern?
    • Wie ist ein Target Operating Model ausgestaltet?
    • Welche Prozesse und Strukturen sind relevant?
  3. Implement:
    • Wie kann digitale Ethik in Innovations- und Transformationsprozessen Entscheidungshilfe bieten, ohne zusätzliche bürokratische Hürden zu schaffen?
    • Wie kann sichergestellt werden, dass alle Mitarbeitende, unabhängig von ihrer Rolle oder Position, die Prinzipien der digitalen Ethik verstehen und befolgen?
    • Wie können der Einfluss und Impact digitaler Ethik kontrolliert und messbar gemacht werden?
    • Wie können digital-ethische Prinzipien in bestehenden Managementsystemen (wie Nachhaltigkeit, Compliance, Cyber Security) berücksichtigt werden?

Über die Studie

 

Im Rahmen der Studie „State of Ethics and Trust in Technology Report – Second Edition” hat Deloitte basierend auf leitfadengestützten Gesprächen mit 17 Branchenspezialist:innen eine 64 Fragen umfassende Umfrage entwickelt, die den Stand von Ethik und Vertrauen in Technologien untersucht. Weltweit gaben über 1.700 Digital:expertinnen, die aktiv an der Entwicklung, Nutzung oder Verwaltung neuer Technologien beteiligt sind, Einblick in die Art und Weise, wie Unternehmen mit den ethischen Implikationen neu entwickelter Technologien umgehen. 

Noch mehr Fakten und Hintergründe? Laden Sie hier die deutsche Zusammenfassung der Studienergebnisse zu digitaler Ethik und Vertrauen in Technologien 2023 herunter, um mehr zum aktuellen Stand der digital-ethischen Implikationen von neuen Technologien – insbesondere generativer KI – weltweit zu erfahren.

Fanden Sie dies hilfreich?

Vielen Dank für Ihr Feedback

Wenn Sie helfen möchten, Deloitte.com weiter zu verbessern, füllen Sie bitte folgendes aus: 3-min-Umfrage