Etikk, styring og tillit
KI-buzzwords
Etikk, styring og tillit er grunnpilarer for ansvarlig bruk av kunstig intelligens (KI). Vi ser på hvordan organisasjoner kan ta i bruk KI på en trygg, rettferdig og transparent måte. Vi tydeliggjør også forskjellen mellom sentrale begreper som ansvarlig KI, etisk KI, forklarbar KI og KI‑governance, slik at du får et klart bilde av hva som faktisk kreves for å bygge tillit rundt teknologien.
Gå til hovedartikkel
AI Act (EU) / KI-forordningen
KI-forordningen er en rettsakt fra EU som setter regler og bestemmelser for bruk av KI i den europeiske union. Forordningen begrenser overvåkning av mennesker og har som hensikt å beskytte sårbare personer mot ondsinnet og utnyttende bruk av KI. Regelverket er et eksempel på KI-governance i praksis og setter retningslinjer med mål om å sikre at KI-systemer blir implementert på en trygg og etisk måte. KI-forordningen vil bli inkorporert i norsk rett som «KI-loven», forordningen vil håndheves av Nkom.
Sovereign KI
Sovereign KI refererer til KI-systemer som kontrolleres og styres innenfor et bestemt land, region eller organisasjon. Det sikrer overholdelse av lokale regler, beskytter data sikkerheten og støtter nasjonal innovasjon. Det er viktig for organisasjoner å sikre at KI som skal implementeres er i samsvar med lover og regler i de landene der de opererer og distribueres.
KI-governance
KI-governance refererer til prosesser, standarder og retningslinjer som bidrar til å sikre at KI-systemer og verktøy er trygge og etiske. Dette er ofte i form av et rammeverk som leder KI forskning, utvikling og anvendelse for så å sikre trygghet og rettferdighet for menneskerettigheter. KI-governance bør alltid vurderes når man skal implementere nye eller jobber med eksisterende KI-løsninger. KI-governance handler ikke bare om å minimere risiko knyttet til implementering av KI, men også om å skape trygghet og selvtillit som kan bidra til å skape innovasjon.
Responsible AI / Ansvarlig KI
Ansvarlig KI er et sett prinsipper som hjelper med å styre design, utvikling, implementering og bruk av KI, og bygger tillit til KI-løsninger, noe som har potensialet til å styrke organisasjoner. Selv om dette er nært knyttet til KI-governance, er ansvarlig KI mer praksiser og prinsipper som er satt på plass for å sikre en utvikling av KI som både er etisk og samfunnsnyttig. Mens KI-governance baseres på lover og regler, er ansvarlig KI en filosofi grunnlagt på etikk og rettigheter, med større fokus på forskning og utvikling.
Ethical AI / Etisk KI
Etisk KI er et tverrfaglig felt som studerer hvordan man kan optimalisere den positive effekten av KI, samtidig som man reduserer risiko og negative konsekvenser. Etisk KI overlapper både med ansvarlig KI og KI-governance, men er et begrep som brukes om de mer etiske spørsmålene knyttet til KI. Det omfatter også etiske spørsmål rundt KI-ens egen etikk og avgjørelser, for eksempel: Skal en agent alltid informere mennesker om at du ikke kommuniserer med et menneske? Skal det være tillatt å gi misvisende informasjon hvis det anses som fordelaktig? Skal en KI kunne stole på mennesker og ta beslutninger som har stor påvirkning på et liv?
Explainable AI (XAI) / Forklarbar KI
(Ikke å forveksle med xAI, selskapet bak Grok).
Forklarbar KI er en type kunstig intelligens som er utviklet for å gjøre sine beslutninger og prosesser lettere for mennesker å forstå. Forklarbar KI bidrar til å bygge tillit ved å gjøre beslutninger tatt av KI mer transparente og enklere å forstå. XAI gjør det også mulig for brukere å enkelt oppdage og redusere feil eller mangler i KI-resultatene.
Trustworthy AI / Pålitelig KI
Pålitelig KI refererer til KI-systemer som er forklarbare, rettferdige, tolkbare, robuste, transparente, trygge og sikre. Disse egenskapene skaper tillit og trygghet til KI-systemet.
AI Washing
AI washing kan oversettes til KI-vasking og skjer når et selskap falskt hevder at de bruker KI for å forbedre sine produkter eller tjenester. Denne villedende praksisen kan potensielt skade tilliten kundene har til organisasjonen.
Shadow AI / Skygge-KI
Skygge-KI er uoffisiell bruk av KI-verktøy inne i en organisasjon uten godkjenning fra IT. Dette kan føre til risikoer som lekkasje av sensitiv informasjon dersom ansatte legger inn konfidensiell informasjon i uautoriserte KI-løsninger.
Human-In-The-Loop (HITL)
HITL refererer til et system eller en prosess hvor et menneske aktivt deltar i drift, overvåkning eller beslutningstaking i et automatisert system. I KI-sammenheng betyr HITL at mennesker involveres i KI-arbeidsflyten for å sikre nøyaktighet, sikkerhet, ansvarlighet og etisk beslutningstaking.
Denne artikkelen har introdusert sentrale begreper knyttet til KI. Vi vil fortsette å oppdatere listen etter hvert som nye buzzwords og konsepter dukker opp, slik at du alltid får tilgang til enkle og forståelige beskrivelser av relativt komplekse begreper.
Ønsker du å vite mer om vår KI-ekspertise i Deloitte så kan du lese mer her, eller ta kontakt med oss direkte.
Se også våre andre artikler:
