Spoľahlivá AI
Umelá inteligencia (AI) sa stala jednou z kľúčových technológií tohto storočia a zohráva čoraz dôležitejšiu úlohu pri riešení výziev, ktorým čelíme. AI ovplyvní náš každodenný život vo všetkých odvetviach hospodárstva. Aby sme však využili potenciál AI, musíme byť pripravení dôverovať jej výsledkom. Potrebujeme modely AI, ktoré spĺňajú množstvo kritérií, a tak si získajú našu dôveru.
Čo robí AI dôveryhodnou?
Umelá inteligencia (AI) už dlho fascinuje informatikov aj verejnosť už od vzniku tohto termínu v 50. rokoch minulého storočia. Odvtedy strašenie umelou inteligenciou ustúpilo realistickému pohľadu: AI je sofistikovaná technológia s potenciálom poskytnúť významné ekonomické, vedecké a spoločenské prínosy. Je to nesmierne účinný nástroj so širokým potenciálom. V priebehu nasledujúcich 10 rokov odborníci očakávajú, že celosvetový ekonomický dopad AI bude medzi 12 a 16 miliardami dolárov.
Je čas na dôveryhodnú AI
Správne implementovaná AI nám umožňuje stať sa štíhlejšími a rýchlejšími, inteligentnejšími a personalizovanejšími. S AI môžeme skúmať dáta a učiť sa z nich rýchlejšie ako kedykoľvek predtým. Správna implementácia nie je automatická, ale vyžaduje si zručnosti, skúsenosti a disciplínu. Súbory nástrojov s otvoreným zdrojovým kódom účinne „demokratizovali“ vývoj softvéru a viedli k rýchlemu šíreniu nástrojov založených na AI – od odborníkov aj od inovátorov. Táto dynamika prináša príležitosti aj riziká. Napríklad modely umelej inteligencie možno jednoducho pretrénovať na nových dátach, aby boli relevantné a aktuálne.
Na druhej strane sa však kvalita modelov značne líši a použitie môže byť otázne. Samotné modely AI nemajú zodpovednosť za chybné výsledky. To znamená výzvy pri spravovaní, ktoré si uvedomujú výskumníci, odborníci z praxe, lídri podnikov a regulačné orgány. Regulácia AI, ako ju navrhuje Európska komisia (pozri vložený text), tieto riziká uznáva. Rieši potrebu kvality dát, transparentnosti, spravodlivosti, bezpečnosti, robustnosti a predovšetkým etiky pri používaní AI. Nariadenie sa zameriava na „čo“, ale naším cieľom je viesť vás k tomu, „ako“.
Stiahnuť PDF
Akt EÚ o umelej inteligencii
Implementácia AI/ML do procesov spravovania podniku
Riadenie rizík modelu AI/ML
Digitálne / AI kontroly / algoritmy (DAICA)
Opens in new window
Relevantné pre celý životný cyklus
Stratégia
Stanovte podnikové ciele alebo hodnoty... meradlo, podľa ktorého sa budú posudzovať tímy, produkty, služby, procesy a nástroje. Zabezpečte riadne spravovanie a kontrolu infraštruktúry. Realizujte nápady, ktoré sú v súlade so strategickými cieľmi a základnými hodnotami.
Budovanie
Definujte ciele, vymedzte rozsah, identifikujte obmedzenia, posúďte realizovateľnosť a riziko. Spojte vývojárov so zainteresovanými stranami, stanovte základnú architektúru, funkcie, spresnite požiadavky na dáta, rešpektujte zrozumiteľnosť, spravodlivosť a ochranu súkromia.
Opens in new window
Integrácia
Riešenie vychádza z osvedčených postupov a produktov. Musíte myslieť na nové veci, ako napríklad spoľahlivosť prevádzky, vyvažovanie výkonu a škálovateľnosť, dátové rozhrania a kompatibilitu s inými systémami v ekosystéme, ako aj obranu proti kybernetickým útokom. Všetko musí byť funkčné a odolné voči prevádzkovým stresom a scenárom.
Uistenie
Overenie podľa výkonnostných kritérií – presnosť, spravodlivosť, transparentnosť a pod. Testovanie spoľahlivosti a reprodukovateľnosti, spochybňovanie rozhodnutí o dizajne. Pravidelné preškolenie na plnenie očakávaní výkonu a ochranu pred neaktuálnosťou modelu, testovanie kontrol na obmedzenie dôsledkov možných zlyhaní.
Opens in new window
