Úloha správy umělé inteligence při provádění aktu o umělé inteligenci
Proč by měl být regulační rámec EU pro umělou inteligenci považován za obchodní příležitost a nejen za další regulační zátěž?
Akt o umělé inteligenci je stále relativně novým právním nástrojem v regulační agendě EU. Už teď jsme ale svědky toho, jak mění způsob, jakým podniky přemýšlejí o technologiích a regulaci. Akt o umělé inteligenci ve skutečnosti není pouze produktem akademického myšlení, ale je založen na standardech a osvědčených postupech určených především k podpoře obchodních potřeb. Poučením z vysoce regulovaných odvětví, jako jsou finanční služby, energetika nebo kritická infrastruktura, je to, že zákon o umělé inteligenci může být vnímán nejen jako další regulační překážka pro podnikání, ale také jako příležitost nahlížet na technologie z jiného úhlu než dříve.
Zavádění nových technologií vždy představuje pro podniky výzvu – i samotný proces implementace se může ukázat jako časově zdlouhavý, finančně nákladný a náročný z hlediska organizačních kapacit. Každá fáze – od výběru přes implementaci až po samotné využívání nových řešení – s sebou nese řadu rizik. Technologie umělé inteligence navíc přinášejí další specifické výzvy, které je nutné zohlednit při plánování a řízení projektu.
Jedním z hlavních příkladů je správa dodržování předpisů v oblasti dat. Překvapivě spoustu firem stále přemýšlí o datech především v souvislosti s osobními údaji. Ochrana osobních údajů a riziko jejich neoprávněného využití pro trénování modelů zůstávají klíčovým problémem při zavádění umělé inteligence v podnikové praxi. Často je to GDPR (nikoli zákon o umělé inteligenci), které působí jako hlavní překážka při nasazení umělé inteligence. V praxi jde dodržování předpisů o ochraně osobních údajů nad rámec GDPR a vyžaduje, aby podniky zajistily, že data používaná pro trénování modelů AI budou relevantní, dostatečně reprezentativní a bezchybná. Měla by brát v úvahu např. konkrétní geografické, kontextové, behaviorální nebo funkční prostředí, v němž má být vysoce rizikový systém UI používán.
Správné přidělování rolí na základě skutečných kompetencí je v procesu implementace aktu o UI zásadní. Odborníci odpovědní za ochranu dat nemusí být vždy dostatečně připraveni posoudit, zda vstupní data splňují požadavky stanovené zákonem o umělé inteligenci – například z hlediska jejich relevance pro cíle daného AI řešení. Na druhou stranu mohou majitelé firem potřebovat další pomoc při zajišťování toho, aby osobní údaje mohly být použity pro procesy strojového učení nebo při nastavování správných formátů a struktury dat.
Při implementaci zákona o umělé inteligenci není definování smysluplných pravidel a rolí v oblasti správy dat jen formalitou nebo zaškrtnutím další položky na seznamu úkolů. Dobře nastavená správa dat nás může ochránit před nepříjemnými dopady – například diskriminací spotřebitelů v důsledku zkreslených výstupů nebo chybnými obchodními rozhodnutími vycházejícími z mylných předpokladů o skutečné logice fungování použitého modelu umělé inteligence. V širším kontextu se správa dat nejeví jako obtížná regulační povinnost, ale spíše jako obchodní přínos, že?
Integrace procesů a jasné rozdělení rolí umožňují efektivně využít interní kompetence a nastavit plynulé schvalovací postupy pro nové projekty. I proto stále více podniků vnímá zákon o umělé inteligenci nejen jako regulační omezení, ale také jako příležitost k revizi interních procesů – a k tomu, aby se digitální transformace stala skutečným akcelerátorem obchodních inovací i úspěšného nasazení AI.
Naše zkušenosti z realizovaných projektů ukazují, že AI Act a AI Governance jsou neodmyslitelně propojeny a jejich vztah je založen na čtyřech základních principech:
1. Bez efektivního řízení umělé inteligence zůstane dodržování předpisů jen „na papíře“
AI Governance je zásadním nástrojem pro zajištění skutečného souladu s legislativními požadavky a technickými normami. A ačkoliv se požadavky často zdají být přehnané, AI Governance zůstává zásadním krokem.
2. Dobrá správa umělé inteligence něco stojí
Zavedení AI Governance často vyžaduje specifické úsilí, které se může zdát nadbytečné – zejména proto, že legislativa cílí i na velmi komplexní scénáře. Tato opatření jsou však klíčová pro zajištění souladu a prevenci budoucích problémů.
3. Úspěšné řízení AI vyžaduje zapojení celé organizace
Implementace efektivního řízení umělé inteligence vyžaduje zapojení celé organizace, nikoli pouze jedné funkce. Rizika a dopady spojené s AI se dotýkají různých oddělení a procesů napříč organizací. Jednotný a koordinovaný přístup je proto zásadní.
4. Dobré řízení otevírá prostor pro inovace a urychluje nasazení AI v praxi
Kvalitní AI Governance umožňuje rychle a systematicky identifikovat a řídit rizika. Díky jasně definovaným rolím a odpovědnostem odstraňuje zbytečné prodlevy a zvyšuje celkovou efektivitu
