Deloitte: Generativní AI čelí výzvám v oblasti rizik a práce s daty, ukazuje nová studie Deloitte

Praha, 12. září 2024 - Navzdory rostoucím investicím a počátečnímu nadšení zůstávají správa rizik a práce s daty klíčovými výzvami pro širší využívání generativní umělé inteligence (GenAI). Třetí čtvrtletní zpráva Deloitte AI Institute™ o stavu generativní AI ve firmách ukazuje, že dvě třetiny organizací (67 %) zvyšují investice do GenAI díky jejímu prokázanému potenciálu. Zpráva však také zdůrazňuje, že překážky, jako jsou problémy s daty a řízením rizik, brání plnému rozvoji a tlumí nadšení vedoucích pracovníků. Ukazuje se, že pro pokračující investice bude klíčové prokázat hodnotu nasazení GenAI a překonat výzvy spojené s jejím efektivním začleněním do organizačních struktur.

Deloitte AI Institute™ zveřejnilo třetí čtvrtletní vydání své zprávy o stavu generativní umělé inteligence ve firmách. Ta přináší přehled o aktuálním stavu zavádění a využívání GenAI a odhaluje, jak organizace překonávají překážky a dosahují měřitelných výsledků s pomocí této technologie. Zpráva s názvem „Stav generativní AI ve firmách“ vychází z průzkumu mezi 2 770 respondenty na úrovni ředitelů a vedoucích pracovníků ve 14 zemích. Ačkoli uvádějí respondenti různou úroveň znalostí generativní AI, mají všichni s touto technologií zkušenosti a aktivně ji testují nebo zavádějí ve svých organizacích.

Klíčové pasáže ze zprávy

„S tím, jak se začínají projevovat přínosy z prvních úspěšných experimentů a případů použití, začíná klíčové období pro generativní umělou inteligenci, kdy se budou srovnávat vysoká očekávání ze strany vedoucích pracovníků, s výzvami, jako jsou zajištění kvality dat, řízení investičních nákladů, efektivní měření výsledků a přizpůsobení se měnícímu se regulačnímu prostředí. Průzkum za 3. čtvrtletí ukazuje, že pro překonání těchto překážek a plné využití potenciálu generativní AI je nyní klíčové efektivní řízení změn a hluboká integrace této technologie do struktur organizací,“ uvádí Jim Rowan, ředitel a lídr oddělení aplikované umělé inteligence společnosti Deloitte Consulting LLP.

„Nadále vidíme nadšení pro GenAI napříč organizacemi a lídři z této technologie dokáží těžit maximum díky zapojení do důležitých byznysových funkcí a procesů. Náš průzkum ukazuje, že hlavní výhody GenAI dalece přesahují pouhé zvýšení efektivity, produktivity a snížení nákladů. Více než polovina respondentů zdůrazňuje přínosy, jako jsou větší míra inovací, zlepšení produktů a služeb nebo posílení vztahů se zákazníky. Široké spektrum oblastí, ve kterých má GenAI přínos, dokazuje obrovský potenciál a všestrannost této transformativní technologie,“ říká Costi Perricos, vedoucí oddělení generativní umělé inteligence Deloitte Global.

Nadšení tlumí realita – a k úspěšnému rozšiřování povedou měřitelné příklady využití

Podle průzkumu vedoucí pracovníci a členové správních rad se nadále vkládají do GenAI naděje, přistupují k ní však nyní s větší obezřetností. Zájem zůstává „vysoký“ nebo „velmi vysoký“ u 63 % vrcholných manažerů a 53 % členů vedení. Tato čísla však od studie z 1. čtvrtletí klesla, a to o 11 procentních bodů u manažerů a o 8 bodů u vedení společností. Ačkoli je cílem zvolit a rychle vyvinout projekty GenAI s nejvyšším potenciálem, mnoho iniciativ stále zůstává ve fázi pilotních projektů nebo testování. Většina (68 %) respondentů dosud uvedla do praxe nejvýše 30 % svých pokusů o využití GenAI. 

Vedoucí pracovníci se zaměřují na správu životního cyklu dat jako základ pro nasazení GenAI

Data se stávají stěžejním tématem pro lídry, kteří se věnují umělé inteligenci, přičemž 75 % organizací zvyšuje své investice do správy dat v souvislosti s využíváním GenAI. Nicméně, jak se organizace snaží rozšířit používání GenAI, objevují se nečekané překážky – problémy spojené s daty vedly 55 % dotazovaných organizací k tomu, že se vyhnuly některým případům použití GenAI. Řešení nedostatků v oblasti dat se ukazuje jako klíčový krok pro splnění specifických požadavků GenAI na správu dat. Organizace proto posilují zabezpečení dat (54 %), zlepšují postupy pro zajištění kvality dat (48 %) a aktualizují rámce pro správu dat nebo vytvářejí nové datové politiky (45 %).

Problémy s důvěrou a měnící se regulační prostředí vedou mnohé k tomu, že se snaží balancovat na laně – minimalizovat riziko, ale zároveň se mu příliš nevyhýbat

Ačkoli si respondenti uvědomují, že řízení rizik spojených s GenAI je klíčové, tři ze čtyř nejčastěji uváděných překážek úspěšného nasazení GenAI souvisí s riziky, a to včetně obav z dodržování regulačních předpisů (36 %), obtíží při řízení rizik (30 %) a chybějícího modelu řízení (29 %). Tyto obavy pravděpodobně pramení ze specifických rizik spojených s GenAI, jako je zaujatost modelu („bias“), nesprávné výsledky („halucinace“), nové obavy o soukromí, ztráta důvěry a ochrana nových oblastí zranitelnosti. Aby pomohly vybudovat důvěru a zajistit odpovědné používání, pracují organizace na vybudování nových kontrolních mechanismů a nástrojů pro dohled. Mezi nejčastější kroky patří vytvoření řídicího rámce správy používání nástrojů a aplikací GenAI (51 %), sledování regulačních požadavků a zajištění jejich dodržování (49 %) a provádění interních auditů nebo testů nástrojů a aplikací GenAI (43 %).

V souvislosti s pokračujícím experimentováním roste potřeba prokázat hodnotu GenAI iniciativ

Při překračování fáze pilotních projektů má 41 % dotazovaných společností problémy s přesným definováním a měřením dopadů svých iniciativ v oblasti GenAI. Pouze 16 % z nich pravidelně předkládá finančním ředitelům zprávy o hodnotě, kterou GenAI vytváří. S tím, jak aplikace a případy použití dozrávají, budou lídři méně ochotní investovat pouze na základě ambiciózních vizí a obav z promeškání příležitosti – měření se tak stává klíčovým faktorem pro udržení zájmu a podpory ze strany vedení a představenstev. Organizace k prokázání hodnoty využívají konkrétní klíčové ukazatele výkonnosti (48 %), vytvářejí rámec pro hodnocení investic do GenAI (38 %) a sledují změny v produktivitě zaměstnanců (38 %).