Deloitte: Generativní AI čelí výzvám v oblasti rizik a práce s daty, ukazuje nová studie Deloitte

Praha, 12. září 2024 - Navzdory rostoucím investicím a počátečnímu nadšení zůstávají správa rizik a práce s daty klíčovými výzvami pro širší využívání generativní umělé inteligence (GenAI). Třetí čtvrtletní zpráva Deloitte AI Institute™ o stavu generativní AI ve firmách ukazuje, že dvě třetiny organizací (67 %) zvyšují investice do GenAI díky jejímu prokázanému potenciálu. Zpráva však také zdůrazňuje, že překážky, jako jsou problémy s daty a řízením rizik, brání plnému rozvoji a tlumí nadšení vedoucích pracovníků. Ukazuje se, že pro pokračující investice bude klíčové prokázat hodnotu nasazení GenAI a překonat výzvy spojené s jejím efektivním začleněním do organizačních struktur.

Deloitte AI Institute™ zveřejnilo třetí čtvrtletní vydání své zprávy o stavu generativní umělé inteligence ve firmách. Ta přináší přehled o aktuálním stavu zavádění a využívání GenAI a odhaluje, jak organizace překonávají překážky a dosahují měřitelných výsledků s pomocí této technologie. Zpráva s názvem „Stav generativní AI ve firmách“ vychází z průzkumu mezi 2 770 respondenty na úrovni ředitelů a vedoucích pracovníků ve 14 zemích. Ačkoli uvádějí respondenti různou úroveň znalostí generativní AI, mají všichni s touto technologií zkušenosti a aktivně ji testují nebo zavádějí ve svých organizacích.

Klíčové pasáže ze zprávy

„S tím, jak se začínají projevovat přínosy z prvních úspěšných experimentů a případů použití, začíná klíčové období pro generativní umělou inteligenci, kdy se budou srovnávat vysoká očekávání ze strany vedoucích pracovníků, s výzvami, jako jsou zajištění kvality dat, řízení investičních nákladů, efektivní měření výsledků a přizpůsobení se měnícímu se regulačnímu prostředí. Průzkum za 3. čtvrtletí ukazuje, že pro překonání těchto překážek a plné využití potenciálu generativní AI je nyní klíčové efektivní řízení změn a hluboká integrace této technologie do struktur organizací,“ uvádí Jim Rowan, ředitel a lídr oddělení aplikované umělé inteligence společnosti Deloitte Consulting LLP.

„Nadále vidíme nadšení pro GenAI napříč organizacemi a lídři z této technologie dokáží těžit maximum díky zapojení do důležitých byznysových funkcí a procesů. Náš průzkum ukazuje, že hlavní výhody GenAI dalece přesahují pouhé zvýšení efektivity, produktivity a snížení nákladů. Více než polovina respondentů zdůrazňuje přínosy, jako jsou větší míra inovací, zlepšení produktů a služeb nebo posílení vztahů se zákazníky. Široké spektrum oblastí, ve kterých má GenAI přínos, dokazuje obrovský potenciál a všestrannost této transformativní technologie,“ říká Costi Perricos, vedoucí oddělení generativní umělé inteligence Deloitte Global.

Nadšení tlumí realita – a k úspěšnému rozšiřování povedou měřitelné příklady využití

Podle průzkumu vedoucí pracovníci a členové správních rad se nadále vkládají do GenAI naděje, přistupují k ní však nyní s větší obezřetností. Zájem zůstává „vysoký“ nebo „velmi vysoký“ u 63 % vrcholných manažerů a 53 % členů vedení. Tato čísla však od studie z 1. čtvrtletí klesla, a to o 11 procentních bodů u manažerů a o 8 bodů u vedení společností. Ačkoli je cílem zvolit a rychle vyvinout projekty GenAI s nejvyšším potenciálem, mnoho iniciativ stále zůstává ve fázi pilotních projektů nebo testování. Většina (68 %) respondentů dosud uvedla do praxe nejvýše 30 % svých pokusů o využití GenAI. 

Vedoucí pracovníci se zaměřují na správu životního cyklu dat jako základ pro nasazení GenAI

Data se stávají stěžejním tématem pro lídry, kteří se věnují umělé inteligenci, přičemž 75 % organizací zvyšuje své investice do správy dat v souvislosti s využíváním GenAI. Nicméně, jak se organizace snaží rozšířit používání GenAI, objevují se nečekané překážky – problémy spojené s daty vedly 55 % dotazovaných organizací k tomu, že se vyhnuly některým případům použití GenAI. Řešení nedostatků v oblasti dat se ukazuje jako klíčový krok pro splnění specifických požadavků GenAI na správu dat. Organizace proto posilují zabezpečení dat (54 %), zlepšují postupy pro zajištění kvality dat (48 %) a aktualizují rámce pro správu dat nebo vytvářejí nové datové politiky (45 %).

Problémy s důvěrou a měnící se regulační prostředí vedou mnohé k tomu, že se snaží balancovat na laně – minimalizovat riziko, ale zároveň se mu příliš nevyhýbat

Ačkoli si respondenti uvědomují, že řízení rizik spojených s GenAI je klíčové, tři ze čtyř nejčastěji uváděných překážek úspěšného nasazení GenAI souvisí s riziky, a to včetně obav z dodržování regulačních předpisů (36 %), obtíží při řízení rizik (30 %) a chybějícího modelu řízení (29 %). Tyto obavy pravděpodobně pramení ze specifických rizik spojených s GenAI, jako je zaujatost modelu („bias“), nesprávné výsledky („halucinace“), nové obavy o soukromí, ztráta důvěry a ochrana nových oblastí zranitelnosti. Aby pomohly vybudovat důvěru a zajistit odpovědné používání, pracují organizace na vybudování nových kontrolních mechanismů a nástrojů pro dohled. Mezi nejčastější kroky patří vytvoření řídicího rámce správy používání nástrojů a aplikací GenAI (51 %), sledování regulačních požadavků a zajištění jejich dodržování (49 %) a provádění interních auditů nebo testů nástrojů a aplikací GenAI (43 %).

V souvislosti s pokračujícím experimentováním roste potřeba prokázat hodnotu GenAI iniciativ

Při překračování fáze pilotních projektů má 41 % dotazovaných společností problémy s přesným definováním a měřením dopadů svých iniciativ v oblasti GenAI. Pouze 16 % z nich pravidelně předkládá finančním ředitelům zprávy o hodnotě, kterou GenAI vytváří. S tím, jak aplikace a případy použití dozrávají, budou lídři méně ochotní investovat pouze na základě ambiciózních vizí a obav z promeškání příležitosti – měření se tak stává klíčovým faktorem pro udržení zájmu a podpory ze strany vedení a představenstev. Organizace k prokázání hodnoty využívají konkrétní klíčové ukazatele výkonnosti (48 %), vytvářejí rámec pro hodnocení investic do GenAI (38 %) a sledují změny v produktivitě zaměstnanců (38 %).

O Deloitte

Deloitte označuje jednu či více společností globální sítě členských společností Deloitte Touche Tohmatsu Limited („DTTL“) a jejich dceřiné a přidružené subjekty (souhrnně „organizace Deloitte“). Společnost DTTL (rovněž označovaná jako „Deloitte Global“) a každá z jejích členských společností a jejich přidružených subjektů je samostatným a nezávislým právním subjektem, který není oprávněn zavazovat nebo přijímat závazky za jinou z těchto členských společností a jejich přidružených subjektů ve vztahu k třetím stranám. Společnost DTTL a každá členská společnost a přidružený subjekt nese odpovědnost pouze za své vlastní jednání či pochybení, nikoli za jednání či pochybení jiných členských společností či přidružených subjektů. Společnost DTTL služby klientům neposkytuje. Více informací najdete na adrese www.deloitte.com/cz/onas.