Proč GenAI stagnuje bez silného řízení

Společnosti se potýkají s přechodem projektů Generative AI z experimentální fáze do produkční – mnoho firem zůstává uvězněno v pilotní fázi. Naše recentní výzkum ukazuje, 92% organizací se obává, že pilotní projekty GenAI urychlují, aniž by nejdříve řešily základní problémy s daty. Ještě více výmluvné: 67% z nich nebylo schopno rozšířit ani polovinu svých pilotních projektů do produkční fáze. Tato produkční mezera je méně o technologické zralosti a více o připravenosti základních dat. Potenciál GenAI závisí na síle základny, na které stojí. A dnes, pro většinu organizací, tato základna je nejistá.

Proč GenAI uvízne v pilotní fázi

Ačkoli řešení GenAI jsou jistě mocná, jsou pouze tak efektivní, jako jsou data, která je živí. Staré přísloví “odpad do, odpad ven” je dnes pravdivější než kdykoli předtím. Bez důvěryhodných, kompletních, oprávněných a vysvětlovatelných dat často produkují modely GenAI výsledky, které jsou nepřesné, zkreslené nebo nevhodné pro účel.

Bohužel, organizace spěchaly s nasazením nízkonákladových případů použití, jako jsou chatboty s umělou inteligencí, které nabízejí přizpůsobené odpovědi z různých interních dokumentů. A zatímco tyto zlepšují zákaznickou zkušenost do jisté míry, nevyžadují hluboké změny v datovém infrastruktuře společnosti. Ale aby se GenAI škálovalo strategicky, ať už ve zdravotnictví, finančních službách nebo automatizaci dodavatelského řetězce, vyžaduje to jinou úroveň zralosti dat.

Ve skutečnosti 56% ředitelů datových úředníků uvádí spolehlivost dat jako klíčovou bariéru pro nasazení AI. Dalšími problémy jsou neúplná data (53%), problémy s ochranou soukromí (50%) a větší mezery v řízení AI (36%).

Žádné řízení, žádné GenAI

Aby se GenAI přesunulo za pilotní fázi, musí společnosti považovat řízení dat za strategickou prioritu pro svůj byznys. Musí zajistit, aby data byla dostatečně kvalitní pro napájení modelů AI, a proto je třeba řešit následující otázky:

• Jsou data, která se používají k trénování modelu, ze správných systémů?
• Byly odstraněny osobní identifikátory a byly dodrženy všechny předpisy o datech a ochraně soukromí?
• Jsme transparentní a můžeme prokázat původ dat, která model používá?
• Můžeme zdokumentovat naše datové procesy a být připraveni prokázat, že data nemají žádnou zkreslení?

Řízení dat také musí být začleněno do kultury organizace. To vyžaduje budování znalostí AI napříč všemi týmy. Evropský zákon o AI formalizuje tuto odpovědnost, vyžadující, aby poskytovatelé i uživatelé systémů AI činili nejlepší úsilí, aby zaměstnanci byli dostatečně AI gramotní, aby rozuměli, jak tyto systémy fungují a jak je používat zodpovědně. Nicméně efektivní přijetí AI jde za technickými znalostmi. Také vyžaduje silný základ v dovednostech práce s daty, od porozumění řízení dat až po formulaci analytických otázek. Lze-li považovat znalosti AI za izolované od datové gramotnosti, bylo by to krátkozraké, vzhledem k tomu, jak úzce jsou propojeny.

Co se týče řízení dat, stále je co dělat. Mezi podniky, které chtějí zvýšit své investice do řízení dat, 47% souhlasí s tím, že nedostatek datové gramotnosti je hlavní bariérou. To zdůrazňuje potřebu budování vrcholové podpory a rozvoje správných dovedností napříč organizací je zásadní. Bez těchto základů budou i ty nejvýkonnější LLMs mít potíže s dodáním.

Vývoj AI, který musí být odpovědný

V současném regulačním prostředí již není dostatečné, aby AI “jenom fungovala”, musí být také odpovědná a vysvětlovatelná. Evropský zákon o AI a britský návrh Akční plán AI vyžadují transparentnost u vysoce rizikových případů použití AI. Další země následují, a 1 000+ souvisejících návrhů zákonů je na programu v 69 zemích.

Tento globální trend směrem k odpovědnosti je přímým výsledkem rostoucích požadavků spotřebitelů a zúčastněných stran na spravedlnost v algoritmech. Například organizace musí být schopny říci, proč zákazník nebyl schválen pro úvěr nebo proč mu byla účtována vyšší pojistná sazba. Aby mohli to udělat, museli by vědět, jak model učinil toto rozhodnutí, a to závisí na jasném, auditovatelném stopu dat, která se používají k jeho trénování.

Pokud není vysvětlovatelnost, riskují podniky ztrátu důvěry zákazníků, stejně jako finanční a právní důsledky. V důsledku toho je stopovatelnost původu dat a zdůvodnění výsledků nezbytnou podmínkou.

A jak se GenAI rozšiřuje za hranice jednoduchých nástrojů na plnohodnotné agenty, kteří mohou činit rozhodnutí a jednat, zvyšují se i sázky pro silné řízení dat.

Kroky pro budování důvěryhodné AI

Tak co vypadá dobře? Aby se GenAI škálovalo zodpovědně, organizace by měly přijmout jedinou datovou strategii napříč třemi pilíři:

• Přizpůsobit AI byznysu: Katalogizovat vaše data kolem klíčových obchodních cílů, zajistit, aby odrážela jedinečný kontext, výzvy a příležitosti specifické pro váš byznys.
• Vytvořit důvěru v AI: Zřídit zásady, standardy a procesy pro soulad a dohled nad etickým a zodpovědným nasazením AI.
• Vybudovat datové potrubí pro AI: Kombinovat vaše rozmanité zdroje dat do odolné datové základny pro robustní AI, s předem připravenou konektivitou GenAI.

Když organizace dostanou toto správně, řízení urychluje hodnotu AI. Například ve finančních službách hedge fondy používají gen AI k překonání lidských analytiků v předpovídání cen akcií, zatímco významně snižují náklady. V výrobě ermögňují optimalizace dodavatelského řetězce, řízené AI, organizacím reagovat v reálném čase na geopolitické změny a environmentální tlaky.

A tyto nejsou jen futuristické nápady, dějí se teď, poháněné důvěryhodnými daty.

S silnými datovými základy snižují podniky odchylku modelu, omezují cykly opětovného trénování a zvyšují rychlost dosažení hodnoty. Proto řízení není překážkou, ale umožňujícím faktorem inovací.

Co dál?

Po experimentech se organizace přesunují za chatboty a investují do transformačních schopností. Od personalizace zákaznických interakcí až po urychlení lékařského výzkumu, zlepšení duševního zdraví a zjednodušení regulačních procesů, GenAI začíná prokazovat svůj potenciál napříč odvětvími.

Avšak tyto zisky závisí zcela na datech, které je podkládají. GenAI začíná budováním silné datové základny, prostřednictvím silného řízení dat. A zatímco GenAI a agentic AI budou pokračovat ve vývoji, nebudou nahrazovat lidský dohled brzy. Místo toho vstupujeme do fáze strukturované tvorby hodnoty, kde se AI stává spolehlivým kopilotem. S správnými investicemi do kvality dat, řízení a kultury mohou podniky konečně změnit GenAI z slibného pilotního projektu na něco, co se skutečně rozjede.