Proč se GenAI zastaví v pilotním režimu

Společnosti se potýkají s přechodem projektů Generative AI z experimentálního režimu do produkčního, mnoho firem zůstává uvězněno v pilotním režimu. Naše recentní výzkum ukazuje, že 92 % organizací se obává, že piloty GenAI urychlují bez řešení základních problémů s daty. Ještě více tomu tak je: 67 % nebylo schopno škálovat ani polovinu svých pilotů do produkčního režimu. Tento produkční mezera není tolik o technologické zralosti, ale spíše o připravenosti základních dat. Potenciál GenAI závisí na síle základny, na které stojí. A dnes, pro většinu organizací, tato základna je nejistá.

Proč se GenAI zastaví v pilotním režimu

Ačkoli řešení GenAI jsou certainly mocná, jsou pouze tak efektivní, jako data, která je živí. Staré přísloví “odpad dovnitř, odpad ven” je dnes pravdivější než kdykoli předtím. Bez důvěryhodných, úplných, oprávněných a vysvětlených dat, modely GenAI často produkují výsledky, které jsou nepřesné, zkreslené nebo nevhodné pro účel.

Bohužel, organizace spěchaly s nasazením nízkoúsilových použití, jako jsou AI-poháněné chatboty nabízející přizpůsobené odpovědi z různých interních dokumentů. A zatímco tyto zlepšují zákaznické zkušenosti do jisté míry, nevyžadují hluboké změny v datové infrastruktuře společnosti. Ale aby se GenAI škálovalo strategicky, ať už ve zdravotnictví, finančních službách nebo automatizaci dodavatelského řetězce, vyžaduje se jiná úroveň datové zralosti.

Ve skutečnosti 56 % ředitelů datových úředníků uvádí spolehlivost dat jako klíčovou bariéru pro nasazení AI. Další problémy jsou neúplná data (53 %), problémy s ochranou soukromí (50 %) a větší mezery v governance AI (36 %).

Žádná governance, žádný GenAI

Aby se GenAI přesunulo za pilotní fázi, musí společnosti považovat governance dat za strategickou prioritu pro svůj byznys. Musí zajistit, aby data byla vhodná pro napájení modelů AI, a aby se řešily následující otázky:

• Jsou data, která se používají pro školení modelu, pocházející z pravých systémů?
• Byla odstraněna osobní identifikovatelná informace a byly dodrženy všechny předpisy pro ochranu dat a soukromí?
• Jsme transparentní a můžeme prokázat původ dat, která model používá?
• Můžeme dokumentovat naše datové procesy a být připraveni prokázat, že data nemají žádnou zkreslení?

Governance dat také musí být začleněna do kultury organizace. To vyžaduje budování AI gramotnosti napříč všemi týmy. Evropská směrnice o AI formalizuje tuto odpovědnost, vyžadující, aby poskytovatelé a uživatelé AI systémů činili nejlepší úsilí, aby zajistili, že zaměstnanci jsou dostatečně AI-gramotní, aby rozuměli, jak tyto systémy fungují a jak je používat zodpovědně. Ale efektivní adopce AI jde za technickými znalostmi. Také vyžaduje silný základ v datech, od porozumění governance dat až po formulaci analytických otázek. Léčba AI gramotnosti izolovaně od datové gramotnosti by byla krátkozraká, vzhledem k tomu, jak úzce jsou propojeny.

Co se týče governance dat, stále je co dělat. Mezi podniky, které chtějí zvýšit své investice do správy dat, 47 % souhlasí s tím, že nedostatek datové gramotnosti je hlavní bariérou. To zdůrazňuje potřebu budování vrcholové podpory a rozvoje správných dovedností napříč organizací je zásadní. Bez těchto základů budou i ty nejvýkonnější LLMs mít potíže s dodáním.

Vývoj AI, který musí být odpovědný

V současném regulačním prostředí již není dostatečné, aby AI “jen fungovala”, musí být také odpovědná a vysvětlená. Směrnice EU o AI a britský návrh Akční plán AI vyžadují transparentnost u rizikových použití AI. Další země následují, a 1 000+ souvisejících politických návrhů je na programu v 69 zemích.

Tento globální trend směrem k odpovědnosti je přímým výsledkem rostoucích požadavků spotřebitelů a zúčastněných stran na spravedlnost v algoritmech. Například organizace musí být schopny říci, proč zákazník nebyl přijat pro půjčku nebo proč byl účtován vyšší pojistný tarif. Aby mohli udělat to, musí vědět, jak model učinil toto rozhodnutí, a to závisí na tom, zda mají jasnou, auditovatelnou stopu dat, která byla použita pro jeho školení.

Pokud není vysvětlení, podniky riskují ztrátu důvěry zákazníků, stejně jako finanční a právní důsledky. Jako výsledek, stopovatelnost původu dat a odůvodnění výsledků není “hezké mít”, ale požadavek na soulad.

A jak se GenAI rozšiřuje za hranice jednoduchých nástrojů na plnohodnotné agenty, kteří mohou činit rozhodnutí a jednat podle nich, sázky pro silnou governance dat rostou ještě vyšší.

Kroky pro budování důvěryhodné AI

Co vypadá dobře? Aby se GenAI škálovalo zodpovědně, organizace by měly adoptovat jednotnou datovou strategii napříč třemi pilíři:

• Přizpůsobit AI byznysu: Katalogizovat vaše data kolem klíčových obchodních cílů, zajistit, aby odrážela jedinečný kontext, výzvy a příležitosti specifické pro váš byznys.
• Stanovit důvěru v AI: Stanovit politiky, standardy a procesy pro soulad a dohled nad etickým a zodpovědným nasazením AI.
• Vybudovat datové potrubí pro AI: Kombinovat vaše rozmanité datové zdroje do odolné datové základny pro robustní AI, s předem připravenou GenAI konektivitou.

Když organizace dostanou toto správně, governance urychluje hodnotu AI. Například ve finančních službách, hedge fondy používají gen AI k předpovědi ceny akcií lépe než lidský analytik, zatímco významně snižují náklady. Ve výrobě, optimalizace dodavatelského řetězce poháněná AI umožňuje organizacím reagovat v reálném čase na geopolitické změny a environmentální tlaky.

A tyto nejsou jen futuristické nápady, dějí se nyní, poháněné důvěryhodnými daty.

S silnými datovými základy, společnosti snižují odchylku modelu, omezují cykly yenidenškolení a zvyšují rychlost dosažení hodnoty. To je důvod, proč governance není překážkou; je to katalyzátor inovace.

Co dál?

Po experimentech se organizace přesunují za chatboty a investují do transformačních schopností. Od personalizace zákaznických interakcí až po urychlení lékařského výzkumu, zlepšení duševního zdraví a zjednodušení regulačních procesů, GenAI začíná ukazovat svůj potenciál napříč odvětvími.

Ale tyto zisky závisí zcela na datech, která je podporují. GenAI začíná budováním silné datové základny, prostřednictvím silné governance dat. A zatímco GenAI a agentic AI budou pokračovat ve vývoji, nebude nahrazovat lidský dohled brzy. Místo toho vstupujeme do fáze strukturované tvorby hodnoty, kde se AI stává spolehlivým kopilotem. S správnými investicemi do kvality dat, governance a kultury, podniky mohou konečně převést GenAI z slibného pilotního projektu na něco, co se skutečně dostane do vzduchu.