Data – ne AI – je klíčem

Umělá inteligence se stala tak hluboce zakořeněnou v podnicích, že téměř každá operace byla nějakým způsobem ovlivněna touto technologií. A pokud se podíváme na použití AI specificky, vidíme, že organizace se pouštějí do nových forem AI, aby inovovaly a iterovaly na existujících systémech. Skutečně, nedávný průzkum lídrů IT odhalil, že 98 % z nich již používá agentic AI pro orchestraci případů použití GenAI nebo plánuje to udělat v blízké budoucnosti.

Uprostřed exploze nástrojů a technologií AI, které přišly v posledních letech, se AI agenti rychle stávají jedním z nejpopulárnějších. Tyto agenti pomáhají organizacím dělat cokoliv a všechno – od zlepšení zákaznické zkušenosti a podpory až po automatizaci interních procesů nebo optimalizaci existujících modelů GenAI, které jsou již v použití. Ale škálování mnoha výhod AI agentů a AI obecně napříč celou podnikovou sférou není bez obtíží.

Důvod, proč mnoho organizací zápasí s AI, a AI agenty zejména, v měřítku, spočívá v důvěře, ne v technologiích. AI agenti, svou povahou, pracují napříč mnoha systémy. Kdekoli tyto systémy jsou, je více než pravděpodobné, že závisí na vysoce citlivých datech – ať už se jedná o obrovské množství zákaznických dat, lékařských informací nebo bankovních a finančních dat. Zde leží problém. Přitahování obrovského množství dat do jakéhokoli modelu AI, bez řádné infrastruktury pro ochranu dat a zabezpečení, zanechává podniky s významným množstvím rizik.

Běžně, výstup modelu AI je hodný pouze tehdy, pokud lze důvěřovat datům, která jej trénovala. Ale nejde jen o zajištění, že data jsou zabezpečena. Zvláště u AI agentů je zapojena značná autonomie, pokud jde o to, jak tyto modely fungují. Zajištění, že jsou vybaveny porozuměním, kdo by měl mít přístup k datům, kdy by k nim měl mít přístup a jak, je zásadní pro budování důvěry.

Překonání komplikací s ochranou dat není nemožné. S řádnými datovými zásadami, správou metadat, API a firemními rámci pro autorizaci, lídři podnikového IT mohou zajistit, že data, která pohání jejich AI, jsou zabezpečena a důvěryhodná.

Podívejme se blíže.

Navigace datové ochrany a potřeba AI v měřítku

Jedním z širších cílů integrace AI agentů do podniku je zefektivnění pracovních postupů napříč operacemi a systémy. Ale dělat to bez jakýchkoli ochranných opatření by mohlo neúmyslně vystavit citlivá data na cestě. V době, kdy se datové úniky a zlomyslné útoky neustále vyvíjejí, jakákoli data, která jsou vystavena nebo přístupná neoprávněným uživatelům, by mohla znamenat katastrofu – nejen pro iniciativu AI, ale pro celý podnik. Průměrné náklady na datové úniky jsou nad 4 miliony dolarů od roku 2025, podle IBM. Adopce AI se zrychluje, často zanechávající řízení a zabezpečení v prachu, zatímco lídři podniků tlačí na více inovací, hlubší poznatky a nové příležitosti pro růst. Ale i když adopce AI stoupá, regulační politiky a požadavky se vyvíjejí, aby držely krok a zajistily, že data zůstávají zabezpečena.

Od GDPR po CCPA a dokonce i dlouholeté politiky, jako je HIIPA, regulační komplikace představují složitou výzvu pro škálování AI agentů. Nástroje AI, které vyžadují obrovské množství dat, když jsou ponechány bez kontroly, zvou zvýšené riziko. Když AI modely sahají napříč všemi těmito interními systémy, citlivá data jsou často přesunuta a přístupná v procesu. Pokud jde o data, regulační agentury po celém světě klade větší důraz na zajištění ochrany soukromí, efektivní správy a robustního zabezpečení.

Více nedávné politiky, jako je DORA – soubor pokynů pro řízení ICT rizik pro finanční služby firmy provozující se v EU – vyžadují explicitně klasifikaci a hlášení ICT incidentů, včetně těch, které ovlivňují důvěrnost, integritu nebo dostupnost dat. A zatímco tato politika má primární důraz na provozní odolnost, důsledky se táhnou i na adopci AI. Když více AI iniciativ, včetně těch s AI agenty, využívá data v podnikovém měřítku, riziko neoprávněného přístupu roste. Pokud by AI projekt vedl ke ztrátě nebo vystavení dat, regulace, jako je tato, by se rychle stala relevantní.

S takovým množstvím na hře, je důležité, aby podnikové organizace neztratily ze zřetele, jak důležité jsou zabezpečení, správa a přístup k datům.

Stavění základny pro pohonné AI agenty

Podniky potřebují postavit základnu, která je zakořeněna v efektivní správě, s pevnými ochrannými opatřeními a vynucitelnými pravidly, která definují, co agenti mohou a nemohou dělat. V srdci této základny leží správa dat – vysoké úrovně politiky, standardy a struktury, které řídí, jak jsou data používána zodpovědně napříč organizací. Tyto politiky zajišťují, že agenti nepřekročí své role, ať už tím, že přístupují k omezeným datovým sadám nebo iniciují procesy bez lidského dohledu.

Implementace robustní politiky správy dat by měla začít s několika klíčovými body. To zahrnuje odpovědnost a vlastnictví, kvalitu a konzistenci dat, zabezpečení a soukromí, dodržování předpisů a auditovatelnost a transparentnost a stopovatelnost.

S těmito body jako základnou správy, lídři podniků získávají větší kontrolu nad rozhodováním, více důvěry v svá data a snížené regulační riziko, které představují datové sila. To se dosahuje využíváním schopností, jako je správa metadat, klasifikace dat a linie, aby se zvýšila transparentnost a viditelnost do toho, kdo nebo které nástroje AI mohou přístupovat. Každá z těchto mechanismů umožňuje podnikům sledovat, odkud data pocházejí, jak proudí a jak jsou transformována.

Technologie je důležitá, ale důvěra je nejdůležitější

Každý nový AI model nebo inovace, která se objeví, vede k adopci. Ale s každou AI iniciativou se objevují rizika – ačkoli ne vždy tam, kde by člověk očekával. Technické výzvy, které často brání adopci nových nástrojů, nejsou vždy viníkem pomalé integrace AI. Často to spočívá v datech. Konkrétně, důvěra v tato data a obavy kolem ochrany soukromí. Protože AI se pohybuje tak rychle, může být někdy výzvou zajistit, aby věci, jako jsou kontrolní mechanismy, správa dat, linie a dodržování předpisů, držely krok s tímto tempem.

Správa je důležitou součástí důvěry, ale co také vyžaduje, jsou efektivní hodnocení. Zvláště u agentic AI, stále existuje velká mezera ve standardizovaných hodnoceních, ačkoli jsou nezbytné pro prokázání systémů, které se chovají spolehlivě a bezpečně.

Bez ohledu na to, zda chcete optimalizovat výkon interních systémů, zlepšit detekci podvodů nebo pouze zpříjemnit zákaznickou zkušenost pro klienty, nejlepší AI agenti a AI iniciativy obecně jsou všechny postaveny na základně důvěryhodných dat, ochrany soukromí a zabezpečení.