3 úvahy pro bezpečné a spolehlivé AI agenty pro podniky

Podle Gartneru 30 % projektů GenAI bude pravděpodobně opuštěno po proof-of-concept do konce roku 2025. Raná adopce GenAI ukázala, že většina podnikových datových infrastruktur a právních postupů nebyla připravena na efektivní nasazení AI. První vlna produktizace GenAI čelila značným překážkám, přičemž mnoho organizací bojovalo s přechodem z fáze proof-of-concept do dosažení skutečné obchodní hodnoty.

Jak vstupujeme do druhé vlny produktizace generativní AI, společnosti si uvědomují, že úspěšná implementace těchto technologií vyžaduje více než jen připojení LLM k jejich datům. Klíčem k odemknutí potenciálu AI je tři základní pilíře: připravit data a zajistit, aby byla připravena pro integraci s AI; přepracovat postupy datové správy, aby řešily jedinečné výzvy GenAI; a nasadit AI agenty tak, aby bezpečné a spolehlivé použití bylo přirozené a intuitivní, aby uživatelé nemuseli učit speciální dovednosti nebo přesné vzorce použití. Tyto pilíře společně vytvářejí silný základ pro bezpečné a efektivní AI agenty v podnikovém prostředí.

Příprava dat pro AI

Zatímco strukturovaná data mohou vypadat organizovaně na první pohled, být uspořádaná v tabulkách a sloupcích, LLMs často bojují s tím, aby data pochopily a pracovaly s nimi efektivně. To se děje proto, že ve většině podniků nejsou data označena způsobem, který je semanticky významný. Data často mají kryptické štítky, například „ID“ bez jasného označení, zda se jedná o identifikátor zákazníka, produktu nebo transakce. U strukturovaných dat je také obtížné zachytit správný kontext a vztahy mezi různými propojenými body dat, jako je vztah mezi kroky v zákaznickém procesu. Stejně jako jsme museli označit každé obrazové údaje v počítačovém vidění aplikacích, aby umožnily smysluplnou interakci, organizace musí nyní vykonat složitou úlohu semantického označení svých dat a dokumentování vztahů napříč všemi systémy, aby umožnily smysluplné interakce s AI.

Kromě toho jsou data rozptýlena v mnoha různých místech – od tradičních serverů po různé cloudové služby a různé software aplikace. Tento patchwork systém vede k kritickým problémům interoperability a integrace, které se stávají ještě více problematickými při implementaci AI řešení.

Další základní výzva spočívá v nekonzistenci obchodních definic napříč různými systémy a odděleními. Například týmy zákaznické podpory mohou definovat „upsell“ jedním způsobem, zatímco prodejní tým ho definuje jinak. Když připojíte AI agenta nebo chatbota k těmto systémům a začnete klást otázky, dostanete různé odpovědi, protože definice dat nejsou sladěny. Tato absence sladění není malou nepříjemností – je to kritická bariéra pro implementaci spolehlivých AI řešení.

Špatná kvalita dat vytváří klasickou situaci „odpad do odpadu“, která se stává exponenciálně vážnější, když jsou nasazeny AI nástroje napříč podnikem. Nesprávná nebo špinavá data ovlivňují mnohem více než jednu analýzu – šíří nesprávné informace všem, kteří používají systém prostřednictvím svých otázek a interakcí. Aby se vyvinula důvěra v AI systémy pro skutečná obchodní rozhodnutí, podniky musí zajistit, aby jejich AI aplikace měly data, která jsou čistá, přesná a chápaná v správném obchodním kontextu. To představuje základní změnu v tom, jak organizace musí myslet na svá datová aktiva v éře AI – kde kvalita, konzistence a semantická jasnost se stávají stejně důležité jako samotná data.

Posílení přístupů k datové správě

Datová správa byla v posledních letech hlavním zaměřením organizací, zejména zaměřeným na správu a ochranu dat používaných v analýzách. Společnosti se snažily mapovat citlivé informace, dodržovat standardy přístupu, dodržovat zákony jako GDPR a CCPA a detekovat osobní data. Tyto iniciativy jsou zásadní pro vytvoření AI-připravených dat. Nicméně, když organizace zavádějí generativní AI agenty do svých pracovních postupů, výzva datové správy se rozšiřuje za hranice samotných dat a zahrnuje celý uživatelský interakční zážitek s AI.

Nyní čelíme imperativu spravovat nejen podkladová data, ale i proces, kterým uživatelé interagují s těmito daty prostřednictvím AI agentů. Stávající legislativa, jako je Evropská AI směrnice, a další nařízení na obzoru zdůrazňují nutnost spravovat proces otázek a odpovědí sám o sobě. To znamená zajistit, aby AI agenty poskytly transparentní, vysvětlitelné a stopovatelné odpovědi. Když uživatelé dostanou odpovědi „černé skříňky“ – jako například „Kolik pacientů s chřipkou bylo přijato včera?“ a dostanou pouze „50“ bez kontextu – je obtížné důvěřovat této informaci pro kritická rozhodnutí. Bez znalosti původu dat, způsobu výpočtu nebo definic termínů jako „přijato“ a „včera“ se výstup AI ztrácí spolehlivost.

Na rozdíl od interakcí s dokumenty, kde uživatelé mohou odpovědi vrátit zpět ke konkrétním PDF nebo zásadám, aby ověřili přesnost, interakce se strukturovanými daty prostřednictvím AI agentů často postrádají tuto úroveň stopovatelnosti a vysvětlitelnosti. Aby se tyto problémy řešily, organizace musí implementovat opatření datové správy, která nejen chrání citlivá data, ale také činí interakční zážitek s AI spravovaným a spolehlivým. To zahrnuje zavedení robustních kontrol přístupu, aby se zajistilo, že pouze autorizovaný personál může přístup k bestimmým informacím, definování jasných vlastnických a správcovských povinností a zajištění, aby AI agenty poskytly vysvětlení a odkazy pro své výstupy. Přeprojektováním postupů datové správy, aby zahrnovaly tyto úvahy, mohou podniky bezpečně využít sílu AI agentů, zatímco dodržují se vyvíjejícími předpisy a udržují důvěru uživatelů.

Myslet za hranice inženýrství promptů

Jak organizace zavádějí generativní AI agenty, aby zlepšily přístup k datům, inženýrství promptů se stalo novou technickou bariérou pro obchodní uživatele. Zatímco je považováno za slibnou kariérní cestu, inženýrství promptů je ve skutečnosti rekreací stejných bariér, se kterými jsme bojovali v datové analýze. Vytvoření perfektních promptů není jiné než psaní specializovaných SQL dotazů nebo budování dashboardových filtrů – je to přesunutí technické odbornosti z jednoho formátu do jiného, stále vyžadující specializované dovednosti, které většina obchodních uživatelů nemá a neměla by potřebovat.

Podniky se dlouho snažily vyřešit přístup k datům tím, že cvičily uživatele, aby lépe rozuměli datovým systémům, vytvářely dokumentaci a vyvíjely specializované role. Ale tento přístup je opačný – žádáme uživatele, aby se přizpůsobili datům, místo aby data přizpůsobila uživatelům. Inženýrství promptů hrozí, že bude pokračovat v tomto vzorci tím, že vytvoří další vrstvu technických zprostředkovatelů.

Skutečná demokratizace dat vyžaduje systémy, které rozumějí obchodnímu jazyku, ne uživatele, kteří rozumějí jazyku dat. Když manažeři se ptají na zákaznickou retenci, neměli by potřebovat perfektní terminologii nebo prompty. Systémy by měly rozumět záměru, rozpoznávat relevantní data napříč různými štítky (bez ohledu na to, zda se jedná o „odchod“, „retenci“ nebo „životní cyklus zákazníka“) a poskytovat kontextové odpovědi. To umožňuje obchodním uživatelům soustředit se na rozhodnutí, spíše než učit se klást technicky perfektní otázky.

Závěr

AI agenty přinesou důležité změny v tom, jak podniky fungují a činí rozhodnutí, ale přinášejí také své vlastní jedinečné soubory výzev, které musí být řešeny, než budou nasazeny. S AI je každý chyba zesílena, když ne-techničtí uživatelé mají samoobslužný přístup, což činí zásadní správnou přípravu základů.

Organizace, které úspěšně řeší základní výzvy datové kvality, semantického sladění a datové správy, zatímco se pohybují za hranice omezení inženýrství promptů, budou umístěny tak, aby bezpečně demokratizovaly přístup k datům a rozhodování. Nejlepší přístup zahrnuje vytvoření spolupracujícího prostředí, které usnadňuje týmovou práci a sladění interakcí mezi lidmi a stroji, stejně jako mezi stroji. To zajišťuje, že AI-poháněné poznatky jsou přesné, zabezpečené a spolehlivé, podporuje celopodnikovou kulturu, která spravuje, chrání a maximalizuje data na jejich plný potenciál.