Proč všechny společnosti potřebují graf znalostí v éře umělé inteligence

Umělá inteligence zásadně urychlila vývoj softwaru, ale dosud téměř nezměnila, jak softwarové organizace fungují. Tento nesoulad se tiše stává největší překážkou pro podnikovou umělou inteligenci.

Po mnoho let potřebovaly inženýrské týmy více zdrojů, aby držely krok s poptávkou. Dnes malé týmy používají umělou inteligenci k generování kódu, testování a urychlení cesty od myšlenky k implementaci. Vývojáři jasně dodávají kód rychleji, ale zda se to vždy překládá do lepších výsledků, zůstává nejasné.

Tato rychlost vytváří novou úzkou místa: daň za koordinaci. Umělá inteligence urychlila provedení mnohem rychleji, než zlepšila, jak organizace koordinují svou práci. Sdílení kontextu, stanovení priorit, rozhodování, hlášení stavu a mezioborová koordinace zůstávají většinou manuální, i když se vývoj zrychluje.

Atlassian odhaduje, že výsledná disproporce stojí společnosti z Fortune 500 zhruba 161 miliard dolarů ročně. Stejný výzkum zjistil, že zatímco 89 % výkonných ředitelů říká, že umělá inteligence urychlila práci, pouze 6 % může ukázat na měřitelné výsledky na úrovni celé organizace.

Rychlejší výstupy automaticky nevytvářejí chytřejší organizaci. Pouze 17 % uživatelů souhlasí s tím, že agenti zlepšili spolupráci ve svém týmu, což je nejnižší hodnocený dopad. To zanechává smyčku koordinace odpojenou.

Rekonstrukce kontextu na každé dotaz je obrovskou daní

Zatímco demo prosperuje na používání čistých, kurátorovaných zdrojů dat, produkční prostředí představují výzvu: nejednoznačné, zastaralé a rozporuplné informace rozptýlené napříč nespojenými systémy. Když je konfrontován s těmito mezery, velký jazykový model dělá to, pro co byl navržen: předpovídá nejpravděpodobnější odpověď. Co vypadalo jako uvažování v řízeném demo se rychle stává sebevědomým odhady s reálnými produkčními daty.

Průmysl začal dávat tomuto problému jméno. “Inženýrství kontextu” se objevilo jako disciplína zaměřená na návrh informací, vztahů, řízení a kvality, které určují, zda podniková umělá inteligence uspěje. Omezení často již není samo model, ale kvalita kontextu, který ho obklopuje.

Každýkrát, když systém umělé inteligence rekonstruuje kontext od začátku, platí daň. Odpovědi jsou pomalé, náklady na tokeny se zvyšují a důvěra se snižuje, protože odpovědi se liší v závislosti na tom, které kusy organizačních znalostí jsou získány. Dva agenti umělé inteligence mohou odpovědět na stejnou otázku odlišně, protože každý sestavuje kontext z jiného řezu organizačních znalostí.

Většina organizací již vlastní znalosti, které jejich systémy umělé inteligence potřebují. Problém je, že tyto znalosti jsou fragmentovány napříč lístky, repozitáři, dokumentací, konverzacemi a plánovacími nástroji. V důsledku toho každá interakce začíná rekonstrukcí organizačního kontextu, než model může začít uvažovat, opakující se stejný drahý proces s každou novou otázkou.

Přístup není totéž jako znalost

Běžná otázka je, zda větší kontextové okna, lepší vyhledávání nebo zlepšené získávání vyřeší tento problém. Protokoly kontextu modelu řeší skutečný problém integrace tím, že poskytují agentům standardizovaný způsob přístupu k systémům, kde žijí podnikové informace. Ale přístup není totéž jako porozumění. Poskytnutí agentovi přístupu k deseti systémům nevysvětlí, které rozhodnutí nahradilo jiné, proč se změnila požadavek, zda je dokument stále autoritativní, nebo jak zákaznická konverzace nakonec ovlivnila, co bylo dodáno. Bez strukturované, ověřené vrstvy logiky to pouze poskytuje deseti více příležitostí k nalezení rozporuplných detailů.

Většina podnikových systémů umělé inteligence stále předpokládá, že kontext by měl být sestaven z počátku pokaždé, když někdo položí otázku. Tento přístup může odpovědět na izolované otázky, ale má problémy s podporou kontinuálního uvažování, které je vyžadováno pro řízení podniku. Vedoucí jsou stále necháni trávit hodiny každý týden skládáním odpovědí na otázky, které by již měly existovat v rámci organizace:

• Co se změnilo?
• Proč se změnila tato priorita?
• Je mapa stále přesná?
• Řešíme stále správný problém?

To je místo, kde graf znalostí získává svou pozici. Graf ukládá entity a jejich vztahy, poskytující základ pro uchování organizační paměti. V softwarové organizaci by tyto entity mohly zahrnovat zákazníky, funkce, požadavky, rozhodnutí, lístky, repozitáře, pull žádosti, vydání a lidi.

Místo získání sbírky pasáží, které obsahují podobná slova, může agent sledovat spojení od rozhodnutí k požadavku, který je vyvolal, lístku, který jej implementoval, pull žádosti, která jej změnila, a zákaznické zpětné vazby, která jej později zpochybnila.

Grafy znalostí jdou za hranice pouhého jiného způsobu organizace dat. Místo opakovaného znovusestavení kontextu z nespojených systémů může umělá inteligence uvažovat z kontinuálně se vyvíjejícího porozumění, jak organizace skutečně funguje.

Výsledkem je umělá inteligence, která může uvažovat z rozhodnutí, konverzací a důkazů, spíše než rekonstruovat toto porozumění od začátku s každou novou otázkou.

Struktura sama o sobě nestačí

Postavení grafu jednou je složité a jeho udržování přesné je ještě obtížnější. V rychle se měnící organizaci se lístky mění, plány se mění, kód se dodává, odpovědnosti se mění a zákaznické zpětné vazby mění priority. To znamená, že organizační paměť musí aktualizovat realitu a opětovné propojení každé změny zpět k jejímu zdroji.

Zatímco 82 % vývojářů uvádí, že umělá inteligence jim pomáhá kódovat rychleji a 71 % říká, že zlepšuje jejich schopnost řešit složité problémy, tato rychlost přichází s úskalím: 96 % vývojářů postrádá plnou důvěru, že výsledný kód je funkčně správný.

Každý fakt, který agent poskytuje, by měl vést zpět k jeho zdroji: commit, lístek, vlákno. Pokud systém umělé inteligence řekne vedoucímu, že vydání je na správné cestě, ale nemůže ukázat signály za touto závěrem, zkušený vedoucí by měl váhat, zda na něj jednat.

Viděl jsem týmy, které opustily nástroje, které produkovaly rozumné odpovědi, protože uživatelé nemohli ověřit, jak tyto odpovědi byly dosaženy. Viděl jsem také týmy, které pokračovaly v používání méně sofistikovaných systémů, protože tyto systémy ukazovaly svou práci. Důvěryhodný souhrn bez účtenek je jen rychlejším způsobem, jak být špatný, a jednou, když nástroj spálí vedoucího nesourced odpovědí, důvěra se nevrátí. Připojení každé tvrzení ke svému zdroji mění “důvěřujte mi” na “zde je proč”.

Přesnost záleží z téhož důvodu. Když systém kontinuálně sleduje vztah mezi plánem a skutečností, mezera mezi tím, co tým rozhodl, a tím, co bylo skutečně dodáno, se stává viditelným posunem, spíše než být tiše absorbován do sebevědomé, ale zastaralé odpovědi. To není okrajová starost. Thoughtworks označila drift kódu jako specifické nebezpečí pro agenty umělé inteligence. To zdůrazňuje potřebu smyček ověření a mechanismů zpětné vazby, které pomáhají systémům detekovat a opravovat odchylky, jak se práce vyvíjí. Drift, který organizace může vidět, je užitečná informace. Drift, který zůstává skrytý, je to, jak systém umělé inteligence začíná oklamat lidi, kteří mu důvěřovali.

Co se ptát před vaším dalším agentním projektem

Při hodnocení iniciativy podnikového agenta bych začal se čtyřmi otázkami:

• Udržuje systém svou vlastní optimalizovanou reprezentaci kontextu v čase, nebo pouze poskytuje umělou inteligenci přístup k existujícím zdrojům dat?
• Je každá odpověď stopována zpět k específickému zdroji, jako je lístek nebo dokument?
• Aktualizuje se systém automaticky, jak se mění informace organizace?
• Chápe agent vztahy mezi datovými body, spíše než mít pouze přístup k nim?

Základní modely budou pokračovat v zlepšování. Schopnosti uvažování se stanou silnějšími, kontextová okna porostou a tyto pokroky se stanou stále dostupnějšími pro každého. Co nebude komoditizováno, je organizační porozumění. Více než polovina CEO hlásí, že vidí málo nebo žádné výnosy nebo úspory z umělé inteligence za poslední rok. Vsadil bych se, že většina z nich chybí vrstvu kontextu, která umožňuje těmto modelům uvažovat nad tím, co organizace již ví.

Jak se stává softwarová tvorba dramaticky snazší, porozumění se stává vzácným zdrojem. Ti, kteří vytvářejí největší hodnotu z umělé inteligence, jsou lepší v uchování, propojení s a kontinuálním učení z organizačních znalostí. To je rozdíl mezi umělou inteligencí, která odhaduje, a umělou inteligencí, která ví.