Perché tutte le aziende hanno bisogno di un grafo della conoscenza nell’era dell’AI

L’AI ha accelerato notevolmente lo sviluppo del software, ma ha appena cambiato il modo in cui le organizzazioni software operano. Questa discrepanza sta diventando silenziosamente il maggior vincolo sull’AI aziendale.

Per anni, i team di ingegneria hanno avuto bisogno di più risorse per stare al passo con la domanda. Oggi, piccoli team utilizzano l’AI per generare codice, testare e accelerare il percorso dall’idea all’implementazione. Gli sviluppatori stanno chiaramente spedendo codice più velocemente, ma se ciò si traduce costantemente in risultati migliori rimane incerto.

Questa velocità crea un nuovo collo di bottiglia: la tassa di coordinazione. L’AI ha accelerato l’esecuzione molto più velocemente di quanto abbia migliorato il modo in cui le organizzazioni coordinano il loro lavoro. La condivisione del contesto, la priorità, la presa di decisioni operative, la segnalazione dello stato e l’allineamento cross-funzionale rimangono in gran parte manuali, anche mentre lo sviluppo si velocizza.

Atlassian stima che il disconnesso risultante costi alle aziende Fortune 500 circa 161 miliardi di dollari all’anno. La stessa ricerca ha scoperto che mentre l’89% dei dirigenti afferma che l’AI ha accelerato il lavoro, solo il 6% può indicare risultati misurabili in tutta l’organizzazione.

Gli output più veloci non creano automaticamente un’organizzazione più intelligente. Solo il 17% degli utenti concorda che gli agenti hanno migliorato la collaborazione all’interno del loro team, rendendola l’impatto con il punteggio più basso, lasciando il ciclo di coordinamento disconnesso.

Ricostruire il contesto ad ogni query è una tassa enorme

Mentre una demo prospera utilizzando fonti di dati pulite e curate, gli ambienti di produzione presentano una sfida: informazioni ambigue, obsolete e contraddittorie sparse in sistemi disconnessi. Quando si confronta con quelle lacune, un modello linguistico di grandi dimensioni fa ciò per cui è stato progettato: predice la risposta più probabile. Ciò che sembrava ragionamento in una demo controllata diventa rapidamente una stima confidenziale con dati di produzione reali.

L’industria ha iniziato a dare un nome a questo problema. L'”ingegneria del contesto” è emersa come la disciplina incentrata sulla progettazione delle informazioni, delle relazioni, della governance e della qualità che determinano se l’AI aziendale abbia successo. Il fattore limitante è spesso non più il modello stesso, ma la qualità del contesto che lo circonda.

Ogni volta che un sistema AI ricostruisce il contesto da zero, paga una tassa. Le risposte sono lente, i costi dei token aumentano e la fiducia si erode poiché le risposte variano a seconda dei pezzi di conoscenza organizzativa recuperati. Due agenti AI possono rispondere alla stessa domanda in modo diverso perché ciascuno assembla il contesto da una fetta diversa di conoscenza organizzativa.

La maggior parte delle organizzazioni possiede già le conoscenze di cui i loro sistemi AI hanno bisogno. Il problema è che queste conoscenze sono frammentate in biglietti, repository, documentazione, conversazioni e strumenti di pianificazione. Di conseguenza, ogni interazione inizia ricostruendo il contesto organizzativo prima che il modello possa iniziare a ragionare, ripetendo lo stesso processo costoso con ogni nuova domanda.

L’accesso non è lo stesso che la conoscenza

Una domanda comune è se finestre di contesto più grandi, una migliore ricerca o un miglior recupero risolveranno questo problema. I Protocolli di contesto del modello affrontano un reale problema di integrazione fornendo agli agenti un modo standardizzato per accedere ai sistemi in cui vive l’informazione aziendale. Tuttavia, l’accesso non è lo stesso che la comprensione. Concedere a un agente l’accesso a una dozzina di sistemi non spiega quale decisione ha superato un’altra, perché una richiesta è cambiata, se un documento è ancora autoritativo o come una conversazione del cliente abbia influenzato ciò che è stato spedito. Senza uno strato logico strutturato e verificato, ciò fornisce solo una dozzina di opportunità per incontrare dettagli contraddittori.

La maggior parte dei sistemi AI aziendali presume ancora che il contesto debba essere assemblato da zero ogni volta che qualcuno fa una domanda. Questo approccio può rispondere a domande isolate, ma fatica a supportare il ragionamento continuo richiesto per gestire un’azienda. I leader sono ancora costretti a trascorrere ore ogni settimana cercando di rispondere a domande che dovrebbero già esistere all’interno dell’organizzazione:

• Cosa è cambiato?
• Perché questa priorità è cambiata?
• La roadmap è ancora precisa?
• Stiamo ancora risolvendo il problema giusto?

È qui che un grafo della conoscenza guadagna il suo posto. Un grafo memorizza entità e le loro relazioni, fornendo una base per la conservazione della memoria organizzativa. In un’organizzazione software, queste entità potrebbero includere clienti, funzionalità, richieste, decisioni, biglietti, repository, richieste di pull, rilasci e persone.

Invece di recuperare una raccolta di passaggi che contengono parole simili, un agente può seguire le connessioni da una decisione alla richiesta che l’ha sollecitata, al biglietto che l’ha implementata, alla richiesta di pull che l’ha modificata e al feedback del cliente che l’ha successivamente sfidata.

I grafi della conoscenza vanno oltre l’essere solo un altro modo per organizzare i dati. Invece di ricostruire costantemente il contesto da sistemi disconnessi, l’AI può ragionare da una comprensione continua di come funziona effettivamente l’organizzazione.

Il risultato è un’AI che può ragionare dalle decisioni, dalle conversazioni e dalle prove, piuttosto che ricostruire quella comprensione da zero con ogni prompt.

La struttura da sola non è sufficiente

Costruire il grafo una volta è difficile e mantenerlo preciso è ancora più difficile. In un’organizzazione in rapida evoluzione, i biglietti cambiano, i piani si spostano, il codice viene spedito, le responsabilità si spostano e il feedback dei clienti altera le priorità. Ciò significa che la memoria organizzativa deve aggiornarsi mentre la realtà cambia e ri-collegare ogni modifica alla sua fonte.

Mentre l’82% degli sviluppatori riferisce che l’AI li aiuta a codificare più velocemente e il 71% afferma che migliora la loro capacità di affrontare problemi complessi, questa velocità si accompagna a una pecca: il 96% degli sviluppatori manca di fiducia completa che il codice risultante sia funzionalmente corretto.

Ogni fatto che un agente ti fornisce dovrebbe risalire alla sua fonte: il commit, il biglietto, il thread. Se un sistema AI dice a un leader che un rilascio è in corso ma non può mostrare i segnali dietro quella conclusione, un leader esperto dovrebbe esitare ad agire su di esso.

Ho visto team abbandonare strumenti che producevano risposte ragionevoli perché gli utenti non potevano verificare come quelle risposte fossero state raggiunte. Ho anche visto team continuare a utilizzare sistemi meno sofisticati perché quei sistemi mostravano il loro lavoro. Una sintesi fidata senza ricevute è solo un modo più veloce per essere sbagliato e, una volta che uno strumento brucia un leader con una risposta non verificata, la fiducia non torna. Collegare ogni affermazione alla sua fonte trasforma “fidati di me” in “ecco perché”.

L’esattezza è importante per lo stesso motivo. Quando un sistema traccia continuamente la relazione tra piano e reale, il divario tra ciò che un team ha deciso e ciò che è stato effettivamente spedito diventa visibile come deriva piuttosto che essere silenziosamente assorbito in una risposta fidata ma obsoleta. Questo non è un problema marginale. Thoughtworks ha segnalato la deriva del codice come un pericolo specifico per gli agenti AI. Sottolinea la necessità di anelli di verifica e meccanismi di feedback che aiutino i sistemi a rilevare e correggere le deviazioni man mano che il lavoro evolve. La deriva che un’organizzazione può vedere è un’informazione utile. La deriva che rimane nascosta è come un sistema AI inizia a ingannare le persone che gli hanno fiducia.

Cosa chiedere prima del tuo prossimo progetto di agente

Quando si valuta un’iniziativa di agente aziendale, inizierei con quattro domande:

• Il sistema mantiene la sua rappresentazione ottimizzata del contesto nel tempo o fornisce semplicemente all’AI l’accesso alle fonti di dati esistenti?
• Ogni risposta è tracciata fino a una fonte specifica, come un biglietto o un documento?
• Il sistema si aggiorna automaticamente mentre le informazioni dell’organizzazione cambiano?
• L’agente comprende le relazioni tra i punti di dati piuttosto che avere solo accesso ad essi?

I modelli di base continueranno a migliorare. Le capacità di ragionamento diventeranno più forti, le finestre di contesto cresceranno e quegli avanzamenti diventeranno sempre più disponibili per tutti. Ciò che non sarà commodificato è la comprensione organizzativa. Più della metà dei CEO riferisce di vedere poco o nessun beneficio di entrate o costi dall’AI negli ultimi 12 mesi. Scommetterei che la maggior parte manca del livello di contesto che consente a quei modelli di ragionare su ciò che l’organizzazione già sa.

Mentre il software diventa drasticamente più facile da creare, la comprensione diventa la risorsa scarsa. Coloro che creano il valore maggiore dall’AI sono migliori nel preservare, connettersi e continuare a imparare dalla conoscenza organizzativa. Questa è la differenza tra l’AI che indovina e l’AI che sa.