De ce toate companiile au nevoie de un grafic de cunoaștere în era AI

Inteligența artificială a accelerat fundamental dezvoltarea de software, dar a schimbat foarte puțin modul în care funcționează organizațiile de software. Această discrepanță devine treptat cea mai mare constrângere pentru inteligența artificială la nivel de întreprindere.

De-a lungul anilor, echipele de ingineri au avut nevoie de mai multe resurse pentru a ține pasul cu cererea. Astăzi, echipe mici folosesc inteligența artificială pentru a genera cod, testa și accelera calea de la idee la implementare. Dezvoltatorii livrează în mod evident cod mai rapid, dar nu este clar dacă acest lucru se traduce în mod constant în rezultate mai bune.

Această viteză creează un nou blocaj: taxa de coordonare. Inteligența artificială a accelerat execuția mult mai rapid decât a îmbunătățit modul în care organizațiile își coordonează munca. Partajarea contextului, stabilirea priorităților, luarea deciziilor operaționale, raportarea stării și alinierea interfuncțională rămân în mare măsură manuale, chiar și pe măsură ce dezvoltarea se accelerează.

Atlassian (TEAM ) estimează că decuplarea rezultată costă companiile din Fortune 500 aproximativ 161 de miliarde de dolari anual. Aceeași cercetare a arătat că, în timp ce 89% dintre directori executivi spun că inteligența artificială a accelerat munca, doar 6% pot indica beneficii măsurabile la nivelul întregii organizații.

Ieșirile mai rapide nu creează în mod automat o organizație mai inteligentă. Doar 17% dintre utilizatori sunt de acord că agenții au îmbunătățit colaborarea în cadrul echipei, ceea ce face ca acesta să fie impactul cel mai slab evaluat, lăsând bucla de coordonare deconectată.

Reconstruirea contextului la fiecare întrebare este o taxă uriașă

În timp ce o demonstrație prosperă utilizând surse de date curate și ordonate, mediile de producție prezintă o provocare: informații ambigue, învechite și contradictorii răspândite în sisteme desconectate. Când se confruntă cu aceste lacune, un model de limbaj mare face ceea ce a fost proiectat să facă: prezice următorul răspuns cel mai probabil. Ceea ce părea a fi raționament într-o demonstrație controlată devine rapid o ghicire sigură cu date de producție reale.

Industria a început să dea un nume acestei probleme. “Ingineria contextului” a apărut ca disciplină care se concentrează pe proiectarea informațiilor, relațiilor, guvernanței și calității care determină dacă inteligența artificială la nivel de întreprindere reușește. Factorul limitativ este adesea nu modelul în sine, ci calitatea contextului care îl înconjoară.

Fiecare dată când un sistem de inteligență artificială reconstruieste contextul de la zero, plătește o taxă. Răspunsurile sunt lente, costurile tokenului cresc, iar încrederea se erodează pe măsură ce răspunsurile variază în funcție de care dintre cunoștințele organizaționale sunt recuperate. Doi agenți de inteligență artificială pot răspunde la aceeași întrebare în mod diferit, deoarece fiecare asamblează contextul dintr-o parte diferită a cunoștințelor organizaționale.

Majoritatea organizațiilor dețin deja cunoștințele de care au nevoie sistemele lor de inteligență artificială. Problema este că aceste cunoștințe sunt fragmentate în între ticket-uri, depozite, documentație, conversații și instrumente de planificare. Ca urmare, fiecare interacțiune începe prin reconstruirea contextului organizațional înainte ca modelul să poată începe să raționeze, repetând același proces scump cu fiecare întrebare nouă.

Accesul nu este același lucru cu cunoașterea

O întrebare obișnuită este dacă ferestrele de context mai mari, o căutare mai bună sau o recuperare îmbunătățită vor rezolva această problemă. Protocoalele de context ale modelului abordează o problemă reală de integrare, oferind agenților o modalitate standardizată de a accesa sistemele în care trăiește informația întreprinderii. Dar accesul nu este același lucru cu înțelegerea. A oferi unui agent acces la o duzină de sisteme nu explică care decizie a supus alta, de ce o cerință s-a schimbat, dacă un document este încă autoritar sau cum o conversație a clientului a influențat în cele din urmă ceea ce a fost expediat. Fără un strat structurat și verificat de logică, acesta oferă doar o duzină de oportunități de a întâlni detalii contradictorii.

Majoritatea sistemelor de inteligență artificială la nivel de întreprindere presupun încă că contextul ar trebui să fie asamblat de la zero la fiecare întrebare. Acest abordare poate răspunde la întrebări izolate, dar luptă să susțină raționamentul continuu necesar pentru a conduce o afacere. Liderii sunt încă lăsați să petreacă ore în fiecare săptămână, reunind răspunsuri la întrebări care ar trebui să existe deja în cadrul organizației:

• Ce s-a schimbat?
• De ce s-a schimbat această prioritate?
• Este încă precisă această hartă a drumului?
• Suntem încă pe calea de a rezolva problema corectă?

Acesta este locul în care un grafic de cunoaștere își câștigă locul. Un grafic stochează entități și relațiile lor, oferind o bază pentru păstrarea memoriei organizaționale. Într-o organizație de software, aceste entități ar putea include clienți, funcționalități, cerințe, decizii, ticket-uri, depozite, solicitări de extragere, lansări și persoane.

În loc de a recupera o colecție de pasaje care conțin cuvinte similare, un agent poate urma legăturile de la o decizie la cerința care a declanșat-o, la ticket-ul care a implementat-o, la solicitarea de extragere care a modificat-o și la feedback-ul clientului care a contestat-o ulterior.

Graficele de cunoaștere merg dincolo de a fi doar o altă modalitate de a organiza datele. În loc de a reconstrui în mod repetat contextul din sisteme desconectate, inteligența artificială poate raționa dintr-o înțelegere continuă a modului în care funcționează organizația.

Rezultatul este un sistem de inteligență artificială care poate raționa din decizii, conversații și dovezi, mai degrabă decât să reconstruiască această înțelegere de la zero cu fiecare prompt.

Structura singură nu este suficientă

Construirea graficului o singură dată este dificilă, iar menținerea lui precisă este și mai grea. Într-o organizație în schimbare rapidă, ticket-urile se schimbă, planurile se modifică, codul este expediat, responsabilitățile se mută și feedback-ul clientului alterează prioritățile. Acest lucru înseamnă că memoria organizațională trebuie să se actualizeze pe măsură ce realitatea se schimbă și să relege fiecare schimbare înapoi la sursa sa.

În timp ce 82% dintre dezvoltatori raportează că inteligența artificială îi ajută să codeze mai rapid și 71% spun că îi ajută să abordeze probleme complexe, această viteză vine cu o capcană: 96% dintre dezvoltatori lipsește încrederea deplină că codul rezultat este funcțional corect.

Fiecare fapt pe care un agent vi-l oferă ar trebui să poată fi urmărit până la sursa sa: commit-ul, ticket-ul, firul de discuție. Dacă un sistem de inteligență artificială spune unui lider că o lansare este pe drumul cel bun, dar nu poate arăta semnalele din spatele acestei concluzii, un lider experimentat ar trebui să ezite să acționeze în acest sens.

Am văzut echipe care au abandonat instrumente care au produs răspunsuri rezonabile, deoarece utilizatorii nu au putut verifica cum au fost obținute aceste răspunsuri. Am văzut, de asemenea, echipe care au continuat să folosească sisteme mai puțin sofisticate, deoarece aceste sisteme și-au arătat munca. O sinteză sigură fără chitanțe este doar o modalitate mai rapidă de a fi greșit, iar odată ce un instrument arde un lider cu un răspuns nesursat, încrederea nu se mai întoarce. Conectarea fiecărui argument la sursa sa transformă “încredere-mă” în “iată de ce”.

Precizia contează din același motiv. Când un sistem urmărește în mod continuu relația dintre plan și realitate, decalajul dintre ceea ce a decis o echipă și ceea ce a fost de fapt expediat devine o derivă vizibilă, mai degrabă decât a fi absorbit în mod tacit într-un răspuns încrezător, dar învechit. Acesta nu este un motiv marginal. Thoughtworks a semnalat “deriva codului” ca un pericol specific pentru agenții de inteligență artificială. Acesta subliniază nevoia de bucle de verificare și mecanisme de feedback care să ajute sistemele să detecteze și să corecteze deviațiile pe măsură ce munca evoluează. Deriva pe care o organizație o poate vedea este informație utilă. Deriva care rămâne ascunsă este modul în care un sistem de inteligență artificială începe să înșele oamenii care au avut încredere în el.

Ce să întrebi înainte de a începe următorul proiect de agent

Când evaluezi o inițiativă de agent la nivel de întreprindere, aș începe cu patru întrebări:

• Sistemul păstrează o reprezentare optimizată a contextului pe parcursul timpului sau oferă doar acces la sursele de date existente?
• Fiecare răspuns este urmărit până la o sursă specifică, cum ar fi un ticket sau un document?
• Sistemul se actualizează automat pe măsură ce informațiile organizației se schimbă?
• Agentul înțelege relațiile dintre punctele de date, mai degrabă decât să aibă doar acces la ele?

Modelele de bază vor continua să se îmbunătățească. Capabilitățile de raționament vor deveni mai puternice, ferestrele de context vor crește, iar aceste avansuri vor deveni tot mai disponibile pentru toată lumea. Ceea ce nu va fi comodificat este înțelegerea organizațională. Mai mult de jumătate dintre directori executivi raportează că văd puține sau deloc beneficii de venituri sau costuri din inteligența artificială în ultimul an. Aș paria că majoritatea lipsește stratul de context care permite acestor modele să raționeze asupra ceea ce organizația știe deja.

Pe măsură ce software-ul devine dramatic mai ușor de creat, înțelegerea devine resursa rară. Cei care creează cea mai mare valoare din inteligența artificială sunt mai buni la păstrarea, conectarea și învățarea continuă din cunoașterea organizațională. Acesta este diferența dintre inteligența artificială care ghicește și inteligența artificială care știe.