Babak Hodjat, Chief AI Officer la Cognizant: O conversație de revenire

Babak Hodjat, Chief AI Officer la Cognizant, conduce Laboratoarele de Cercetare AI ale companiei, unde munca sa acoperă AI agentic, calcul evoluționist, inteligență distribuită și dezvoltarea de sisteme AI concepute pentru implementarea la scară largă în întreprinderi. Un cercetător AI cu experiență îndelungată, inventator și antreprenor, Hodjat a cofondat anterior Sentient Technologies, unde a contribuit la construirea unuia dintre cele mai mari sisteme AI distribuite din lume, și anterior a cofondat Dejima, dezvoltând tehnologie de limbaj natural orientată pe agenți care a contribuit la bazele Siri de la Apple.

Când am vorbit anterior cu Babak Hodjat, discuția noastră a explorat cariera sa în AI, abordările evoluționare ale luării deciziilor complexe, munca Cognizant în aplicarea AI pentru provocări legate de climă și utilizarea terenurilor, și democratizarea în creștere a AI în cadrul întreprinderii. În această conversație de follow‑up, accentul se mută spre întreprinderea agentică în rapidă dezvoltare. Inspirându-se din temele cărții sale recente, The Agentic Enterprise, Hodjat examinează de ce arhitectura poate conta mai mult decât capacitatea modelului, cum pot organizațiile să coordoneze rețele tot mai complexe de agenți AI, unde se încadrează încrederea și guvernanța centralizată în ecosisteme de agenți descentralizați, și ce trebuie încă să se schimbe înainte ca sistemele autonome să poată gestiona în mod fiabil obiective pe termen lung cu intervenție umană minimă.

Cariera dumneavoastră acoperă unele dintre cele mai timpurii lucrări privind agenții inteligenți, de la tehnologia de limbaj natural a Dejima care a inspirat Siri până la construirea unor sisteme AI distribuite masive la Sentient și acum în calitate de Chief AI Officer la Cognizant. Cum a evoluat definiția dumneavoastră de „agent AI” de-a lungul acestui parcurs și ce pot învăța dezvoltatorii de astăzi din acele generații anterioare de sisteme bazate pe agenți?

Definiția a rămas aceeași, dar capabilitățile agenților de astăzi înseamnă că multe dintre funcțiile de bază ale unui agent pe care trebuia să le codăm în anii ’90 sunt disponibile acum direct din LLM-uri. De aceea agenții bazati pe LLM sunt standardul acum, și când oamenii vorbesc despre agenți, presupun că există un LLM care le conduce interfața și raționamentul.

În cartea dumneavoastră recentă, The Agentic Enterprise, susțineți că sistemele AI pentru întreprinderi reușesc sau eșuează adesea din cauza arhitecturii, nu a capacității brute a modelului de bază. Ce greșesc companiile când presupun că actualizarea la un model mai puternic va rezolva problemele lor de AI agentic?

Exact așa cum hamurile (adică părțile non‑LLM ale unui agent) pot face sau rupe un agent de programare, arhitectura unui sistem multi‑agentic este crucială pentru succesul său. Acest lucru se datorează faptului că arhitectura reflectă contextul în care agenții ar trebui să opereze – un fel de schelă care ține împreună întreprinderea agentică. Fără ea, agenții rămân neancorați în realitățile operațiunilor întreprinderii, datelor, fluxurilor de lucru și proceselor. Este oarecum analog cu structura organizatorică a unei afaceri, care include descrierile posturilor, definițiile proceselor și protocoalele de comunicare pentru angajați.

Ați subliniat că sistemul înconjurător, inclusiv controalele de acces, responsabilitatea, orchestrarea, observabilitatea și supravegherea, poate conta mai mult decât modelul în sine. Ce are nevoie o arhitectură agentică pregătită pentru producție, pe care majoritatea implementărilor de tip proof‑of‑concept le omite?

Prototipurile (PoC) sunt adesea neancorate, așa că, pentru a începe, trebuie ca agenții să opereze într-un mediu în care au acces la datele și aplicațiile interne ale companiei. Trebuie puse întrebări importante, cum ar fi ce date și aplicații suntem pregătiți să permitem agenților să acceseze și ce decizii suntem confortabili să le permitem să ia astfel încât sistemul să fie sigur și securizat, în timp ce câștigurile de calitate și productivitate pe care le așteptăm pot fi în continuare realizate? Este dificil să determinăm răspunsul la aceste întrebări într-un mediu PoC. În plus, barierele de siguranță și supravegherea pot fi semnificative doar când un sistem agentic funcționează în combinație cu alte procese umane sau agentice în cadrul companiei. Izolarea (sandboxing‑ul), prin urmare, este un pas important în procesul de trecere eficientă de la un PoC la implementare.

Cognizant a descris apariția unui „Agent Operating System” pentru coordonarea rețelelor de agenți AI. Ce funcții ar trebui să îndeplinească un astfel de strat și vă așteptați ca orchestrarea agenților să devină în cele din urmă la fel de fundamentală pentru calculul în întreprinderi ca sistemele de operare și platformele cloud de astăzi?

Coordinarea agenților este importantă: dacă este prea rigidă, sistemul tău devine degradat și fragil. Dacă este prea deschisă, cu coordonarea delegată complet agentului, riști să faci sarcina agentului prea complexă sau riscantă. Un mecanism bun de coordonare permite agenților să formeze spontan echipe ca răspuns la diverse situații, rezultând într-o disciplină organizațională robustă și fluidă. Sunt un susținător al coordonării distribuite. Este analog cu împuternicirea unei organizații umane cu un anumit nivel de autoritate asupra domeniului său de responsabilitate. Când apare un context, membrii organizației comunică și se coordonează prin structura organizațională pentru a determina persoanele responsabile de gestionarea situației, iar răspunsul este colectat, coordonat și consolidat între nodurile organizaționale. Vestea bună este că pot fi aplicate controale stricte și măsuri de siguranță sistemelor agențiale, astfel încât această flexibilitate să nu ducă la comportamente riscante.

Cred că, la fel cum MCP a devenit rapid un standard de facto pentru accesul la aplicații agențiale, protocoalele de coordonare vor apărea și se vor standardiza în cadrul platformelor agențiale pentru a permite procese multi-agent spontane la granițele sistemelor agențiale. Sistemele de operare și platformele cloud probabil nu sunt cea mai bună analogie în acest caz; mai degrabă, standarde larg acceptate pentru definiția multi-agent și protocoalele de coordonare vor trebui să apară pentru a permite o penetrare mai largă și o dezvoltare a agențificării în întreprindere.

Pe măsură ce întreprinderile trec de la copilot individual la rețele care conțin zeci sau chiar sute de agenți specializați, cum ar trebui organizațiile să decidă ce responsabilități aparțin agenților individuali și ce ar trebui să rămână centralizate?

La fel ca firewall-ul și mecanismele de securitate ale internetului, stabilirea încrederii prin auditare în timp real conform politicilor și impunerea de bariere de siguranță asupra sistemelor agențiale ar trebui să fie o funcție centralizată în cadrul unei afaceri, definită și menținută de o singură entitate din companie. Toate celelalte sisteme agențiale pot fi furnizate sau implementate într-un mod descentralizat, dar aceste sisteme vor trebui să se înregistreze în sistemul de încredere pentru a li se permite să funcționeze.

Cognizant a implementat intern un sistem multi-agent care conectează aproximativ 200 de agenți în cadrul unei organizații de circa 350.000 de angajați. Ce a relevat operarea la această scară despre AI-ul agențial, care ar fi dificil de descoperit prin proiecte pilot mai mici?

A trebăm să proiectăm pentru scalabilitate, extensibilitate, eficiență a costurilor și timpi de răspuns rezonabili. În proiecte de această scară, adesea trebuie să inventăm lucruri care pur și simplu nu sunt necesare în sistemele agențiale mici și închise, cu puțini utilizatori. De exemplu, trebuie să facem coordonarea inter‑agent personalizată și eficientă, pentru a evita pași suplimentari și costuri. De asemenea, sistemul ar trebui să poată integra aplicații construite personal, precum și sisteme și agenți terți, astfel încât interoperabilitatea este importantă și poate economisi timp și bani.

Când agenții autonomi pot apela API-uri, accesa sisteme enterprise, comunica cu alți agenți și efectua acțiuni la viteza mașinii, guvernanța AI tradițională devine mult mai dificilă. Unde ar trebui supravegherea umană să rămână obligatorie și unde pot organizațiile permite în siguranță agenților să opereze independent?

Cred că factorul determinant final pentru a stabili unde este necesară și obligatorie supravegherea umană este încrederea. Pe măsură ce aceste sisteme devin mai de încredere, le vom acorda mai multă autonomie și, dacă nu este impus legal (de exemplu, din cauza lipsei de personalitate juridică pentru AI), vom fi confortabili să ne bazăm pe agenți. Măsurarea încrederii și a riscului este, prin urmare, importantă și poate ajuta la trasarea liniei dintre autonomie și supravegherea umană – o linie care ar putea începe să se miște pe măsură ce aceste sisteme devin mai de încredere și mai puțin riscante în operare autonomă.

O mare parte din cercetarea ta anterioară s-a concentrat pe calculul evoluționist și pe sisteme care se îmbunătățesc prin selecție și adaptare. Cum ar putea abordările evoluționiste să completeze modelele lingvistice mari și învățarea prin recompensă pe măsură ce încercăm să construim agenți care să se îmbunătățească continuu, în loc să execute doar fluxuri de lucru predefinite?

Fluxul principal în AI astăzi este dominat de abordările de gradient descent, care reprezintă o formă de căutare prin urcarea unui deal și nu sunt foarte creative. Calculul evoluționist este extrem de eficient în căutarea în spații de căutare complexe și poate completa abordările principale. Laboratorul nostru, de exemplu, a înregistrat recent o descoperire în acest sens: am reușit să demonstrăm că Evolutionary Strategies sunt superioare învățării prin recompensă pentru majoritatea post‑antrenamentelor LLM, rezultând modele de calitate egală sau superioară la costuri mult mai reduse. Abordările evoluționiste ar putea, de asemenea, să ajute la Test‑Time Training, care își propune să permită LLM‑urilor să învețe după implementare.

Cercetarea Cognizant a explorat medii în care agenții interacționând dezvoltă cooperare, competiție, cunoaștere partajată și chiar strategii înșelătoare. Pe măsură ce sistemele multi‑agent devin mai complexe, comportamentul emergent ar putea deveni una dintre cele mai mari provocări în menținerea AI‑ului enterprise predictibil și aliniat cu obiectivele organizaționale?

Acest lucru este deja valabil, așa cum demonstrează incidentul recent foarte mediatizat OpenAI/Hugging Face. S-ar putea să credem că agenții, limitați la prompturile și contexturile lor și utilizând LLM-uri care nu învață în timp real, vor rămâne mai mult sau mai puțin consecvenți în comportament. Cu toate acestea, realitatea este că mediul și motivațiile unui agent se pot schimba, adesea ca rezultat al acțiunilor proprii ale agentului în mediul respectiv, generând comportamente neprevăzute. Acest lucru este și mai probabil să se întâmple pe măsură ce interacționează mai mulți agenți, de aceea este esențial să observăm agenții autonomi în medii sandbox sigure pentru a determina amploarea și scala tendințelor emergente ale acestora și pentru a le lua în considerare în proiectele și măsurile de siguranță ale agenților. Sistemul nostru public, TerraLingua, unde poți introduce agenți, artefacte și chiar să te deghizezi în agenți și să observi comportamentul lor individual și colectiv, reprezintă un pas în această direcție.

Privind dincolo de valul actual de AI agentic, ce inovație tehnologică sau schimbare arhitecturală credeți că lipsește încă înainte de a putea construi sisteme AI capabile să gestioneze în mod fiabil obiective pe termen lung și complexe cu intervenție umană minimă?

Majoritatea limitărilor agenților de astăzi provin din limitările stadiului actual al AI. LLM-urile sunt practic fixe după antrenament și nu pot „schimba părerea” despre lucruri pe măsură ce întâlnesc informații noi. LLM-urile sunt totul și toți simultan, astfel că trebuie să fie pregătite cu context și prompturi și sunt foarte sensibile la această pregătire. LLM-urile au ferestre de context limitate și trebuie să li se furnizeze totul din nou pentru fiecare cuvânt pe care îl generează sau acțiune pe care o întreprind. La nivel multi-agent, cred că avem nevoie de protocoale de coordonare distribuită larg acceptate, bariere de încredere și politici, și sisteme arbitre de tranzacții pentru ca viitorul agentic să își atingă întregul potențial.

Vă mulțumim pentru interviul excelent, cititorii care doresc să afle mai multe ar trebui să viziteze Cognizant sau interviul anterior.