Babak Hodjat, Chief AI Officer at Cognizant: En oppfølgingssamtale

Babak Hodjat, Chief AI Officer at Cognizant, leder selskapets AI Research Labs, hvor arbeidet hans spenner over agentisk AI, evolusjonær beregning, distribuert intelligens og utvikling av AI‑systemer designet for storskala bedriftsutplassering. Som en langvarig AI‑forsker, oppfinner og entreprenør, var Hodjat tidligere medgründer av Sentient Technologies, hvor han bidro til å bygge et av verdens største distribuerte AI‑systemer, og tidligere medgründer av Dejima, som utviklet agent‑orientert naturlig språk‑teknologi som bidro til grunnlaget for Apples Siri.

Da vi tidligere snakket med Babak Hodjat, utforsket diskusjonen hans karriere innen AI, evolusjonære tilnærminger til komplekse beslutningsprosesser, Cognizants arbeid med å bruke AI på klima- og arealbruksutfordringer, og den økende demokratiseringen av AI i hele virksomheten. I denne oppfølgingssamtalen skifter fokuset mot den raskt fremvoksende agentiske virksomheten. Med utgangspunkt i temaer fra hans nylige bok, The Agentic Enterprise, undersøker Hodjat hvorfor arkitektur kan være viktigere enn modellens kapasitet, hvordan organisasjoner kan koordinere stadig mer komplekse nettverk av AI‑agenter, hvor sentralisert tillit og styring passer inn i desentraliserte agent‑økosystemer, og hva som fortsatt må endres før autonome systemer pålitelig kan håndtere langvarige mål med minimal menneskelig inngripen.

Din karriere spenner over noe av det tidligste arbeidet med intelligente agenter, fra Dejimas naturlige språk‑teknologi som bidro til inspirasjonen bak Siri til å bygge massive distribuerte AI‑systemer hos Sentient og nå som Chief AI Officer i Cognizant. Hvordan har din definisjon av en «AI‑agent» utviklet seg gjennom denne reisen, og hva kan dagens utviklere lære av de tidligere generasjonene av agent‑baserte systemer?

Definisjonen har forblitt den samme, men dagens agenters evner betyr at mange av de grunnleggende funksjonene en agent måtte programmeres for på 1990‑tallet nå er tilgjengelige direkte med LLM‑er. Dette er grunnen til at LLM‑baserte agenter er standarden i dag, og når folk snakker om agenter, antar de at en LLM driver deres grensesnitt og resonnering.

I din nylige bok, The Agentic Enterprise, argumenterer du for at bedrifts‑AI‑systemer ofte lykkes eller mislykkes på grunn av arkitekturen snarere enn den rå kapasiteten til den underliggende modellen. Hva gjør selskapene feil når de antar at en oppgradering til en kraftigere modell vil løse deres agentiske AI‑problemer?

Akkurat som seler (dvs. ikke‑LLM‑deler av en agent) kan gjøre eller ødelegge en kode‑agent, er arkitekturen i et multi‑agentisk system kritisk for suksessen. Dette skyldes at arkitekturen reflekterer konteksten agentene skal operere i – omtrent som stillaser som holder den agentiske virksomheten sammen. Uten den forblir agentene uten forankring i realitetene i virksomhetens operasjoner, data, arbeidsflyter og prosesser. Dette er på noen måte analogt med organisasjonsstrukturen i en bedrift, som inkluderer stillingsbeskrivelser, prosessdefinisjoner og kommunikasjonsprotokoller for de ansatte.

Du har understreket at det omkringliggende systemet, inkludert tilgangskontroller, ansvarlighet, orkestrering, observabilitet og tilsyn, kan være viktigere enn selve modellen. Hva trenger en produksjonsklar agentisk arkitektur egentlig som de fleste proof‑of‑concept‑utrullinger mangler?

Proof of concepts (PoC) er ofte uten forankring, så i starten må vi få agentene til å operere i et miljø hvor de har tilgang til selskapets interne data og applikasjoner. Viktige spørsmål må stilles, for eksempel hvilke data og applikasjoner vi er villige til å la agentene få tilgang til, og hvilke beslutninger vi er komfortable med å la agentene ta slik at systemet er trygt og sikkert, samtidig som de kvalitets‑ og produktivitetsgevinster vi forventer fortsatt kan oppnås? Det er vanskelig å finne svar på disse spørsmålene i et PoC‑miljø. Videre kan retningslinjer og tilsyn kun være meningsfulle når et agentisk system opererer i samspill med andre menneskelige eller agentiske prosesser i selskapet. Sandboxing er derfor et viktig steg i prosessen med å effektivt gå fra en PoC til produksjonsutplassering.

Cognizant har beskrevet fremveksten av et «Agent Operating System» for å koordinere nettverk av AI‑agenter. Hvilke funksjoner bør et slikt lag utføre, og forventer du at agent‑orkestrering etter hvert vil bli like grunnleggende for bedrifts‑databehandling som operativsystemer og skyplattformer er i dag?

Koordineringen av agenter er viktig: gjør den for rigid, så blir systemet ditt degradert og sprøtt. Gjør den for åpen med koordinering helt delegert til agenten, og du risikerer at agentens oppgave blir for kompleks eller risikabel. En god koordinasjonsmekanisme gjør det mulig for agenter å spontant danne team som svar på ulike situasjoner, noe som gir en robust og flytende organisatorisk disiplin. Jeg er en tilhenger av distribuert koordinering. Det er analogt med å gi en menneskelig organisasjon et visst nivå av myndighet over sitt ansvarsområde. Når en kontekst oppstår, kommuniserer og koordinerer medlemmer av organisasjonen gjennom den organisatoriske strukturen for å bestemme hvilke individer som er ansvarlige for å håndtere situasjonen, og svaret blir samlet, koordinert og konsolidert mellom de organisatoriske nodene. Den gode nyheten er at strenge kontroller og sikkerhetstiltak kan anvendes på agentbaserte systemer slik at slik fleksibilitet ikke fører til risikabel atferd.

Jeg tror faktisk, akkurat som MCP raskt har blitt en de facto‑standard for agentbasert applikasjonstilgang, vil koordinasjonsprotokoller også dukke opp og bli standardisert på tvers av agentbaserte plattformer for å muliggjøre spontane fler‑agent‑prosesser på tvers av agentbaserte systemgrenser. Operativsystemer og skyplattformer er sannsynligvis ikke den beste analogien her; snarere må bredt aksepterte standarder for fler‑agent‑definisjon og koordinasjonsprotokoller oppstå for å tillate større gjennomslag og blomstring av agentifisering i virksomheter.

Etter hvert som virksomheter går fra individuelle copilot‑assistenter til nettverk som inneholder dusinvis eller til og med hundrevis av spesialiserte agenter, hvordan skal organisasjoner bestemme hvilke ansvar som tilhører enkeltagenter og hvilke som bør forbli sentralisert?

Akkurat som internett‑brannmuren og sikkerhetsmekanismene, bør etableringen av tillit gjennom sanntidsrevisjon mot retningslinjer og håndheving av sikkerhetsrammer på agentbaserte systemer være en sentral funksjon i en bedrift, definert og vedlikeholdt av en enkelt enhet i selskapet. Alle andre agentbaserte systemer kan settes i drift eller implementeres på en desentralisert måte, men disse systemene må registrere seg hos tillitssystemet for å få lov til å operere.

Cognizant har implementert et multi‑agent‑system internt som kobler omtrent 200 agenter på tvers av en organisasjon med rundt 350 000 ansatte. Hva avslørte drift i så stor skala om agent‑AI som ville vært vanskelig å oppdage gjennom mindre pilotprosjekter?

Vi måtte designe for skalerbarhet, utvidbarhet, kostnadseffektivitet og rimelige responstider. I prosjekter av slik størrelse må man ofte finne på ting som rett og slett ikke er nødvendig i små, innelukkede agentbaserte systemer med få brukere. For eksempel må inter‑agent‑koordinering gjøres personlig og effektiv, slik at ekstra trinn og kostnader unngås. Systemet bør også kunne hente inn skreddersydde apper så vel som tredjepartsystemer og -agenter, så interoperabilitet er viktig og kan spare tid og penger.

Når autonome agenter kan kalle API‑er, få tilgang til bedriftsystemer, kommunisere med andre agenter og utføre handlinger i maskinhastighet, blir tradisjonell AI‑styring mye vanskeligere. Hvor bør menneskelig tilsyn forbli obligatorisk, og hvor kan organisasjoner trygt la agenter operere uavhengig?

Jeg mener at den endelige avgjørende faktoren for hvor menneskelig tilsyn er nødvendig og obligatorisk er tillit. Etter hvert som disse systemene blir mer pålitelige, vil vi gi dem mer autonomi, og med mindre det er lovpålagt (f.eks. på grunn av manglende juridisk personlighet for AI), vil vi føle oss komfortable med å overlate til agenter. Å måle tillit og risiko er derfor viktig og kan hjelpe med å trekke grensen mellom autonomi og menneskelig tilsyn – en grense som kan begynne å flytte seg etter hvert som disse systemene blir mer pålitelige og mindre risikable å kjøre autonomt.

Mye av den tidligere forskningen din fokuserte på evolusjonsberegning og systemer som forbedres gjennom seleksjon og tilpasning. Hvordan kan evolusjonsmetoder supplere store språkmodeller og forsterkningslæring når vi prøver å bygge agenter som kan forbedre seg kontinuerlig i stedet for bare å utføre forhåndsdefinerte arbeidsflyter?

Hovedstrømmen innen AI i dag domineres av gradientnedstigningsmetoder, som er en form for bakketopp‑søk som ikke er særlig kreativ. Evolusjonsberegning er svært effektiv til å søke i komplekse søkeområder og kan supplere hovedstrømsmetodene. Laboratoriet vårt har for eksempel oppnådd et nylig gjennombrudd på dette området: vi har kunnet vise at Evolutionary Strategies er overlegne forsterkningslæring for de fleste LLM‑etter‑trening, noe som gir modeller av lik eller bedre kvalitet til mye lavere kostnader. Evolusjonsmetoder kan også bidra til Test‑Time Training, som har som mål å la LLM‑er lære etter utrulling.

Cognizants forskning har utforsket miljøer der samhandlende agenter utvikler samarbeid, konkurranse, delt kunnskap og til og med bedragstrategier. Etter hvert som multi‑agent‑systemer blir mer komplekse, kan fremvoksende atferd bli en av de største utfordringene for å holde bedrifts‑AI forutsigbar og i tråd med organisasjonens mål?

Dette er allerede tilfelle, som vist av den mye omtalt nylige OpenAI/Hugging Face‑hendelsen. Vi kan tenke oss at agenter, begrenset til sine prompt og kontekster, og som bruker LLM‑er som ikke lærer i sanntid, vil forbli mer eller mindre konsistente i sin oppførsel. Faktisk kan en agents miljø og motivasjoner endre seg, ofte som følge av agentens egne handlinger i miljøet, noe som fører til uforutsett oppførsel. Dette er enda mer sannsynlig når flere agenter samhandler, og derfor er det kritisk at vi observerer autonome agenter i trygge sandkasse‑innstillinger slik at vi kan fastslå omfanget og skalaen av deres emergente tendenser, og ta hensyn til dette i våre agentdesign og sikkerhetstiltak. Vårt offentlig tilgjengelige system, TerraLingua, hvor du kan introdusere agenter, artefakter og til og med etterligne agenter og observere deres individuelle og kollektive oppførsel, er et skritt i denne retningen.

Ser vi forbi dagens bølge av agentbasert AI, hvilken teknologisk gjennombrudd eller arkitektonisk endring mener du fortsatt mangler før vi kan bygge AI‑systemer som pålitelig kan håndtere langvarige, komplekse mål med minimal menneskelig inngripen?

Mange av begrensningene til dagens agenter stammer fra begrensningene i den nåværende AI‑teknologien. LLM‑er er stort sett faste etter trening og kan ikke «endre mening» om ting når de møter ny informasjon. LLM‑er er alt og alle på én gang, og derfor må de forberedes med kontekst og prompt, og de er svært følsomme for denne forberedelsen. LLM‑er har begrensede kontekstvinduer og må mates med alt på nytt for hvert eneste ord de produserer eller handling de utfører. På et multi‑agentnivå mener jeg at vi trenger bredt aksepterte distribuerte koordineringsprotokoller, tillitsrammer og retningslinjer, samt transaksjons‑meglingssystemer for at den agentbaserte fremtiden skal realisere sitt fulle potensial.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Cognizant eller vårt tidligere intervju.