Babak Hodjat, Chief AI Officer hos Cognizant: En Opfølgende Samtale

Babak Hodjat, Chief AI Officer hos Cognizant, leder virksomhedens AI Research Labs, hvor hans arbejde spænder over agentisk AI, evolutionær beregning, distribueret intelligens og udviklingen af AI-systemer designet til storskala virksomhedsimplementering. Som en erfaren AI-forsker, opfinder og iværksætter grundlagde Hodjat tidligere Sentient Technologies, hvor han var med til at bygge et af verdens største distribuerede AI-systemer, og han var også medstifter af Dejima, som udviklede agentorienteret naturlig sprog-teknologi, der bidrog til grundlaget for Apples Siri.

Da vi tidligere talte med Babak Hodjat, udforskede vores samtale hans karriere inden for AI, evolutionære tilgange til komplekse beslutningsprocesser, Cognizants arbejde med at anvende AI på klima- og arealanvendelsesudfordringer samt den voksende demokratisering af AI på tværs af virksomheden. I denne opfølgende samtale skifter fokus mod den hastigt fremvoksende agentiske virksomhed. Med udgangspunkt i temaer fra hans seneste bog, The Agentic Enterprise, undersøger Hodjat, hvorfor arkitektur kan være vigtigere end modellens kapacitet, hvordan organisationer kan koordinere stadig mere komplekse netværk af AI-agenter, hvor centraliseret tillid og styring passer ind i decentrale agent‑økosystemer, og hvad der stadig skal ændres, før autonome systemer pålideligt kan håndtere langvarige mål med minimal menneskelig indgriben.

Din karriere spænder over nogle af de tidligste arbejde med intelligente agenter, fra Dejimas naturlige sprog-teknologi, der hjalp med at inspirere Siri, til at bygge massive distribuerede AI-systemer hos Sentient og nu som Chief AI Officer hos Cognizant. Hvordan har din definition af en “AI-agent” udviklet sig gennem den rejse, og hvad kan nutidens udviklere lære af de tidligere generationer af agentbaserede systemer?

Definitionen er forblevet den samme, men agenternes nutidige kapaciteter betyder, at mange af de grundlæggende funktioner for en agent, som vi måtte kode i 90’erne, nu er tilgængelige direkte med LLM’er. Derfor er LLM-baserede agenter standarden i dag, og når folk taler om agenter, antager de, at der er en LLM, der driver deres grænseflade og ræsonnement.

I din seneste bog, The Agentic Enterprise, argumenterer du for, at virksomheders AI-systemer ofte lykkes eller fejler på grund af deres arkitektur snarere end den rå kapacitet i den underliggende model. Hvad gør virksomheder forkert, når de antager, at en opgradering til en mere kraftfuld model vil løse deres agentiske AI-problemer?

Ligesom seler (dvs. ikke-LLM‑dele af en agent) kan gøre eller ødelægge en kodningsagent, er arkitekturen for et multi‑agentisk system afgørende for dets succes. Det skyldes, at arkitekturen afspejler den kontekst, som agenter skal operere i – på samme måde som stilladset, der holder den agentiske virksomhed sammen. Uden den forbliver agenter uforankrede i realiteterne omkring virksomhedens drift, data, arbejdsgange og processer. Dette svarer på nogen måde til en virksomheds organisatoriske struktur, som omfatter jobbeskrivelser, procesdefinitioner og kommunikationsprotokoller for medarbejderne.

Du har understreget, at det omgivende system, herunder adgangskontroller, ansvarlighed, orkestrering, observerbarhed og tilsyn, kan være vigtigere end selve modellen. Hvad har en produktionsklar agentisk arkitektur egentlig brug for, som de fleste proof‑of‑concept‑implementeringer mangler?

Proof‑of‑concepts (PoC) er ofte uforankrede, så som et første skridt skal agenterne kunne operere i et miljø, hvor de har adgang til virksomhedens interne data og applikationer. Vigtige spørgsmål skal stilles, såsom hvilke data og applikationer vi er villige til at give agenterne adgang til, og hvilke beslutninger vi er komfortable med at lade agenterne træffe, så systemet er sikkert og trygt, mens de forventede kvalitets‑ og produktivitetsgevinster stadig kan opnås? Det er svært at finde svar på disse spørgsmål i et PoC‑miljø. Desuden kan sikkerhedsforanstaltninger og tilsyn kun være meningsfulde, når et agentisk system fungerer i samspil med andre menneskelige eller agentiske processer i virksomheden. Sandboxing er derfor et vigtigt skridt i processen med effektivt at gå fra en PoC til implementering.

Cognizant har beskrevet fremkomsten af et “Agent Operating System” til koordinering af netværk af AI‑agenter. Hvilke funktioner bør et sådant lag udføre, og forventer du, at agent‑orkestrering på sigt vil blive lige så grundlæggende for virksomhedens computing som operativsystemer og cloud‑platforme er i dag?

Koordineringen af agenter er vigtig: gør den for stiv, så bliver dit system forringet og skrøbeligt. Gør den for åben, så koordineringen helt overlades til agenten, risikerer du, at agentens opgave bliver for kompleks eller risikabel. En god koordineringsmekanisme gør det muligt for agenter spontant at danne teams som svar på forskellige situationer, hvilket resulterer i en robust og flydende organisatorisk disciplin. Jeg er fortaler for distribueret koordinering. Det svarer til at give en menneskelig organisation et vist niveau af autoritet over sit ansvarsområde. Når en kontekst opstår, kommunikerer medlemmer af organisationen og koordinerer via organisationsstrukturen for at bestemme, hvem der er ansvarlige for at håndtere situationen, og svaret samles, koordineres og konsolideres mellem organisationsnoderne. Den gode nyhed er, at strenge kontroller og sikkerhedsforanstaltninger kan anvendes på agentbaserede systemer, så sådan fleksibilitet ikke fører til risikabel adfærd.

Jeg tror, at ligesom MCP hurtigt er blevet en de facto‑standard for adgang til agentbaserede applikationer, vil koordineringsprotokoller også opstå og blive standardiseret på tværs af agentbaserede platforme for at muliggøre spontane multi‑agent‑processer på tværs af systemgrænser. Operativsystemer og cloud‑platforme er sandsynligvis ikke den bedste analogi her; snarere vil bredt accepterede standarder for multi‑agent‑definition og koordineringsprotokoller skulle udvikles for at muliggøre bredere gennemtrængning og vækst af agentificering i virksomheder.

Efterhånden som virksomheder bevæger sig fra individuelle copiloter til netværk, der indeholder dusinvis eller endda hundredevis af specialiserede agenter, hvordan skal organisationer afgøre, hvilke ansvarsområder der tilhører enkelte agenter, og hvilke der skal forblive centraliserede?

Ligesom internet‑firewalls og sikkerhedsmekanismer bør etableringen af tillid gennem live‑auditering mod politikker og håndhævelse af sikkerhedsrammer for agentbaserede systemer være en centraliseret funktion inden for en virksomhed, defineret og vedligeholdt af en enkelt enhed i selskabet. Alle andre agentbaserede systemer kan stilles til rådighed eller implementeres på en decentraliseret måde, men disse systemer skal registrere sig hos tillidssystemet for at få lov til at operere.

Cognizant har implementeret et multi‑agent‑system internt, der forbinder cirka 200 agenter på tværs af en organisation med omkring 350.000 ansatte. Hvad afslørede drift i så stor skala om agentbaseret AI, som ville være svært at opdage gennem mindre pilotprojekter?

Vi var nødt til at designe for skalerbarhed, udvidelsesmuligheder, omkostningseffektivitet og rimelige svartider. I projekter af denne størrelse må man ofte opfinde ting, som simpelthen ikke er nødvendige i små, lukkede agentbaserede systemer med få brugere. For eksempel skal inter‑agent‑koordinering gøres personlig og effektiv, så ekstra trin og omkostninger undgås. Derudover skal systemet kunne integrere både specialbyggede apps og tredjeparts‑systemer og -agenter, så interoperabilitet er vigtigt og kan spare tid og penge.

Når autonome agenter kan kalde API’er, få adgang til virksomhedssystemer, kommunikere med andre agenter og udføre handlinger med maskinhastighed, bliver traditionel AI‑styring meget sværere. Hvor skal menneskelig tilsyn forblive obligatorisk, og hvor kan organisationer trygt lade agenter operere uafhængigt?

Jeg mener, at den ultimative afgørende faktor for, hvor menneskelig tilsyn er nødvendig og obligatorisk, er tillid. Efterhånden som disse systemer bliver mere pålidelige, vil vi give dem mere autonomi, og medmindre lovgivning pålægger det (f.eks. på grund af manglende juridisk personstatus for AI), vil vi føle os trygge ved at overlade beslutninger til agenter. Måling af tillid og risiko er derfor vigtigt og kan hjælpe med at tegne grænsen mellem autonomi og menneskelig tilsyn – en grænse, der kan begynde at flytte sig, efterhånden som systemerne bliver mere pålidelige og mindre risikable at køre autonomt.

Meget af din tidligere forskning fokuserede på evolutionær beregning og systemer, der forbedrer sig gennem udvælgelse og tilpasning. Hvordan kan evolutionære tilgange supplere store sprogmodeller og forstærkningslæring, når vi forsøger at bygge agenter, der kan forbedre sig kontinuerligt i stedet for blot at udføre foruddefinerede arbejdsgange?

Mainstream‑AI i dag domineres af gradientnedstigningsmetoder, som er en form for bakke‑klatrings‑søgning, der ikke er særlig kreativ. Evolutionær beregning er yderst effektiv til at søge i komplekse søgeområder og kan supplere de dominerende tilgange. Vores laboratorium har for eksempel haft et nyligt gennembrud på dette område: vi har kunnet påvise, at Evolutionære Strategier er overlegne i forhold til forstærkningslæring for de fleste LLM‑eftertræning, hvilket resulterer i lige så gode eller bedre modeller til langt lavere omkostninger. Evolutionære tilgange kan også hjælpe med Test‑Time‑Training, som har til formål at lade LLM’er lære efter implementering.

Cognizants forskning har undersøgt miljøer, hvor interagerende agenter udvikler samarbejde, konkurrence, delt viden og endda bedragende strategier. Efterhånden som multi‑agent‑systemer bliver mere komplekse, kan emergent adfærd blive en af de største udfordringer for at holde virksomhedens AI forudsigelig og i overensstemmelse med organisationens mål?

Dette er allerede tilfældet, som det viser den meget omtalte nylige OpenAI/Hugging Face‑hændelse. Man kan tænke, at agenter, begrænset til deres prompts og kontekster og der bruger LLM‑er, der ikke lærer i realtid, vil forblive mere eller mindre konsistente i deres adfærd. Faktisk kan en agents miljø og motivationer ændre sig, ofte som følge af agentens egne handlinger i miljøet, hvilket fører til uforudset adfærd. Dette er endnu mere sandsynligt, når flere agenter interagerer, og derfor er det afgørende for os at observere autonome agenter i sikre sandkasse‑miljøer, så vi kan fastslå omfanget og skalaen af deres emergente tendenser og tage højde for dette i vores agent‑designs og sikkerhedsforanstaltninger. Vores offentligt tilgængelige system, TerraLingua, hvor du kan introducere agenter, artefakter og endda efterligne agenter og observere deres individuelle og kollektive adfærd, er et skridt i denne retning.

Ser vi ud over dagens bølge af agentisk AI, hvilken teknologisk gennembrud eller arkitektonisk ændring mener du stadig mangler, før vi kan bygge AI‑systemer, der pålideligt kan håndtere langvarige, komplekse mål med minimal menneskelig indgriben?

Mange af begrænsningerne i nutidens agenter stammer fra begrænsningerne i den nuværende AI‑teknologi. LLM‑er er stort set faste efter træning og kan ikke ‘skifte mening’ om ting, når de møder ny information. LLM‑er er alt og alle på én gang, og derfor skal de forberedes med kontekst og prompts og er meget følsomme over for denne forberedelse. LLM‑er har begrænsede kontekstvinduer og skal have al information gentaget for hvert eneste ord, de producerer, eller handling, de udfører. På et multi‑agent‑niveau mener jeg, at vi har brug for bredt accepterede distribuerede koordineringsprotokoller, tillids‑sikkerhedsrammer og politikker samt transaktions‑arbiteringssystemer for at den agentiske fremtid kan nå sit fulde potentiale.

Tak for det gode interview, læsere der ønsker at lære mere bør besøge Cognizant eller vores vores tidligere interview.