Babak Hodjat, Chief AI Officer på Cognizant: Ett återkommande samtal

Babak Hodjat, Chief AI Officer på Cognizant, leder företagets AI Research Labs, där hans arbete spänner över agentisk AI, evolutionär beräkning, distribuerad intelligens och utvecklingen av AI‑system avsedda för storskalig företagsdistribution. En långvarig AI‑forskare, uppfinnare och entreprenör, Hodjat var tidigare medgrundare till Sentient Technologies, där han hjälpte till att bygga ett av världens största distribuerade AI‑system, och tidigare medgrundare till Dejima, som utvecklade agentorienterad naturlig språk‑teknik som bidrog till grunderna för Apples Siri.

När vi tidigare pratade med Babak Hodjat utforskade vår diskussion hans karriär inom AI, evolutionära tillvägagångssätt för komplext beslutsfattande, Cognizants arbete med att tillämpa AI på klimat- och markanvändningsutmaningar samt den växande demokratiseringen av AI i hela företaget. I detta uppföljande samtal skiftar fokus mot den snabbt framväxande agentiska företagsmiljön. Med teman från hans senaste bok, The Agentic Enterprise, analyserar Hodjat varför arkitektur kan vara viktigare än modellens kapacitet, hur organisationer kan samordna allt mer komplexa nätverk av AI‑agenter, var centraliserat förtroende och styrning passar in i decentraliserade agent‑ekosystem, och vad som fortfarande måste förändras innan autonoma system på ett pålitligt sätt kan hantera långvariga mål med minimal mänsklig inblandning.

Din karriär omfattar några av de tidigaste arbetena med intelligenta agenter, från Dejimas naturliga språk‑teknik som bidrog till att inspirera Siri till att bygga enorma distribuerade AI‑system på Sentient och nu tjänstgöra som Chief AI Officer på Cognizant. Hur har din definition av en “AI‑agent” utvecklats under den resan, och vad kan dagens utvecklare lära sig av de tidigare generationerna av agentbaserade system?

Definitionen har förblivit densamma, men dagens agents kapacitet innebär att många av de grundläggande funktionerna hos en agent som vi var tvungna att koda på 90‑talet nu finns tillgängliga direkt med LLM‑modeller. Detta är anledningen till att LLM‑baserade agenter nu är standard, och när folk talar om agenter förutsätter de att en LLM driver dess gränssnitt och resonemang.

I din senaste bok, The Agentic Enterprise, argumenterar du för att företags‑AI‑system ofta lyckas eller misslyckas på grund av sin arkitektur snarare än den råa kapaciteten hos den underliggande modellen. Vad gör företag fel när de antar att en uppgradering till en kraftfullare modell kommer att lösa deras agentiska AI‑problem?

Precis som selar (dvs. icke‑LLM‑delar av en agent) kan göra eller förstöra en kodningsagent, är arkitekturen för ett multi‑agentiskt system avgörande för dess framgång. Detta beror på att arkitekturen speglar den kontext där agenter bör verka – ungefär som byggnadsställningen som håller den agentiska företagsmiljön samman. Utan den förblir agenter ogrundade i verkligheten av företagsverksamheter, data, arbetsflöden och processer. Detta är på sätt och vis analogt med organisationsstrukturen i ett företag, som omfattar arbetsbeskrivningar, processdefinitioner och kommunikationsprotokoll för de anställda.

Du har betonat att det omgivande systemet, inklusive åtkomstkontroller, ansvarsskyldighet, orkestrering, observerbarhet och tillsyn, kan vara viktigare än själva modellen. Vad behöver en produktionsklar agentisk arkitektur egentligen som de flesta proof‑of‑concept‑implementationer saknar?

Proof of concepts (PoC) är ofta ogrundade, så för att börja måste vi låta agenterna verka i en miljö där de har åtkomst till företagets interna data och applikationer. Viktiga frågor måste ställas, såsom vilka data och applikationer vi är beredda att låta agenterna få åtkomst till, och vilka beslut vi är bekväma med att låta agenterna fatta så att systemet är säkert och tryggt, samtidigt som de kvalitets‑ och produktivitetsvinster vi förväntar oss fortfarande kan uppnås? Det är svårt att fastställa svaret på dessa frågor i en PoC‑miljö. Dessutom kan skyddsmekanismer och tillsyn endast vara meningsfulla när ett agentiskt system opererar i samverkan med andra mänskliga eller agentiska processer inom företaget. Sandboxing är därför ett viktigt steg i processen för att effektivt gå från en PoC till produktionssättning.

Cognizant har beskrivit framväxten av ett “Agentoperativsystem” för att samordna nätverk av AI‑agenter. Vilka funktioner bör ett sådant lager utföra, och förväntar du dig att agent‑orkestrering så småningom blir lika grundläggande för företags‑IT som operativsystem och molnplattformar är idag?

Koordineringen av agenter är viktig: gör den för stel, så blir ditt system försämrat och skört. Gör den för öppen med koordinering som helt delegeras till agenten, riskerar du att agentens uppgift blir för komplex eller riskabel. En bra samordningsmekanism gör det möjligt för agenter att spontant bilda team som svar på olika situationer, vilket resulterar i en robust och flexibel organisationsdisciplin. Jag är en förespråkare för distribuerad koordinering. Det är analogt med att ge en mänsklig organisation någon nivå av myndighet över sitt ansvarsområde. När en kontext uppstår kommunicerar och koordinerar medlemmarna i organisationen via organisationsstrukturen för att fastställa vilka individer som ansvarar för att hantera situationen, och svaret samlas, koordineras och konsolideras mellan organisationsnoderna. Den goda nyheten är att strikta kontroller och skyddsåtgärder kan tillämpas på agentbaserade system så att sådan flexibilitet inte leder till riskabelt beteende.

Jag tror att precis som MCP snabbt har blivit en de facto-standard för agentbaserad applikationsåtkomst, kommer samordningsprotokoll också att uppstå och standardiseras över agentbaserade plattformar för att möjliggöra spontana multi-agentprocesser över gränserna för agentbaserade system. Operativsystem och molnplattformar är förmodligen inte den bästa analogin här; snarare måste allmänt accepterade standarder för definition av multi-agenter och samordningsprotokoll utvecklas för att möjliggöra bredare genomslag och blomstring av agentifiering i företag.

När företag går från individuella copiloter till nätverk som innehåller dussintals eller till och med hundratals specialiserade agenter, hur bör organisationer avgöra vilka ansvarsområden som tillhör enskilda agenter och vilka som bör förbli centraliserade?

Precis som internets brandvägg och säkerhetsmekanismer bör etableringen av förtroende genom levande granskning mot policys och upprätthållande av skyddsräcken på agentbaserade system vara en centraliserad funktion inom ett företag, definierad och underhållen av en enda enhet inom företaget. Alla andra agentbaserade system kan tillhandahållas eller implementeras på ett decentraliserat sätt, men dessa system måste registrera sig i förtroendesystemet för att få operera.

Cognizant har implementerat ett multi-agentssystem internt som kopplar samman ungefär 200 agenter i en organisation med cirka 350 000 anställda. Vad avslöjade drift på den skalan om agentbaserad AI som skulle vara svårt att upptäcka genom mindre pilotprojekt?

Vi var tvungna att designa för skalbarhet, utbyggbarhet, kostnadseffektivitet och rimliga svarstider. I projekt av sådan omfattning måste man ofta uppfinna saker som helt enkelt inte behövs i små, begränsade agentbaserade system med få användare. Till exempel måste inter-agentkoordinering göras personlig och effektiv, så att extra steg och kostnader undviks. Dessutom bör systemet kunna integrera skräddarsydda appar såväl som tredjepartssystem och -agenter, vilket gör interoperabilitet viktig och kan spara tid och pengar.

När autonoma agenter kan anropa API:er, komma åt företagsystem, kommunicera med andra agenter och utföra åtgärder i maskinhastighet blir traditionell AI-styrning mycket svårare. Var bör mänsklig tillsyn förbli obligatorisk, och var kan organisationer säkert låta agenter operera självständigt?

Jag tror att den slutgiltiga faktorn för var mänsklig tillsyn behövs och är obligatorisk är förtroende. Allt eftersom dessa system blir mer pålitliga kommer vi att ge dem mer autonomi, och såvida det inte är lagstadgat (t.ex. på grund av avsaknad av personlighet för AI), kommer vi att vara bekväma med att förlita oss på agenter. Att mäta förtroende och risk är därför viktigt och kan hjälpa till att dra gränsen mellan autonomi och mänsklig tillsyn – en gräns som kan börja flyttas när dessa system blir mer pålitliga och mindre riskfyllda att köra autonomt.

Mycket av din tidigare forskning fokuserade på evolutionär beräkning och system som förbättras genom urval och anpassning. Hur kan evolutionära metoder komplettera stora språkmodeller och förstärkningsinlärning när vi försöker bygga agenter som kan förbättras kontinuerligt snarare än att bara utföra fördefinierade arbetsflöden?

Huvudströmmen inom AI idag domineras av gradientnedstigningsmetoder, som är en form av hill‑climbing‑sökning som inte är särskilt kreativ. Evolutionär beräkning är mycket effektiv för att söka i komplexa sökutrymmen och kan komplettera huvudströmsmetoderna. Vårt laboratorium har exempelvis gjort ett nyligt genombrott i detta avseende: vi har kunnat visa att Evolutionära Strategier är överlägsna förstärkningsinlärning för de flesta LLM‑efterträning, vilket resulterar i modeller av lika eller bättre kvalitet till mycket lägre kostnad. Evolutionära metoder kan också hjälpa till med Test‑Time‑Training, som syftar till att låta LLM:er lära sig efter driftsättning.

Cognizants forskning har utforskat miljöer där interagerande agenter utvecklar samarbete, konkurrens, delad kunskap och till och med vilseledande strategier. Allt eftersom multi‑agentsystem blir mer komplexa, kan emergent beteende bli en av de största utmaningarna för att hålla företags‑AI förutsägbar och i linje med organisationens mål?

Det är redan så, vilket bevisas av den mycket uppmärksammade nyliga OpenAI/Hugging Face‑incidenten. Man kan tänka sig att agenter, begränsade till sina prompts och kontexter, och som använder LLM:er som inte lär sig i realtid, kommer att förbli mer eller mindre konsekventa i sitt beteende. Men faktum är att en agents miljö och motivationer kan förändras, ofta som ett resultat av agentens egna handlingar i miljön, vilket leder till oförutsägbart beteende. Detta blir ännu mer sannolikt när flera agenter interagerar, och därför är det kritiskt att vi observerar autonoma agenter i säkra sandlådemiljöer så att vi kan fastställa omfattningen och skalan av deras emergenta tendenser och ta hänsyn till detta i våra agentdesigns och skyddsåtgärder. Vårt offentligt tillgängliga system, TerraLingua, där du kan introducera agenter, artefakter och till och med imitera agenter och observera deras individuella och kollektiva beteende, är ett steg i den riktningen.

Att blicka bortom dagens våg av agentisk AI, vilken teknologisk genombrott eller arkitektonisk förändring tror du fortfarande saknas innan vi kan bygga AI‑system som på ett pålitligt sätt kan hantera långvariga, komplexa mål med minimal mänsklig inblandning?

Många av begränsningarna hos dagens agenter härrör från begränsningarna i den nuvarande AI‑kunskapen. LLM:er är i stort sett fasta efter träning och kan inte ‘ändra sig’ när de möter ny information. LLM:er är allt och alla på en gång, och därför måste de primas med kontext och prompts och är mycket känsliga för denna primning. LLM:er har begränsade kontextfönster och måste matas med allt på nytt för varje ord de producerar eller varje handling de utför. På en multi‑agentnivå tror jag att vi behöver allmänt accepterade distribuerade samordningsprotokoll, förtroendegaranti‑ramverk och policyer samt transaktionsförmedlarsystem för att den agentiska framtiden ska kunna nå sin fulla potential.

Tack för den fantastiska intervjun, läsare som vill lära sig mer bör besöka Cognizant eller vår tidigare intervju.