Babak Hodjat, Chief AI Officer bij Cognizant: Een vervolggesprek

Babak Hodjat, Chief AI Officer bij Cognizant, leidt de AI Research Labs van het bedrijf, waar zijn werk zich uitstrekt over agentische AI, evolutionaire berekeningen, gedistribueerde intelligentie en de ontwikkeling van AI‑systemen die zijn ontworpen voor grootschalige ondernemingsimplementatie. Als langdurig AI‑onderzoeker, uitvinder en ondernemer heeft Hodjat eerder Sentient Technologies medeopgericht, waar hij hielp een van ’s werelds grootste gedistribueerde AI‑systemen te bouwen, en eerder Dejima medeopgericht, waarbij hij agent‑georiënteerde natuurlijke‑taaltechnologie ontwikkelde die bijdroeg aan de basis van Apple’s Siri.

Toen we eerder met Babak Hodjat spraken, verkenden we zijn loopbaan in AI, evolutionaire benaderingen van complexe besluitvorming, het werk van Cognizant met AI voor klimaat- en landgebruiksuitdagingen, en de groeiende democratisering van AI binnen de onderneming. In dit vervolggesprek verschuift de focus naar de snel opkomende agentische onderneming. Voortbouwend op thema’s uit zijn recente boek, The Agentic Enterprise, onderzoekt Hodjat waarom architectuur belangrijker kan zijn dan de capaciteiten van het model, hoe organisaties steeds complexere netwerken van AI‑agenten kunnen coördineren, waar gecentraliseerd vertrouwen en governance passen in gedecentraliseerde agent‑ecosystemen, en wat er nog moet veranderen voordat autonome systemen betrouwbaar langlopende doelstellingen kunnen beheren met minimale menselijke tussenkomst.

Uw carrière omvat een van de vroegste werkzaamheden op het gebied van intelligente agenten, van Dejima’s natuurlijke‑taaltechnologie die bijdroeg aan de inspiratie voor Siri tot het bouwen van enorme gedistribueerde AI‑systemen bij Sentient en nu als Chief AI Officer bij Cognizant. Hoe is uw definitie van een “AI‑agent” geëvolueerd gedurende die reis, en wat kunnen hedendaagse ontwikkelaars leren van die eerdere generaties agent‑gebaseerde systemen?

De definitie is hetzelfde gebleven, maar de mogelijkheden van agenten vandaag betekenen dat veel van de basisfuncties van een agent die we in de jaren ’90 moesten programmeren, nu kant‑en‑klaar beschikbaar zijn met LLM’s. Daarom zijn LLM‑gebaseerde agenten nu de norm, en wanneer mensen over agenten spreken, gaan ze ervan uit dat er een LLM is die de interface en het redeneren aandrijft.

In uw recente boek, The Agentic Enterprise, betoogt u dat enterprise‑AI‑systemen vaak slagen of falen vanwege hun architectuur in plaats van de ruwe capaciteit van het onderliggende model. Wat doen bedrijven verkeerd wanneer ze aannemen dat een upgrade naar een krachtiger model hun agent‑AI‑problemen zal oplossen?

Net zoals harnassen (d.w.z. niet‑LLM‑onderdelen van een agent) een codeer‑agent kunnen maken of breken, is de architectuur van een multi‑agentisch systeem cruciaal voor het succes. Dit komt doordat de architectuur de context weerspiegelt waarin agenten moeten opereren – een soort steiger die de agentische onderneming bij elkaar houdt. Zonder deze architectuur blijven agenten losgekoppeld van de realiteit van de bedrijfsvoering, data, werkstromen en processen. Dit is enigszins analoog aan de organisatiestructuur van een bedrijf, die onder meer de functieomschrijvingen, procesdefinities en communicatie‑protocollen voor de medewerkers omvat.

U heeft benadrukt dat het omringende systeem, inclusief toegangscontroles, verantwoording, orkestratie, observeerbaarheid en toezicht, belangrijker kan zijn dan het model zelf. Wat heeft een productie‑klare agentische architectuur echt nodig dat de meeste proof‑of‑concept‑implementaties missen?

Proof‑of‑concepts (PoC) zijn vaak niet verankerd, dus om te beginnen moeten de agenten opereren in een omgeving waarin ze toegang hebben tot de interne data en applicaties van het bedrijf. Er moeten belangrijke vragen worden gesteld, zoals welke data en applicaties we bereid zijn de agenten te laten benaderen, en welke beslissingen we comfortabel vinden om de agenten te laten nemen zodat het systeem veilig en beveiligd is, terwijl de verwachte kwaliteits‑ en productiviteitswinst nog steeds kan worden behaald. Het is moeilijk om het antwoord op deze vragen te bepalen in een PoC‑omgeving. Bovendien kunnen waarborgen en toezicht alleen zinvol zijn wanneer een agentisch systeem opereert in samenwerking met andere menselijke of agentische processen binnen het bedrijf. Sandboxen is daarom een belangrijke stap in het proces om effectief van een PoC naar productie te gaan.

Cognizant heeft de opkomst van een “Agent Operating System” beschreven voor het coördineren van netwerken van AI‑agenten. Welke functies zou zo’n laag moeten vervullen, en verwacht u dat agent‑orkestratie uiteindelijk net zo fundamenteel wordt voor enterprise‑computing als besturingssystemen en cloudplatformen vandaag de dag?

De coördinatie van agenten is belangrijk: maak je het te rigide, dan wordt je systeem verslechterd en broos. Maak je de coördinatie te open door deze volledig aan de agent te delegeren, dan loop je het risico dat de taak van de agent te complex of riskant wordt. Een goed coördinatiemechanisme stelt agenten in staat spontaan teams te vormen als reactie op verschillende situaties, wat resulteert in een robuuste en flexibele organisatorische discipline. Ik ben voorstander van gedistribueerde coördinatie. Het is vergelijkbaar met het geven van een bepaald gezag aan een menselijke organisatie over haar verantwoordelijkheidsgebied. Wanneer zich een context voordoet, communiceren en coördineren leden van de organisatie via de organisatiestructuur om de individuen te bepalen die verantwoordelijk zijn voor het afhandelen van de situatie, en de reactie wordt verzameld, gecoördineerd en geconsolideerd tussen de organisatorische knooppunten. Het goede nieuws is dat strikte controles en waarborgen kunnen worden toegepast op agentische systemen zodat die flexibiliteit niet leidt tot riskant gedrag.

Ik denk dat, net zoals MCP snel een de facto standaard is geworden voor agentische applicatietoegang, coördinatieprotocollen ook zullen ontstaan en gestandaardiseerd zullen worden over agentische platforms heen om spontane multi‑agentprocessen over de grenzen van agentische systemen mogelijk te maken. Besturingssystemen en cloudplatformen zijn hier waarschijnlijk geen goede analogie; eerder zullen breed geaccepteerde standaarden voor multi‑agentdefinitie en coördinatieprotocollen moeten ontstaan om een bredere penetratie en bloei van agentificatie in de onderneming mogelijk te maken.

Naarmate ondernemingen evolueren van individuele copiloten naar netwerken met tientallen of zelfs honderden gespecialiseerde agenten, hoe moeten organisaties bepalen welke verantwoordelijkheden bij individuele agenten horen en welke gecentraliseerd moeten blijven?

Net als de internetfirewall en beveiligingsinfrastructuur moet het opzetten van vertrouwen via live audits tegen beleid en het handhaven van guardrails op agentische systemen een gecentraliseerde functie binnen een bedrijf zijn, gedefinieerd en onderhouden door één entiteit binnen het bedrijf. Alle andere agentische systemen kunnen op een gedecentraliseerde manier worden geprovisioneerd of geïmplementeerd, maar deze systemen moeten zich registreren bij het vertrouwenssysteem om te mogen opereren.

Cognizant heeft intern een multi‑agent systeem ingezet dat ongeveer 200 agenten verbindt binnen een organisatie van circa 350.000 werknemers. Wat heeft het opereren op die schaal onthuld over agentische AI dat moeilijk te ontdekken zou zijn via kleinere pilots?

We moesten ontwerpen met schaalbaarheid, uitbreidbaarheid, kostenefficiëntie en redelijke responstijden in gedachten. In projecten van die omvang moet je vaak zaken uitvinden die simpelweg niet nodig zijn in kleine, afgesloten agentische systemen met weinig gebruikers. Bijvoorbeeld, je moet inter‑agentcoördinatie gepersonaliseerd en efficiënt maken, zodat extra stappen en kosten worden vermeden. Ook moet het systeem in staat zijn om zelfgebouwde apps evenals systemen en agenten van derden te integreren, zodat interoperabiliteit belangrijk is en tijd en geld kan besparen.

Wanneer autonome agenten API’s kunnen aanroepen, toegang hebben tot bedrijfsystemen, communiceren met andere agenten en acties uitvoeren met machinale snelheid, wordt traditionele AI‑governance veel moeilijker. Waar moet menselijk toezicht verplicht blijven, en waar kunnen organisaties veilig agents zelfstandig laten opereren?

Ik denk dat de uiteindelijke bepalende factor voor waar menselijk toezicht nodig en verplicht is, vertrouwen is. Naarmate deze systemen betrouwbaarder worden, zullen we ze meer autonomie geven, en tenzij wettelijk verplicht (bijv. vanwege het ontbreken van rechtspersoonlijkheid voor AI), zullen we ons comfortabel voelen om agents te laten beslissen. Het meten van vertrouwen en risico is daarom belangrijk en kan helpen de grens tussen autonomie en menselijk toezicht te bepalen – een grens die kan verschuiven naarmate deze systemen betrouwbaarder en minder risicovol worden om autonoom te laten draaien.

Een groot deel van je eerdere onderzoek richtte zich op evolutionaire berekening en systemen die verbeteren door selectie en aanpassing. Hoe zouden evolutionaire benaderingen grote taalmodellen en reinforcement learning kunnen aanvullen terwijl we proberen agenten te bouwen die continu kunnen verbeteren in plaats van alleen vooraf gedefinieerde workflows uit te voeren?

De mainstream in AI van vandaag wordt gedomineerd door gradient descent‑methoden, een vorm van heuvelklimmen die niet erg creatief is. Evolutionaire berekening is zeer efficiënt in het doorzoeken van complexe zoekruimtes en kan de mainstream benaderingen aanvullen. Ons laboratorium heeft bijvoorbeeld recent een doorbraak geboekt: we hebben kunnen aantonen dat Evolutionaire Strategieën superieur zijn aan Reinforcement Learning voor de meeste LLM‑posttraining, wat resulteert in modellen van gelijke of betere kwaliteit tegen veel lagere kosten. Evolutionaire benaderingen kunnen ook helpen bij Test‑Time Training, dat LLM’s in staat moet stellen om na inzet te leren.

Cognizant’s research heeft omgevingen onderzocht waarin interacterende agenten samenwerking, competitie, gedeelde kennis en zelfs misleidende strategieën ontwikkelen. Naarmate multi‑agent systemen complexer worden, kan emergent gedrag een van de grootste uitdagingen worden om enterprise‑AI voorspelbaar en afgestemd op organisatiedoelen te houden?

Dit is al het geval, zoals blijkt uit het recent veelbesproken OpenAI/Hugging Face‑incident. We zouden kunnen denken dat agenten, beperkt tot hun prompts en contexten, en gebruikmakend van LLM’s die niet tijdens runtime leren, min of meer consistent blijven in hun gedrag. Het feit is echter dat de omgeving en motivaties van een agent kunnen veranderen, vaak als gevolg van de eigen acties van de agent in die omgeving, wat leidt tot onvoorziene gedragingen. Dit is nog waarschijnlijker wanneer meerdere agenten met elkaar interageren, en daarom is het cruciaal dat we autonome agenten in veilige sandbox‑omgevingen observeren zodat we de reikwijdte en schaal van hun emergente neigingen kunnen bepalen en die kunnen meenemen in ons agent‑ontwerp en onze beveiligingen. Ons publiek beschikbare systeem, TerraLingua, waar je agenten, artefacten kunt introduceren en zelfs agenten kunt impersoneren en hun individuele en collectieve gedrag kunt observeren, is een stap in die richting.

Kijkend voorbij de huidige golf van agent‑AI, welke technologische doorbraak of architecturale verschuiving denk je dat nog ontbreekt voordat we AI‑systemen kunnen bouwen die betrouwbaar langdurige, complexe doelstellingen kunnen beheren met minimale menselijke tussenkomst?

Veel van de beperkingen van de huidige agenten komen voort uit de beperkingen van de stand van de kunst in AI. LLM’s zijn vrijwel vast na training en kunnen hun mening niet ‘veranderen’ wanneer ze nieuwe informatie tegenkomen. LLM’s zijn alles en iedereen tegelijk, en moeten daarom worden geprimed met context en prompts en zijn hier erg gevoelig voor. LLM’s hebben beperkte contextvensters en moeten voor elk enkel woord dat ze produceren of elke actie die ze ondernemen alles opnieuw gevoed krijgen. Op multi‑agentniveau denk ik dat we breed geaccepteerde gedistribueerde coördinatie‑protocollen, vertrouwens‑guardrails en beleidsregels, en transactiebemiddelingssystemen nodig hebben om de agent‑toekomst zijn volledige potentieel te laten bereiken.

Bedankt voor het geweldige interview, lezers die meer willen weten, kunnen Cognizant bezoeken of ons vorige interview.