Babak Hodjat, Chief AI Officer bei Cognizant: Ein Rückkehrgespräch

Babak Hodjat, Chief AI Officer bei Cognizant, leitet die AI Research Labs des Unternehmens, wo seine Arbeit agentische KI, evolutionäre Berechnung, verteilte Intelligenz und die Entwicklung von KI‑Systemen umfasst, die für den großflächigen Unternehmenseinsatz konzipiert sind. Als langjähriger KI‑Forscher, Erfinder und Unternehmer hat Hodjat zuvor Sentient Technologies mitbegründet, wo er half, eines der weltweit größten verteilten KI‑Systems aufzubauen, und zuvor Dejima mitgegründet, das agentenorientierte Natural‑Language‑Technologie entwickelte, die zu den Grundlagen von Apple’s Siri beitrug.

Als wir zuvor mit Babak Hodjat gesprochen, erkundete unser Gespräch seine Karriere in KI, evolutionäre Ansätze für komplexe Entscheidungsfindungen, Cognizants Arbeit, KI auf Klima- und Flächennutzungsprobleme anzuwenden, und die wachsende Demokratisierung von KI im Unternehmen. In diesem Folgegespräch verlagert sich der Fokus auf das schnell aufkommende agentische Unternehmen. Ausgehend von den Themen seines jüngsten Buches The Agentic Enterprise untersucht Hodjat, warum die Architektur wichtiger sein könnte als die Leistungsfähigkeit des Modells, wie Organisationen zunehmend komplexe Netzwerke von KI‑Agenten koordinieren können, wo zentrales Vertrauen und Governance in dezentrale Agenten‑Ökosysteme passen und was noch geändert werden muss, bevor autonome Systeme langfristige Ziele zuverlässig mit minimaler menschlicher Intervention verwalten können.

Ihre Karriere umfasst einige der frühesten Arbeiten zu intelligenten Agenten, von Dejimas Natural‑Language‑Technologie, die zur Inspiration von Siri beitrug, über den Aufbau massiver verteilter KI‑Systeme bei Sentient bis hin zu Ihrer jetzigen Tätigkeit als Chief AI Officer bei Cognizant. Wie hat sich Ihre Definition eines „KI‑Agenten“ im Laufe dieser Reise entwickelt, und was können heutige Entwickler von diesen früheren Generationen agentenbasierter Systeme lernen?

Die Definition ist unverändert geblieben, aber die heutigen Fähigkeiten von Agenten bedeuten, dass viele der Grundfunktionen eines Agenten, die wir in den 90er‑Jahren noch selbst programmieren mussten, jetzt out‑of‑the‑box mit LLMs verfügbar sind. Deshalb sind LLM‑basierte Agenten heute der Standard, und wenn Menschen von Agenten sprechen, gehen sie davon aus, dass ein LLM deren Schnittstelle und Logik steuert.

In Ihrem jüngsten Buch The Agentic Enterprise argumentieren Sie, dass Unternehmens‑KI‑Systeme häufig aufgrund ihrer Architektur und nicht wegen der reinen Leistungsfähigkeit des zugrunde liegenden Modells Erfolg haben oder scheitern. Was machen Unternehmen falsch, wenn sie davon ausgehen, dass ein Upgrade auf ein leistungsfähigeres Modell ihre agentischen KI‑Probleme löst?

Genau wie Halterungen (d. h. nicht‑LLM‑Komponenten eines Agenten) einen Coding‑Agenten zum Erfolg oder Misserfolg führen können, ist die Architektur eines Multi‑Agenten‑Systems entscheidend für dessen Erfolg. Das liegt daran, dass die Architektur den Kontext widerspiegelt, in dem Agenten operieren sollen – ähnlich dem Gerüst, das das agentische Unternehmen zusammenhält. Ohne dieses Gerüst bleiben Agenten von den Realitäten der Unternehmensabläufe, Daten, Workflows und Prozesse losgelöst. Das ist in gewisser Weise analog zur Organisationsstruktur eines Unternehmens, die Stellenbeschreibungen, Prozessdefinitionen und Kommunikationsprotokolle für die Mitarbeitenden umfasst.

Sie haben betont, dass das umgebende System, einschließlich Zugriffskontrollen, Verantwortlichkeit, Orchestrierung, Beobachtbarkeit und Aufsicht, wichtiger sein kann als das Modell selbst. Was benötigt eine produktionsreife agentische Architektur tatsächlich, das den meisten Proof‑of‑Concept‑Implementierungen fehlt?

Proof‑of‑Concepts (PoC) sind oft nicht fundiert, daher müssen die Agenten zunächst in einer Umgebung arbeiten, in der sie Zugriff auf die internen Daten und Anwendungen des Unternehmens haben. Es müssen wichtige Fragen gestellt werden, etwa welche Daten und Anwendungen wir den Agenten zugänglich machen wollen und welche Entscheidungen wir den Agenten erlauben können, damit das System sicher und geschützt bleibt, während die erwarteten Qualitäts‑ und Produktivitätsgewinne dennoch erzielt werden können. Es ist schwierig, die Antworten auf diese Fragen in einem PoC‑Umfeld zu bestimmen. Darüber hinaus können Leitplanken und Aufsicht nur dann sinnvoll sein, wenn ein agentisches System zusammen mit anderen menschlichen oder agentischen Prozessen im Unternehmen operiert. Sandbox‑Umgebungen sind daher ein wichtiger Schritt, um von einem PoC zu einer produktiven Implementierung überzugehen.

Cognizant hat das Aufkommen eines “Agent Operating System” zur Koordination von Netzwerken KI‑basierter Agenten beschrieben. Welche Funktionen sollte eine solche Schicht übernehmen, und erwarten Sie, dass die Agenten‑Orchestrierung schließlich ebenso grundlegend für das Unternehmens‑Computing wird wie Betriebssysteme und Cloud‑Plattformen heute?

Die Koordination von Agenten ist wichtig: Wird sie zu starr, ist Ihr System degradiert und spröde. Wird die Koordination zu offen delegiert, besteht das Risiko, dass die Aufgabe des Agenten zu komplex oder riskant wird. Ein guter Koordinationsmechanismus ermöglicht es Agenten, spontan Teams zu bilden, um auf verschiedene Situationen zu reagieren, was zu einer robusten und flexiblen organisatorischen Disziplin führt. Ich bin ein Befürworter verteilter Koordination. Sie ist vergleichbar damit, einer menschlichen Organisation ein gewisses Maß an Autorität über ihr Verantwortungsgebiet zu verleihen. Wenn ein Kontext entsteht, kommunizieren und koordinieren die Mitglieder der Organisation über die organisatorische Struktur, um die für die Bewältigung der Situation verantwortlichen Personen zu bestimmen, und die Reaktion wird zwischen den Organisationsknoten gesammelt, koordiniert und konsolidiert. Die gute Nachricht ist, dass strenge Kontrollen und Schutzmaßnahmen auf agentische Systeme angewendet werden können, sodass diese Flexibilität nicht zu riskantem Verhalten führt.

Ich denke, genau wie MCP schnell zum de‑facto‑Standard für den Zugriff auf agentische Anwendungen geworden ist, werden auch Koordinationsprotokolle entstehen und über agentische Plattformen hinweg standardisiert werden, um spontane Multi‑Agent‑Prozesse über Systemgrenzen hinweg zu ermöglichen. Betriebssysteme und Cloud‑Plattformen sind hier wahrscheinlich keine passende Analogie; vielmehr müssen breit akzeptierte Standards für die Definition von Multi‑Agent‑Systemen und Koordinationsprotokolle entstehen, um eine breitere Durchdringung und das Gedeihen der Agentifizierung im Unternehmen zu ermöglichen.

Wenn Unternehmen von einzelnen Copiloten zu Netzwerken mit Dutzenden oder sogar Hunderten spezialisierter Agenten übergehen, wie sollten Organisationen entscheiden, welche Verantwortlichkeiten einzelnen Agenten zugewiesen werden und welche zentralisiert bleiben sollten?

Ähnlich wie bei der Internet‑Firewall und Sicherheitsinfrastruktur sollte die Etablierung von Vertrauen durch Live‑Audits gegen Richtlinien und die Durchsetzung von Leitplanken für agentische Systeme eine zentrale Funktion innerhalb eines Unternehmens sein, definiert und gepflegt von einer einzigen Einheit im Unternehmen. Alle anderen agentischen Systeme können dezentral bereitgestellt oder implementiert werden, müssen jedoch beim Vertrauenssystem registriert werden, um betrieben werden zu dürfen.

Cognizant hat intern ein Multi‑Agent‑System eingesetzt, das etwa 200 Agenten in einer Organisation von rund 350 000 Mitarbeitenden verbindet. Welche Erkenntnisse ergaben sich aus dem Betrieb in diesem Umfang, die bei kleineren Pilotprojekten schwer zu entdecken wären?

Wir mussten für Skalierbarkeit, Erweiterbarkeit, Kosteneffizienz und angemessene Reaktionszeiten planen. In Projekten dieser Größenordnung muss man oft Dinge erfinden, die in kleinen, abgeschlossenen agentischen Systemen mit wenigen Nutzern schlichtweg nicht nötig sind. Beispielsweise muss die Inter‑Agent‑Koordination personalisiert und effizient gestaltet werden, um zusätzliche Schritte und Kosten zu vermeiden. Außerdem sollte das System in der Lage sein, sowohl eigens entwickelte Apps als auch Drittanbietersysteme und -agenten einzubinden, sodass Interoperabilität wichtig ist und Zeit sowie Geld sparen kann.

Wenn autonome Agenten APIs aufrufen, Unternehmenssysteme nutzen, mit anderen Agenten kommunizieren und Aktionen in Maschinen‑Geschwindigkeit ausführen können, wird die traditionelle KI‑Governance deutlich schwieriger. Wo sollte menschliche Aufsicht zwingend bleiben und wo können Unternehmen den Agenten erlauben, eigenständig zu operieren?

Ich denke, der letztendliche Faktor dafür, wo menschliche Aufsicht nötig und verpflichtend ist, ist Vertrauen. Wenn diese Systeme vertrauenswürdiger werden, werden wir ihnen mehr Autonomie gewähren, und sofern nicht gesetzlich vorgeschrieben (z. B. wegen fehlender Rechtsfähigkeit von KI), werden wir uns wohl dabei fühlen, Agenten zu vertrauen. Das Messen von Vertrauen und Risiko ist daher wichtig und kann helfen, die Grenze zwischen Autonomie und menschlicher Aufsicht zu ziehen – eine Grenze, die sich verschieben könnte, wenn diese Systeme vertrauenswürdiger und weniger riskant im autonomen Betrieb werden.

Ein Großteil Ihrer früheren Forschung konzentrierte sich auf evolutionäre Berechnung und Systeme, die sich durch Selektion und Anpassung verbessern. Wie könnten evolutionäre Ansätze große Sprachmodelle und Reinforcement Learning ergänzen, wenn wir Agenten bauen wollen, die sich kontinuierlich verbessern statt nur vordefinierte Workflows auszuführen?

Der aktuelle Mainstream in der KI wird von Gradient‑Descent‑Ansätzen dominiert, die eine Form der Hügel‑Kletter‑Suche darstellen und nicht sehr kreativ sind. Evolutionäre Berechnung ist äußerst effizient bei der Durchsuchung komplexer Suchräume und kann die Mainstream‑Ansätze ergänzen. Unser Labor hat beispielsweise kürzlich einen Durchbruch in dieser Hinsicht erzielt: Wir konnten zeigen, dass Evolutionäre Strategien bei den meisten LLM‑Nach‑Training‑Phasen dem Reinforcement Learning überlegen sind, was zu gleichwertigen oder qualitativ besseren Modellen bei deutlich geringeren Kosten führt. Evolutionäre Ansätze könnten auch beim Test‑Time‑Training helfen, das darauf abzielt, LLMs nach dem Deployment weiter lernen zu lassen.

Cognizants Forschung hat Umgebungen untersucht, in denen interagierende Agenten Kooperation, Konkurrenz, geteiltes Wissen und sogar täuschende Strategien entwickeln. Wenn Multi‑Agent‑Systeme komplexer werden, könnte emergentes Verhalten zu einer der größten Herausforderungen werden, um Unternehmens‑KI vorhersehbar und mit den Zielen der Organisation abgestimmt zu halten?

Dies ist bereits der Fall, wie das stark publizierte jüngste OpenAI/Hugging Face‑Ereignis zeigt. Man könnte denken, dass Agenten, die auf ihre Eingabeaufforderungen und Kontexte beschränkt sind und LLMs verwenden, die zur Laufzeit nicht lernen, weitgehend konsistent in ihrem Verhalten bleiben. Tatsache ist jedoch, dass sich die Umgebung und die Motivation eines Agenten ändern können, oft als Ergebnis der eigenen Handlungen des Agenten in der Umgebung, was zu unvorhergesehenem Verhalten führt. Dies ist noch wahrscheinlicher, wenn mehrere Agenten interagieren, und daher ist es entscheidend, autonome Agenten in sicheren Sandbox‑Umgebungen zu beobachten, um den Umfang und das Ausmaß ihrer emergenten Tendenzen zu bestimmen und diese in unseren agentenbasierten Designs und Schutzmaßnahmen zu berücksichtigen. Unser öffentlich zugängliches System, TerraLingua, in dem Sie Agenten, Artefakte einführen und sogar Agenten imitieren sowie ihr individuelles und kollektives Verhalten beobachten können, ist ein Schritt in diese Richtung.

Wenn wir über die heutige Welle agentischer KI hinausblicken, welchen technologischen Durchbruch oder architektonischen Wandel halten Sie für noch fehlend, bevor wir KI‑Systeme bauen können, die langfristige, komplexe Ziele zuverlässig mit minimaler menschlicher Intervention steuern?

Viele der Einschränkungen heutiger Agenten resultieren aus den Begrenzungen des aktuellen Stands der KI. LLMs sind nach dem Training praktisch fest und können ihre Meinung nicht ändern, wenn sie neue Informationen erhalten. LLMs sind gleichzeitig alles und jeder, weshalb sie mit Kontext und Eingabeaufforderungen vorbereitet werden müssen und dabei sehr empfindlich auf diese Vorbereitungen reagieren. LLMs verfügen über begrenzte Kontextfenster und müssen für jedes einzelne Wort, das sie erzeugen, oder jede Handlung, die sie ausführen, erneut mit allen Informationen versorgt werden. Auf Multi‑Agenten‑Ebene denke ich, dass wir weithin akzeptierte verteilte Koordinationsprotokolle, Vertrauens‑schutzmaßnahmen und Richtlinien sowie Transaktions‑Schieds‑Systeme benötigen, damit die agentenbasierte Zukunft ihr volles Potenzial entfalten kann.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Cognizant oder unser vorheriges Interview besuchen.