Jayant Swamy, Chief Enterprise Architect bei Genpact – Interviewreihe

Jayant Swamy, Chief Enterprise Architect bei Genpact, ist ein Technologie‑ und Datenführer mit mehr als zwei Jahrzehnten Erfahrung in den Bereichen Unternehmensarchitektur, Künstliche Intelligenz, Daten‑Engineering, Cloud‑Technologien und groß angelegter digitaler Transformation. Vor seinem Eintritt bei Genpact im Jahr 2024 war er CTO und Chief Architect bei Xtrac8.Tech sowie CTO und Mitbegründer eines KI‑Start‑ups, das sich auf Technologien wie generative KI und große Sprachmodelle konzentrierte. Swamy verbrachte zuvor über ein Jahrzehnt bei Accenture, wo er unter anderem als CTO, Global Lead und Global Managing Director des Institute of Applied Intelligence, Managing Director und Global Business Lead für das Data on Cloud‑Geschäft sowie als Chief Data Architect und Global Lead für Data Engineering und Data Innovation tätig war. Zu Beginn seiner Laufbahn war er mehr als sieben Jahre bei Fannie Mae tätig und leitete Technologie‑ und Business‑Information‑Initiativen im Bereich Service und Kreditverlust‑Management, nachdem er mehrere Jahre als Senior Principal bei Oracle (ORCL ) gearbeitet hatte.

Genpact ist ein globales Technologie‑ und Business‑Service‑Unternehmen, das Unternehmen dabei unterstützt, komplexe Abläufe mithilfe von Künstlicher Intelligenz, Daten, Process Intelligence und Fachwissen zu transformieren. Das Unternehmen geht auf eine Initiative aus dem Jahr 1997 innerhalb von GE Capital zurück, wurde 2005 eigenständig und ging 2007 an die New Yorker Börse. Heute arbeitet Genpact mit Organisationen aus Branchen wie Banken, Versicherungen, Finanzen, Lieferkette, Konsumgüter, Gesundheitswesen und Technologie zusammen und legt zunehmend Fokus auf generative KI, agentische Systeme, Automatisierung und KI‑gestützte Unternehmensprozesse.

Ihre Laufbahn führte Sie von Rollen in Unternehmensarchitektur und Datenführung bei Oracle, Fannie Mae und Accenture über Startup‑Umgebungen bis zu Ihrer jetzigen Position als Chief Enterprise Architect bei Genpact. Wie hat diese Erfahrung Ihre Sicht darauf geprägt, wo KI‑Autonomie echten Unternehmenswert schafft und wo menschliches Urteilsvermögen unverzichtbar bleibt? 

Im Laufe meiner Karriere habe ich gelernt, dass Skalierung, Governance, Integration und Risiko ebenso wichtig sind wie Innovation. Erfahrung aus großen Unternehmen zeigt, dass beeindruckende Technologie scheitert, wenn sie nicht im Unternehmen funktionieren kann; Start‑ups betonen den Wert von schneller Umsetzung, Experimentieren und einer einfachen, anpassungsfähigen Architektur. KI‑Autonomie funktioniert am besten, wenn beide Denkweisen kombiniert werden – rasche Innovation bei gleichzeitig soliden Grundlagen. Auf diese Weise kann KI tatsächlich verändern, wie Arbeit in einer Organisation fließt. Die Ergebnisse unserer aktuellen Forschung untermauern diesen Punkt deutlich.

Das Modell selbst ist nur ein Teil der Gleichung. Die umgebende Architektur – Daten, Systeme, Workflows, Kontrollen und Integrationen – bestimmt, ob KI im großen Maßstab Wert schafft. Darunter verstehen wir „keine Künstliche Intelligenz ohne Process Intelligence“. Das ist ebenfalls die Grundlage unserer angewandten KI‑Arbeit in den Genpact Labs, wo wir aufkommende KI‑Fähigkeiten in produktionsreife, kundenbereite Lösungen überführen. Jede Fähigkeit ist an ein messbares Geschäftsergebnis geknüpft und in den Workflow, die Daten und die erforderlichen Kontrollen eingebettet.

KI sollte dort Handlungsspielraum erhalten, wo das Ziel klar, die Daten verlässlich und die Grenzen gut definiert sind. Menschliches Urteilsvermögen bleibt entscheidend für Entscheidungen mit hohen Einsätzen, Mehrdeutigkeit, Subjektivität, regulatorischen Vorgaben oder die Verantwortung und Empathie erfordern. Autonomie bedeutet nicht, Menschen aus dem System zu entfernen, sondern das System so zu gestalten, dass jeder weiß, wo KI eigenständig agieren kann, wo Menschen Sichtbarkeit benötigen und wo menschliches Urteil übernehmen muss.

Viele Unternehmen bewerten KI im Kundenkontakt hauptsächlich nach Geschwindigkeit, Containment‑Raten und Kosteneinsparungen. Warum können diese Kennzahlen ein irreführendes Bild davon vermitteln, ob die Technologie tatsächlich die Kundenerfahrung verbessert?

Das Problem ist, dass diese Kennzahlen hauptsächlich Effizienz messen. Sie zeigen, wie das System funktioniert hat, aber nicht unbedingt, wie der Kunde die Erfahrung wahrnimmt. Nehmen wir Containment: Eine hohe Rate mag intern erfolgreich aussehen, kann jedoch schlechte Ergebnisse verbergen, wenn ein Kunde aufgibt, sich wiederholt, unvollständige Antworten erhält oder keine Person erreichen kann, wenn er sie braucht. Containment bedeutet, dass die KI den Kunden im System gehalten hat, nicht, dass er das erhalten hat, was er brauchte. Gleiches gilt für Kosteneinsparungen, die auf Kosten von Vertrauen, Zufriedenheit oder Lösungsqualität gehen können.

KI‑Systeme optimieren sich nach den Signalen, die man ihnen gibt, daher müssen Unternehmen Messgrößen von Anfang an in das System einbauen – indem Front‑End‑Kennzahlen wie Geschwindigkeit und Containment mit nachgelagerten Signalen wie Problem‑Lösung und der Frage verknüpft werden, ob das Ergebnis an anderer Stelle Probleme verursacht hat. Letztlich sollte KI im Kundenkontakt danach gemessen werden, ob sie das zugrunde liegende Problem des Endnutzers exakt, fair und mit dem richtigen Maß an menschlicher Unterstützung löst.

Welche Signale sollte ein KI‑Agent nutzen, um Unsicherheit, Frustration, Dringlichkeit oder eine Situation zu erkennen, die außerhalb seines definierten Workflows liegt? 

Es gibt kein einzelnes Zauber‑Signal – entscheidend ist, dem System ausreichend Kontext und Beobachtbarkeit zu geben, damit es erkennt, wann sein Vertrauen, seine Autorität oder seine Informationen nicht mehr ausreichen. Das kann sich zeigen durch widersprüchliche Informationen, wiederholte Fehlversuche oder einen Agenten, der im Kreis läuft. Es kann auch ein Wechsel in der Sprache des Kunden sein – ein klares Signal für Frustration oder Dringlichkeit – oder die Aufgabe selbst erfordert Informationen, Zugriff oder Befugnisse, die dem Agenten fehlen.

Das System muss zudem seine eigenen Grenzen kennen. Fällt ein Problem außerhalb des vorgesehenen Workflows, benötigt es nicht zugängliche Daten oder überschreitet einen definierten Risikoschwellenwert, sollte ein anderer Pfad aktiviert werden. Das Ziel ist nicht, dass der Agent jedes mögliche Szenario bearbeitet – sondern dass er weiß, wann er stoppen, eskalieren oder um Hilfe bitten muss.

Wie können Unternehmen zwischen einer Interaktion, die lediglich komplex ist, und einer, die tatsächlich menschliches Urteilsvermögen oder Empathie erfordert, unterscheiden?

Die Trennlinie liegt nicht in der Schwierigkeit der Aufgabe, sondern im Ausmaß an Urteil, Konsequenz und menschlichem Kontext, das die Entscheidung trägt. Der Aufbau agentischer Abläufe, bei denen Maschinen verarbeiten und Menschen validieren, erfordert das Verständnis, wo menschlicher Mehrwert niemals ersetzbar ist.

KI kann sehr komplexe Aufgaben bewältigen, wenn das Ziel klar, die Daten verlässlich, der Prozess definiert und die Ergebnisse messbar sind. Komplexität allein erfordert keinen Menschen, sofern das System die Grenzen kennt, innerhalb derer es operieren darf. Ein Mensch muss hinzugezogen werden, wenn die Absicht des Kunden unklar ist, die Situation Diskretion erfordert, mehrere gültige Ergebnisse möglich sind oder die Entscheidung erhebliche finanzielle, rechtliche, medizinische oder reputationsbezogene Konsequenzen hat. Manche Interaktionen benötigen zudem Beruhigung, Erklärung, Verhandlung oder Empathie – nicht nur eine Antwort. Menschliche Beteiligung ist dort ebenso wichtig wie technische Genauigkeit. Die Architektur sollte diese Unterscheidung widerspiegeln. Diese Eingriffspunkte sollten bereits im Workflow vorgesehen werden, nicht erst nach einem Fehlverhalten entschieden werden.

Wie sollte ein effektiver Eskalationsprozess aussehen, damit Kunden sich nicht wiederholen oder die Interaktion neu beginnen müssen, wenn ein menschlicher Agent übernimmt?

Eine gute Eskalation besteht nicht nur darin, den Kunden weiterzuleiten – sondern den Kontext zu übertragen, sodass die nächste Person sofort zur Lösung übergehen kann. Wenn ein Mensch übernimmt, sollte er bereits die Gesprächshistorie, die Identität und das Profil des Kunden sowie die bisherigen Versuche der KI kennen – genug, um zu vermeiden, dass der Kunde von vorne beginnen muss.

Das ist weitgehend ein Architektur‑Problem: Sitzt die KI nur im Front‑End‑Chat und ist vom CRM, ERP, Wissensquellen, Workflows und Orchestrierungsebene getrennt, wird eine nahtlose Übergabe unmöglich.

Sollten Eskalationsschwellen je nach Faktoren wie finanziellem Risiko, Kunden­verletzlichkeit, regulatorischen Vorgaben oder den potenziellen Folgen einer falschen Entscheidung angepasst werden?

Eskalationsregeln sollten vom Risikoniveau abhängen. Je gravierender die Folgen eines Fehlers, desto früher sollte ein Mensch eingebunden werden.

Ein Passwort‑Reset kann vollständig automatisiert ablaufen, aber eine strittige Finanztransaktion erfordert strengere Kontrollen. Bei Schaden‑ oder Inkassofällen kann das bedeuten, dass Routine‑Status‑Updates vollautonom erfolgen, jedoch ein obligatorischer menschlicher Check nötig ist, wenn ein Fall einen Dollar‑Schwellenwert überschreitet oder ein Härtefall‑Flag erscheint. Je stärker reguliert oder folgenschwerer die Entscheidung, desto stärker sollte die Aufsicht sein. Ein verletzlicher Kunde kann eine frühere menschliche Intervention rechtfertigen, und Entscheidungen mit unwiderruflichen Konsequenzen sollten niedrigere Autonomie‑Schwellen haben.

Diese Schwellenwerte sollten zudem nicht einzelnen Agenten zur spontanen Interpretation überlassen werden. Sie müssen in die Architektur und die Orchestrierungsebene eingebettet sein, mit klaren Regeln darüber, was der Agent darf, was zusätzliche Validierung erfordert und was eskaliert werden muss.

Die Chance liegt darin, Autonomie mit dem Risiko zu skalieren – volle Geschwindigkeit bei geringfügigen Aufgaben, strengere Kontrolle dort, wo es zählt. Bei Genpact haben wir diese Staffelung direkt in die Gestaltung agentischer Workflows integriert – Routine‑Fälle laufen autonom, während alles, was einen definierten Risiko‑ oder Dollar‑Schwellenwert überschreitet, automatisch an einen Menschen weitergeleitet wird, ohne dass der Agent selbst entscheiden muss, zu eskalieren. Unternehmen, die jeder Interaktion das gleiche Autonomie‑Level geben, verwandeln Komfort schnell in kostspielige Fehler.

Abgesehen von der Aufgabenerfüllung, welche Kennzahlen sollten Unternehmen nutzen, um zu bewerten, ob ein autonomes Kundenservice‑System positive Ergebnisse für Kunden liefert?

Die Aufgabenerfüllung ist nützlich, aber bei weitem nicht ausreichend. Die Frage sollte nicht lauten: „Hat der Agent die Aufgabe beendet?“ sondern: „Ist der Kunde in einer besseren Situation gelandet?“ Das ist der Unterschied zwischen einem versprochenen Ergebnis und der Verantwortung dafür.

Das bedeutet, über die Bearbeitungszeit hinaus Kennzahlen wie Antwortgenauigkeit, Erstkontakt‑Lösung, Wiederholungs‑Kontakt, Eskalationsqualität, Kundenzufriedenheit sowie Fairness und Konsistenz der Ergebnisse zu betrachten. Es bedeutet auch, über eine einzelne Interaktion hinaus zu messen. Ein Agent kann in einem Teil der Customer‑Journey erfolgreich erscheinen, während er downstream ein Problem erzeugt. Beispielsweise kann ein schnell geschlossener Fall Wochen später einen weiteren Anruf auslösen, das Kundensentiment beeinträchtigen und letztlich menschliche Nachbesserung erfordern; daher lohnt es sich zu prüfen, ob das Problem nach 30 Tagen noch gelöst ist.

Es ist zudem wichtig zu wissen, ob das System das zugrunde liegende Bedürfnis des Kunden tatsächlich löst, anstatt die Interaktion nur zu schließen und als Erfolg zu werten. Das erfordert End‑to‑End‑Observierbarkeit über den gesamten Workflow, nicht nur Kennzahlen aus der KI‑Oberfläche. Die Messung von Kunden‑ und Geschäftsergebnissen statt reiner Aktivität zeigt den tatsächlichen ROI von KI.

Wie können Unternehmen verhindern, dass KI‑Agenten operative Ziele wie die Reduzierung des Anrufvolumens oder der Bearbeitungszeit optimieren, dabei jedoch Fairness, Vertrauen oder die zugrunde liegenden Kundenbedürfnisse vernachlässigen?

KI‑Systeme sind bemerkenswert gut darin, jedes zugewiesene Ziel zu erreichen. Das ist sowohl Vorteil als auch Fallstrick: Wenn man einem agentischen System sagt, Geschwindigkeit sei das einzige Ziel, wird es alles andere dafür opfern.

Unternehmen müssen KI ein ausgewogenes Zielset geben, bei dem Effizienz wichtig ist, aber gleichzeitig Kundenergebnisse, Risiko, Fairness, Genauigkeit und Vertrauen berücksichtigt werden. Das erreicht man durch klare Leitplanken für akzeptables Verhalten, Tests auf Bias und unbeabsichtigte Folgen, Aufrechterhaltung von menschlichen Eingriffsmöglichkeiten, kontinuierliche Überwachung von Entscheidungen sowie Nachvollziehbarkeit und Prüfbarkeit der Ergebnisse. Governance darf nicht erst nach dem Betrieb des Systems angehängt werden; sie muss von Anfang an in die Architektur integriert werden.

Kundenkontext kann über vorherige Gespräche, Transaktionen, Kanäle und Unternehmenssysteme verteilt sein. Wie können Unternehmen KI‑Agenten genügend Kontext geben, um bessere Entscheidungen zu treffen, ohne neue Datenschutz-, Sicherheits‑ oder Governance‑Risiken zu schaffen?

Die Lösung für fragmentierten Kontext besteht nicht darin, einem KI‑Agenten uneingeschränkten Zugriff zu gewähren. Vielmehr geht es darum, ihm gesteuerten Zugriff auf die richtigen Informationen zum richtigen Zeitpunkt zu ermöglichen. Unternehmen benötigen eine robuste Daten‑ und Integrationsschicht, die Agenten mit autoritativen Stammdaten verbindet und gleichzeitig kontrolliert, was jeder Agent sehen und tun darf. Dazu gehören rollen‑ und zweckbasierter Zugriff, das Prinzip der minimal notwendigen Daten, Nachverfolgung der Herkunft, Audit‑Logs und der Schutz sensibler Informationen.

Mehr Kontext verbessert KI‑Entscheidungen, jedoch nur, wenn er gesteuert wird. Andernfalls kann die Lösung eines Problems ein deutlich größeres Datenschutz‑ oder Sicherheitsproblem erzeugen. Wird es gut gehandhabt, verstärkt sich der Kontext, da das System aus vorherigen Ausnahmen lernt und zukünftige Interaktionen intelligenter macht, ohne neue Risiken zu schaffen.

Wenn KI im Kundenkontakt autonomer wird, wie erwarten Sie, dass sich die Beziehung zwischen KI‑Agenten und menschlichen Mitarbeitenden entwickelt, und welche Fähigkeiten müssen Organisationen jetzt aufbauen, um diese Zusammenarbeit erfolgreich zu gestalten?

Die Rolle des Menschen wird sich zunehmend von der Ausführung jedes einzelnen Prozessschritts hin zur Steuerung, Aufsicht und Verbesserung des Agentensystems verlagern, das das Arbeitsvolumen übernimmt. Mitarbeitende werden mehr Zeit damit verbringen, Ziele zu setzen, Ausnahmen zu behandeln, Urteil zu fällen, Hochrisiko‑Entscheidungen zu validieren, Workflows zu verfeinern, das Verhalten von Agenten zu überwachen und die Architektur sowie Governance dieser agentischen Systeme zu verbessern. Das ändert auch die benötigten Kompetenzen. KI‑Kompetenz wird wichtig sein, ebenso kritisches Denken, Fachwissen, Agenten‑Orchestrierung, Observierbarkeit und die Fähigkeit, ein KI‑System zu hinterfragen, wenn etwas nicht stimmt.

Dies ist nicht nur eine Herausforderung für die Belegschaft. Organisationen benötigen die Architektur, die diese Zusammenarbeit unterstützt, indem sie Agenten mit den richtigen Daten und Systemen verbindet, die Zusammenarbeit koordiniert und den Mitarbeitenden Transparenz über deren Aktivitäten gibt. Governance, menschliche Eingriffe und Eskalationen müssen von Anfang an eingebaut werden.

In meiner Rolle als Chief Enterprise Architect sehe ich es als meine Aufgabe, dafür zu sorgen, dass die gesamte Organisation nicht nur weiß, wie KI zu nutzen ist, sondern auch, wann man ihr vertraut, sie hinterfragt und die Kontrolle übernimmt. Auf diese Weise wird die Architektur zum Tor für verantwortungsvolle KI, die Vertrauen schafft und echten Einfluss hat.

Vielen Dank für das großartige Interview, Leserinnen und Leser, die mehr erfahren möchten, sollten Genpact besuchen.