Efrain Ruh, CTO von EMEA bei Digitate – Interview-Serie

Efrain Ruh ist der Chief Technology Officer für EMEA bei Digitate, wo er die regionale Technologie-Strategie mit einem starken Fokus auf Enterprise-AI, Automatisierung und große operationale Transformation leitet. Er arbeitet eng mit Kunden in Europa, dem Nahen Osten und Afrika zusammen, um Organisationen dabei zu helfen, AI verantwortungsvoll einzusetzen, wobei er praktische Ausführung, Governance und messbare Ergebnisse betont. Ruh ist ein häufiger Beitragender zu Branchendiskussionen über agentic AI, MLOps-Reife und die Realitäten des Übergangs von AI-Piloten zu Produktions-Systemen.

Digitate ist ein Unternehmen für Unternehmenssoftware und eine Tochtergesellschaft von Tata Consultancy Services (TCS.BO ), das sich auf AI-getriebene Automatisierung für IT- und Geschäftsbetrieb spezialisiert hat. Seine Kernplattform, ignio, ermöglicht autonome Betriebe durch die Kombination von maschinellem Lernen, Wissensgraphen und intelligenter Automatisierung, um Probleme zu erkennen, Ergebnisse vorherzusagen und Systeme in komplexen Unternehmensumgebungen selbst zu heilen. Digitate dient großen globalen Organisationen, die operationale Komplexität reduzieren und gleichzeitig Widerstandsfähigkeit und Effizienz durch angewandte AI verbessern möchten.

Wie hat sich Ihre Sicht auf die Bedeutung von erklärbarem AI im Vergleich zu den schwarzen-Box-Automatisierungsmodellen, die viele Organisationen noch heute verwenden, entwickelt, wenn man Ihre umfangreichen technischen Führungsrollen bei Digitate und Ihre frühere hands-on-Erfahrung in IT-Betrieb, Architektur und Unternehmenssystemen betrachtet?

Frühere Generationen von Automatisierung waren größtenteils reaktiv und regelbasiert, was schwarzes-Box-Verhalten mehr tolerierbar machte, da die Ergebnisse sehr vorhersehbar waren. Wenn AI-Systeme nun auf proaktive Agenten umsteigen, die begründen und ihre eigene Antwort generieren können, verschwindet die Toleranz für Undurchsichtigkeit. IT-Führungskräfte sind verantwortlich für die Verfügbarkeit von mission-kritischen Systemen rund um die Uhr, und diese Verantwortung lässt sehr wenig Raum für Experimente mit Systemen, deren Begründung nicht validiert werden kann. Erklärbarkeit hat sich daher von einem technischen Feature zu einem operativen Erfordernis entwickelt, das Vertrauen im großen Maßstab ermöglicht. Um diesen neuen AI-Agents zu vertrauen, ist es wichtig, dass sie ihre Gedankengänge (also, wie sie zu einer Lösung gekommen sind) und ihre Begründungsergebnisse teilen.

Warum sind Vertrauen und Erklärbarkeit die größten Hindernisse für eine breitere Einführung von fortschrittlicher AI-getriebener Automatisierung in der Unternehmens-IT?

Unternehmens-IT arbeitet unter ständiger Rechenschaftspflicht und Risiko. Wenn AI-Systeme autonome Entscheidungen treffen, insbesondere in präventiven oder selbstheilenden Betriebsmodellen, müssen die Aufsichtsteams verstehen, warum eine bestimmte Aktion durchgeführt wurde. Ohne Einblick in Beweise, Kontext und Entscheidungslogik führt AI Unsicherheit ein, anstatt sie zu reduzieren. Diese mangelnde Transparenz und Unsicherheit beeinträchtigen das Vertrauen und verlangsamen die Einführung unter IT-Teams mehr als Modellgenauigkeit oder Leistung je könnten.

Wie sieht wahre Erklärbarkeit in AI-getriebener IT-Betrieb tatsächlich aus, und wie kann sie Teams helfen, Entscheidungen zu validieren, bevor Systeme autonom handeln?

Wahre Erklärbarkeit ist praktisch und operativ ausgerichtet. Das bedeutet, dass Technologie klar zeigen muss, welche Daten für die Begründung verwendet werden, dass das System den richtigen operativen Kontext versteht und die empfohlene Vorgehensweise in menschlich lesbarer Form erklärt. Es umfasst auch historische Validierung, wie etwa, ob ähnliche Entscheidungen zuvor getroffen wurden und welche Ergebnisse sie hatten. Dies ermöglicht es Teams, Aktionen schnell zu validieren und autonomes Ausführen mit geringem Risiko zu erweitern. Wenn Menschen die Ausgabe nicht schnell verdauen und entsprechend handeln können, dann versagt ein Erklärbarkeitstool bei seinem Zweck.

Wie übersetzt sich ein Mangel an Erklärbarkeit in reale operationale, finanzielle oder geschäftliche Risiken für große Organisationen?

Wenn Sie ein Werk haben und ein wichtiges Gerät keine Warnungen hat, um ein Wartungsproblem zu melden, würde es schließlich ohne Warnung der Mannschaft beginnen, zu versagen – was zu schlechten Produkten oder ungeplanten Ausfällen führen würde. Ähnlich kann AI ohne Erklärbarkeit kleine Datenprobleme in große geschäftliche Vorfälle verwandeln. Ein AI-System für Kapazitätsprognose, das auf unvollständigen Daten basiert, kann die Infrastrukturkapazität reduzieren, um Kosten zu sparen, nur um während Spitzenverarbeitungszeiten schwere Leistungsverschlechterungen zu verursachen. Im Fall von Unternehmens-AI-Systemen sehen Sie den Einfluss schlechter Erklärbarkeit durch verpasste SLAs, finanzielle Strafen und Kundenbeeinträchtigung. Ebenso kann aggressive Warnunterdrückung kritische Ausfälle verbergen und es ermöglichen, dass Ausfälle unentdeckt bleiben, bis es ein echter Notfall ist.

Welche Rolle sollten AI-Plattformen bei der Erstellung ihrer Begründung und Verständlichkeit für IT-Teams, die mission-kritische Systeme betreiben, spielen?

Eine gut konzipierte AI-Agent oder Plattform hat Erklärbarkeit von Anfang an integriert. Autonome Systeme sollten die verwendeten Daten, die angewandte Logik, die empfohlenen oder durchgeführten Aktionen und die Ergebnisse, die folgten, dokumentieren. Diese Informationen müssen in der operativen Sprache präsentiert werden, die IT-Teams verwenden, wie Abhängigkeiten, historische Vorfälle und geschäftliche Auswirkungen, anstatt abstrakter AI-Bewertungen. Überprüfbarkeit ist für Rechenschaftspflicht, Lernen und langfristiges Vertrauen unerlässlich.

Welche architektonischen oder Designansätze helfen Unternehmen, sich von undurchsichtiger Automatisierung zu transparenterer, gläserner Entscheidungsfindung zu bewegen?

Unternehmen adoptieren Architekturen, die AI-Entscheidungen auf hochwertigen operativen Daten gründen und klar zwischen Datenvalidierung und Entscheidungslogik trennen. Transparente Systeme stellen sicher, dass AI mit den richtigen Eingaben und Annahmen arbeitet, bevor es handelt. Viele Organisationen verwenden auch gestufte Autonomie, beginnend mit Empfehlungen und fortschreitend zu eingeschränkter autonomer Ausführung, wenn das Vertrauen wächst. Offener Datenzugriff und klare Richtlinienschichten sind entscheidend, um schwarzes-Box-Verhalten zu vermeiden, wenn die Autonomie zunimmt. Es gibt jedoch noch viel Raum für die Branche, um Erklärbarkeit zu wachsen, und ich denke, wir werden in diesem Jahr einen Boom an Erklärbarkeitsfunktionen sehen.

Wie können Organisationen das richtige Gleichgewicht zwischen autonomer AI-Aktion und menschlicher Aufsicht ohne Verlangsamung des Betriebs finden?

Das Gleichgewicht wird durch risikobasierte Kontrollen und nicht durch umfassende Aufsicht erreicht. Niedrigrisikige, hochfrequente Aufgaben können von Ende zu Ende automatisiert werden, während Entscheidungen mit höherem Einfluss menschlich validiert bleiben, bis Systeme Zuverlässigkeit demonstrieren. Wenn Erklärbarkeit verbessert wird und AI konsistent gesundes Urteilsvermögen beweist, erweitert sich Autonomie natürlich ohne Betriebsreibung.

Was würden Sie CIOs und CTOs raten, die AI über den IT-Betrieb hinweg skalieren möchten, aber internen Widerstand aufgrund von Sichtbarkeits- und Rechenschaftspflichtsbedenken haben?

Beginnen Sie mit Transparenz, nicht mit Autonomie. Beteiligen Sie Ihre IT-Teams frühzeitig und priorisieren Sie Sichtbarkeit bei Design und Rollout, um Vertrauen aufzubauen. Widerstand resultiert typischerweise aus mangelndem Einblick in AI-Entscheidungen, nicht aus Opposition gegen Innovation selbst. Konzentrieren Sie sich dann auf Anwendungsfälle, die Rauschen reduzieren, Warnmüdigkeit beseitigen und klar erklären, wie Entscheidungen getroffen werden, bevor Systeme unabhängig handeln.

Wie sollten Führungsteams Governance, Validierung und Vertrauensmodelle neu denken, wenn AI-Systeme mehr Verantwortung für Entscheidungen übernehmen?

Governance muss von statischen Genehmigungsprozessen zu kontinuierlicher Validierung wechseln. Führungsteams müssen definieren, wo Autonomie erlaubt ist, welche Beweise erforderlich sind und wann menschliches Eingreifen notwendig ist. Vertrauen sollte durch messbare Ergebnisse wie Genauigkeit, reduzierte Vorfälle und schnellere Lösungszeiten verdient werden, anstatt Annahmen über Modellkomplexität zu treffen.

Wie sehen Sie die Zukunft von autonomer IT-Betrieb mit erklärbarem und transparentem AI in den nächsten Jahren?

Erklärbarer AI wird ein grundlegender Bestandteil des Puzzles sein, wenn man proaktive und autonome IT-Betriebe sicher und ohne Verlust des Vertrauens des IT-Teams aufbaut. Generativer AI verbessert bereits Transparenz, indem Systeme Beweise, Fakten und Entscheidungen in menschlich lesbarer Form darstellen können. In den nächsten Jahren wird dieses Maß an Erklärbarkeit Standard werden, sodass Organisationen über Experimente hinausgehen und AI tief in Betrieb, Governance und Workflows als vertrauenswürdigen Partner einbetten können, anstatt als undurchsichtigen Entscheidungsträger. In den nächsten Jahren werden AI-Agents in der Lage sein, verschiedene Aktivitäten eines Unternehmens zu verwalten, sie werden Teil unseres täglichen Lebens, aber für diese müssen wir in der Lage sein, ihnen zu vertrauen, und Genauigkeit und Transparenz sind Schlüsselaspekte, um dieses Ziel zu erreichen. Danke für das großartige Interview, Leser, die mehr erfahren möchten, sollten Digitate besuchen.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Digitate besuchen.