Efrain Ruh, CTO van EMEA bij Digitate – Interviewreeks

Efrain Ruh is de Chief Technology Officer voor EMEA bij Digitate, waar hij regionale technische strategie leidt met een sterke focus op ondernemingsbrede AI, automatisering en grootschalige operationele transformatie. Hij werkt nauw samen met klanten in heel Europa, het Midden-Oosten en Afrika om organisaties te helpen AI op verantwoorde wijze in te zetten, met de nadruk op praktische uitvoering, governance en meetbare resultaten. Ruh is een frequente bijdrager aan industrie-discussies over agentic AI, MLOps-maturiteit en de realiteit van het verplaatsen van AI-piloten naar productiesystemen.

Digitate is een ondernemingssoftwarebedrijf en een dochteronderneming van Tata Consultancy Services dat zich specialiseert in AI-gedreven automatisering voor IT- en bedrijfsoperaties. Het kernplatform, ignio, maakt autonome operaties mogelijk door machine learning, kennisgrafieken en intelligente automatisering te combineren om problemen te detecteren, resultaten te voorspellen en systemen zelf te herstellen in complexe ondernemingsomgevingen. Digitate bedient grote wereldwijde organisaties die operationele complexiteit willen verminderen en weerbaarheid en efficiëntie willen verbeteren door toegepaste AI.

Gezien uw uitgebreide technische leiderschapsrollen bij Digitate en uw eerdere hands-on ervaring in IT-operaties, architectuur en ondernemingsystemen, hoe is uw visie op het belang van verklarende AI geëvolueerd in vergelijking met de black-box-automatiseringsmodellen waar veel organisaties nog steeds op vertrouwen?

Eerdere generaties automatisering waren voornamelijk reactief en gebaseerd op regels, waardoor black-box-gedrag meer verdraaglijk was omdat de resultaten zeer voorspelbaar waren. Nu AI-systemen naar proactieve agenten evolueren die kunnen redeneren en hun eigen antwoord genereren, verdwijnt de tolerantie voor ondoorzichtigheid. IT-leiders zijn verantwoordelijk voor het beschikbaar houden van mission-critical systemen 24 uur per dag, 7 dagen per week, en die verantwoordelijkheid laat weinig ruimte over voor experimenten met systemen waarvan de redenering niet kan worden geverifieerd. Verklarende AI is daarom verschoven van een technische functie naar een operationele vereiste die vertrouwen op grote schaal mogelijk maakt. Om deze nieuwe AI-agents te vertrouwen, is het belangrijk dat ze hun denkwijze delen (in wezen hoe ze tot een oplossing zijn gekomen) en hun redeneringsresultaten.

Waarom zijn vertrouwen en verklarende AI de grootste barrières voor een bredere adoptie van geavanceerde AI-gedreven automatisering in ondernemings-IT?

Ondernemings-IT werkt onder constante verantwoordelijkheid en risico. Wanneer AI-systemen autonoom beslissingen nemen, vooral in preventieve of self-healing operatiemodellen, moeten toezichthoudende teams in staat zijn om te begrijpen waarom een bepaalde actie is ondernomen. Zonder zicht op bewijs, context en beslissingslogica introduceert AI onzekerheid in plaats van deze te verminderen. Die gebrek aan transparantie en onzekerheid heeft invloed op vertrouwen, waardoor de adoptie onder IT-teams meer wordt vertraagd dan modelnauwkeurigheid of prestaties ooit zouden kunnen.

Wat ziet echte verklarende AI eruit in AI-gedreven IT-operaties, en hoe kan het teams helpen om beslissingen te valideren voordat systemen autonoom handelen?

Echte verklarende AI is praktisch en gericht op de operator. Dit betekent dat technologie duidelijk moet laten zien welke gegevens zijn gebruikt voor redenering, valideren dat het systeem de juiste operationele context begrijpt en de aanbevolen actie verklaren in voor mensen leesbare termen. Het omvat ook historische validatie, zoals of soortgelijke beslissingen eerder zijn genomen en wat de resultaten waren. Dit stelt teams in staat om acties snel te valideren en met vertrouwen autonome uitvoering uit te breiden waar het risico laag is. Als mensen de uitvoer van een verklarende AI-tool niet snel kunnen begrijpen en actie kunnen ondernemen, faalt de tool in het vervullen van zijn doel.

Hoe vertaalt zich een gebrek aan verklarende AI in reële operationele, financiële of bedrijfsrisico’s voor grote organisaties?

Als je een fabriek zou runnen en een vitaal onderdeel van de apparatuur zou ontbreken om een onderhoudsprobleem aan te geven, zou het uiteindelijk beginnen te falen zonder de team te waarschuwen – wat zou leiden tot slechte productkwaliteit of ongeplande downtime. Op soortgelijke wijze kan AI zonder verklarende AI kleine data-problemen omzetten in grote bedrijfsincidenten. Een AI-gebaseerd capaciteitsvoorspellingsysteem dat op onvolledige gegevens werkt, kan de infrastructuurcapaciteit verlagen om kosten te besparen, maar dit zou leiden tot ernstige prestatieverslechtering tijdens piekverwerkingsperioden. In het geval van ondernemings-AI-systemen zie je vaak het effect van slechte verklarende AI door gemiste SLA’s, financiële boetes en klantimpact. Bovendien kan agressieve onderdrukking van waarschuwingen kritieke fouten verhullen, waardoor uitval pas wordt gedetecteerd als het een echte noodsituatie is.

Wat zou de rol van AI-platforms moeten zijn in het maken van hun redenering controleerbaar en begrijpelijk voor IT-teams die mission-critical systemen bedienen?

Een goed ontworpen AI-agent of -platform heeft verklarende AI ingebouwd, simpelweg. Autonome systemen moeten de gebruikte gegevens, de toegepaste logica, de aanbevolen of genomen acties en de gevolgde resultaten documenteren. Deze informatie moet worden gepresenteerd in de operationele taal die IT-teams gebruiken, zoals afhankelijkheden, historische incidenten en bedrijfsimpact, in plaats van abstracte AI-scores. Controleerbaarheid is essentieel voor verantwoordelijkheid, leren en langetermijnvertrouwen.

Welke architectonische of ontwerpen benaderingen helpen ondernemingen om over te stappen van ondoorzichtige automatisering naar meer transparante, glazen-doos-beslissingen?

Ondernemingen nemen architectuur aan die AI-beslissingen baseert op hoogwaardige operationele gegevens en duidelijk onderscheidt tussen gegevensvalidatie en beslissingslogica. Transparante systemen waarborgen dat AI met de juiste invoer en aannamen werkt voordat het handelt. Veel organisaties gebruiken ook gefaseerde autonomie, beginnend met aanbevelingen en overgaand op beperkte autonome uitvoering naarmate het vertrouwen groeit. Open toegang tot gegevens en duidelijke beleidslagen zijn cruciaal om black-box-gedrag te vermijden bij toenemende autonomie. Er is nog veel ruimte voor de industrie om verklarende AI te laten groeien, en ik denk dat we een explosie van verklarende functies zullen zien dit jaar.

Hoe kunnen organisaties de juiste balans vinden tussen autonome AI-actie en menselijke toezicht zonder de operaties te vertragen?

De balans wordt bereikt door risicogebaseerde controles in plaats van algemeen toezicht. Lage-risico-, hoge-frequentietaken kunnen eind-tot-eind worden geautomatiseerd met beveiligingsmaatregelen, terwijl beslissingen met een grotere impact door mensen worden gevalideerd totdat systemen betrouwbaarheid hebben aangetoond. Naarmate verklarende AI verbetert en AI consequent goed oordeel aantoont, breidt autonomie zich natuurlijk uit zonder operationele wrijving te introduceren.

Wat zou u adviseren aan CIO’s en CTO’s die AI willen schalen over IT-operaties, maar intern verzet tegenkomen vanwege zorgen over zichtbaarheid en verantwoordelijkheid?

Begin met transparantie, niet met autonomie. Betrek uw IT-teams vroeg en geef prioriteit aan zichtbaarheid bij zowel ontwerp als implementatie om vertrouwen op te bouwen. Verzet komt meestal voort uit een gebrek aan inzicht in AI-beslissingen, niet uit oppositie tegen innovatie zelf. Vervolgens richt u zich op use-cases die ruis verminderen, alertmoeheid elimineren en duidelijk uitleggen hoe beslissingen worden genomen voordat systemen onafhankelijk mogen handelen.

Hoe moeten leiderschaps teams governance, validatie en vertrouwensmodellen heroverwegen terwijl AI-systemen meer beslissingsverantwoordelijkheid krijgen?

Governance moet verschuiven van statische goedkeuringsprocessen naar continue validatie. Leiderschaps teams moeten bepalen waar autonomie is toegestaan, welk bewijs vereist is en wanneer menselijke interventie nodig is. Vertrouwen moet worden verdiend door meetbare resultaten zoals nauwkeurigheid, minder incidenten en snellere resolutietijden, in plaats van aannamen over modelcomplexiteit.

Hoe ziet u verklarende en transparante AI de toekomst van autonome IT-operaties vormgeven in de komende jaren?

Verklarende AI zal een fundamenteel onderdeel zijn van de puzzel bij het opbouwen van proactieve en autonome IT-operaties om veilig te schalen, zonder het essentiële vertrouwen van uw IT-team te verliezen. Generatieve AI verbetert al transparantie door systemen in staat te stellen bewijs te presenteren, feiten te valideren en beslissingen in voor mensen leesbare termen uit te leggen. In de komende jaren zal dit niveau van verklarende AI de norm worden, waardoor organisaties AI diep in operaties, governance en workflows kunnen integreren als een betrouwbare partner in plaats van een ondoorzichtige beslissingsmaker. In de komende jaren zullen AI-agents in plaats zijn om verschillende activiteiten van een organisatie te beheren, ze zullen deel worden van ons dagelijks leven, maar hiervoor moeten we ze kunnen vertrouwen en nauwkeurigheid en transparantie zijn sleutelaspecten om dit doel te bereiken.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Digitate bezoeken Digitate.