Efrain Ruh, Chief Technology Officer for EMEA hos Digitate – Interviewserie

Efrain Ruh er Chief Technology Officer for EMEA hos Digitate, hvor han leder regional teknologi-strategi med fokus på enterprise AI, automation og stor skala operationel transformation. Han arbejder tæt sammen med kunder over hele Europa, Mellemøsten og Afrika for at hjælpe organisationer med at implementere AI på en ansvarlig måde, med fokus på praktisk gennemførelse, governance og målbare resultater. Ruh er en hyppig bidrager til branchens diskussioner om agentic AI, MLOps-maturitet og virkeligheden ved at gå fra AI-piloter til produktions-systemer.

Digitate er et enterprise software-selskab og et datterselskab af Tata Consultancy Services (TCS.BO ), der specialiserer sig i AI-dreven automation for IT- og forretningsoperationer. Deres kernplatform, ignio, muliggør autonom operation ved at kombinere machine learning, knowledge graphs og intelligent automation for at opdage problemer, forudsige resultater og selvhele systemer på komplekse enterprise-miljøer. Digitate betjener store globale organisationer, der søger at reducere operationel kompleksitet, mens de forbedrer robusthed og effektivitet gennem anvendt AI.

Med din omfattende tekniske ledelseserfaring hos Digitate og din tidligere hånd-til-hånd-erfaring på tværs af IT-operationer, arkitektur og enterprise-systemer, hvordan har din opfattelse af vigtigheden af forklarbar AI udviklet sig i forhold til de sorte-boks-automationsmodeller, mange organisationer stadig afhænger af i dag?

Tidligere generationer af automation var overvejende reaktive og regel-baserede, hvilket gjorde sorte-boks-adfærd mere tolerabel, da resultaterne var meget forudsigelige. Da AI-systemer nu bevæger sig mod proaktive agenter, der kan resonere og generere deres egen respons, forsvinder tolerance for uigennemsigtighed. IT-ledere er ansvarlige for at holde mission-kritiske systemer tilgængelige døgnet rundt, og den ansvar kræver meget lidt plads til eksperimenter med systemer, hvis resonement ikke kan valideres. Forklarbarhed har derfor skiftet fra en teknisk funktion til en operationel krav, der muliggør tillid i stor skala. For at stole på disse nye AI-agenter er det vigtigt, at de deler deres tankegang (grundlæggende, hvordan de nåede til løsningen) og deres resonementsresultater.

Hvorfor er tillid og forklarbarhed de største barrierer for en bredere anvendelse af avanceret AI-dreven automation i enterprise IT?

Enterprise IT opererer under konstant ansvar og risiko. Når AI-systemer træffer beslutninger autonomt, især i forebyggende eller selvhelede opereringsmodeller, skal tilsynsholdende teams være i stand til at forstå, hvorfor en bestemt handling blev udført. Uden indsigt i beviser, kontekst og beslutningslogik introducerer AI usikkerhed i stedet for at reducere den. Den manglende gennemsigtighed og usikkerhed påvirker tillid, hvilket langsommere adoption blandt IT-hold end modelpræcision eller ydeevne nogensinde kunne.

Hvad ser sand forklarbarhed ud til i AI-dreven IT-operationer, og hvordan kan det hjælpe hold med at validerede beslutninger, før systemer handler autonomt?

Sand forklarbarhed er praktisk og operatør-fokuseret. Dette betyder, at teknologien kræver at vise data, der bruges til resonement, validerer, at systemet forstår den korrekte operationelle kontekst, og forklarer den anbefalede handlingsplan i menneske-læselige termer. Det inkluderer også historisk validering, såsom om lignende beslutninger er truffet før, og hvad resultaterne var. Dette tillader hold at validerede handlinger hurtigt og udvide autonom udførelse, hvor risikoen er lav. Hvis mennesker ikke kan hurtigt forstå og handle på udskriften, så fejler et forklarbarhedsværktøj i at opfylde sin formål.

Hvordan oversætter manglen på forklarbarhed sig til reelle operationelle, finansielle eller forretningsrisici for store organisationer?

Hvis du ejede en fabrik og et vitalt stykke udstyr manglede advarsler for at markere et vedligeholdelsesproblem, ville det til sidst begynde at fejle uden at advare holdet – førende til dårlige produkter eller uventet nedtid. Lignende kan AI uden forklarbarhed omdanne små data-problemer til store forretnings-ulykker. Et AI-baseret kapacitetsforudsigelsessystem, der opererer på ufuldstændige data, kan reducere infrastrukturkapaciteten for at spare omkostninger, kun for at forårsage alvorlig ydelsesnedgang under topprocesseringsperioder. I tilfælde af enterprise AI-systemer ser man ofte effekten af dårlig forklarbarhed gennem manglende SLA’er, finansielle straffe og kunde-påvirkning. Lignende kan aggressiv advarselsundertrykkelse skjule kritiske fejl, hvilket tillader nedbrud at gå ubemærket, indtil det er en sand nødsituation.

Set fra dit perspektiv, hvilken rolle burde AI-platforme spille i at gøre deres resonement gennemskueligt og forståeligt for IT-hold, der opererer mission-kritiske systemer?

En vel-designet AI-agent eller platform har forklarbarhed indbygget, rent og simpelt. Autonome systemer bør dokumentere data, der bruges, logikken, der anvendes, handlingerne, der anbefales eller udføres, og resultaterne, der følger. Denne information skal præsenteres i den operationelle sprog, IT-hold bruger, såsom afhængigheder, historiske uheld og forretningspåvirkning, snarere end abstrakte AI-scores. Gennemskuelighed er afgørende for ansvar, læring og langsigtede tillid.

Hvilke arkitektoniske eller design-tilgange hjælper virksomheder med at gå væk fra uigennemsigtige automation mod mere gennemsigtige, glas-boks-beslutninger?

Virksomheder adopterer arkitekturer, der grundlægger AI-beslutninger i høj-kvalitets operationel data og tydeligt adskiller data-validering fra beslutningslogik. Gennemsigtige systemer sikrer, at AI arbejder med de rigtige input og antagelser, før det handler. Mange organisationer bruger også trinvis autonomi, starter med anbefalinger og fremmer til selvstændig udførelse, efterhånden som tilliden vokser. Åben adgang til data og tydelige politik-lag er kritiske for at undgå sorte-boks-adfærd, efterhånden som autonomi øges. Der er stadig meget plads til, at branchen kan vokse i forklarbarhed, og jeg tror, vi vil se en boom i forklarbarhedsfunktioner i år

Hvordan opnår organisationer den rette balance mellem autonom AI-handling og menneskelig tilsyn uden at langsommere operationer?

Balancen opnås gennem risiko-baserede kontroller snarere end blanketing tilsyn. Lav-risiko, høj-frekvens-opgaver kan automatiseres end-to-end med guardrails, mens højere-påvirkningsbeslutninger forbliver menneske-validerede, indtil systemer demonstrerer pålidelighed. Efterhånden som forklarbarhed forbedres og AI konsekvent viser sund dømmekraft, udvides autonomi naturligt uden at introducere operationel friktion.

Hvad ville du råde CIO’er og CTO’er, der ønsker at skale AI på tværs af IT-operationer, men møder intern modstand på grund af synligheds- og ansvarskoncern?

Start med gennemsigtighed, ikke autonomi. Involver dine IT-hold tidligt og prioriter gennemsigtighed både i design og implementering for at opbygge tillid. Modstand stammer typisk fra en mangel på indsigt i AI-beslutninger, snarere end modstand mod innovation i sig selv. Fokus derefter på brugstilfælde, der reducerer støj, eliminerer advarsels-træthed og tydeligt forklarer, hvordan beslutninger træffes, før systemer handler uafhængigt.

Hvordan burde ledelseshold omdefinere governance, validering og tillidsmodeller, når AI-systemer overtager mere beslutningsansvar?

Governance må skifte fra statiske godkendelsesprocesser til kontinuerlig validering. Ledelseshold skal definere, hvor autonomi er tilladt, hvilke beviser der kræves, og hvornår menneskelig indgriben er nødvendig. Tillid skal opnås gennem målbare resultater, såsom nøjagtighed, reducerede uheld og hurtigere løsningstider, snarere end antagelser om model-sophistication.

Set fremad, hvordan ser du forklarbar og gennemsigtig AI omdefinere fremtiden for autonom IT-operationer over de næste få år?

Forklarbar AI vil være en grundlæggende del af puslespillet, når det kommer til at bygge proaktive og autonome IT-operationer, der kan skala sikkert, uden at miste den vitale tillid til dit IT-hold. Generativ AI forbedrer allerede gennemsigtighed ved at muliggøre systemer at fremme beviser, validerer fakta og forklarer beslutninger i menneske-læselige termer. Over de næste få år vil dette niveau af forklarbarhed blive standard, hvilket tillader organisationer at gå ud over eksperimenter og indbygge AI dybt i operationer, governance og arbejdsgange som en tillidsværdig partner snarere end en uigennemsigtig beslutningstager. Over de næste få år vil AI-agenter være på plads for at håndtere forskellige aktiviteter i en organisation, de vil blive en del af vores daglige liv, men for disse har vi brug for at kunne stole på dem, og nøjagtighed og gennemsigtighed er nøgleaspekter for at opnå dette mål. Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Digitate.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Digitate.