Efrain Ruh, teknologidirektør for EMEA i Digitate – Intervju-serie

Efrain Ruh er teknologidirektør for EMEA i Digitate, der leder regional teknologistrategi med fokus på bedrifts-AI, automatisering og stor skala operasjonell transformasjon. Han arbeider tett med kunder over hele Europa, Midtøsten og Afrika for å hjelpe organisasjoner med å distribuere AI på en ansvarlig måte, med fokus på praktisk gjennomføring, styring og målbare resultater. Ruh er en hyppig bidragsyter til bransje-diskusjoner om agens-AI, MLOps-modning og realitetene ved å gå fra AI-piloter til produksjonssystemer.

Digitate er et bedriftsprogramvareselskap og et datterselskap av Tata Consultancy Services (TCS.BO ) som spesialiserer seg på AI-drevet automatisering for IT- og bedriftsoperasjoner. Deres kjernplattform, ignio, muliggjør autonome operasjoner ved å kombinere maskinlæring, kunnskapsgrafer og intelligent automatisering for å oppdage problemer, forutsi resultater og selv-helbrede systemer over komplekse bedriftsmiljøer. Digitate betjener store globale organisasjoner som søker å redusere operasjonell kompleksitet samtidig som de forbedrer motstand og effektivitet gjennom anvendt AI.

Gitt dine omfattende tekniske lederroller i Digitate og din tidligere hånd-erfaring over IT-operasjoner, arkitektur og bedriftssystemer, hvordan har din syn på viktigheten av forklarbar AI utviklet seg sammenlignet med de sorte-boks-automatiseringsmodellene mange organisasjoner fortsatt avhenger av i dag?

Tidligere generasjoner av automatisering var hovedsakelig reaktive og regelbaserte, noe som gjorde at sorte-boks-atferd var mer tolerabel ettersom resultater var svært forutsigbare. Nå som AI-systemer beveger seg mot proaktive agenter som kan granske og generere egne svar, forsvinner toleransen for uklarhet. IT-ledere er ansvarlige for å holde kritiske systemer tilgjengelige døgnet rundt, og den ansvarligheten lar svært lite rom for eksperimentering med systemer hvis granskning ikke kan validere. Forklarbarhet har derfor skiftet fra en teknisk funksjon til en operasjonell krav som muliggjør tillit i stor skala. For å kunne stole på disse nye AI-agenter er det viktig at de deler sin tankegang (hovedsakelig hvordan de kom frem til løsningen) og deres granskningsresultater.

Hvorfor er tillit og forklarbarhet viktigste hindre for en videre utbredelse av avansert AI-drevet automatisering i bedrifts-IT?

Bedrifts-IT opererer under konstant ansvar og risiko. Når AI-systemer tar beslutninger autonomt, spesielt i forebyggende eller selv-helbredende driftsmodeller, må overvåkingslagene kunne forstå hvorfor en bestemt handling ble utført. Uten synlighet i bevis, kontekst og beslutningslogikk, introduserer AI usikkerhet i stedet for å redusere den. Den mangelen på transparens og usikkerhet påvirker tillit, og dermed, sakte ned adopsjon blant IT-lag mer enn modell-nøyaktighet eller ytelse noen gang kunne.

Hva ser egentlig ut som sant forklarbarhet i AI-drevet IT-operasjoner, og hvordan kan det hjelpe lag med å validere beslutninger før systemer handler autonomt?

Sant forklarbarhet er praktisk og operatør-fokusert. Dette betyr at teknologien må tydelig vise dataene som brukes til granskning, validere at systemet forstår den riktige operative konteksten, og forklare den anbefalte handlingen på menneske-leselig måte. Det inkluderer også historisk validering, som om lignende beslutninger har blitt tatt tidligere og hva resultater var. Dette lar lagene validere handlinger raskt og utvide autonom utførelse der risikoen er lav. Hvis mennesker ikke kan raskt fordøye og handle på grunn av utskrift, så feiler et forklarbarhet-verktøy i å tjene sitt formål.

Hvordan oversetter mangelen på forklarbarhet seg til reelle operasjonelle, finansielle eller forretningsrisiko for store organisasjoner?

Hvis du drev en fabrikk og et kritisk stykke utstyr manglet varsler for å markere et vedlikeholdsproblem, ville det til slutt begynne å feile uten å varsle laget – noe som ville føre til dårlig kvalitet produkter eller uventet nedtid. Tilsvarende kan AI uten forklarbarhet omdanne små data-problemer til store forretningshendelser. Et AI-basert kapasitetsprognose-system som opererer på ufullstendige data, kan redusere infrastruktur-kapasiteten for å spare kostnader, bare for å forårsake alvorlig ytelsesnedgang under topp-prosesseringsperioder. I tilfelle av bedrifts-AI-systemer ser du ofte effekten av dårlig forklarbarhet gjennom manglende SLAer, finansielle straffer og kunde-påvirkning. Tilsvarende kan aggressiv varslingssuppresjon skjule kritiske feil, og la nedtider gå uoppdaget til det er en ekte nødsituasjon.

Hva rolle bør AI-plattformer spille i å gjøre deres granskning auditerbar og forståelig for IT-lag som opererer kritiske systemer?

En vel-designet AI-agent eller plattform har forklarbarhet bygget inn, rent og enkelt. Autonome systemer bør dokumentere dataene som brukes, logikken som brukes, handlingene som anbefales eller utføres, og resultater som følger. Denne informasjonen må presenteres på den operative språket IT-lagene bruker, som avhengigheter, historiske hendelser og forretnings-påvirkning, i stedet for abstrakte AI-poeng. Auditerbarhet er essensiell for ansvar, læring og langvarig tillit.

Hvilke arkitektoniske eller design-tilnærminger hjelper bedrifter med å gå bort fra uklare automatisering mot mer transparent, glass-boks-beslutning?

Bedrifter adopterer arkitekturer som grunner AI-beslutninger i høykvalitets operative data og tydelig skiller data-validering fra beslutningslogikk. Transparente systemer sikrer at AI arbeider med riktige inn-data og antagelser før de handler. Mange organisasjoner bruker også trinnvis autonomi, starter med anbefalinger og fremmer til å begrense autonom utførelse mens tillit vokser. Åpen data-tilgang og tydelige politi-lag er kritisk for å unngå sorte-boks-atferd når autonomi øker. Det er fortsatt mye rom for industrien til å vokse forklarbarhet, og jeg tror vi kommer til å se en boom i forklarbarhetsfunksjoner i år

Hvordan oppnår organisasjoner riktig balanse mellom autonom AI-handling og menneskelig overvåking uten å sakke ned operasjoner?

Balansen oppnås gjennom risiko-baserte kontroller i stedet for generell overvåking. Lav-risiko, høy-frekvens oppgaver kan automatiseres fullstendig med vegger, mens høyere-påvirknings beslutninger forblir menneske-validerende til systemene demonstrerer pålitelighet. Ettersom forklarbarhet forbedres og AI konsekvent viser sunn dømmekraft, utvides autonomi naturlig uten å introdusere operasjonell friksjon.

Hva råd ville du gi til CIOer og CTOer som ønsker å skalerer AI over IT-operasjoner, men møter intern motstand på grunn av synlighet og ansvar-behov?

Start med transparens, ikke autonomi. Inkluder dine IT-lag tidlig og prioriter synlighet både i design og utrulling for å bygge tillit. Motstand stammer vanligvis fra mangelen på innsikt i AI-beslutninger, ikke fra motstand mot innovasjon i seg selv. Deretter fokuser på brukstilfeller som reduserer støy, eliminerer varslingstrøtthet og tydelig forklarer hvordan beslutninger tas før systemer tillates å handle uavhengig.

Hvordan bør ledelseslagene omtenke styring, validering og tillit-modeller når AI-systemer tar på seg mer beslutningsansvar?

Styring må skifte fra statiske godkjennelsesprosesser til kontinuerlig validering. Ledelseslagene må definere hvor autonomi er tillatt, hva bevis som er nødvendig, og når menneskelig inngripen er nødvendig. Tillit bør være tjent gjennom målbare resultater som nøyaktighet, reduserte hendelser og raskere løsningstider, i stedet for antagelser om modell-kompleksitet.

Ser fremover, hvordan ser du på forklarbar og transparent AI-former fremtiden for autonome IT-operasjoner over de neste få årene?

Forklarbar AI vil være en grunnleggende del av puslespillet når det gjelder å bygge proaktive og autonome IT-operasjoner for å skalerer trygt, uten å tape den viktige tilliten til ditt IT-lag. Generativ AI forbedrer allerede transparensen ved å muliggjøre systemer å overflate bevis, validere fakta og forklare beslutninger på menneske-leselig måte. Over de neste årene vil dette nivået av forklarbarhet bli standard, og organisasjoner vil kunne flytte seg bort fra eksperimentering og innføre AI dypt i operasjoner, styring og arbeidsflyt som en pålitelig partner i stedet for en uklar beslutningstaker. Over de neste årene vil AI-agenter være på plass for å håndtere forskjellige aktiviteter i en organisasjon, de vil bli en del av vår hverdagsliv, men for disse trenger vi å kunne stole på dem, og nøyaktighet og transparens er nøkkel-aspekter for å oppnå dette målet. Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Digitate.