Efrain Ruh, CTO di EMEA presso Digitate – Intervista

Efrain Ruh è il Chief Technology Officer per l’EMEA presso Digitate, dove guida la strategia tecnologica regionale con un forte focus sull’intelligenza artificiale aziendale, l’automazione e la trasformazione operativa su larga scala. Lavora a stretto contatto con i clienti in tutta Europa, Medio Oriente e Africa per aiutare le organizzazioni a implementare l’AI in modo responsabile, enfatizzando l’esecuzione pratica, la governance e i risultati misurabili. Ruh è un frequente contributore alle discussioni di settore su AI agente, MLOps maturity e le realtà del passaggio da piloti di AI a sistemi di produzione.

Digitate è un’azienda di software aziendale e una consociata di Tata Consultancy Services (TCS.BO ) che si specializza nell’automazione guidata da AI per IT e operazioni aziendali. La sua piattaforma principale, ignio, consente operazioni autonome combinando apprendimento automatico, grafi di conoscenza e automazione intelligente per rilevare problemi, prevedere risultati e auto-risanare sistemi in ambienti aziendali complessi. Digitate serve grandi organizzazioni globali che cercano di ridurre la complessità operativa migliorando al contempo la resilienza e l’efficienza attraverso l’applicazione di AI.

Considerata la tua vasta esperienza di leadership tecnica presso Digitate e la tua precedente esperienza pratica in IT, operazioni, architettura e sistemi aziendali, come è cambiata la tua visione sull’importanza dell’AI spiegabile rispetto ai modelli di automazione black-box che molte organizzazioni ancora utilizzano oggi?

Le generazioni precedenti di automazione erano in gran parte reattive e basate su regole, il che rendeva il comportamento black-box più tollerabile poiché i risultati erano molto prevedibili. Mentre i sistemi di AI si muovono verso agenti proattivi che possono ragionare e generare risposte, la tolleranza per l’opacità scompare. I leader IT sono responsabili del mantenimento della disponibilità dei sistemi critici 24 ore su 24, e questa responsabilità lascia molto poco spazio per l’esperimentazione con sistemi il cui ragionamento non può essere validato. L’esplicabilità è quindi passata da una caratteristica tecnica a un requisito operativo che consente la fiducia su larga scala. Per fidarsi di questi nuovi agenti di AI, è importante che condividano la loro linea di pensiero (in sostanza, come sono arrivati alla soluzione) e i risultati del loro ragionamento.

Perché la fiducia e l’esplicabilità stanno emergendo come i più grandi ostacoli all’adozione più ampia di automazione avanzata guidata da AI nell’IT aziendale?

L’IT aziendale opera sotto una costante responsabilità e rischio. Quando i sistemi di AI prendono decisioni in modo autonomo, soprattutto in modelli di operazione preventiva o auto-risanante, i team di supervisione devono essere in grado di capire perché è stata presa una certa azione. Senza visibilità nell’evidenza, nel contesto e nella logica decisionale, l’AI introduce incertezza piuttosto che ridurla. Quella mancanza di trasparenza e incertezza impatta sulla fiducia, quindi rallenta l’adozione tra i team IT più di quanto potrebbero fare l’accuratezza del modello o le prestazioni.

Cosa significa realmente l’esplicabilità nell’IT guidata da AI, e come può aiutare i team a convalidare le decisioni prima che i sistemi agiscano in modo autonomo?

La vera esplicabilità è pratica e focalizzata sull’operatore. Ciò significa che la tecnologia deve mostrare chiaramente i dati utilizzati per il ragionamento, validare che il sistema comprende il contesto operativo corretto e spiegare il corso di azione raccomandato in termini leggibili dall’uomo. Ciò include anche la convalida storica, come ad esempio se decisioni simili sono state prese in precedenza e quali sono stati gli esiti. Ciò consente ai team di convalidare rapidamente le azioni e di espandere con fiducia l’esecuzione autonoma dove il rischio è basso. Se le persone non possono rapidamente digerire e agire in base al resoconto, allora uno strumento di esplicabilità non serve al suo scopo.

Come si traduce la mancanza di esplicabilità in rischi operativi, finanziari o aziendali reali per le grandi organizzazioni?

Se gestisci una fabbrica e un pezzo di attrezzatura vitale manca di allarmi per segnalare un problema di manutenzione, alla fine inizierà a malfunzionare senza allertare il team, portando a prodotti di scarsa qualità o a tempi di fermo non pianificati. Allo stesso modo, l’AI senza esplicabilità può trasformare piccoli problemi di dati in incidenti aziendali importanti. Un sistema di previsione della capacità basato su AI che opera con dati incompleti potrebbe ridurre la capacità di infrastruttura per risparmiare sui costi, solo per causare un grave degrado delle prestazioni durante i periodi di elaborazione di picco. Nel caso dei sistemi di AI aziendali, si vedono spesso gli impatti della scarsa esplicabilità attraverso SLA mancati, penali finanziarie e impatto sui clienti. Allo stesso modo, la soppressione aggressiva degli allarmi può nascondere fallimenti critici, consentendo che gli outage passino inosservati fino a quando non diventano una vera emergenza.

Da parte tua, quale ruolo dovrebbero svolgere le piattaforme di AI nel rendere il loro ragionamento verificabile e comprensibile per i team IT che operano sistemi critici?

Un agente o una piattaforma di AI ben progettata ha l’esplicabilità incorporata, punto e basta. I sistemi autonomi dovrebbero documentare i dati utilizzati, la logica applicata, le azioni raccomandate o intraprese e gli esiti che sono seguiti. Queste informazioni devono essere presentate nel linguaggio operativo che i team IT utilizzano, come ad esempio dipendenze, incidenti storici e impatto aziendale, piuttosto che punteggi di AI astratti. La verificabilità è essenziale per la responsabilità, l’apprendimento e la fiducia a lungo termine.

Quali approcci architettonici o di progettazione stanno aiutando le aziende a spostarsi dall’automazione opaca verso una decisione più trasparente, a “scatola di vetro”?

Le aziende stanno adottando architetture che basano le decisioni di AI su dati operativi di alta qualità e separano chiaramente la convalida dei dati dalla logica decisionale. I sistemi trasparenti garantiscono che l’AI stia lavorando con gli input e le ipotesi corretti prima di agire. Molte organizzazioni utilizzano anche l’autonomia a fasi, iniziando con raccomandazioni e progredendo verso l’esecuzione autonoma vincolata man mano che la fiducia cresce. L’accesso ai dati aperto e i livelli di politica chiari sono critici per evitare il comportamento black-box man mano che l’autonomia aumenta. C’è ancora molto spazio per l’industria per crescere in termini di esplicabilità, e credo che vedremo un boom di funzionalità di esplicabilità quest’anno.

Come le organizzazioni trovano il giusto equilibrio tra azione autonoma di AI e supervisione umana senza rallentare le operazioni?

L’equilibrio si raggiunge attraverso controlli basati sul rischio piuttosto che sulla supervisione generale. Le attività a basso rischio e ad alta frequenza possono essere automatizzate end-to-end con guardrail, mentre le decisioni ad alto impatto rimangono validate dagli esseri umani fino a quando i sistemi non dimostrano affidabilità. Man mano che l’esplicabilità migliora e l’AI dimostra costantemente un giudizio solido, l’autonomia si espande naturalmente senza introdurre attrito operativo.

Qual consiglio daresti ai CIO e ai CTO che desiderano scalare l’AI attraverso le operazioni IT ma affrontano resistenza interna a causa di preoccupazioni sulla visibilità e sulla responsabilità?

Inizia con la trasparenza, non con l’autonomia. Coinvolgi i tuoi team IT fin dall’inizio e priorizza la visibilità sia nella progettazione che nel rollout per costruire la fiducia. La resistenza deriva tipicamente dalla mancanza di insight nelle decisioni di AI, non dall’opposizione all’innovazione in sé. Quindi, concentra l’attenzione sugli utilizzi che riducono il rumore, eliminano la fatica degli allarmi e spiegano chiaramente come vengono prese le decisioni prima di consentire ai sistemi di agire in modo indipendente.

Come le squadre di leadership dovrebbero ripensare la governance, la convalida e i modelli di fiducia man mano che i sistemi di AI assumono maggiori responsabilità decisionali?

La governance deve spostarsi da processi di approvazione statici a convalida continua. Le squadre di leadership devono definire dove è consentita l’autonomia, quali evidenze sono richieste e quando è necessario l’intervento umano. La fiducia dovrebbe essere guadagnata attraverso risultati misurabili come accuratezza, incidenti ridotti e tempi di risoluzione più rapidi, piuttosto che assunzioni sulla sofisticazione del modello.

Guardando avanti, come vedi l’AI esplicabile e trasparente ridisegnare il futuro delle operazioni IT autonome nei prossimi anni?

L’AI esplicabile sarà un pezzo fondamentale del puzzle quando si costruiscono operazioni IT proattive e autonome per scalare in modo sicuro, senza perdere la fiducia vitale del team IT. L’AI generativa sta già migliorando la trasparenza consentendo ai sistemi di portare in superficie le evidenze, convalidare i fatti e spiegare le decisioni in termini leggibili dall’uomo. Nel corso dei prossimi anni, questo livello di esplicabilità diventerà standard, consentendo alle organizzazioni di andare oltre l’esperimentazione e di incorporare l’AI profondamente nelle operazioni, nella governance e nei flussi di lavoro come un partner affidabile piuttosto che come un decisore opaco. Nel corso dei prossimi anni, gli agenti di AI saranno in posto per gestire diverse attività di un’organizzazione, diventeranno parte della nostra vita quotidiana, ma per questi abbiamo bisogno di poterli fidare e l’accuratezza e la trasparenza sono aspetti chiave per raggiungere questo obiettivo. Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Digitate.