Efrain Ruh, Digitaten EMEA:n CTO – Haastattelusarja

Efrain Ruh on Digitaten EMEA:n Chief Technology Officer, jossa hän johtaa alueellista teknologiapolitiikkaa vahvalla painotuksella enterprise AI:lle, automaatiolle ja suurten operatiivisten muutosten toteuttamiselle. Hän työskentelee läheisesti asiakkaiden kanssa Euroopassa, Lähi-idässä ja Afrikassa auttaakseen organisaatioita ottamaan AI:n vastuullisesti käyttöön, korostamalla käytännön toteutusta, hallintoa ja mitattavia tuloksia. Ruh on usein mukana alan keskusteluissa agentic AI:sta, MLOps-kypsymisestä ja siirtymisestä AI-kokeiluista tuotantojärjestelmiin.

Digitate on yritysohjelmistoyhtiö ja Tata Consultancy Servicesin tytäryhtiö, joka on erikoistunut AI-vetoihin IT- ja liiketoimintaprosesseihin. Sen ydinohjelmisto, ignio, mahdollistaa autonomisen toiminnan yhdistämällä koneoppimisen, tietokannat ja älykkään automaation havaitsemaan ongelmia, ennustamaan tuloksia ja itsekorjaamaan järjestelmiä monimutkaisissa yritysympäristöissä. Digitate palvelee suuria kansainvälisiä organisaatioita, jotka pyrkivät vähentämään operatiivista monimutkaisuutta parantaen samalla kestävyyttä ja tehokkuutta soveltamalla AI:ta.

Miten on muuttunut näkemyksesi selitettävän AI:n tärkeydestä verrattuna mustaan laatikkoon perustuviin automaatioihin, joita monet organisaatiot edelleen käyttävät?

Aikaisemmat automaation sukupolvet olivat pääasiassa reaktiivisia ja sääntöperusteisia, mikä teki mustan laatikon käyttäytymisen enemmän siedettäväksi, koska tulokset olivat hyvin ennustettavissa. Koska AI-järjestelmät siirtyvät nyt proaktiivisiksi agenteiksi, jotka voivat päättää ja luoda omat vastauksensa, ei ole siedettävää, että niiden toimintaa ei voida validoida. IT-johtajat ovat vastuussa siitä, että kriittiset järjestelmät ovat käytettävissä ympäri vuorokauden, ja tämä vastuu jättää hyvin vähän tilaa kokeiluille järjestelmien kanssa, joiden päättelyä ei voida validoida. Selitettävyys on siis muuttunut teknisestä ominaisuudesta operatiiviseksi vaatimukseksi, joka mahdollistaa luottamuksen laajassa mittakaavassa. Jotta voimme luottaa näihin uusiin AI-agenteihin, on tärkeää, että ne jakavat ajatusprosessinsa (eli miten ne pääsivät ratkaisuun) ja päättelytuloksensa.

Miksi luottamus ja selitettävyys nousevat suurimmiksi esteiksi edistyneen AI-vetoisen automaation laajemmalle omaksumiselle yritysten IT:ssä?

Yritysten IT toimii jatkuvan vastuun ja riskin alaisena. Kun AI-järjestelmät tekevät päätöksiä itsenäisesti, erityisesti ennaltaehkäisevissä tai itsekorjaavissa toimintamalleissa, valvontatiimejä on kyettävä ymmärtämään, miksi tietty toimenpide tehtiin. Ilman näkyvyyttä todisteisiin, kontekstiin ja päätöksenteon logiikkaan AI tuo epävarmuutta, eikä vähennä sitä. Tämä puute läpinäkyvyydestä ja epävarmuus vaikuttaa luottamukseen, mikä hidastaa omaksumista enemmän kuin mallin tarkkuus tai suorituskyky voisi.

Miten todellinen selitettävyys näyttäytyy AI-vetoisissa IT-operaatioissa, ja miten se voi auttaa tiimejä validoida päätöksiä ennen kuin järjestelmät toimivat itsenäisesti?

Todellinen selitettävyys on käytännöllistä ja operoijan keskeistä. Tämä tarkoittaa, että teknologian on osoitettava selvästi käytetty data päättelyyn, validoida, että järjestelmä ymmärretään oikean operatiivisen kontekstin, ja selittää suositeltu toimenpide ihmisten luettavassa muodossa. Siihen sisältyy myös historiallinen validointi, kuten onko samanlaisia päätöksiä tehty aiemmin ja mitkä olivat niiden tulokset. Tämä mahdollistaa tiimien nopean validoinnin ja itsenäisen toiminnan laajentamisen, kun riski on alhainen. Jos ihmiset eivät voi nopeasti ymmärtää ja toimia sen mukaisesti, selitettävyysväline epäonnistuu tarkoituksessaan.

Miten selitettävyyden puute kääntyy todellisiksi operatiivisiksi, taloudellisiksi tai liiketoimintariskeiksi suurille organisaatioille?

Jos johtaisit tehdasta ja tärkeä laite ei antaisi hälytystä huoltotarpeesta, se lopulta alkaa vikata ilman, että tiimiä hälytetään – johtaen huonolaatuiseen tuotantoon tai suunnittelemattomaan pysähtymiseen. Vastaavasti AI ilman selitettävyyttä voi muuttaa pienet dataongelmat suuriksi liiketoimintatapauksiksi. AI-pohjainen kapasiteetin ennustusjärjestelmä, joka toimii epätäydellisillä tiedoilla, voi vähentää infrastruktuurin kapasiteettia säästääkseen kustannuksia, mutta aiheuttaa vakavan suorituskyvyn heikentymisen huippukuormituksen aikana. Tapauksessa, jossa on kyse yritysten AI-järjestelmistä, näkee usein selitettävyyden puutteen vaikutuksen sopimussopimusten puutteiden, taloudellisten sakkojen ja asiakastarpeiden kautta. Vastaavasti aggressiivinen hälytyspaineiden torjunta voi piilottaa kriittiset virheet, jolloin keskeytykset jäävät havaitsematta, kunnes se on todellinen hätätilanne.

Miten mielestäsi AI-alustojen tulisi osallistua heidän päätöksenteonsa auditoinnissa ja ymmärrettävyydessä IT-tiimien kannalta, jotka operoivat kriittisiä järjestelmiä?

Hyvin suunniteltu AI-agentti tai -alusta sisältää selitettävyyden valmiina. Autonomiset järjestelmät tulisi dokumentoida käytetty data, sovellettu logiikka, suositellut tai toteutetut toimenpiteet ja seuraukset, jotka seurasivat. Tämä tieto on esitettävä IT-tiimien käyttämissä operatiivisissa termeissä, kuten riippuvuuksissa, historiallisissa tapauksissa ja liiketoimintavaikutuksissa, eikä abstrakteissa AI-arvoissa. Auditointi on välttämätöntä vastuun, oppimisen ja pitkän aikavälin luottamuksen kannalta.

Mitkä arkkitehtoniset tai suunnittelumallit auttavat yrityksiä siirtymään epäselvistä automaatioista kohti läpinäkyvää, lasikeilaisen päätöksenteon mallia?

Yritykset omaksuvat arkkitehtuureja, jotka perustuvat korkealaatuiseen operatiiviseen dataan ja erottavat selvästi datan validoinnin päätöksenteosta. Läpinäkyvät järjestelmät varmistavat, että AI toimii oikeilla syötteillä ja oletuksilla ennen toimintaa. Monet organisaatiot käyttävät myös askeltavaa autonomiaa, aloittaen suosittelemalla ja edetään rajoitettuun autonomiseen toimintaan, kun luottamus kasvaa. Avoin datakäyttö ja selkeät politiikkakerrokset ovat olennaisia estämään mustan laatikon käyttäytyminen autonomian lisääntyessä. On kuitenkin vielä paljon tilaa teollisuuden kasvulle selitettävyyden piirissä, ja uskon, että näemme selitettävyyden ominaisuuksien räjähdysmäisen kasvun tänä vuonna.

Kuinka organisaatiot saavuttavat oikean tasapainon autonomisen AI-toiminnan ja ihmisen valvonnan välillä ilman, että se hidastaa operaatioita?

Tasapaino saavutetaan riskiperusteisilla säätelyillä eikä yleispätevällä valvonnalla. Matalan riskin, korkean taajuuksisen tehtävät voidaan automatisoida loppuun asti varmistuksin, kun taas korkeamman vaikutuksen päätökset säilytetään ihmisten validoituna, kunnes järjestelmät osoittavat luotettavuutensa. Kun selitettävyys paranee ja AI osoittaa johdonmukaista arviointia, autonomia laajenee luonnollisesti ilman, että se aiheuttaa operatiivista kitkaa.

Mitä neuvoa antaisit CIO:ille ja CTO:ille, jotka haluavat laajentaa AI:ta IT-operaatioihin, mutta kohtaavat sisäistä vastarintaa näkyvyyden ja vastuun vuoksi?

Aloita läpinäkyvyydellä, ei autonomialla. Ota IT-tiimit mukaan aikaisin ja priorisoi näkyvyyttä sekä suunnittelussa että käyttöönotossa luottamuksen rakentamiseksi. Vastarinta johtuu yleensä puutteellisesta näkyvyydestä AI-päätöksissä, eikä vastustusta itsessään innovaatioita kohtaan. Sen jälkeen keskity käyttötapauksiin, jotka vähentävät melua, poistavat hälytysväsymyksen ja selittävät, miten päätökset tehdään ennen kuin järjestelmät saavat toimia itsenäisesti.

Kuinka johtoryhmien tulisi uudelleenarvioida hallintoa, validointia ja luottamuksen malleja, kun AI-järjestelmät ottavat enemmän vastuuta päätöksenteosta?

Hallinto on siirtymässä staattisista hyväksymisprosesseista jatkuvaan validointiin. Johtoryhmien on määriteltävä, missä autonomia on sallittua, mitkä todisteet vaaditaan ja milloin ihmisen väliintulo on tarpeen. Luottamus on ansaittava mitattavissa olevien tuloksien kautta, kuten tarkkuuden, vähentyneiden tapausten ja nopeamman ratkaisuaikan, eikä oletuksien kautta mallin monimutkaisuudesta.

Miten näet selitettävän ja läpinäkyvän AI:n muokkaavan autonomisen IT-operaation tulevaisuutta seuraavien vuosien aikana?

Selitettävä AI tulee olemaan tärkeä osa autonomisen IT-operaation rakentamisessa turvallisesti ilman, että luottamus IT-tiimiin katoaa. Generatiivinen AI parantaa jo läpinäkyvyyttä mahdollistaen järjestelmien esittää todisteita, validoida faktoja ja selittää päätöksiä ihmisten luettavassa muodossa. Seuraavien vuosien aikana tämä taso selitettävyyttä tulee olemaan standardi, jolloin organisaatiot voivat siirtyä kokeilusta ja upottaa AI:ta syvemmälle operaatioihin, hallintoon ja työnkulkuihin luotettavana kumppanina eikä epäselvänä päätöksentekijänä. Seuraavien vuosien aikana AI-agentit tulevat olemaan paikalla hallinnoimaan eri organisaation toimintoja, ne tulevat osaksi arkipäiväämme, mutta näihin tarvitaan luottamusta ja tarkkuutta ja läpinäkyvyyttä, jotta voidaan saavuttaa tämä tavoite. Kiitos tästä haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Digitaten sivustolla.