Kun tekoäly tulee operatiiviseen käyttöön, selitteettävyys muuttuu ehdottomaksi

Yritysten tekoälyn omaksuminen on edennyt pragmaattisempaan vaiheeseen. Teknologiajohtajien haaste ei ole enää vakuuttaa organisaatiota siitä, että tekoälyllä on potentiaalia. Se on taattava, että päätöksiä vaikuttavat järjestelmät voidaan ymmärtää, hallita ja puolustaa.

Tehtävänsä tekoäly ansaitsee paikkansa yrityksessä, kun ihmiset ovat valmiit luottamaan siihen. Tuo luottamus ei perustu ainoastaan suorituskykytilastoihin. Se riippuu siitä, ovatko tiimit valmiit säilyttämään hallinnan, kun automaatio tulee osaksi päivittäistä työnkulkua.

Monissa organisaatioissa tuo hallinta säilyy epävarmana.

Miksi läpinäkyvyyden puute hidastaa omaksumista

Tehtävänsä tekoäly on nyt upotettu IT-operaatioihin, alkaen palvelupyyntöjen reitittämisestä ja häiriökorrelaatiosta kapasiteettisuunnitteluun. Nämä ovat ympäristöjä, joissa päätökset ovat toisiinsa kytköksissä ja virheet eskaloituvat nopeasti. Kun tekoälyn tulokset ilmestyvät ilman asiayhteyttä, tiimit usein epäröivät. Automaatio voidaan teknisesti ottaa käyttöön, mutta sen suositukset tarkistetaan, viivästetään tai hiljaisesti ohitetaan.

Tämä käyttäytyminen usein tulkitaan muutoksen vastusteluksi. Todellisuudessa se heijastaa ammattimaista vastuuta korkean riskin operatiivisissa ympäristöissä. Julkinen esimerkki tekoälyn epäonnistumisesta on terävöittänyt varovaisuutta. Kun automaattiset järjestelmät tuottavat tuloksia, jotka näyttävät varmoilta mutta osoittautuvat vääriksi, vahinko ei johdu yksinomaan pyrkimyksestä. Se johtuu läpinäkyvyyden puutteesta. Jos kukaan ei voi selittää, miten johtopäätös tehtiin, luottamus kulkee, vaikka järjestelmä on yleensä tarkka.

IT-tiimien sisällä tämä ilmenee hienovaraisesti. Automaatio toimii neuvontatilassa eikä suoritustilassa. Insinöörit ovat edelleen vastuussa lopputuloksista, mutta heidän odotetaan luottavan syytteisiin, joita he eivät voi tarkastella. Ajan myötä tämä epätasapaino luo kitkaa. Tekoäly on läsnä, mutta sen arvo on rajoitettu.

Läpinäkyvä tekoälyprosessi

Suurempi läpinäkyvyys ja selitteettävyys voivat ratkaista tämän ongelman palauttamalla vastuun automaattiseen päätöksentekoon. Selitettävä tekoäly ei tarkoita, että jokainen sisäinen laskenta paljastetaan. Se tarkoittaa antamista asiayhteydestä, joka on merkityksellistä ihmisille; mikä data vaikutti päätökseen, mitkä ehdot painottivat eniten ja miten luottamusarviot tehtiin. Tämä asiayhteys mahdollistaa tiimien arvioinnin siitä, onko tuloste linjassa operatiivisen todellisuuden kanssa.

Tunnettu myös valkoisen laatikon tekoälyksi, selitettävä tekoäly luo tulkinnollisen kerroksen, joka selittää, miten tekoälypäätökset on tehty, eikä jätä prosesseja ja logiikkaa piiloon. Tämä tarkoittaa, että tekoälyjärjestelmät voivat tulla osaksi vastuullisempaa kehystä, ja käyttäjät ymmärtävät, miten jokainen järjestelmä toimii. Tämä tarkoittaa myös kykyä tunnistaa tekoälymallien haavoittuvuuksia ja suojella niitä harhaa vastaan.

Olennaisesti selitteettävyys tarkoittaa, että kun jotain menee pieleen, tiimit voivat jäljittää syytteen polun, tunnistaa heikot signaalit ja parantaa prosessia. Ilman tuota näkyvyyttä virheitä joko toistetaan tai vältetään kokonaan automaation poistamalla.

Selitteettävyys käytännössä

Tarkastellaan häiriönhallintaa. Tekoälyä käytetään usein hälytysten ryhmittelyyn ja todennäköisen syyn ehdottamiseen. Suurissa yritysympäristöissä yksittäinen väärästi luokiteltu riippuvuus suuressa häiriössä voi viivästyttää ratkaisua useilla tunteja, vetäen useita tiimejä rinnakkaisiin tutkimuksiin, kun asiakaspalveluun liittyvät palvelut ovat edelleen heikentyneitä. Kun ne suositukset ovat yhteydessä selkeään selitykseen siitä, mitkä järjestelmät olivat mukana, miten riippuvuudet otettiin huomioon tai mitkä aiemmat häiriöt viitattiin, insinöörit voivat arvioida suosituksen nopeasti. Jos se osoittautuu vääräksi, tuo oivallus voidaan käyttää sekä mallin että prosessin parantamiseen.

Ilman tuota läpinäkyvyyttä tiimit turvautuvat manuaaliseen diagnosointiin, riippumatta siitä, kuinka kehittynyt tekoäly on.

Tämä palautusilmio on keskeinen kestävälle omaksumiselle. Selitettävät järjestelmät kehittyvät käyttäjien kanssa. Mustan laatikon järjestelmät sen sijaan taipuvat jumiutumaan tai siirtymään sivuun, kun luottamus laskee.

Vastuu ja omistajuus

Selitteettävyys muuttaa myös, miten vastuu jakautuu. Operatiivisissa ympäristöissä vastuu ei katoa yksinkertaisesti, koska päätös on automatisoitu. Joku on edelleen vastuussa lopputuloksesta. Kun tekoäly voi selittää itsensä, vastuu muuttuu selkeämmäksi ja hallitumpi. Päätöksiä voidaan tarkastella, perustella ja parantaa ilman puolustuskeinoja.

On myös hallintorakennehyöty, vaikka se ei ole sisäisesti ensisijainen motivator. Olemassa olevat tietosuojan ja vastuun kehykset edellyttävät jo organisaatioiden selittävän automaattisia päätöksiä tietyissä yhteyksissä. Kun tekoälyyn liittyvät säännökset jatkavat kehittymistään, läpinäkyvyyttä vailla olevat järjestelmät altistavat organisaatiot tarpeettomalle riskille.

Kuitenkin selitteettävyyden suurempi arvo on joustavuudessa eikä noudattamisessa. Tiimit, jotka ymmärtävät järjestelmiään, toipuvat nopeammin. He ratkaisevat häiriöitä tehokkaammin ja viettävät vähemmän aikaa pohtimalla, pitäisikö automaatiota luottaa ensinnäkään.

Tehtävänsä tekoälyn suunnittelu operatiiviseen erinomaisuuteen

Insinöörit on koulutettu kyseenalaistamaan oletukset, tarkastamaan riippuvuuksia ja testaamaan lopputuloksia. Kun automaatio tukee näitä vaistoja eikä ohita niitä, omaksuminen muuttuu yhteistyölliseksi ja osaksi prosessia eikä pakolliseksi rakenteeksi.

On luonnollisesti kustannus rakentaa järjestelmiä tällä tavoin. Selitettävä tekoäly vaatii kurinalaista tietojen käytäntöjä, tarkoituksenmukaista suunnittelua ja osaavaa henkilöstöä, joka voi tulkita tulokset vastuullisesti. Se ei välttämättä skaalaa yhtä nopeasti kuin läpinäkyvyyttä vailla olevat mallit, jotka on optimoitu yksinomaan nopeudelle tai uudelleen. Silti tuon investoinnin palautus on vakaus.

Organisaatiot, jotka priorisoivat selitteettävyyttä, näkevät vähemmän tyrehtyneitä aloitteita ja vähemmän varjopäätöksentekoa. Automaatio muuttuu luotettavaksi kerrokseksi operaatioissa eikä erilliseksi kokeiluksi, joka toimii eristyneisyydessä. Arvon saavuttamiseen kuluvan ajan parantuminen ei johdu siitä, että järjestelmät ovat nopeampia, vaan siitä, että tiimit ovat valmiit käyttämään niitä täysimääräisesti.

Vastuullinen skaalautuminen

Kun tekoäly muuttuu pysyväksi osaksi yrityksen infrastruktuuria, menestykseksi määritellään vähemmän pyrkimys ja enemmän luotettavuus. Järjestelmät, jotka voivat selittää päätöksensä, ovat helpompia luottaa, parantaa ja puolustaa, kun lopputuloksia haastetaan.

Operatiivisissa ympäristöissä älykkyys skaalautuu vain, kun ymmärrys pitää vauhtia automaation kanssa.