Ajatusjohtajat

Kun tekoäly tulee operatiiviseen käyttöön, selitettävyys muuttuu ehdottomaksi

VimalRaj Sampathkumar
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatSelitettävä tekoäly rakentaa luottamusta antamalla tiimien tarkastaa automatisoituja…
Näytä lisää
  • Selitettävä tekoäly rakentaa luottamusta antamalla tiimien tarkastaa automatisoituja päätöksiä korkean riskin toiminnoissa.
  • Läpinäkyvät tekoälyjärjestelmät luovat vastuullisuutta ja mahdollistavat nopeamman ongelmanratkaisun jäljitettävän päättelyn kautta.
  • Operatiivinen tekoälyn käyttöönotto skaalautuu vain, kun ymmärrys pysyy vauhdissa automaation monimutkaisuuden kanssa.

Yritysten tekoälyn omaksuminen on edennyt pragmaattisempaan vaiheeseen. Teknologiajohtajien haaste ei ole enää vakuuttaa organisaatiota siitä, että tekoälyllä on potentiaalia. On varmistettava, että operatiivisiin päätöksiin vaikuttavat järjestelmät voidaan ymmärtää, hallita ja puolustaa.

Tekoäly ansaitsee paikkansa yrityksessä, kun ihmiset ovat valmiit luottamaan siihen. Tuo luottamus ei perustu ainoastaan suorituskykytilastoihin. Se riippuu siitä, kokevatko tiimit säilyttävänsä hallinnan, kun automaatio tulee osaksi päivittäistä työnkulkua.

Monissa organisaatioissa tuo hallinta säilyy epävarmana.

Miksi läpinäkyvyyden puute hidastaa omaksumista

Tekoäly on nyt upotettu IT-operaatioihin, alkaen palvelupyyntöjen reitittämisestä ja häiriökorrelaatiosta kapasiteettisuunnitteluun. Nämä ovat ympäristöjä, joissa päätökset ovat toisiinsa kytköksissä ja virheet eskaloituvat nopeasti. Kun tekoälyn tulokset ilmestyvät ilman asiayhteyttä, tiimit usein epäröivät. Automaatio voidaan teknisesti ottaa käyttöön, mutta sen suositukset tarkistetaan, viivästetään tai hiljaisesti ohitetaan.

Tämä käyttäytyminen usein tulkitaan muutoksen vastusteluksi. Todellisuudessa se heijastaa ammattimaista vastuuta korkean riskin operatiivisissa ympäristöissä. Julkiset esimerkit tekoälyn epäonnistumisista ovat lisänneet tätä varovaisuutta. Kun automaattiset järjestelmät tuottavat tuloksia, jotka näyttävät varmoilta mutta osoittautuvat vääriksi, vahinko ei johdu yksinomaan pyrkimyksestä. Se johtuu läpinäkyvyyden puutteesta. Jos kukaan ei voi selittää, miten johtopäätös tehtiin, luottamus rapautuu, vaikka järjestelmä on yleensä tarkka.

IT-tiimien sisällä tämä ilmenee hienovaraisesti. Automaatio toimii neuvontatilassa eikä suoritustilassa. Insinöörit ovat edelleen vastuussa lopputuloksista, mutta heidän odotetaan luottavan päättelyyn, joita he eivät voi tarkastella. Ajan myötä tämä epätasapaino luo kitkaa. Tekoäly on läsnä, mutta sen arvo on rajoitettu.

Läpinäkyvä tekoälyprosessi

Suurempi läpinäkyvyys ja selitettävyys voivat ratkaista tämän ongelman palauttamalla vastuun automaattiseen päätöksentekoon. Selitettävä tekoäly ei tarkoita, että jokainen sisäinen laskenta paljastetaan. Se tarkoittaa ihmisoperaattoreille olennaisen tiedon tarjoamista; mikä data vaikutti päätökseen, millä olosuhteilla oli eniten painoa ja miten luottamusarviot tehtiin. Tämä asiayhteys mahdollistaa tiimien arvioinnin siitä, onko tuloste linjassa operatiivisen todellisuuden kanssa.

Tunnettu myös valkoisen laatikon tekoälyksi, selitettävä tekoäly luo tulkinnollisen kerroksen, joka selittää, miten tekoälypäätökset on tehty, eikä jätä prosesseja ja logiikkaa piiloon. Tämä tarkoittaa, että tekoälyjärjestelmät voivat tulla osaksi vastuullisempaa kehystä, ja käyttäjät ymmärtävät, miten jokainen järjestelmä toimii. Tämä tarkoittaa myös kykyä tunnistaa tekoälymallien haavoittuvuuksia ja suojautua vinoumilta.

Olennaisesti selitettävyys tarkoittaa, että kun jotain menee pieleen, tiimit voivat jäljittää päättelyketjun, tunnistaa heikot signaalit ja parantaa prosessia. Ilman tuota näkyvyyttä virheitä joko toistetaan tai vältetään kokonaan poistamalla automaation käytöstä.

Selitettävyys käytännössä

Tarkastellaan häiriönhallintaa. Tekoälyä käytetään usein hälytysten ryhmittelyyn ja todennäköisen syyn ehdottamiseen. Suurissa yritysympäristöissä yksittäinen väärästi luokiteltu riippuvuus suuressa häiriössä voi viivästyttää ratkaisua useilla tunneilla, vetäen useita tiimejä rinnakkaisiin tutkimuksiin, kun asiakkaille näkyvät palvelut ovat edelleen heikentyneitä. Kun ne suositukset ovat yhteydessä selkeään selitykseen siitä, mitkä järjestelmät olivat mukana, miten riippuvuudet otettiin huomioon tai mitkä aiemmat häiriöt viitattiin, insinöörit voivat arvioida suosituksen nopeasti. Jos se osoittautuu vääräksi, tuo oivallus voidaan käyttää sekä mallin että prosessin parantamiseen.

Ilman tuota läpinäkyvyyttä tiimit turvautuvat manuaaliseen diagnosointiin, riippumatta siitä, kuinka kehittynyt tekoäly on.

Tämä palautesilmukka on keskeinen kestävälle omaksumiselle. Selitettävät järjestelmät kehittyvät käyttäjien kanssa. Mustan laatikon järjestelmät sen sijaan taipuvat jumiutumaan tai siirtymään sivuun, kun luottamus laskee.

Vastuu ja omistajuus

Selitettävyys muuttaa myös, miten vastuu jakautuu. Operatiivisissa ympäristöissä vastuu ei katoa yksinkertaisesti, koska päätös on automatisoitu. Joku on edelleen vastuussa lopputuloksesta. Kun tekoäly voi selittää itsensä, vastuu muuttuu selkeämmäksi ja hallittavammaksi. Päätöksiä voidaan tarkastella, perustella ja parantaa ilman puolustuskeinoja.

On myös hallintorakennehyöty, vaikka se ei ole organisaation sisällä ensisijainen kannustin. Olemassa olevat tietosuojan ja vastuun kehykset edellyttävät jo organisaatioiden selittävän automaattisia päätöksiä tietyissä yhteyksissä. Kun tekoälyyn liittyvät säännökset jatkavat kehittymistään, läpinäkyvyyttä vailla olevat järjestelmät voivat altistaa organisaatiot tarpeettomalle riskille.

Kuitenkin selitettävyyden suurempi arvo on häiriönsieto- ja palautumiskyvyssä eikä pelkässä vaatimustenmukaisuudessa. Tiimit, jotka ymmärtävät järjestelmiään, toipuvat nopeammin. He ratkaisevat häiriöitä tehokkaammin ja viettävät vähemmän aikaa pohtimalla, pitäisikö automaatiota luottaa ensinnäkään.

Tekoälyn suunnittelu operatiiviseen erinomaisuuteen

Insinöörit on koulutettu kyseenalaistamaan oletukset, tarkastamaan riippuvuuksia ja testaamaan lopputuloksia. Kun automaatio tukee näitä vaistoja eikä ohita niitä, omaksuminen muuttuu yhteistyölliseksi ja osaksi prosessia eikä pakolliseksi rakenteeksi.

On luonnollisesti kustannus rakentaa järjestelmiä tällä tavoin. Selitettävä tekoäly vaatii kurinalaista tietojen käytäntöjä, tarkoituksenmukaista suunnittelua ja osaavaa henkilöstöä, joka voi tulkita tulokset vastuullisesti. Se ei välttämättä skaalaa yhtä nopeasti kuin läpinäkyvyyttä vailla olevat mallit, jotka on optimoitu yksinomaan nopeudelle tai uutuudelle. Silti tuon investoinnin palautus on vakaus.

Organisaatiot, jotka priorisoivat selitettävyyttä, näkevät vähemmän tyrehtyneitä aloitteita ja vähemmän varjopäätöksentekoa. Automaatio muuttuu luotettavaksi kerrokseksi operaatioissa eikä erilliseksi kokeiluksi, joka toimii eristyneisyydessä. Arvon saavuttamiseen kuluvan ajan parantuminen ei johdu siitä, että järjestelmät ovat nopeampia, vaan siitä, että tiimit ovat valmiit käyttämään niitä täysimääräisesti.

Vastuullinen skaalautuminen

Kun tekoäly muuttuu pysyväksi osaksi yrityksen infrastruktuuria, menestykseksi määritellään vähemmän pyrkimys ja enemmän luotettavuus. Järjestelmät, jotka voivat selittää päätöksensä, ovat helpompia luottaa, parantaa ja puolustaa, kun lopputuloksia haastetaan.

Operatiivisissa ympäristöissä älykkyys skaalautuu vain, kun ymmärrys pitää vauhtia automaation kanssa.

VimalRaj Sampathkumar, ManageEnginen tekninen johtaja Isossa-Britanniassa ja Irlannissa, on ennakkomyynnin ja strategisten asiakkuuksien päällikkö, jolla on 13 vuoden kokemus teknisestä myynnistä, asiakkuuksien hallinnasta ja asiakasmenestyksestä. Hänellä on syvällinen tekninen asiantuntemus ITSM-, ITOM-, SIEM-, päätelaitteiden hallinta-, CRM-, ATS- ja HCM/HRIS-sovellusten konsultoinnista ja käyttöönotosta maailmanlaajuisesti. Hänen vahvuutenaan on liikevaihdon ja markkinaosuuden kasvattaminen tarjoamalla johdonmukaisesti asiakaslähtöisiä ratkaisuja, osoittamalla tuotteiden arvo ja luomalla perusta uskollisille, pitkäaikaisille asiakassuhteille. Vapaa-ajallaan hän nauttii kriketin pelaamisesta, lukemisesta ja matkustamisesta.