Kun AI on oikein ja prosessi on väärä

Kuvitellaan yleinen tilanne rahoituspalveluissa. Tiimi käyttää AI:ta sopimusten tarkastamiseen: satoja sivuja, toistuvia lakipyrkimyksiä ja rutiininomaista työtä, joka normaalisti kestää päivien ajan. Malli tunnistaa riskit ja viittaukset oikeiin kohtiin. Kuitenkin tulokset eivät ole oikein.

Tulee ilmi, että ongelma on sopimuskansiossa, jossa tiedostot ovat rinnakkain nimettyinä contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx ja contract_finalfinal_THIS_ONE.docx.

AI valitsi viimeksi tallennetun tiedoston. Mutta se tiedosto oli vanhempi versio, jonka joku oli vahingossa avannut ja tallennut viime viikolla.

Malli toimi juuri niin kuin se oli suunniteltu. Prosessi kuitenkin petti sen.

Kun malli ei ole ongelma

Aiheesta kirjoitin aiemmassa artikkelissani, että AI-epäonnistumiset usein alkavat mallin ulkopuolelta – hallinnosta, omistajuudesta ja päätöksenteosta, jotka ympäröivät sitä. Mutta hallinto on vain osa ongelmaa. Jopa hyvin hallinnoitu AI-järjestelmä kamppailee, jos prosessi sen alla perustuu vanhentuneisiin asiakirjoihin, epävirallisiin poikkeuksiin tai hyväksymismenettelyihin, jotka on suunniteltu paljon hitaammalle työtahtiin.

Kun AI-järjestelmä tuottaa heikon tuloksen, malli on yleensä ensimmäinen epäilty. Ehkä se hallucinoi, ymmärsi tehtävän väärin tai sai heikon ohjauksen. Mutta joskus malli toimi juuri niin kuin se oli tarkoitettu. Epäonnistuminen tapahtui prosessissa, joka toimitti sen tietoja tai organisaatiossa, joka ei voinut toimia sen tuloksilla.

AI:n käyttöönotto paljastaa prosessiin liittyviä ongelmia, jotka aina ovat olleet olemassa mutta eivät ole olleet näkyvissä – kuin diagnostinen työkalu. Se paljastaa heikkoudet, joita ihmiset aikaisemmin korjasivat ilman ajattelemista: puuttuvat kontekstit, epäselvät omistajuudet ja epäviralliset ratkaisut, joita ei koskaan dokumentoitu.

Nopeus ilman kapasiteettia

AI ei kiihdytä ainoastaan tuloksia. Se kiihdyttää myös eskaloita, pyynnöt päätöksistä ja ongelmien havaitsemista. Malli tunnistaa poikkeaman reaaliajassa, eikä perjantai-iltana, kun joku viimein löytää aikaa käydä läpi lokit.

Organisaatiot eivät ole valmiit tähän vauhtiin. Hyväksymismenettelyt, eskaloitumispolut, päätöksenteon valtuudet – kaikki on säädetty ihmisen nopeuden mukaan. Kun AI tuottaa tuloksia nopeammin kuin organisaatio voi niitä absorboida, kolme asiaa voi tapahtua:

• AI odottaa päätöstä, mikä pyyhkii tehokkuuden.
• Työntekijät jättävät sen tulokset huomiotta ja palaavat vanhaan prosessiin – vanhaan tapaan.
• Työntekijät ajavat päätöksiä eteenpäin ilman asianmukaista tarkastelua, koska he tuntevat painetta ylläpitää vauhtia, jota teknologia lupaa.

Jotkut työntekijät palaavat manuaalisiin tarkasteluihin, koska ne tuntuvat turvallisimmilta. Toiset hyväksyvät tulokset, joita he eivät ole ehtineet tarkastaa, koska he tuntevat painetta ylläpitää teknologian lupaamaa vauhtia. Molemmissa tapauksissa organisaatio maksaa nopeammasta tuloksesta ilman sitä, että se olisi nopeampi tekemään vastuullisia päätöksiä.

Omistajuus voi myös tulla epäselväksi. Kuka on vastuussa tarkastamasta merkittyä poikkeamaa, päättämästä, onko malli väärä ja eskaloimasta asiaa, kun useita tiimejä on mukana? Ilman selkeää vastausta AI jatkaa toimintaa taustalla, tuottaen tuloksia, joita kukaan ei todella omista.

Tämä heijastaa laajempaa organisaatiota koskevaa ongelmaa. Kuin Forbes-analyysi vuodelta 2025 totesi, kun teknologia muuttaa työnkulkua nopeammin kuin organisaatio voi sitä absorboida, seurauksena ei ole tehokkuus, vaan ylityö. AI voi kiihdyttää yhden työnvaiheen, mutta sen arvo riippuu edelleen siitä, voiko ympäröivä organisaatio absorboida ja toimia sen tuottamilla tuloksilla.

Hiljainen tietäminen, jota kukaan ei kirjoittanut

Kuvitellaan, että Martin tietää yrityksen sopimuksen toimittajan kanssa, jossa on poikkeus maksuista alle 2000 euroa. Se oli sovittu suullisesti kolme vuotta sitten, mutta ei koskaan dokumentoitu. Kun yritys käyttää AI:ta automatisoimaan maksujen hyväksynnän, järjestelmä estää maksun – oikein sopimuksen mukaan.

Tämä on hiljainen tietäminen: organisaatiota koskeva tietäminen, joka elää ihmisten päässä eikä järjestelmissä. Jokaisella yrityksellä on tällaista tietämistä. Ja useimmat yritykset eivät tiedä, kuinka paljon heillä on tällaista tietämistä.

AI voi käyttää ainoastaan tietämistä, joka on tehty sille saatavaksi. Martinin poikkeus ei ole olemassa järjestelmän näkökulmasta. Ilman tätä kontekstia sen päätös voi olla teknisesti oikein, mutta toiminnallisesti väärä.

McKinsey on tunnistanut saman haasteen agenteilla varustettujen AI-käyttöönottojen yhteydessä. Tehokkaiden AI-agenteiden rakentaminen edellyttää, että yritykset koodaavat asiantuntijoiden käytännöt, jotka saattavat olla standardien menettelyjen mukaisia – tai ainoastaan hiljaisena tietämisinä työntekijöiden päässä. Toisin sanoen: AI-käyttöönotto voi olla ensimmäinen kerta, jolloin organisaatio näkee, kuinka paljon prosessi riippuu siitä, mitä Martin tietää.

Väärä totuuden lähde

AI:n tuottama vaarallisin tulos ei aina ole ilmiselvästi väärä. Se voi olla uskottava, ammattimaisesti esitetty vastaus, joka on tuotettu vanhentuneesta tiedosta.

Useat osastot ovat toimineet useilla versioilla samaa asiakirjaa, koska Jane juridikasta aina tietää, kumpi on auktoritatiivinen. AI:lla ei kuitenkaan ole tietoa siitä.

Ellei sille ole annettu sääntöjä versionien erottamiseksi, järjestelmällä ei ole syytä kyseenalaistaa asiakirjaa, jonka se saa. Ja niin AI-tarkastelu suoritetaan oikein – väärällä asiakirjalla. Se voi olla pahempaa kuin tarkastelun puute, koska tulokset näyttävät uskottavalta.

Kokenut työntekijä voi tietää, missä totuus on, ja navigoida kaaoksen läpi. Järjestelmällä on kuitenkin oltava luotettava tapa tunnistaa, mikä tieto on ajantasainen, hyväksytty ja asiaankuuluva.

Hiljainen tietäminen, epäluotettavat asiakirjat ja hyväksymismenettelyt, jotka on suunniteltu ihmisen nopeuden mukaan, näyttävät olevan erillisiä ongelmia. Mutta ne jakavat saman syyn. Mikään niistä ei ollut luotu AI:n vuoksi, mutta AI tekee niistä vaikeampia ignoroida.

Kysymykset, joita on vastattava ennen agentin rakentamista

Ennen AI-agentin käyttöönottoa organisaation on vastattava kolmeen kysymykseen.

Mitkä päätökset riippuvat tietämisestä, jota ei ole koskaan dokumentoitu?

Tämä tarkoittaa poikkeusten, oikopolkujen ja harkintaa koskevien päätösten tunnistamista, joita kokeneet työntekijät soveltavat ilman, että he tietoisesti kuvaavat niitä. Haastattelut eivät välttämättä paljasta kaikkea tätä tietämistä. Organisaatioiden on ehkä havaittava, miten työ tosiasiallisesti suoritetaan, ja verrattava sitä viralliseen prosessiin.

Miten järjestelmä tunnistaa tiedon, joka on ajantasainen, hyväksytty ja asiaankuuluva?

Agentin antaminen pääsyä enemmän asiakirjoihin ei ratkaise ongelmaa, jos se ei voi erottaa hyväksyttyä sopimusta luonnoksesta tai voimassa olevaa käytäntöä vanhentuneesta. Versioinnin, omistajuuden, hyväksymisen ja säilyttämisen säännöt on oltava selkeät, jotta järjestelmä voisi tunnistaa, minkä lähteen sen on ohjattava päätöksiä.

Voivatko olemassa olevat hyväksymis- ja eskaloimismenettelyt absorboida agentin tuottaman tuloksen määrän ja nopeuden?

Tiimien on arvioitava, miten paljon työtä agentti voi suorittaa, mutta myös, miten monta tarkastelua, poikkeamaa ja eskaloimista se voi aiheuttaa. NISTin AI-riskien hallintakehys suosittelee selkeiden roolien ja vastuiden määrittelyä ihmisen valvonnalle AI-järjestelmissä. Nämä on suunniteltava odotetun määrän mukaan ennen järjestelmän käyttöönottoa – ei sen jälkeen, kun työntekijät ovat jo ylityössä.
Nämä eivät ole kysymyksiä, joihin vastataan kerran ja unohtaa. Prosessit muuttuvat, asiakirjat vanhenevat ja dokumentoimattomat poikkeamat kertyvät jälleen. Valmiuden on oltava ylläpidettävää, ei ainoastaan ennen käyttöönottoa perustettua.

AI-valmius alkaa prosessista

AI-valmius ei ole ainoastaan teknologian testi. Se on testi siitä, onko organisaatio tehnyt omat prosessinsa riittävän selkeiksi teknologian toimimiseksi niiden sisällä.

Organisaation valmisteleminen AI:lle vaatii enemmän kuin mallin valitsemisen tai agentin rakentamisen. Se tarkoittaa omistajuuden selkiyttämistä, auktoritatiivisen tiedon tunnistamista, poikkeamien dokumentoimista ja siitä, miten tulokset tarkastetaan, eskaloidaan ja toimeenpannaan.

Tämä on vaikeaa työtä, mutta epäonnistunut käyttöönotto pakottaa lopulta organisaation tekemään sen. Ainoa muuttuja on ajoitus.