Ajatusjohtajat
Luottamuksen ja hallinnan rakentaminen autonomisen tekoälyn aikakaudella

Keskeiset kohdatJärjestelmä, joka ei pysty selittämään päätöksiään, on riski tarkkuudestaan riippumatta.
Näytä lisää
- Järjestelmä, joka ei pysty selittämään päätöksiään, on riski tarkkuudestaan riippumatta.
- Mallien omistajuus ja datan suvereniteetti pitävät autonomiset puhejärjestelmät hallittavina, auditoitavina ja havaittavina.
- Toimialakohtaisesti koulutetut mallit päihittävät yleismallit, koska toimialan kieli ja emotionaalinen rekisteri eroavat jyrkästi.
Useimmat yritykset, jotka käyttävät puhetta hyödyntävää tekoälyä asiakaspalvelukeskuksissaan, eivät pysty kertomaan, miksi järjestelmä sanoi tietyssä puhelussa juuri sen, mitä se sanoi. Ne osaavat ilmoittaa ilman siirtoa ihmiselle käsiteltyjen yhteydenottojen osuuden ja näyttää koostetut tarkkuusluvut. Mutta kun asiakas valittaa, jokin menee pieleen ja viranomainen esittää kysymyksiä, vastauksena on usein olankohautus. Järjestelmä päätti. Emme ole varmoja, miten.
Vastuuaukko autonomisessa puhetekoälyssä
Tämä ei ole marginaalinen ongelma. Gartner ennustaa, että vuoteen 2029 mennessä agenttipohjainen tekoäly ratkaisee itsenäisesti 80 % tavallisista asiakaspalveluongelmista. Se herättää hankalan kysymyksen, johon ala ei ole vastannut selvästi: kun tekoäly ratkaisee 80 % vuorovaikutustilanteista ilman ihmisen osallistumista, kuka vastaa siitä, jos jokin menee pieleen? Mitä ”luottamus” tarkoittaa asiakaspalvelukeskuksessa, jonka järjestelmä toimii nopeammin kuin kukaan ihminen ehtii tarkastaa?
Mustan laatikon automaation todellinen hinta
Monille yritysjohtajille kysymys ei ole siitä, otetaanko puhetekoäly käyttöön — tuo päätös on pitkälti jo tehty. Kysymys on siitä, ovatko sitä ympäröivät hallintarakenteet lähelläkään riittävää kypsyyttä käyttöönoton vauhtiin nähden. Lähes kaksi kolmasosaa IT- ja tietoturvajohtajista kertoo, ettei ole valmistautunut hallitsemaan tekoälyn käyttöönoton riskejä. Asiakaspalvelukeskuksissa tällä on suora hinta: huonot tekoälykohtaamiset rapauttavat asiakkaiden luottamusta, vaatimustenmukaisuusriskit kasvavat ja operatiivisia päätöksiä tehdään sellaisten järjestelmien varassa, joita kukaan ei pysty täysin selittämään.
Vastaus ei ole tekoälyn käyttöönoton hidastaminen. Se pitää rakentaa nimenomaan niin, että jokainen automatisoitu päätös voidaan auditoida, jokainen lopputulos selittää ja ihmisen valvonta on järjestelmän rakenteellinen ominaisuus. Tämä ero on tärkeämpi kuin mikään tarkkuusmittari. Järjestelmä, jonka tarkkuus on 96 % mutta joka ei pysty selittämään päätöksiään, on rasite. Yhtä tarkka järjestelmä, jossa on täydellinen auditointijälki, on voimavara.
Puhetekoäly tuottaa mitattavaa arvoa suuressa mittakaavassa, kun se rakennetaan harkiten. Se vähentää kustannuksia, on käytettävissä ympäri vuorokauden ja ylläpitää tasaista palvelun laatua, johon paineen alla, niukoin resurssein ja useita keskusteluja yhtä aikaa hoitavat ihmisasiakaspalvelijat eivät aina pysty. Kun pankki käsittelee äkillistä petoshälytysten vyöryä tai sähköyhtiö vastaa tuhansien sähköttä jääneiden asiakkaiden puheluihin, tekoälyitsepalvelu ei ole vain mukava lisä. Se on ainoa toiminnallisesti toteuttamiskelpoinen vastaus. Kysymys on siitä, voiko vastaukseen luottaa.
Arkkitehtuuri toiveiden edelle: luotettavan tekoälyn kolme pilaria
Luottamus syntyy arkkitehtuurista, ei toiveista. Yritysten todellista luottamusta juuri nyt ansaitsevia alustoja yhdistää tietty suunnitteluperiaate: säilytetään mallin omistajuus ja datasuvereniteetti, jotta ympäristö pysyy hallittavana, auditoitavana ja havainnoitavana.
1. Mallin omistajuus ja datasuvereniteetti
Tämä on tärkeää, koska suorassa puhevuorovaikutuksessa virheet eivät saa armoa. Se on reaaliaikaista ja synkronista, mukana on melua, erilaisia aksentteja ja voimakkaita tunteita. Tekstichatbotissa hallusinoiva malli on nolo asia. Rahoituspalvelupuhelussa tai terveydenhuoltoa koskevassa kyselyssä hallusinointi on vaatimustenmukaisuuteen liittyvä tapahtuma.
2. Täysi selitettävyys ja auditointijäljet
Toinen vaatimus on täysi selitettävyys: vaatimustenmukaisuudesta vastaavien tiimien, operatiivisten johtajien ja valvontaviranomaisten pitää nähdä tarkasti, mitä tekoäly sanoi, miksi se sanoi niin ja mihin tietoihin se nojasi, ilman toimittajalle avattavaa tukipyyntöä. Mustan laatikon automaatio ei ole vain hallintariski. Se myös asettaa katon sille, miten pitkälle yritykset ovat valmiita menemään. Nopeimmin tekoälyä käyttöön ottavat organisaatiot ovat ratkaisseet selitettävyyden ensin, sillä siitä juontuvat kaikki muut sidosryhmien huolenaiheet lakiasioista hallitukseen.
3. Syvä toimialaosaaminen vai yleiskäyttöiset mallit
Kolmas vaatimus on todellinen toimialaosaaminen. Rahoituspalvelujen asiakaspalvelukeskukseen soittava asiakas ja terveydenhuollon tarjoajalle soittava asiakas eivät puhu samaa kieltä: sanasto, kiireellisyys ja tunnetaso eroavat toisistaan. Laajoilla aineistoilla koulutetut yleismallit toimivat yleisellä tasolla. Yleiskäyttöisen mallin ja miljardeilla todellisilla, tietyn toimialan vuorovaikutustilanteilla koulutetun mallin tarkkuusero ei ole vähäinen. Asiakaspalvelukeskusten käyttöönotoissa se on tarkoittanut ensimmäisenä toimintapäivänä eroa 25 ja 55 prosentin välillä siinä, kuinka suuri osa yhteydenotoista käsitellään ilman siirtoa ihmiselle.
Myös empatialla on merkitystä. Parhaat tekoälyjärjestelmät aistivat asiakkaan turhautumisen tai ahdistuksen ja ottavat ihmisasiakaspalvelijan mukaan juuri oikealla hetkellä ilman, että asiakkaan tarvitsee toistaa itseään. Näin mahdollisesti kielteinen kokemus voidaan muuttaa asiakkaan luottamusta rakentavaksi.
Vaiheittainen uudistuminen: asiakaskokemuksen tulevaisuus
Puhetekoäly on nyt riittävän kypsää muuttamaan sitä, miten kokonaiset toimialat palvelevat asiakkaitaan. Todellisia edelläkävijöitä ovat ne, jotka yhdistävät innovaation ja vastuullisuuden, ottavat tekoälyn käyttöön vaiheittain, mittaavat olennaista ja pitävät asiakkaasta huolehtimisen jokaisen vuorovaikutustilanteen keskiössä.
Oikein toteutettuina autonomiset puhejärjestelmät eivät korvaa luottamusta, vaan auttavat ansaitsemaan sen. Ne tekevät palvelusta häiriönsietoisempaa ja henkilökohtaisempaa suuressa mittakaavassa. Tätä lähestymistapaa nyt noudattavat yritykset määrittävät, miltä erinomainen asiakaskokemus näyttää tekoälyn aikakaudella.












