Konen ja ihmisen välinen vuorovaikutus: “Viimeinen maili” -ongelma, joka hidastaa yritysten tekoälyä

Kunnes hyvin äskettäin, johtoryhmien keskustelut tekoälystä keskittyivät itse malleihin. Onko niiden tuottama tulos tarkin? Miten puhdas oli koulutusdata? Miten voimme vähentää harhaa? Onko hallussa hallusinaatioita? Nämä kysymykset ovat edelleen tärkeitä, mutta tuottama tulos ei ole enää ainoa asia, jota johtoryhmät ja osakkeenomistajat seuraavat. Sen sijaan he ovat kiinnostuneita siitä, ovatko tekoälyjärjestelmät todella toimivat ihmisten kanssa niin tehokkaasti kuin ne voivat päivittäisissä vuorovaikutuksissa.

Tämä on osittain siksi, että IBM löysi itsensä vastakkain osakkeenomistajan ehdotuksen, joka vaati suurempaa avoimuutta siitä, miten se hallitsee tekoälyn harhaa ja hallintoa. Ehdotus keskittyi erityisesti harhan vähentämiseen, mutta laajempi johtopäätös oli, että kun tekoäly sulautuu päätöksentekoprosesseihin, sitä arvioidaan sen toiminnallisen vastuun ja mitattavien liiketoimintatuloksien perusteella eikä pelkästään sen perustason kyvyn perusteella.

Mitä minä näen yritysten kanssa käydyissä keskusteluissa, on, että harvat ihmiset ovat edelleen kiinni siinä, ovatko mallit itse asiassa kykeneviä. Useimmat organisaatiot tietävät jo, että nämä järjestelmät voivat tuottaa tuloksia, automatisoida työnkulkuja ja tuottaa oivalluksia poikkeuksellisen nopeasti. Vaikeampi kysymys on, parantavatko nämä järjestelmät johdonmukaisesti tuloksia yrityksen sisällä. Käyttävätkö työntekijät näitä järjestelmiä merkityksellisellä tavalla? Luottavatko he suosituksiin, joita he saavat? Muuttuvatko päätökset selvemmiksi, nopeammiksi tai johdonmukaisemmiksi? Vai tuottavatko organisaatiot vain enemmän sisältöä, enemmän analyysiä ja enemmän melua ilman, että se muuttaa sitä, miten ihmiset toimivat? Tämä kuilu tekoälyn kyvyn ja ihmisen omaksumisen välillä on se, mitä minä kutsun “viimeiseksi mailiksi” yritysten tekoälyssä. Se on se paikka, jossa ROI, luottamus, vastuu ja toiminnallinen johdonmukaisuus kohtaavat, ja se on siellä, missä monet käyttöönotot alkavat tyrehtyä.

Kyky ei ole pullonkaula – ihmisen konteksti on

IBM:n osakkeenomistajan ehdotus itsessään keskittyi harhaan, tuttuun ja kasvavaan huoleen alalla. Ratkaisu vaati IBM:ltä lisää raportointia menetelmistä, joita se käyttää harhan tunnistamiseen ja vähentämiseen tekoälymallissaan, mukaan lukien mahdolliset riskit, jotka liittyvät näihin vähentämiseen liittyviin ponnisteluihin. IBM vastasi, väittäen, että paljon tätä tietoa oli jo julkaistu avoimesti mallikorteissa, hallintodokumentaatioissa, avoimuusraportoinnissa ja Stanfordin Foundation Model Transparency Indexiin tehtyihin lähetelmiin. Useimmat tarkkailijat myönsivät, että IBM on tehnyt enemmän kuin useimmat toimittajat vastuullisten tekoälykäytäntöjen operationalisoinnissa, samalla tunnustaen, että hallinto ja harha ovat edelleen ratkaisemattomia haasteita koko alalla.

Mitä minua kiinnostaa, ei ole se, oliko IBM:n vastaus oikein tai väärin. Se on se, mitä koko tilanne kertoo siitä, mihin suuntaan yritysten tekoälykeskustelut ovat menossa. Johtoryhmät ovat suurelta osin siirtymässä uuteen tekoälyarvioinnin vaiheeseen, jossa keskitytään päätösten laatuun, toiminnalliseen vaikutukseen, työntekijöiden luottamukseen ja pitkäaikaiseen omaksumiseen yrityksen sisällä.

Tässä on se, mihin aivotutkimuksen näkökulma johtaa minua erilaiseen johtopäätökseen kuin suurin osa nykyisestä yritysten tekoälykeskustelusta. Ihmiset eivät ole järjellisiä syöte-tulos-koneita. Ihmiset lähestyvät päätöksiä rajallisella huomion kiinnittymisellä, heilahtavalla luottamuksella, kognitiivisella ylikuormittumisella ja jatkuvasti muuttuvalla aikomuksella. Kun vuorovaikutukset tuntuvat hitailta, kun valmiit vastaukset eivät osu siihen, mitä ihmiset todella tarkoittivat, tai kun ihmiset joutuvat taistelemaan järjestelmää vastaan saadakseen jotain hyödyllistä, sitoutuminen romahtaa jo ennen kuin omaksumismitat ehtivät reagoida. Harhan riski, epäjohdonmukaisuus ja harha vain lisäävät ongelmaa, luoden kitkaa työnkulkuun, jotka oli tarkoitettu parantamaan tuottavuutta ja päätöksentekoa. Tämä “viimeinen maili” on se, minkä useimmat organisaatiot edelleen aliarvioivat: tekoälyarvoa ei luoda, kun malli tuottaa vastauksen, vaan kun se toimittaa oikean vastauksen oikeaan aikaan ja ihmiset voivat luottaa siihen tarpeeksi toimia sen tuottamien asioiden mukaan.

Miksi jätämme todellisen “ihmisen silmukkaan” – käyttäjän – huomiotta?

Olemme kuulleet paljon viime aikoina “ihmisen silmukassa” ja siitä, kuinka tärkeää on, että ihminen on läsnä hyväksymässä tekoälyohjattua tulosta. Mutta mitä jos tärkein ihminen – käyttäjä – ei ole oikein ymmärretty? Ihmisen ja ihmisen välinen vuorovaikutus on monimutkainen ja monitahoista, mutta syy siihen, miksi suora viestintä toimii niin hyvin, on se, että mikään nuanssi ei ole kadonnut. Jos joku epäröi, menettää luottamuksensa, tulee turhautuneeksi tai hämmentyneeksi tai hänen aikomuksensa muuttuu, se välittyy vuorovaikutuksessa, ja keskustelu muuttuu sen mukaan. Useimmat tekoälyjärjestelmät kamppailevat edelleen tunnistamaan nämä signaalit, koska ne ovat enimmäkseen “raiteilla” siinä, että ne vastaavat vain viimeiseen käyttäjän antamaan syötteeseen.

Minun näkemykseni mukaan tämä on yksi määräävistä rajoituksista nykyisille yritysten tekoälykäyttöönotoille. Olemme rakentaneet järjestelmiä, jotka ovat poikkeuksellisen hyviä tuottamaan tietoa, mutta jotka ovat edelleen rajoittuneita tunnistamaan, auttaako se joku tekemään parempia päätöksiä.

Organisaatio voi käyttää tekoälytyökaluja tuhansille työntekijöille ja silti epäonnistua saavuttamaan merkityksellistä linjaa siinä, miten nämä järjestelmät ovat todella käytössä. Rakenteet, kuten NIST AI Risk Management Framework, ISO/IEC 42001 ja EU:n tekoälylakipaketti, ajavat organisaatioita kohti suurempaa hallintokypsyyttä ja toiminnallista vastuuta. Mutta hallinto paperilla ei riitä, jos työntekijöiden sitoutuminen tekoälyyn pysyy hajanaisena. Jos eri tiimit luottavat ja käyttävät tekoälyä täysin eri tavoilla, mitata ROI:ta johdonmukaisesti tulee lähes mahdottomaksi, ja se on ongelma, jota ei voida korjata yksinkertaisella syötteen antamisella.

Tekoälykuorman kustannukset

Olemme nyt siirtymässä vaiheeseen, jossa tekoäly on täysin läpäissyt tekoälytyönkulkuja. On apuriohjelmia, jotka on upotettu tuottavuuspaketteihin, tekoälygeneroituja kokousyhteenvetoja, jotka saapuvat jokaisen puhelun jälkeen, dashboardeja, jotka tarjoavat ennustavia oivalluksia reaaliajassa, suosittelimoottoreita, jotka tarjoavat työntekijöille jatkuvasti ehdotuksia, ja automaattista analyysiä, joka ilmestyy nopeammin kuin useimmat tiimit voivat realistisesti prosessoida sitä. Paperilla näyttää siltä, että tämä on edistystä – yritykset tuottavat enemmän tietoa kuin koskaan aiemmin. Mutta kognitiivinen tiede on ollut selkeä tästä jo vuosikymmenien ajan: enemmän tietoa ei välttämättä tuota parempia päätöksiä.

Ihmiset voivat absorboida vain tietyn määrän tietoa ennen kuin ylikuormittuminen alkaa. Liian monta suositusta luo epäröintiä. Liian monta hälytystä muuttuu taustameluksi. Liian monta tekoälygeneroituja vaihtoehtoa voi jättää työntekijät epäröimään sen sijaan, että he toimisivat luottavaisesti. Mitä mielenkiintoista on, että tekoälyjärjestelmät ovat tulleet poikkeuksellisen hyviksi tuottamaan tietoa, mutta ne ovat edelleen suhteellisen huonoja ymmärtämään, miten ihmiset vastaanottavat, tulkitsevat ja reagoivat tähän tietoon kontekstissa. Johtoryhmät eivät välitä, kuinka monta yhteenvetoa, suositusta tai tekoälygeneroituja oivalluksia järjestelmä voi tuottaa. He välittävät, paranevatko päätökset selvemmiksi ja luotettavammiksi koko yrityksessä.

Tekoäly on siirtynyt vastuuvaiheeseen

IBM:n osakkeenomistajan ehdotus saattoi tulla huolista harhasta, mutta minun mielestäni se heijastaa jotain paljon laajempaa, mitä tapahtuu koko yritysten tekoälyssä. Tekoälyn uutuus on ohitse, ja yritykset, jotka etsivät vankkaa paluuta tekoälysijoituksiinsa, eivät voi enää luottaa pelkästään mallin kykyyn. Teknologia on osoittanut itsensä, mutta nyt se tarvitsee mitattavuutta. Kuinka johdonmukaisesti työntekijät käyttävät näitä järjestelmiä? Paranevatko päätökset? Kasvavatko luottamus ja sitoutuminen ajan myötä, vai heikkenevätkö ne vähitellen? Kun tekoäly sulautuu arkipäivän työnkulkuun, seuraavan sukupolven järjestelmien on ehkä tultava tietoisemmiksi ihmiskäyttäytymisestä, huomion kiinnittymisestä, luottamuksista ja aikomuksesta, jos yritykset haluavat kestävää omaksumista ja mitattavaa ROI:ta. Siihen asti “viimeinen maili” on todennäköisesti yksi suurimmista haasteista yritysten tekoälykäytössä.