Tekoälyhallinto: Ongelma useimmille, etuoikeus harvoille

Yritysten tekoäly kerryttää riskiä nopeammin kuin kukaan onkaan tilille ottamassa. Tekoälyagentit ovat alkaneet koskettaa asiakastietoja, tuotantokoodia ja merkittäviä liiketoimintapäätöksiä, ja useimmissa organisaatioissa niitä ohjataan valvontamenetelmillä, jotka on suunniteltu aikaisemmalle teknologian aikakaudelle. Samaan aikaan ulkoiset tukirakenteet, joihin yritykset olisivat voineet nojata, ovat ohentumassa. Johtavat tekoälylaboratoriot ovat peruneet vapaaehtoisia turvallisuussitoumuksiaan, ja sääntely on edelleen hajanainen eri viranomaisten alueilla. Luottamusrasite laskee yrityksille, jotka toteuttavat tekoälyä, sillä lopulta he ovat ne, jotka kärsivät kielteisistä seurauksista, kun ja jos ne ilmenevät.

Tehtävänäni on strateginen tekoälytyö yritysten kanssa lähes jokaisella alalla, ja puhun päivittäin toimitusjohtajien ja hallitusten kanssa. Yleinen malli, jonka näen, on seuraava: toteutus kiihtyy, mutta valvontainfrastruktuuri ei pysy sille perässä. Malli on tarpeeksi yleinen, jotta pidän sitä rakenteellisena ongelmana eikä yksittäisen yrityksen epäonnistumisena, ja teen ennusteen: emme ole kaukana päivästä, jolloin toimitusjohtajan on selitettävä, että suuri virhe on maksanut yritykselle miljoonia, ja he syyttävät tekoälyä. Vastaisin, että se ei ole hyväksyttävä syy.

Hyviä uutisia on, että olen niiden muutamien yritysten onni nähdä eteenpäin, jotka kohtelevat hallintoa toisin, ja uskon, että nämä yritykset rakentavat pitkäaikaista etua, joka karttuu ajan myötä, kun taas muut, jotka odottavat sivussa, ovat vaarassa jäädä vanhanaikaisiksi. Ymmärtääkseen, mitä harvat näkevät, on ymmärrettävä, mihin nykyinen kehityssuunta johtaa.

Olemme menossa kohti ongelmaa

Nykyiset toteutukset ovat tarpeeksi pieniä, jotta inhimillinen valvonta voi absorboida riskin. Deloitten viimeisin Tekoälyn tila yrityksissä -tutkimus osoitti, että vain neljännes kyselyyn vastanneista yrityksistä oli siirtänyt vähintään 40 prosenttia tekoälykokeistaan tuotantoon. Useimmat yritykset ovat edelleen alkuvaiheessa, ja ne pyörittävät muutamia agenteja kapeissa käyttötarkoituksissa, joissa ihmiset seuraavat jokaista tulostetta.

Kehityssuunta on se, mikä on tärkeää. Kun toteutukset laajenevat kahdesta agentista 20:een, 200:een, 2000:een ja pidemmälle, monimutkaisuus kasvaa. Jokainen uusi agentti tuo oman käyttäytymisensä, sekä vuorovaikutuksensa jokaisen järjestelmän kanssa, jonka se koskettaa, ja jokaisen toisen agentin kanssa, jonka se työskentelee. Kahdessa agentissa luottamus on helppo: tunnet tiimin, ja tarkistat itse tulokset. 20 agentissa luottamus on muuttunut prosessiksi, jossa on määritelty omistajat, testit ja eskalaatioreitit. Se voi edelleen toimia, mutta se on muuttunut vaikeammaksi ylläpitää. 200 agentissa epävirallinen tarkastelu on teatteria, koska mikään johtoryhmä ei voi tarkastella niin paljon toimintaa. Ja 2000 agentissa inhimillinen osuus on käytännössä hyödytön, koska agenttien, tietojen ja liiketoimintaprosessien vuorovaikutukset muodostavat verkoston, jota manuaalinen valvonta ei voi kattaa. Tässä mittakaavassa luottamukselle on oltava olemassa myös mittakaavassa ja se on upotettuna yrityksen tekniseen arkkitehtuuriin.

Odottamisen kustannus

Puuttuva luottamuksen infrastruktuuri on myös yksi syistä, miksi tulokset ovat pettäneet. PwC:n viimeisimmässä Global CEO -tutkimuksessa 56 prosenttia toimitusjohtajista sanoi, että tekoäly ei ollut tuottanut lisääntyneitä tuloksia eikä vähentänyt kustannuksia edellisen vuoden aikana. Oma kokemukseni on, että jopa ilmoitetut tulokset näyttävät vähemmän vakuuttavilta, kun tarkastelee niiden taustalla olevaa taloutta. Useimmat yritykset laskevat säästettyjä tunteja ja kutsuvat sitä sijoitetun pääoman tuotoksi. Säästetyt tunnit muuttuvat taloudelliseksi tuotoksi vain, kun organisaatio muuttaa kyseisen kapasiteetin joksikin arvokkaammaksi: suuremmaksi tuotannoksi, paremmaksi laadukkuudeksi, vältetyiksi kustannuksiksi, nopeammaksi kasvuksi jne.

Tähän muunnokseen vaaditaan luottamusta. Organisaatio voi siirtää inhimillisen arvion korkeamman arvon työhön vain, kun johto luottaa järjestelmiin, jotka ottavat haltuun alempiarvoisen työn. Ilman luottamusta yritykset kerryttävät teknistä velkaa, joka ei skaalautu, ja se vaikuttaa merkittävästi tuottavuuteen ajan myötä. Se on huonoin mahdollinen maailma: lisääntynyt kulutus vähäisen tuloksen kanssa. Luottamus on perusta, jolle nämä tulokset kertyvät.

Hissiongelma

Luottamuksen ja käytön välinen yhteys ei ole uusi, ja voimme palata 1900-luvun puoliväliin etsimään kohtuullisen vertailukohdan. Ohjaamattomat hissit olivat olemassa vuosikymmeniä ennen kuin kukaan oli valmis niihin astumaan. Teknologia toimi, mutta matkustajat astuivat autoon, näkivät, ettei siellä ollut ohjaajaa, ja astuivat ulos. Se, mikä muuttui, ei ollut hissi, vaan turvallisuusvalvonta sen ympärillä. Vuoden 1945 ohjaajien lakon jälkeen, joka sulki toimistotalot New Yorkissa, teollisuus insinööri luottamusta itse koneeseen: hätäpysäytysnappi, puhelinlinja, ovet, jotka avautuivat uudelleen, kun ne kohtasivat vastusta, ja tallennettu ääni, joka selitti, mitä tehdä. Vuosien sisällä astuminen hissiin ilman ihmistä ohjaamossa oli niin tavallista, että kävellä hissiin, jossa oli ihminen ohjaamassa, tuntui vanhanaikaiselta. Este, joka esti ihmisen poistamisen silmästä, ei ollut koskaan kyky. Se oli luottamus, ja teollisuus ratkaisi sen rakentamalla näkyvät, verifioidut valvontamekanismit järjestelmään ja asettamalla ne jokaisen matkustajan nähtäville.

Yritysten tekoäly on astumisen ja ulosastumisen vaiheessa. Johtoryhmät näkevät agenteja toimimassa ilman ihmistä ohjaamossa ja epäröivät, ja epäily on järkevää: useimmat organisaatiot eivät ole vielä rakentaneet vastaavaa valvontaa järjestelmiinsä. Yritykset, jotka insinööri valvontamekanismit järjestelmiinsä, ovat niitä, joiden ihmisten, asiakkaiden ja sääntelijöiden kanssa voidaan astua sisään ja pysyä sisällä.

Toimittajat voivat kantaa vain osan tästä

Monet johtajat toivovat, että heidän tekoälytoimittajansa kantavat luottamuksen rasiteen. Toimittajat voivat tarjota mallitasoisen turvallisuuden ja tietoturvaominaisuuksia, ja hyvät toimittajat tekevät niin. Päätös siitä, onko tietty toteutus sopiva yrityksesi tietoihin, sääntelyvelvollisuuksiisi, asiakkaisiisi ja riskitoleranssiisi, on edelleen yrityksesi tehtävä, koska toimittajalla ei ole kontekstia tehdä sitä. He eivät ole koskaan nähneet velvollisuuksiasi, eivätkä heillä ole mitään keinoa arvioida, mitä huonot tulokset maksavat teille.

Toimittajan turvallisuussitoumus kattaa vain heidän mallinsa eikä sinun käyttöäsi. Se ei myöskään ole pysyvää: edellisen vuoden tapahtumat ovat osoittaneet, että nämä sitoumukset voidaan muuttaa tai perua. Säännellyt toimialat ovat ratkaisseet tämän kysymyksen jo kauan sitten kolmansien osapuolien mallien osalta, ja heidän standardinsa on oikea: instituutio, joka toteuttaa mallin, omistaa riskin.

Mitä harvat tekevät

Yritykset, jotka ovat edellä, tekevät kolme liikettä:

1. He rakentavat valvontainfrastruktuuria jo nyt, mitä he aikovat saavuttaa, eikä sitä, missä he ovat, koska valvontaa on oltava ennen kuin agenteja, jotka sitä tarvitsevat.
2. He upottavat riskiluokittelun ja lieventämisen toteutusprosessiin alusta alkaen eikä lopussa, joten jokainen käyttötarkoitus on luokiteltu ja valvontaa on riskin mukaisesti alusta alkaen.
3. Ja he perustavat itsenäisen hallinnon, jolla on todellinen valta vahvistaa, että nämä järjestelmät toimivat halutulla tavalla, ja se on tarpeeksi joustava kehittyäkseen teknologian mukana. Itsenäisyys tekee vahvistamisesta uskottavan. Joustavuus pitää sen ajan tasalla.

On syytä huomata, että harvat sääntelijät ovat asettaneet selkeät säännöt tekoälyn käytölle ja valvonnalle, mutta se ei tarkoita, että meillä ei ole mitään, mihin nojata ohjeiden saamiseksi. Sääntelijät ovat jo asettaneet perinteisten mallien hallitsemiseen liittyvät säännöt, ja voimme käyttää niitä ohjeena. Huhtikuussa Federal Reserve, OCC ja FDIC antoivat päivitetyn malliriskiohjeistuksen, joka heijastaa vuosikymmenten käytännön kokemuksia, periaatteellinen lähestymistapa, joka sisältää malliluettelot, riskipohjaiset valvontatoimenpiteet, jotka ovat suhteessa alttiuteen, riippumaton validointi, jatkuva seuranta ja yrityksen vastuu toimittajatuotteista, ja he ohjasivat instituutioita soveltamaan näitä käytäntöjä tekoälyyn omalla alueellaan. Viesti on selvä: periaatteet, jotka toimivat, ovat tiedossa, ja viralliset tekoälysäännöt eivät tule pian. Yritykset, jotka odottavat sääntelyselvyyttä, odottavat, kun harvat toimivat. Tämän vuoksi voimakkaasti säännellyt toimialat, joita usein kuvataan hitaiksi, tulevat tähän aikakauteen eturintamassa. He ovat viettäneet vuosikymmeniä rakentamassa juuri sitä luottamuksen konetta, jota kaikki muut nyt tarvitsevat, eivätkä he odota lupaa käyttää sitä.

Kysymys, joka on tärkein

Jakautuminen on jo muodostunut. Useimmat yritykset kohtelevat hallintoa kustannuksena: jotain, jota on imettävä, kestettävä ja minimoidaan. Harvat kohtelevat sitä infrastruktuurina, joka antaa heidän siirtää ihmisiä korkeamman arvon työhön ja skaalata luottamuksella. Jokainen johtoryhmä on jommallakummalla puolella, riippumatta siitä, ovatko he valinneet sen tietoisesti tai ei, ja aukko on karttumassa hiljalleen ennen kuin se tulee ilmi. Kukaan ei epäröi astumista hissiin tänään, koska luottamus on rakennettu siihen. Yritykset, jotka tekevät saman tekoälylle, skaalautuvat kaikkien muiden ylitse, jotka ovat edelleen päättämättömiä astumisesta sisään.