Ajatusjohtajat

Tekoälyn este ei ole epäonnistuminen, vaan liian hidas epäonnistuminen

Beth Weeks
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
A conceptual photograph showing a hand approaching a transparent glass interface with a glowing green speedometer gauge and an upward-pointing arrow. The background shows an out-of-focus, tangled knot of black wires and red light.
Keskeiset kohdatOrganisaatioiden on asetettava kestävyyden täydellisyyden edelle tekoälyjärjestelmissä…
Näytä lisää
  • Organisaatioiden on asetettava kestävyyden täydellisyyden edelle tekoälyjärjestelmissä välttääkseen toiminnallisen lamaantumisen.
  • Kojetaulun tason selitettävyys tarjoaa valvontaa vaatimatta täydellistä läpinäkyvyyttä jokaiseen tekoälypäätökseen.
  • Määritä tekoälyn menestymismittarit lopputulosten perusteella, ei jokaisen mallimekanismin selittämisen kautta.

Tekoälyn este ei ole epäonnistuminen, vaan liian hidas epäonnistuminen

Tekoäly (AI) muuttaa, miten organisaatiot toimivat, innovoivat ja kasvavat. Eri aloilla organisaatiot käyttävät tekoälyä työnkulkujen sujuvoittamisen, uusien tehokkuushyötyjen saavuttamisen ja nopeamman, varmemman päätöksenteon tukemiseen. Tekoäly on hiljalleen muuttunut modernin tuottavuuden moottoriksi, joka auttaa organisaatioita saavuttamaan suuremman joustavuuden ja skaalautuvuuden.

On kuitenkin tapahtunut odottamaton asia, vaikka tekoälyllä on monia mitattavissa olevia hyötyjä. Monet yritykset ovat törmänneet esteeseen. Sen sijaan, että innovaatio kiihtyisi, jotkut tiimit jäävät jumiin monimutkaisuuteen, riskien hallintaan ja tuntemattoman pelkoon.

Miksi? Koska ajattelemme sitä väärällä tavalla.

Tekoälyä ymmärretään usein väärin teknologiana, joka on täysin hallittava, ennen kuin siihen voidaan luottaa. Tämä johtuu väärästä käsityksestä, että varmuus on turvallisuuden edellytys. Tämä tulkinta kuitenkin ohittaa tekoälyn olemuksen ja sen tarjoaman arvon. Tekoäly on sopeutuva työkalu, joka on suunniteltu oppimaan ja kehittymään käytön myötä. Sen käsittely perinteisen ohjelmiston kaltaisena on väärä tulkinta sen luonteesta ja heikentää sen potentiaalia.

Pyrkimyksessä hyödyntää tekoälyä vastuullisesti monissa organisaatioissa on tahattomasti muodostunut pullonkaula riskien hallinnassa. Eri aloilla tiimit epäröivät tekoälyn käyttöönottoa, elleivät he voi purkaa, selittää ja perustella jokaisen päätöksentekoprosessin kerrosta usein epäkäytännölliseen asti. Vaikka tämä tarkastelun taso heijastaa hyvää tahtoa, se usein torjuu tekoälyn tarkoituksen: nopeuttaa oivalluksia, vahvistaa tiimejä ja ratkaista ongelmia laajassa mittakaavassa.

On aika uudelleenkalibroida siirtymällä kokonaan hallinnan vaatimuksesta pois ja kohti mallia, joka korostaa kestävyyttä, tuottavuutta ja käytännöllistä selitettävyyttä ilman, että innovaatio hidastuu.

Pelko mustasta laatikosta estää edistymisen

Ihmisillä on luonnollinen epämukavuus järjestelmiä kohtaan, joita he eivät täysin ymmärrä, ja tekoälytyökalut – erityisesti suuret, generatiiviset mallit – toimivat usein tavalla, joka on vaikea selittää. Tämän seurauksena moni johtaja joutuu ansaan: jos he eivät voi selittää jokaista tekoälypäätöstä, järjestelmään ei voida luottaa.

Näin ollen monissa organisaatioissa ylimitoitetaan valvontaprosessit, joissa on useita kerroksia toiminnan arviointia, vaatimusten tarkastelua ja selitettävyyden tarkastelua, myös alhaisen riskin käyttötapauksissa. Kun tiimit käsittelevät selitettävyyttä mustan laatikon avaamisena, he jäävät tekoälyn toteutuksen loputtomiin tarkastelukierteisiin. Tämä luo “toiminnallisen halvauksen”, jossa tiimit pelkäävät niin paljon tekoälyn väärää käyttöä, että he lopettavat kaiken tekemisen, mikä johtaa hidastumiseen, pysähtyneisiin aloitteisiin ja lopulta menetettyihin mahdollisuuksiin.

Ongelma ei ole hallintajärjestelmien tahtotila; se on oletus, että riskien hallinta on sama kuin hallinta. Käytännössä tekoälyjärjestelmien suunnittelu häiriönsietokykyä eikä täydellisyyttä varten on tehokkaampi lähestymistapa. Avain on hylätä prosessuaalinen lähestymistapa ja siirtyä tuloslähtöiseen ajatteluun.

Tekoälyssä kestävyys tarkoittaa virheiden hyväksymistä ja esteiden rakentamista, jotka voivat havaita ja korjata ne. Se tarkoittaa siirtymistä keskustelusta siitä, miten estetään jokainen mahdollinen epäonnistuminen, keskusteluun siitä, miten varmistetaan nopea havaitseminen ja väliintulo, kun asiat menevät pieleen.

Useimmat modernit järjestelmät on suunniteltu ymmärtämällä, että tietty virhetaso voi esiintyä. Esimerkiksi tietoturvatyökalujen ei odoteta olevan 100 % läpäisemättömiä. Niitä ei suunnitella sellaisiksi. Sen sijaan ne on suunniteltu havaitsemaan, reagoimaan ja luomaan nopeita palautumisprotokollia. Sama odotus pitäisi koskea tekoälyä.

Täydellisen näkyvyyden vaatiminen jokaiseen tekoälypäätökseen on epäkäytännöllistä ja voi haitata arvonluontia. Sen sijaan organisaatioiden on puolustettava “kojelautatason selitettävyyttä”, joka tarjoaa riittävän kontekstin ja valvonnan virheiden havaitsemiseksi ja suojatoimien soveltamiseksi hidastamatta yrityksen innovointia.

Älä ylikompliksoi tekoälyn käyttöönottoa

Organisaatioiden on omaksuttava täydellinen yhteensopivuus tekoälyn toteutuksissa riippumatta käyttötapauksesta. Täydellinen yhteensopivuus ei ole häiriö, vaan se takaa saumattoman integraation ja vapauttaa enemmän arvoa järjestelmissä. Tulevaisuudessa yrityksissä voi nähdä virtuaalisia tekoälyagenttien armeijoita, jotka kaikki työskentelevät yhteisiin tavoitteisiin.

Tämä ajattelutapa tarkoittaa selitettävyyden sovittamista riskitasoon: jokaista tekoälyn käyttötapausta ei pidä käsitellä kuin itseohjautuvan ajoneuvon käyttöä. Tiimit voivat saavuttaa tämän suunnittelemalla tekoälyjärjestelmiä, jotka ovat tuottavia, vastuullisia ja ihmisen tarkoituksen mukaisia ilman toteutuksen ylikompliksointia.

Jotkut käytännölliset strategiat ovat:

  • Käytä tekoälyä, missä ihmiset jo kamppailevat: Käytä tekoälyä ihmisen päätöksenteon täydentämiseen monimutkaisissa, suurivolyymisissä aloissa, kuten resurssien kohdentamisessa, tehtävien priorisoinnissa tai odottavien tehtävien hallinnassa, missä nopeus ja skaala ovat tärkeämpiä kuin täydellinen varmuus.
  • Määritä tekoälymenestymisen mittarit: Sen sijaan, että yritetään selittää jokainen malli, määritä, miltä hyvät tulokset näyttävät. Paranevatko aikataulut? Väheneekö uudelleen tehtävä työ? Hyväksyvätkö käyttäjät useammin tekoälyehdotuksia? Nämä osoittimet tarjoavat selkeämmän kuvan siitä, miten hyvin tekoäly toimii verrattuna siihen, miten malli tekee päätöksiä.
  • Aseta luottamuksen kynnykset: Aseta toleranssit siitä, milloin tekoälyn tuotos voidaan hyväksyä automaattisesti, merkitä huomiota vaativaksi tai lähettää ihmisen tarkastettavaksi, ja rakenna palautesilmukka, joka auttaa järjestelmää oppimaan ja parantumaan ajan myötä.
  • Kouluta tiimejä kysymään oikeita kysymyksiä: Sen sijaan, että jokaisesta tiimistä tehtäisiin tekoälyasiantuntijaksi, keskity tiimien kouluttamiseen oikeiden kysymysten esittämiseen, kuten mihin tekoälyä käytetään, mitkä riskit ovat tärkeimpiä ja miten tehokkuutta seurataan.
  • Priorisoi ihmisen järjenkäyttöä: Jopa parhaat tekoälyjärjestelmät hyötyvät ihmisen valvonnasta. Rakenna työprosessit, jotka sallivat ihmisille vahvistaa, korjata tai ohittaa tekoälyä ja luoda jaettua vastuuta.

Tätä lähestymistapaa voidaan verrata autoiluun. Useimmat meistä eivät ymmärrä, miten vaihteisto toimii, miten polttoaineen palaminen mahdollistaa kiihdyttämisen tai miten anturit havaitsevat lähellä olevia ajoneuvoja, mutta se ei estä meitä ajamasta. Luotamme kojelautaan: yksinkertainen käyttöliittymä, joka tarjoaa tarvittavat tiedot turvalliseen toimintaan, kuten nopeus, polttoainetaso ja huoltovaroitukset.

Tekoälyjärjestelmiä on hallittava samalla tavalla. Meidän ei tarvitse avata konepeltiä joka kerta moottorin käydessä. Mitä tarvitaan, on selkeä joukko osoittimia, jotka osoittavat, kun jotain on vialla, missä ihmisen väliintulo saattaa olla tarpeen ja mitä seuraavaksi on tehtävä. Tämä malli sallii organisaatioiden keskittyä valvontaan, missä se on tärkeintä, hukkumatta tekniseen monimutkaisuuteen.

Lopeta esteiden luominen itsellesi

Tekoäly ei ole koskaan virheetön. Ja jos organisaatiot asettavat sille täydellisyyden standardin, jota mikään ihmisten tiimi ei voi täyttää, ne saattavat menettää mahdollisuus uudelleenmuotoilla työtä, kiihdyttää päätöksentekoa ja vapauttaa potentiaalia koko yrityksessä.

Keskittymällä häiriönsietokykyyn hallinnan sijaan ja omaksumalla kojelautatason selitettävyyden ja sovittamalla valvontaa asiayhteyteen, voimme lopettaa tekoälyn ylitarkkailemisen ja aloittaa sen menestyksekkään käytön.

Beth Weeks on Planview'n kehityksestä vastaava Executive Vice President. Hän johtaa ohjelmistokehitystiimiä, joka kehittää Planview'n strategisen portfolion hallintaa, asiantuntijapalveluiden automatisointia, yritysarkkitehtuuria ja ideointia tukevia tuotteita.

Beth on toiminut ohjelmistoyritysten johtotehtävissä viimeiset 20 vuotta ja auttanut ohjelmistoyrityksiä muuttamaan paikallisesti asennetut yritystuotteet hyvin suunnitelluiksi Software as a Service (SaaS) ja Platform as a Service (PaaS) -ratkaisuiksi. Hänellä on myös kokemusta erittäin tuottavien ja yhteistyökykyisten, Pohjois-Amerikkaan, EMEA:an ja Intiaan jakautuneiden tiimien rakentamisesta.

Ennen liittymistään Planview'hun vuonna 2017, Beth oli WP Enginen tuotetekniikasta ja pilvitoiminnoista vastaava Senior Vice President, joka johti tuotekehitystä ja pilvioperaatioita useissa globaaleissa tietokeskuksissa, jotka isännöivät yli 500 000 verkkosivustoa. Hän on myös toiminut johtotehtävissä Zilliantissa, Vignette:ssa (jonka Open Text hankki) ja Intergraphissa.