Kuinka siirsin tietämykseni tekoälyjärjestelmiin, jotka voivat tehdä päätöksiä kuin ihmisekspertit

Kun lähdin Microsoftilta ja jatkoin työtä yritysten kanssa heidän tekoälykäyttöönsä liittyen, huomasin, että useimmat ihmiset olivat innoissaan tekoälyjärjestelmistä, jotka eivät kyenneet tekemään päätöksiä oikean ihmisen arvostelukyvyn kanssa. Kyllä, ne voivat kirjoittaa, tiivistää ja tuottaa hämmästyttävän sulavaa tekstiä, joka kuulosti päätökseltä, mutta kun nämä järjestelmät laitetaan todelliseen toimintaympäristöön, jossa on kompromisseja, epävarmuutta, epätäydellisiä ohjeita ja todellisia seurauksia, ne kamppailevat nopeasti. Tämä vastaa MIT Project NANDAn tietoja, jotka osoittavat, että vaikka 60 %:lla organisaatioista arvioitiin tekoälytyökaluja, vain 20 % saavutti koepilotin vaiheen, ja vain 5 % saavutti tuotantovaiheen. Toisin sanoen, teollisuus kamppailee rakentamaan järjestelmiä, jotka voivat kestää todellisissa työnkulussa.

Yritysympäristössä, erityisesti alueilla kuten toimitusketju, valmistus ja toiminta, saada vastaus ei ole vaikeaa; se on tietäminen, kuka vastaus on luotettava, mitkä muuttujat ovat tärkeimmät, ja mitä on todennäköisesti rikkoa alijäämässä, jos teet virheen. Omassa silmissäni tämä on sekä asiantuntemus- että arvostelukykyongelma.

Selkeäksi totean, tekoäly on tehnyt erinomaisia edistysaskelia tuottamalla parempia tuloksia. Mutta parempi tuloste ei ole sama kuin paremmat päätökset. Nämä ovat kaksi erillistä merkittävää saavutusta, ja luulen, että teollisuus on viettänyt paljon aikaa käsitellessään niitä vaihtoehtoisina.

Asiantuntemuksen ja arvostelukyvyn puute on syynä, miksi aloin rakentaa tekoälyä, jota ihmisekspertit voivat opettaa tekemään monimutkaisia päätöksiä heidän tavallaan. Tekoäly ei pitäisi olla vain tehtävien automaatio, vaan myös tehokkaan ja turvallisen siirtäminen ihmisen arvostelukykyä tekoälyyn, joka kestää.

Suuret kielimallit (LLM) puhuvat kuin päätöksentekijät, mutta eivät ole

On selvää, että LLM:t ovat hyödyllisiä, mutta ne eivät ole oletuksena päätöksentekijöitä. Ne ovat ennustusjärjestelmiä kielen ympärillä. Ja kieli on vakuuttava, mikä on osa ongelmaa. Jos järjestelmä voi selittää itsensä sulavasti, yliarvioimme helposti, mitä se ymmärtää. Kysyt järjestelmältä liiketoimintakysymyksen, se antaa sinulle rakenteellisen vastauksen, jossa on kompromisseja, varauksia ja siisti tiivistelmä lopussa, mikä tekee siitä älykkäämmän kuin se on. Kuulostaa koherentilta ja olla toiminnallisesti osaava eivät ole sama asia, ja tässä kohtaa moni yritysten tekoäly menee rikki. Mallit voivat kertoa sinulle, miltä hyvä päätös kuulostaa, ilman ymmärrystä siitä, mitä tekee päätöksen hyvän paineen, ajan tai asiayhteyden alla. Tämä on yksi syy, miksi monet organisaatiot kamppailevat siirtymisen kokeilusta.
Gartnerin mukaan vähintään 50 %:lla generatiivisista tekoälyprojekteista luopuu kokeiluvaiheen jälkeen, kauan ennen kuin ne tuottavat todellista operatiivista vaikutusta, usein epäselvien arvojen ja riskienhallintamekanismien vuoksi.

Tieto ei ole sama kuin asiantuntemus

Yksi helpoimmista ansaan tekoälyssä on olettaa, että jos järjestelmällä on tarpeeksi tietoa, se pitäisi pystyä suoriutumaan kuin asiantuntija. Kuulostaa järkevältä, mutta kun ajattelet sitä arkipäivän elämässämme, tiedon lisääminen jostakin asiasta ei automaattisesti tee meistä asiantuntijoita. Voit lukea jokaisen ilmailukäsikirjan ja silti olla valmis laskeutumaan lentokoneella. Voit muistaa jokaisen parhaimman käytännön toimitusketjussa ja silti jäätyä paikoilleen, kun kolme asiaa menevät pieleen kerran.
Voisin jatkaa, mutta pointti on, että tieto ei ole sama kuin kyky. Kyky tulee kokemuksesta, erityisesti toistuvasta altistumisesta sekaville tilanteille, joissa vastaus ei ole ilmeinen.

Jokaisena päivänä näen, että useimmat nykyiset tekoälyjärjestelmät on koulutettu staattisilla esimerkeillä. Tämä on kaikki hyödyllistä ennustamiseen, mutta se on vain pieni osa päätöksentekoa. Yritykset eivät ole puutteessa dataa, vaan he tarvitsevat rakenteellisia ympäristöjä harjoitteluun, mikä tarkoittaa antamista järjestelmille ympäristöjä, joissa ne voivat toistuvasti:

• Kohtaa realistisia skenaarioita
• Tehdä valintoja
• Nähdä, mitä tapahtuu
• Saatavat palautetta
• Parantaa ajan myötä

Tekoäly voidaan kouluttaa käyttäen ennustusalgoritmeja, mutta tämä lähestymistapa on rajoitettu. Mitä tarvitaan seuraavaksi, on tekoäly, jota voidaan kouluttaa simuloitussa ympäristössä ihmisen valvonnassa. Kutsun tätä koneen opettamiseksi, joka on menetelmä, joka jakaa monimutkaiset päätökset skenaarioihin ja taitoihin, tarjoaa oppaan ihmiseksperttien opettamiseen tekoälyä simulaation kautta. Tuloksena oleva palaute ja koeteltu virheiden ja kokeilujen kautta mahdollistaa agenttien oppimisen ja toimimisen todellisella autonomialla suoraan niiden prosessien rakentajilta.

Lopeta tekoälyn käsittely monoliittina

Toinen virhe, jonka näen paljon, on oletus, että yksi suuri malli pitäisi jotenkin tehdä kaiken. Mikään koripallotiimi ei koostu vain yhdestä henkilöstä. Mikään tehdas ei ole yhden henkilön johtama. Monimutkaiset järjestelmät toimivat, koska eri komponentit tekevät eri tehtäviä, ja niiden yllä on rakenne, joka pitää ne koossa.

Tekoäly pitäisi rakentaa samalla tavalla. En usko, että yritysten päätöksenteon tulevaisuus on yksi jättiläismalli, joka istuu yrityksen keskellä ja esittää olevansa yleisesti osaava. On paljon todennäköisempää, että se näyttää tiimiltä erikoistuneista agenteista.

Yksi agentti voi olla asiantuntija tietojen hakemisessa. Toinen on parempi arvioimaan skenaarioita. Toinen käsittelee suunnittelua. Yksi tarkistaa vaatimukset tai löytää ristiriitaisuuksia. Toinen toimii johtajana, päättäen, milloin eskaloida tai milloin luottamus on liian alhainen jatkaakseen. Tiimin arkkitehtuuri on paljon järkevämpää minulle, koska se vastaa sitä, miten todelliset organisaatiot toimivat, ja se on linjassa laajempien markkinatrendien kanssa. McKinsey:n tulokset vahvistavat, että organisaatiot saavat eniten arvoa tekoälystä suunnittelemalla uudelleen työnkulut ja toimintarakenteet sen ympärille.

Kaikki päätökset eivät tehdä samalla tavalla, ja usein oletamme, että sama malli, sama data ja sama tyyppi päättelyä voivat käsitellä kaikki. Todellisuudessa eri päätökset vaativat eri mekanismeja.

Neljä tapaa, joilla päätökset tehdään tosiasiallisesti

Omassa kokemuksessani useimmat päätökset kuuluvat usein muutamiin ryhmiin:

1. Säätöjärjestelmät (säännöt ja kaavat): Päätökset tehdään soveltamalla ennalta määriteltyjä kaavoja tai sääntöjä tunnettuun syötteeseen. Jos X tapahtuu, tee Y.
2. Haku ja optimointi: Päätökset tehdään arvioimalla useita mahdollisia vaihtoehtoja ja valitsemalla paras yhden määritetyn kohteen perusteella.
3. Vahvistusoppiminen (kokeilu ja virhe): Päätökset opitaan ajan myötä tekemällä toimia, havainnoimalla tuloksia ja sopeuttamalla palkkion tai rangaistuksen perusteella.
4. Harjoittelu ja kokemus (ihmisenkaltainen oppiminen): Päätökset muotoillaan toistuvan altistumisen, ohjatun palautteen ja kertyneen arvostelukyvyn kautta todellisissa skenaarioissa.

Useimmat yritysten tekoälyt menestyvät kahdessa ensimmäisessä luokassa. Kolmas ja neljäs luokka ovat haasteellisempia tekoälylle, koska siinä on ihmisenkaltaista arvostelukykyä.

Autonomia ilman rakennetta on riski

Aina kun ihmiset puhuvat autonomisesta tekoälystä, keskustelu usein jakautuu kahteen ääripäähän. Toisella puolella ajatellaan, että järjestelmät ovat käytännössä magiaa ja valmiita hallitsemaan kaikkea. Toisella puolella toiminta on sellaista, että niiden ei pitäisi koskaan luottaa mihinkään merkittävään.

En usko, että kumpikaan näkemyksistä on hyödyllinen. Pitäisi keskittyä autonomiaan rakenteen puitteissa, koska autonomia ilman valvontaa, eskaloimislogiikkaa, rajoja tai vastuuta on pääasiallinen riskin lähde. Riskikysymykset ovat nyt näkyvissä, myös keskusteluissa, jotka on muotoiltu pyrkimyksillä, kuten National Institute of Standards and Technology:n tekoälyriskien hallintakehyksellä, joka heijastaa, miten vakavasti organisaatiot ottavat kysymykset valvontaa, vastuuta ja operatiivista luottamusta.

Yritysten tekoälyn tulevaisuus on tiimissä erikoistuneista agenteista. Organisaatiot, jotka saavat eniten arvoa tekoälystä, eivät ole ne, jotka automatisoivat eniten sanoja. Ne ovat ne, jotka keksivät, miten siirtää todellista asiantuntemusta järjestelmiin, jotka voivat kestää, kun ympäristö menee sekavaksi. Se on, omasta mielestäni, ero tekoälyjen välillä, jotka näyttävät vaikuttavilta ja tekoälyjen, jotka tulevat todella hyödyllisiksi, tuottaen todellista tuottoa.