Jos työntekijäsi käyttäytyisi kuin tekoäly, olisit jo irtisanonut hänet

Kuvittele, että olet juuri palkannut uuden henkilön, ja useimpina päivinä hän on tehokas, tietävä, sujuva ja itsevarma. Hän on juuri se, mitä toivoit, ja hän osoittaa monia loistavan työntekijän ominaisuuksia.

Kuvittele nyt, että silloin tällöin, kun he kohtaavat kysymyksen, johon he eivät tiedä vastausta, he keksivät jotain. Se on sujuvaa ja vakuuttavaa, joten aluksi otat sen kirjaimellisesti. Mutta kun sillä on seurauksia liiketoiminnalle, palaat kyseisen työntekijän luo, haastat hänet – eikä hän pysty selittämään ajatusprosessiaan tai jakamaan toimintaansa. Saatat jopa kertoa hänelle, että hän on väärässä, ja hän vastaa vastustavalla varmuudella sekä lisää keksintöjä yrittäen perustella ne. Kun näin tapahtuu toisen tai kolmannen kerran, irtisanoisitko hänet todennäköisesti, tai ainakin antaisitko varoituksen? Useimpien työnantajien vastaus on lähes ehdottomasti kyllä.

Minua hämmentää, että yritykset antavat kriittiset työnkulut ja päätöksenteon työntekijälle, jonka tiedetään käyttäytyvän juuri näin. Ainoa syy, miksi tätä ei tarkasteta, on se, että tämä ‘työntekijä’ on ohjelmisto eikä ihminen.

Miksi tekoäly ei epäonnistu samalla tavalla kuin ihmiset

Yrityksillä, jotka ottavat tekoälyn käyttöön, on yleinen, virheellinen oletus, että jos teknologialla on virherata, se on suunnilleen sama ongelma kuin ihmisen virhe ja sitä voi hallita samalla tavalla. Mutta tarkistukset, arvostelut ja eskalointi eivät aina toimi suurten kielimallien (LLM) kanssa. Ne on suunniteltu kuulostamaan ihmisiltä, mutta jos tarkastelet niiden sisäistä toimintaa, huomaat, etteivät ne toimi lainkaan kuten me.

Jos huipputyöntekijä tekee virheen, oletamme, että virhe on vilpitön – hän antoi parhaansa ja lipsahti. Se tapahtuu. Jos hän kuitenkin tahallaan keksii vastauksen välttääkseen tiedon puutteen ja tekee sen toistuvasti, pidämme sitä epäasiallisena toimintana. Johtajat tietävät, mihin valvontansa keskittyä, koska vaikeusaste ja virhemarginaalit yhtyvät. He voivat pyytää työntekijää selittämään ajattelunsa ja kyseenalaistaa sen. Työntekijä yleensä tietää, milloin hän on oman osaamisensa ulkopuolella, ja kertoo sen. Yhden virheen jälkeen hän oppii, jotta sama virhe ei toistu jatkuvassa syklissä.

Tekoälyjärjestelmät kääntävät kaikki nämä oletukset ylösalaisin. Niiden oletusreaktio epäonnistumiseen on sujuva, itsevarma keksintä. Ne tuottavat uskottavan vastauksen, joka on yksinkertaisesti epätosi, mikä on täsmälleen se käyttäytyminen, joka lopettaisi ihmisen uran. LLM:t on suunniteltu tuottamaan tilastollisesti todennäköisin jatke tekstinpätkälle, ja kun ne eivät tiedä vastausta, ne usein tuottavat jotain, mikä kuulostaa oikealta. OpenAI:n omat tutkijat ovat myöntäneet, että jonkinasteinen faktivirhe on tilastollinen väistämättömyys näiden mallien toiminnassa, ja että koulutus palkitsee itsevarman arvauksen rehellisen epävarmuuden myöntämisen sijaan.

Missä neuro-symboliset lähestymistavat tulevat kuvaan

Tämä on juuri se, mitä neuro-symboliset lähestymistavat on suunniteltu korjaamaan. Ne yhdistävät neuroverkot, jotka ovat erinomaisia ymmärtämään sotkuista, todellista kieltä ja dataa, deterministiseen, sääntöpohjaiseen päättelyyn. Tämä tarkoittaa, että järjestelmän johtopäätökset perustuvat eksplisiittiseen logiikkaan, jota voidaan tarkastella, sen sijaan että ne syntyisivät prosessista, jota kukaan ei näe sisällä.

Ilman tätä lisälogiikkakerrosta, jonka neuro-symbolinen teknologia tarjoaa, tekoälyn virheet eivät korreloi työn vaikeusasteen kanssa samalla tavalla kuin ihmisen virheet – ne ovat ennakoimattomia. Ne voivat ilmetä triviaalissa tehtävässä, kun taas vaikeat tehtävät sujuvat ongelmitta, mikä tekee vaikeaksi hahmottaa, mihin ihmisen valvontaa tulisi kohdistaa. Niiden selitykset, jos niitä tarjotaan, luodaan jälkikäteen sen sijaan, että ne antaisivat todellisen selostuksen siitä, miten johtopäätökseen päädyttiin. Sama virhe voi toistua loputtomiin, koska järjestelmän sisällä ei ole ketään, joka oppisi siitä tai joka voitaisiin pitää vastuussa.

Luottamus ilman ymmärrystä

Tutkijat ovat dokumentoineet, että kun ihmiset ovat uusia järjestelmässä, heillä on taipumus hylätä se yhden näkyvän virheen jälkeen; mutta kun se on tuttu, he siirtyvät toiseen ääripäähän – hyväksyen sen tulokset pelkästään siksi, että ovat tottuneet niihin, ei koska ne olisivat luotettavampia. Harvoin nähdään oikeaa luottamuksen tasoa, koska se riippuu siitä, että ihmiset ymmärtävät, milloin tekoälyjärjestelmä todennäköisesti on väärässä, ja pystyvät tunnistamaan sen.

Tämä ei tarkoita, että tekoälyä ei tulisi luottaa tärkeissä tehtävissä. Se tarkoittaa, että olemme olleet valmiita antamaan sille sellaisen luottamuksen, jota emme antaisi ihmiselle, osittain siksi, että epäonnistuessa ei ole selvää yksilöä, jota voisi pitää vastuussa.

Jos tekoälyn on otettava vastaan arvosteluun perustuvaa työtä samalla tavalla kuin arvostettu kollega, sen on täytettävä samat perusstandardit. Vastausten on oltava tarkistettavissa, päättelyn näkyvän kanssa, ja sen on hyväksyttävä se, että joskus paras mitä se voi tehdä on sanoa “En tiedä”.