Kuinka Selitettävä Tekoäly Rakentaa Luottamusta ja Vastuullisuutta

Yritykset ovat jo syöksyneet pää edellä tekoälyn omaksumiseen, kilpaillen siinä, kuka pystyy käyttöönottoon chatboteja, sisällönluontityökaluja ja päätöksenteon tukityökaluja toimintojensa ympärille. McKinsey:n mukaan 78 %:ia yrityksistä käyttää tekoälyä vähintään yhdessä liiketoimintafunktiossa.

Tämä toteutuksen kiire on ymmärrettävää — jokainen näkee potentiaalisen arvon. Mutta tässä kiireessä monet organisaatiot jättävät huomiotta sen, että kaikki neuroverkkojen perusteella toimivat teknologiat, mukaan lukien jokainen LLM ja generatiivinen tekoälyjärjestelmä, jotka ovat käytössä tänään ja lähitulevaisuudessa, jakavat merkittävän heikkouden: Ne ovat ennalta arvaamattomia ja lopulta hallitsemattomia.

Jotkut ovat oppineet, että tämä voi johtaa oikeasti merkittäviin seurauksiin. Yhdessä Chevrolet-kaupassa, joka oli käyttöönotannut chatbotin verkkosivuilleen, asiakas sai ChatGPT-pohjaisen botin myymään hänelle 58 195 dollarin arvoisen Chevy Tahoen vain yhdellä dollarilla. Toinen asiakas kehotti samaa chatbottia kirjoittamaan Python-koodin monimutkaisten fluididynamiikka-yhtälöiden ratkaisemiseksi, mitä se teki ilomielin. Kauppa poisti nopeasti botit näiden tapausten jälkeen, kun ne levisivät sosiaalisessa mediassa.

Viime vuonna Air Canada hävisi pienoissyytössä, kun se väitti, että sen chatbotti, joka antoi matkustajalle virheellistä tietoa surunajan alennuksesta, “on erillinen oikeudellinen subjekti, joka on vastuussa omista toimistaan”.

Tämä ennalta arvaamattomuus johtuu LLM:n perusrakenteesta. Ne ovat niin suuria ja monimutkaisia, että on mahdotonta ymmärtää, miten ne päätyvät tiettyihin vastauksiin tai ennustaa, mitä ne tuottavat, ennen kuin ne tuottavat tuloksen. Useimmat organisaatiot vastaavat tähän luotettavuusongelmaan tunnistaen sitä täysin.

Yleissääntöinen ratkaisu on tarkistaa tekoälyn tulokset käsin, mikä toimii, mutta rajoittaa dramaattisesti teknologian potentiaalia. Kun tekoäly on rajoitettu henkilökohtaiseksi avustajaksi — luomalla tekstiä, ottamalla kokousmuistiinpanoja, tiivistämällä asiakirjoja ja auttamalla koodauksessa — se tarjoaa vaatimattomia tuottavuuden parannuksia. Ei tarpeeksi vallankumouksellista taloutta.

Tekoälyn todelliset hyödyt tulevat, kun lopetamme sen käytön olemassa olevien tehtävien avustamiseen ja sen sijaan uudelleenohjaamme koko prosesseja, järjestelmiä ja yrityksiä käyttämään tekoälyä ilman ihmisen osallistumista jokaisessa vaiheessa. Tarkastele lainan käsittelyä: jos pankki antaa lainanmyöntäjille tekoälyavustajan lainahakemusten tiivistämiseen, he voivat työskennellä 20-30 % nopeammin. Mutta tekoälyn käyttöönotto koko päätöksenteon käsittelyyn ( asianmukaisin varotoimin ) voisi leikata kustannuksia yli 90 %:lla ja poistaa lähes kaiken käsittelyajan. Tämä on ero vähäisen parantamisen ja muodonmuutoksen välillä.

Luotettavan tekoälyn toteutuksen tie

Tekoälyn täysimääräisen potentiaalin hyödyntäminen ilman sen ennalta arvaamattomuuden antautumista vaatii monimutkaisen teknisten lähestymistapojen ja strategisen ajattelun yhdistelmän. Vaikka useat nykyiset menetelmät tarjoavat osittaisia ratkaisuja, jokaisella on merkittäviä rajoituksia.

Jotkut organisaatiot yrittävät lieventää luotettavuusongelmia järjestelmän vihjaamisen kautta — ohjaamalla tekoälyn käyttäytymistä toivottuihin suuntiin, jotta se reagoi tiettyihin syötteisiin. Anthropic-tutkijat osoittivat tämän lähestymistavan haavoittuvuuden tunnistamalla “Golden Gate Bridge -ominaisuuden” Clauden neuroverkossa ja kiihdyttämällä sitä keinotekoisesti, jolloin Claude kehitti identiteettikriisin. Kun sitä kysyttiin fyysisestä muodosta, se ei tunnustanut olemattomuuttaan, vaan väitti olevansa itse Golden Gate Bridge. Tämä koe osoitti, miten helposti mallin perustoimintoja voidaan muuttaa ja miten jokainen vihjaus edustaa kompromissia, joka parantaa yhtä suorituskyvyn osa-aluetta samalla heikentäen toista.

Toinen lähestymistapa on tekoälyn valvonta toisen tekoälyn avulla. Vaikka tämä kerroksellinen lähestymistapa voi havaita joitakin virheitä, se esittää lisää monimutkaisuutta ja jää lyhyeksi kattavasta luotettavuudesta. Kiinteät esteet ovat suorempaa väliintuloa, kuten estämällä vastauksia, jotka sisältävät tiettyjä avainsanoja tai malleja, kuten aseiden valmistuksessa tarvittavat aineet. Vaikka ne ovat tehokkaita tunnettuja ongelmia vastaan, ne eivät voi ennakoida uusia ongelmallisia tulosteita, jotka nousevat näistä monimutkaisista järjestelmistä.

Tehokkaampi lähestymistapa on tekoälykeskeisten prosessien luominen, jotka voivat toimia itsenäisesti, ihmisen valvonnan strategisesti sijoitettuna havaitsemaan luotettavuusongelmat ennen kuin ne aiheuttavat todellisia ongelmia. Et haluaisi tekoälyn suoraan hyväksyvän tai hylkäsevän lainahakemuksia, mutta tekoäly voisi tehdä alustavan arvion, jonka ihmiset voivat tarkastella. Tämä voi toimia, mutta se riippuu ihmisten valppaudesta tekoälyn virheiden havaitsemiseksi ja heikentää tekoälyn käytön mahdollisia tehokkuusparannuksia.

Tulevaisuuden rakentaminen

Nämä osittaiset ratkaisut osoittavat kattavamman lähestymistavan. Organisaatiot, jotka perustavat työnsä uudelleen tekoälyn ympärille eivät vain lisää tekoälyavustajia olemassa oleviin prosesseihin, vaan saavat suurimman edun. Mutta tekoäly ei koskaan pitäisi olla viimeinen askel korkean panoksen prosessissa tai päätöksenteossa, joten mikä on paras etenemisen tie?

Ensinnäkin, tekoäly luo toistettavan prosessin, joka toimii luotettavasti ja avoimesti ja tuottaa johdonmukaisia tuloksia. Toiseksi, ihmiset tarkastavat prosessin varmistamaan, että he ymmärtävät, miten se toimii, ja että syötteet ovat asianmukaisia. Lopuksi prosessi toimii itsenäisesti — ilman tekoälyä — ja tuloksia tarkastetaan säännöllisesti.

Tarkastele vakuutusala. Perinteinen lähestymistapa lisäisi tekoälyavustajia vakuutusväittäjien avuksi tehokkaamman työskentelyn mahdollistamiseksi. Vallankumouksellisempi lähestymistapa käyttäisi tekoälyä uusien työkalujen kehittämiseen — kuten tietokoneavusteista näköaistiutkimusta, joka analysoi vahinkojen valokuvia tai parantaa petosmallien tunnistamista, jotka tunnistavat epäilyttäviä malleja — ja yhdistäisi nämä työkalut automaattisiin järjestelmiin, joita ohjataan selkeiden, ymmärrettävien sääntöjen mukaan. Ihmiset suunnittelisivat ja valvoisivat näitä järjestelmiä eivätkä käsittelevät yksittäisiä väittämiä.

Tämä lähestymistapa ylläpitää ihmisen valvontaa kriittisimmässä kohdassa, jossa se on tärkeintä: järjestelmän itsensä suunnittelussa ja validoinnissa. Se mahdollistaa eksponentiaalisen tehokkuuden parantamisen samalla, kun poistaa riskin, että tekoälyn ennalta arvaamattomuus johtaa haitallisiin tuloksiin yksittäisissä tapauksissa.

Tekoäly voi tunnistaa potentiaalisia maksukykyindikaattoreita transaktiotiedoissa. Esimerkiksi asiantuntijat voivat arvioida näitä indikaattoreita reiluudesta ja luoda eksplisiittisiä, ymmärrettäviä malleja vahvistamaan niiden ennustevoimaa.

Tämä lähestymistapa selitettävään tekoälyyn luo selkeämmän eron organisaatioiden välille, jotka käyttävät tekoälyä pintapuolisesti, ja niiden, jotka muokkaavat toimintansa sen ympärille. Jälkimmäiset vetävät yhä enemmän etumatkaa alan johtajina, jotka pystyvät tarjoamaan tuotteita ja palveluita hintapisteissä, joita kilpailijat eivät voi vastata.

Toisin kuin mustalaatikko-tekoly, selitettävät tekoälyjärjestelmät varmistavat, että ihmiset ylläpitävät merkityllistä valvontaa teknologian soveltamisesta, luoden tulevaisuuden, jossa tekoäly täydentää ihmisen potentiaalia eikä korvaa ainoastaan ihmistyötä.