Luottamus tekoälyyn – priorisoidaanko epävarmuuden määritys

Yhteiskunnan riippuvuus tekoälystä (AI) ja koneoppimissovelluksista jatkuu kasvamistaan, määrittelemällä uudelleen, miten tietoa kulutetaan. Tekoälyvoimaisista chatboteista suuriin kieliennustemalleihin (LLM) tuotettuihin tietojen yhdistelmiin, yhteiskunnalla on enemmän tietoa ja syvempiä oivalluksia kuin koskaan aiemmin. Teknologiayritykset kilpailevat tekoälyn käyttöönotossa arvoketjussaan, ja tärkeä kysymys nousee esiin. Voimmeko todella luottaa tekoälyratkaisujen tuloksiin?

Voimmeko todella luottaa tekoälytuloksiin ilman epävarmuuden määritystä

Tietylle syötteelle malli saattaa tuottaa useita yhtä todennäköisiä tuloksia. Tämä voi johtua riittämättömästä koulutusaineistosta, koulutusaineiston vaihtelusta tai muista syistä. Kun yritykset ottaa mallit käyttöön, ne voivat hyödyntää epävarmuuden määritystä antaakseen loppukäyttäjilleen selkeämmän käsityksen siitä, kuinka paljon heidän tulisi luottaa tekoäly-/koneoppimismallin tulokseen. Epävarmuuden määritys on prosessi, jossa arvioidaan, mitkä muut tulokset olisivat voineet olla.

Kuvitellaan malli, joka ennustaa huomisen korkeimman lämpötilan. Malli saattaa tuottaa tuloksen 21 astetta, mutta epävarmuuden määritys, jota sovelletaan tähän tulosarvoon, saattaa osoittaa, että malli olisi yhtä hyvin voinut tuottaa tulokset 12 astetta, 15 astetta tai 16 astetta; tietäen tämän, kuinka paljon me luotamme yksinkertaiseen ennusteeseen 20 asteen lämpötilasta? Vaikka sillä on potentiaalia herättää luottamusta tai varovaisuutta, monet yritykset päättävät jättää epävarmuuden määrityksen väliin johtuen siitä, että heidän on tehtävä lisää työtä sen toteuttamiseksi, sekä sen vaatimusten vuoksi laskentaresursseista ja päätöksenteon nopeudesta.

Ihminen silmukassa -järjestelmät, kuten lääketieteelliset diagnoosi- ja ennustejärjestelmät, sisältävät ihmisiä päätöksentekoprosessiin. Luottamalla sokeasti terveydenhuollon tekoäly-/koneoppimisratkaisujen tietoihin, terveydenhuollon ammattilaiset vaarantavat potilaan väärän diagnoosin, mikä voi johtaa heikkoon terveydenhuoltotulokseen – tai pahemminkin. Epävarmuuden määritys voi antaa terveydenhuollon ammattilaisille mahdollisuuden nähdä, miten paljon he voivat luottaa tekoälytuloksiin ja mitkä tulokset tulee kohdella varovaisuudella. Vastaavasti täysin automaattisessa järjestelmässä, kuten itseajavassa autossa, mallin tulos esteen etäisyyden arvioimiseksi voi johtaa onnettomuuteen, jota olisi voinut ehkäistä, jos epävarmuuden määritystä olisi käytetty etäisyysarvioon.

Haaste tekoäly-/koneoppimismallien luotettavuuden saavuttamisessa Monte Carlo -menetelmien avulla

Monte Carlo -menetelmät, jotka kehitettiin Manhattan-projektissa, ovat luotettava tapa suorittaa epävarmuuden määritys. Ne sisältävät algoritmien toistamisen useita kertoja hieman eri syötteillä, kunnes lisäiteraatiot eivät enää tarjoa paljon uutta tietoa tuloksissa; kun prosessi saavuttaa tämän tilan, sanotaan, että se on konvergoitunut. Monte Carlo -menetelmien haittapuolena on, että ne ovat tyypillisesti hitaita ja laskennallisia, vaativat useita toistoa peruslaskelmistaan saadakseen konvergoituneen tuloksen ja sisältävät luontaisen vaihtelun näiden tulosten välillä. Koska Monte Carlo -menetelmät käyttävät satunnaislukugeneraattorien tuloksia yhtenä avainrakenteena, jopa silloin, kun ajat Monte Carlo -menetelmän useilla sisäisillä toistoilla, tulokset muuttuvat, kun toistat prosessin samojen parametrejen kanssa.

Reitti kohti tekoäly-/koneoppimismallien luotettavuutta

Toisin kuin perinteiset palvelimet ja tekoälyyn erikoistuneet kiihdyttimet, uuden sukupolven laskentaplatformit kehitetään suoraan prosessoimaan empiirisiä todennäköisyysjakaumia samalla tavoin kuin perinteiset laskentaplatformit prosessoivat kokonaislukuja ja liukulukuja. Käyttämällä tekoälymallejaan näillä alustoilla, yritykset voivat automatisoida epävarmuuden määrityksen toteuttamisen ennalta koulutetuille malleilleen ja voivat myös nopeuttaa muita laskentatehtäviä, jotka ovat perinteisesti käyttäneet Monte Carlo -menetelmiä, kuten VaR-laskelmia rahoituksessa. Erityisesti VaR-skenaariossa tämä uuden sukupolven alustoja sallii yritysten työskennellä empiirisillä jakaumilla, jotka on rakennettu suoraan oikeasta markkinadatasta, eikä approksimoida näitä jakaumia satunnaislukugeneraattoreilla tuotetuilla näytteillä, tarkempien analyytikkojen ja nopeampien tulosten vuoksi.
Viimeaikaiset läpimurrot laskennassa ovat merkittävästi alentaneet esteitä epävarmuuden määritykselle. Viimeaikainen tutkimusartikkeli, jonka minun ja kollegoideni julkaisi Machine Learning With New Compute Paradigms -työpajassa NeurIPS 2024, korostaa, kuinka kehittämämme seuraavan sukupolven laskentaplatformin mahdollisti epävarmuuden määritysanalyysin suorittamisen yli 100-kertaisella nopeudella verrattuna perinteisiin Monte Carlo -pohjaisiin analyyseihin suoritettuna korkean tason Intel-Xeon-palvelimella. Tällaiset edistysaskeleet sallivat yritysten, jotka ottavat tekoälyratkaisuja käyttöön, toteuttaa epävarmuuden määrityksen helposti ja suorittaa sen matalilla kustannuksilla.

Tehtäväkohtaisen tekoälyn tulevaisuus riippuu edistyneestä seuraavan sukupolven laskennasta

Kun yritykset integroivat enemmän tekoälyratkaisuja yhteiskuntaan, tekoälyn luotettavuus tulee olemaan ensisijainen tavoite. Yritykset eivät voi enää tuhlata resurssejaan tekoälymallien toteuttamiseen ilman varmistamista, että loppukäyttäjät voivat tietää, milloin heidän tulisi suhtautua tiettyihin tekoälymallin tuloksiin epäilyksesti. Vaatimus sellaisille selitysmekanismeille ja epävarmuuden määritykselle on selvä, ja noin kolme neljästä ihmisestä ilmoittaa, että heidän luottamisensa tekoälyjärjestelmään lisääntyy, jos siihen on toteutettu asianmukaiset varmistusmekanismit.

Uudet laskentateknologiat tekevät siitä helpompaa toteuttaa ja käyttää epävarmuuden määritystä. Vaikka teollisuus ja sääntelyelimet kamppailevat muiden haasteiden kanssa, jotka liittyvät tekoälyn käyttöönottoon yhteiskunnassa, on ainakin mahdollisuus herättää luottamus, jota ihmiset vaativat, tekemällä epävarmuuden määrityksen tekoälykäyttöönoton normiksi.