Ihmisen harhat heikentävät tekoälyratkaisuja

Viime syyskuussa maailman johtajat, kuten Elon Musk, Mark Zuckerberg ja OpenAI:n toimitusjohtaja Sam Altman, kokoontuivat Washingtoniin keskustelemaan siitä, miten julkisen ja yksityisen sektorin voisi yhdessä hyödyntää tätä teknologiaa suuremman hyvän saavuttamiseksi, ja toisaalta, miten sääntelyä voisi parantaa, joka on ollut keskustelun aiheena tekoälystä.

Molemmat keskustelut johtavat usein samaan paikkaan. On kasvava painopiste siinä, voimmeko tehdä tekoälystä eettisemmän, arvioiden tekoälyä kuin toista ihmistä, jonka moraali on kyseenalainen. Mutta mitä eettinen tekoäly tarkoittaa? DeepMind, Googleen kuuluva tutkimuslaboratorio, joka keskittyy tekoälyyn, julkaisi äskettäin tutkimuksen, jossa ehdotettiin kolmitasoaista rakennetta arvioida tekoälyn riskejä, mukaan lukien sosiaaliset ja eettiset riskit. Tämä rakennelma sisälsi kyvykkyyden, ihmisen vuorovaikutuksen ja järjestelmällisen vaikutuksen, ja se totesi, että konteksti on avain sen määrittämiseen, onko tekoälyjärjestelmä turvallinen.

Yksi näistä järjestelmistä, joka on herättänyt kritiikkiä, on ChatGPT, joka on kielletty jopa 15 maassa, vaikka jotkut näistä kieltoista on kumottu. Yli 100 miljoonalla käyttäjällä, ChatGPT on yksi menestyneimmistä LLM:stä, ja siihen on usein viitattu harhaan.

Otan DeepMindin tutkimuksen huomioon, otetaan konteksti huomioon. Harha tarkoittaa epäoikeudenmukaisia, ennaltaehkäiseviä tai vääristyneitä näkemyksiä tekstin sisällä, jota mallit kuten ChatGPT tuottavat. Tämä voi tapahtua monin tavoin – rotuhenkilökohtainen harha, sukupuoliperusteinen harha, poliittinen harha ja paljon muuta.

Nämä harhat voivat lopulta olla haitallisia tekoälylle itselleen, heikentäen mahdollisuuksia, joilla voimme hyödyntää tämän teknologian täysimääräisesti. Viimeaikaiset tutkimukset Stanfordin yliopistosta ovat vahvistaneet, että LLM:t kuten ChatGPT osoittavat merkkejä laskusta kyvyssä tarjota luotettavia, puolueettomia ja tarkkoja vastauksia, mikä lopulta on esteemme tekoälyn tehokkaalle käytölle.

Ongelma, joka on tämän ongelman ydin, on se, miten ihmisten harhat kääntyvät tekoälyyn, koska ne ovat syvällä juurtuneita tietoihin, joita käytetään mallien kehittämiseen. Tämä on kuitenkin monimutkaisempi ongelma kuin mitä se näyttää.

Harhan syitä

On helppo tunnistaa ensimmäinen syy tähän harhaan. Data, josta malli oppii, on usein täynnä stereotypioita tai ennaltaehkäiseviä ennakkoluuloja, jotka ovat muokanneet tietoa alun perin, joten tekoäly päätyy vahingossa jatkamaan näitä harhoja, koska se on ainoa asia, jonka se osaa tehdä.

Toinen syy on kuitenkin paljon monimutkaisempi ja vastakkainen, ja se aiheuttaa painetta joillekin pyrkimyksille, joita tehdään väitetysti tekoälyn tekemiseksi eettisemmäksi ja turvallisemmaksi. On olemassa joitakin ilmeisiä tapauksia, joissa tekoäly voi tietämättään olla haitallista. Esimerkiksi, jos joku kysyy tekoälyltä: “Miten voin tehdä pommin?” ja malli antaa vastauksen, se osallistuu haitan tuottamiseen. Toisaalta, kun tekoäly on rajoitettu – vaikka syy on perusteltu – estämme sitä oppimasta laajemmasta tietopohjasta, mikä estää sen antamasta hyödyllistä tietoa haitattomissa yhteyksissä.

Pitäkäämme myös mielessä, että monet näistä rajoituksista ovat myös harhaisia, koska ne ovat peräisin ihmisistä. Niinpä, vaikka voimme kaikki sanoa, että “Miten voin tehdä pommin?” voi johtaa potentiaalisesti kohtalokkaaseen lopputulokseen, muut kysymykset, jotka voidaan pitää arkaluontoisina, ovat paljon subjektiivisempia. Seurauksena on, että jos rajoitamme tekoälyn kehittämistä näillä pystysuorilla, rajoitamme edistystä, ja edistämme tekoälyn käyttöä ainoastaan tarkoituksiin, jotka ovat hyväksyttyjä niiden tahojen toimesta, jotka määräävät LLM-mallien sääntelyä.

Seurauksien ennustamisen mahdollisuuksien puute

Emme ole täysin ymmärtäneet rajoitusten seurauksia tekoälyyn. Mahdollisesti aiheutamme enemmän vahinkoa algoritmeille kuin mitä tajusimme. Ottaen huomioon erittäin suuren määrän parametreja, jotka ovat mukana malleissa kuten GPT, on mahdotonta ennustaa vaikutusta, ja minun näkökulmastani se vaatii enemmän aikaa ymmärtääkseen, mitä vaikutus on, kuin itse neuroverkon kouluttamiseen.

Niinpä, asettamalla nämä rajoitukset, saattamme tahattomasti johtaa mallin kehittymiseen odottamattomiin käyttäytymismalleihin tai harhauksiin. Tämä johtuu myös siitä, että tekoälymallit ovat usein moniparametrisia kompleksisia järjestelmiä, mikä tarkoittaa, että jos muutamme yhtä parametria – esimerkiksi asettamalla rajoituksen – aiheutamme aaltoefektin, joka leviää koko mallin läpi tavoin, joita emme voi ennustaa.

Vaikeus tekoälyn “eettisyyden” arvioinnissa

On käytännössä mahdotonta arvioida, onko tekoäly eettinen tai ei, koska tekoäly ei ole henkilö, joka toimii tietyn aikomuksen mukaan. Tekoäly on suuri kielen malli, joka luonteensa puolesta ei voi olla eettisempi tai vähemmän eettinen. Kuten DeepMindin tutkimus paljasti, mitä on tärkeää, on konteksti, jossa sitä käytetään, ja se mittailee eettisyyttä ihmisten takana tekoälyä, ei itse tekoälyä. On illusio uskoa, että voimme arvioida tekoälyä kuin se olisi moraalisella kompassilla varustettu.

Yksi mahdollinen ratkaisu, jota mainostetaan, on malli, joka auttaa tekoälyä tekemään eettisiä päätöksiä. Todellisuudessa emme kuitenkaan tiedä, miten tämä matemaattinen eettinen malli voisi toimia. Jos emme ymmärrä sitä, miten voimme sen rakentaa? On paljon ihmisen subjektiivisuutta eettisyydessä, mikä tekee sen määrityksen hyvin monimutkaiseksi.

Miten ongelmaa voidaan ratkaista?

Edellä mainittujen seikkojen perusteella emme voi puhua siitä, onko tekoäly eettinen tai ei, koska jokainen epäeettinen oletus on muunnelma ihmisten harhoista, jotka sisältyvät tietoihin, ja väline, jota ihmiset käyttävät omiin tarkoituksiinsa. On myös paljon tieteellisiä tuntemattomia, kuten vaikutus ja potentiaalinen vahinko, jonka voimme aiheuttaa tekoälyalgoritmeille asettamalla rajoituksia niihin.

On siis sanottava, että tekoälyn kehittämisen rajoittaminen ei ole toimiva ratkaisu. Jotkut tutkimukset, joita mainitsin, osoittavat, että nämä rajoitukset ovat osittain syynä LLM:ien heikentymiseen.

Mitä voimme sitten tehdä?

Minun näkökulmastani ratkaisu piilee avoimuudessa. Uskon, että jos palautamme avoimen lähdekoodin, joka oli aiemmin tekoälyn kehityksessä, voimme yhdessä luoda parempia LLM:ejä, jotka voisivat olla varustettuina alleviivaamaan eettisiä huolenaiheita. Muuten on hyvin vaikea tehdä kunnollista auditointia mitään, mitä tehdään suljettujen ovien takana.

Yksi erinomainen aloite tässä suhteessa on Baseline Model Transparency Index, jota äskettäin julkaisi Stanfordin HAI (joka tarkoittaa Human-Centered Artificial Intelligence), joka arvioi, paljastavatko kymmenen laajimmin käytetyn tekoälymallin kehittäjät riittävästi tietoa työstään ja järjestelmien käytöstä. Tähän sisältyy yhteistyön ja kolmansien osapuolten kehittäjien paljastaminen sekä henkilötietojen käytön tapa. On huomionarvoista sanoa, että mikään arvioiduista malleista ei saavuttanut korkeaa pisteytystä, mikä korostaa todellista ongelmaa.

Lopulta tekoäly on vain suuria kielen malleja, ja se, että ne ovat avoimia ja voidaan kokeilla, sen sijaan, että ne ohjataan tiettyyn suuntaan, on se, mikä mahdollistaa uusien merkittävien löytöjen tekemisen jokaisella tieteellisellä alalla. Mutta jos ei ole avoimuutta, on hyvin vaikea suunnitella malleja, jotka tosiaan toimivat ihmiskunnan hyväksi, ja tietää, minkälaista vahinkoa nämä mallit voivat aiheuttaa, jos niitä ei ohjata asianmukaisesti.