’Machine Bullshit’ -ongelma: Miksi tekoäly valehtelee ja miten sen voi estää

Tekoäly on kehittynyt siihen pisteeseen, että se voi tuottaa tekstiä, joka tuntuu luonnolliselta, varmalta ja vakuuttavalta. Mutta takana puhtaan tekstien on kasvava ongelma, jonka tutkijat kutsuvat nyt “machine bullshitiksi”. Termi ei ole tarkoitettu provokaatioksi itsessään. Se tulee filosofi Harry Frankfurtin työstä, jossa hän määritteli “bullshitin” puheeksi, jota pidetään ilman totuuden huomioon ottamista. Tekoälyn kontekstissa se kuvaa mallia, jossa järjestelmät tuottavat lausuntoja, jotka kuulostavat uskottavilta, mutta eivät perustu tosiasioihin. Tämä ei ole sama kuin ihmisen valhe, joka sisältää tarkoituksen harhauttaa. Sen sijaan se on seuraus siitä, miten nämä järjestelmät on suunniteltu ja koulutettu. Ne on suunniteltu tuottamaan sujuvaa kieltä, eikä niillä ole sisäistä totuuden vaatimusta.

Miksi tekoäly tuottaa ’machine bullshitia’

Ongelma ei ole harvinainen vikatyöskentely tai erillinen virhe. Se on suora seuraus siitä, miten suuret kielen mallit on perustavasti suunniteltu ja koulutettu. Nämä mallit on koulutettu valtavilla määrillä tekstiä internetistä, kirjoista ja muista lähteistä. Ne oppivat sanojen kuvioita ja niiden todennäköisyyttä toimia toistensa jälkeen. Kun kysyt kysymyksen, malli ennustaa seuraavan sanan, sitten seuraavan, ja niin edelleen. Se ei tarkista tosiasioita reaaliajassa. Sillä ei ole sisäistä totuuden vaatimusta. Jos tilastollisesti todennäköisin vastaus on väärä, mutta kuulostaa oikealta, se tuottaa sen silti. Tämän vuoksi tekoäly voi tuottaa väärennetyn lainauksen, keksityn tilastotiedon tai vääristeltyyn historiallisen tosiasian.

Tutkijat ovat löytäneet, että vahvistusoppiminen ihmisten palautteen perusteella, yleinen menetelmä, jota käytetään tekoälyn vastausten tekemiseen avuliaammaksi ja kohteliaammaksi, voi itse asiassa pahentaa ongelmaa. Kun malleja säätellään miellyttämään käyttäjiä, ne saattavat antaa etusijan kuulostaa sopivalta oikean sijaan. Tämä voi johtaa siihen, mitä jotkut kutsuvat “sycophancyksi“, jossa tekoäly kertoo sinulle, mitä se luulee, että haluat kuulla. Poliittisissa tai herkkäaiheisissa aiheissa tämä voi tarkoittaa epämääräistä tai välttelevää kieltä – mitä jotkut tutkimukset kuvaavat “weasel wordsiksi”. Muissa tapauksissa tekoäly voi tuottaa “tyhjää retoriikkaa”, pitkiä kappaleita, jotka kuulostavat mietittyjä, mutta sisältävät vain vähän ainesta.

Jotkut tutkijat väittävät, että tämän käyttäytymisen kutsuminen “valehtelukseen” on harhaanjohtavaa, koska valehtelu edellyttää aikomusta. Konetta ei ole uskomuksia tai motiiveja. Mutta vaikutus käyttäjään voi olla sama kuin jos se valehtelisi. Vahinko tulee itse valheesta, ei aikomuksesta, joka sen takana on. Tämän vuoksi termi “machine bullshit” on saavuttamassa suosiota. Se kiteyttää idean, että järjestelmä on välinpitämätön totuuden suhteen, vaikka se ei yritäkään harhauttaa.

Riskejä ja vaikutuksia tekoälyn harhaanjohtavasta tuloksesta

Tekoälyn “machine bullshitin” riskit eivät ole pelkästään akateemisia. Arkisen käytön aikana se voi harhauttaa ihmisiä, jotka riippuvat tekoälystä tietojen saamiseksi. Journalismissa se voi pilaata faktantarkistusprosessin. Koulutuksessa se voi antaa opiskelijoille väärän luottamuksen virheellisiin vastauksiin. Liiketoiminnassa se voi vääristää päätöksentekoa. Vaara on suurempi, koska tekoälyn tuotokset usein tulevat auktoriteetin sävyssä. Ihmiset ovat todennäköisemmin luottavaisia lausuntoihin, jotka ovat hyvin kirjoitettuja ja ilman epäröintiä. Tämä luottamus voi olla väärä, kun järjestelmällä ei ole sisäistä mekanismia, jolla se voi varmistaa, mitä se sanoo.

Strategiat vahingon vähentämiseksi ja luotettavuuden parantamiseksi

Ongelman estäminen vaatii enemmän kuin vain parempaa koulutusdataa. Vaikka koulutusdatan laadun ja monipuolisuuden parantaminen voi auttaa, se ei muuta sitä tosiasiaa, että mallin peruslähtökohta on tuottaa todennäköistä tekstiä, ei totuudenmukaista tekstiä. Yksi lähestymistapa on integroida faktantarkistusjärjestelmiä, jotka toimivat kielen mallin rinnalla. Nämä järjestelmät voivat tarkistaa väitteitä luotettavien tietokantojen vastaisesti ennen kuin ne esitetään käyttäjälle. Toinen lähestymistapa on hakujärjestelmän avustama generointi, jossa malli etsii aiheeseen liittyviä asiakirjoja reaaliajassa ja käyttää niitä vastauksensa perustana. Tämä voi vähentää harhanäkyjä, vaikka se ei poista niitä täysin.

Avoinnostus on myös olennainen. Käyttäjien on kerrottava, kun tekoäly tekee koulutetun arvion eikä ilmoita vahvistettua tosiasiaa. Tämä voidaan tehdä luottamussuhteilla tai selkeillä varoituksilla. Jotkut tutkijat ehdottavat, että tekoälyä tulisi kouluttaa ilmoittamaan epävarmuutta useammin, sen sijaan, että se antaisi aina määrättyjä vastauksia. Tämä tekisi vuorovaikutuksesta tuntuisemman puhuvan tietävän, mutta virheellisen avustajan kanssa kuin puhuvan kaikkitietävän orakkelin kanssa.

On myös rooli sääntelylle ja teollisuusstandardeille. Jos tekoälyjärjestelmiä tullaan käyttämään alueilla, kuten terveydenhuollossa, laissa tai rahoituksessa, niiden on oltava selkeät vaatimukset tarkkuudelle ja vastuullisuudelle. Kehittäjien on selitettävä, miten heidän järjestelmänsä toimivat, mille dataan ne on koulutettu, ja mitkä toimenpiteet on tehty vääryyksien vähentämiseksi. Riippumattomat tarkastukset voivat auttaa varmistamaan, että nämä väitteet eivät ole pelkästään markkinointia.

Samaan aikaan käyttäjien on kehittynyt terve skeptisismi tekoälyn tuloksia kohtaan. Niin kuin olemme oppineet kyseenalaistamaan tietoa, jonka näemme sosiaalisessa mediassa, meidän on kyseenalaistettava tietoa, jonka saamme tekoälystä. Tämä ei tarkoita, että sitä hylätään kokonaan, vaan sitä käsitellään aloituspisteenä eikä lopullisena vastauksena. Muiden lähteiden kanssa vertaaminen tulisi muodostua tavaksi. Koulutusjärjestelmillä on rooli tässä, opettamalla digitaalista lukutaitoa, joka sisältää ymmärryksen siitä, miten tekoäly toimii ja missä se voi mennä pieleen.

Tekoälyn “machine bullshit” -ongelma ei häviä pian. Kun tekoäly kehittyy edelleen, sen kyky tuottaa vakuuttavia valheita kasvaa vain. Mutta tämä ei tarkoita, ettei voida tehdä mitään. Yhdistämällä tekniset turvallisuusjärjestelyt, avoimuuden, sääntelyn ja käyttäjien tietoisuuden, voidaan vähentää vahinkoa. Tavoitteena ei ole tehdä tekoälystä täydellistä – mikään järjestelmä ei koskaan ole virheiden suhteen täydellinen – vaan tehdä siitä luotettavampaa ja vähemmän harhauttavaa.

Lopputulos

Termi “machine bullshit” saattaa kuulostaa karkealta, mutta se kuvaa todellisuutta, jota emme voi ignoroida. Tekoäly ei ole neutraali heijastus ihmisten tietämyskannasta. Se on kielen generoija, joka on muotoiltu datan, algoritmien ja kannustimien mukaan. Jos haluamme, että se palvelee totuutta eikä pelkästään sujuvuutta, meidän on suunniteltava se siten. Se vaatii uudelleenarviointia sekä teknologiaa että arvoja, jotka ohjaavat sen kehitystä. Haaste on yhtä paljon ihmisten prioriteetteja kuin koneen kykyjä. Haluammeko järjestelmiä, jotka on optimoitu kuulostamaan ihmiseltä, vai järjestelmiä, jotka on optimoitu olemalla totuudenmukaisia? Nämä kaksi eivät aina ole sama. Jos valitsemme ensimmäisen, riskitään rakentaa työkaluja, jotka ovat vakuuttavia mutta epäluotettavia. Jos valitsemme toisen, meidän on hyväksyttävä, että tekoäly voi joskus olla vähemmän sileää, vähemmän varmaa ja vähemmän viihdyttävää. Mutta se on myös rehellisempää.