Emme enää kohdista tekoälyjä. Emme kohdista sivilisaatioita

Useita vuosia tekoälyssä (AI) keskeinen kysymys oli, miten kohdistaa tekoälymallit ihmisten arvoihin. Tutkijat yrittivät määritellä turvallisuussääntöjä, eettisiä periaatteita ja valvontamekanismeja, jotka ohjaavat tekoälyn päätöksiä. Tämä työ saavutti merkittävän edistymisen. Mutta nyt, kun nämä tekoälyjärjestelmät kasvavat yhä kykyisemmiksi ja laajemmiksi, kohdistamisen painopiste alkaa muuttua. Se, mikä aluksi oli yhden mallin kohdistamisen yhteen ohjeisiin, on nyt muuttunut paljon suuremmaksi haasteeksi: kohdistamaan kokonaisia sivilisaatioita, jotka käyttävät näitä järjestelmiä maailmanlaajuisesti. Tekoäly ei ole enää vain työkalu. Se kehittyy ympäristöksi, jossa yhteiskunnat työskentelevät, viestivät, neuvottelevat ja kilpailevat. Tämän seurauksena kohdistaminen ei ole enää pelkästään tekninen ongelma. Se on muuttunut sivilisaatioiden ongelman. Tässä artikkelissa selitän, miksi kohdistaminen ei ole enää vain mallien kohdistamista, vaan miksi meidän on aloitettava ajattelu sivilisaatioiden ehdoilla. Käsittelen myös, miten tämä muutos vaikuttaa vastuullemme ja mitä se merkitsee globaalille yhteistyölle.

Kenen arvot tekoäly todella edustaa?

Kun kysyt tekoälyltä herkkästä historiallisesta tapahtumasta, sen vastaus riippuu siitä, mille datasta se on opittu. Jos data tulee pääasiassa länsimaisesta internetistä, vastaus on länsimaisen vallitsevan kulttuurin mukainen. Se priorisoi individualismia, avointa puhetta ja demokraattisia ihanteita. Nämä ovat hyviä arvoja monille ihmisille. Mutta ne eivät ole ainoat arvot maailmassa.

Käyttäjä Singaporessa, käyttäjä Riyadissa ja käyttäjä San Franciscossa ovat eri mieltä siitä, mikä on “hyödyllistä” ja mikä on “vahingollista”. Joissakin kulttuureissa sosiaalinen harmonia on tärkeämpää kuin ehdoton sananvapaus. Toisissa kulttuureissa hierarkian kunnioitus on tärkeämpää kuin keskeyttäminen.

Kun Silicon Valley -yhtiö käyttää “Reinforcement Learning from Human Feedback” (RLHF):ää, he palkkaavat ihmisiä arvioimaan tekoälyn vastauksia. Mutta ketkä nämä ihmiset ovat? Mitkä ovat heidän uskomuksensa? Jos he kohdistavat mallin amerikkalaisiin standardeihin, he rakentavat vahingossa amerikkalaisen kulttuuriexportin. He rakentavat digitaalisen diplomaatin, joka pakottaa yhden tietyn sivilisaation sääntöjä maailman loppuun.

Palautusilmakierrosten nousu

Haaste ei ole vain se, että tekoäly heijastaa yhden kulttuurin uskomuksia. Se on, miten nämä uskomukset voivat muuttaa meitä. Nykyaikaiset tekoälyjärjestelmät voivat muokata yksilöiden, organisaatioiden ja jopa maiden käyttäytymistä. Ne voivat vaikuttaa siihen, miten ajattelemme, työskentelemme, luotamme ja kilpailemme. Tämä luo palautusilmakierroksia tekoälyjärjestelmien ja ihmisyhteiskuntien välille; koulutamme tekoälyä ja tekoäly muokkaa sitä, miten ajattelemme ja toimimme. Nämä kierrokset voimistuvat, kun tekoälystä tulee yleisempää. Nähdäksesi, miten tämä palautusilmakierto toimii, tässä on kaksi esimerkkiä:

• Laajamittainen tekoälyn käyttöönotto muuttaa sosiaalista käyttäytymistä, ja sosiaalinen käyttäytymismuutos muuttaa dataa, joka kouluttaa uusia järjestelmiä. Esimerkiksi suosittelualgoritmi voi muokata sitä, mitä ihmiset katsovat, lukevat ja uskovat. Tuottavuustyökalut muuttavat sitä, miten tiimit työskentelevät ja miten opiskelijat oppivat. Nämä käyttäytymisen muutokset muuttavat datakuoria eri katselutottumuksina, työpaikkakommunikaatiomalleina tai kirjoitustyylinä. Kun tämä data virtaa tuleviin koulutusdataan, mallit sovittavat oletuksiaan ja tuloksiaan vastaavasti. Ihmisen käyttäytyminen muokkaa malleja, ja mallit puolestaan muokkaavat ihmisen käyttäytymistä.
• Automaattiset päätöstyökalut vaikuttavat julkisiin päätöksiin, ja julkiset päätöksiin vaikuttavat tulevat mallikoulutukset. Esimerkiksi monet hallitukset käyttävät nykyään tekoälyä ehdottamaan, mihin resursseja tulisi kohdistaa, kuten mihin naapurustoihin tarvitaan enemmän terveydenhuollon tukea tai mitkä alueet voivat nähdä korkeamman rikosriskin. Kun päättäjät toimivat näiden suositusten mukaisesti, näiden päätösten tulokset tulevat myöhemmin osaksi uusia datajoukkoja. Ajan myötä tekoälyyn perustuvat päätöksiin vaikuttavat seuraavien tekoälymallien koulutus.

Kun tunnistat tämän palautusilmakierroksen, käy selväksi, että tekoäly muokkaa hitaasti sivilisaatioita. Tämän seurauksena valtiot alkavat kysyä: Miten he voivat turvata arvojaan tekoälyn integroinnin aikana yhteiskuntaan ja instituutioihin?

Suvereenin tekoälyn nousu

Tämä kohdistamishaaste on herättänyt merkittävän reaktion hallituksissa maailmanlaajuisesti. Valtiot ovat tajunneet, että tuontitekoälyyn luottaminen on riski heidän suvereniteetilleen. He eivät voi maksaa sitä, että heidän kansalaisensa opetetaan, informoidaan ja neuvotaan mustasta laatikosta, joka ajattelee kuin vieras.

Tämä tajunta on johtanut “suvereenin tekoälyn” nousuun. Ranska sijoittaa voimakkaasti malleihin, jotka puhuvat ranskaa ja ymmärtävät ranskalaisen lain ja kulttuurin. Intia rakentaa kotoperäisiä tekoälymalleja varmistamaan kulttuurilliset arvonsa. Yhdistyneet arabiemiirikunnat ja Kiina rakentavat tekoälymalleja, jotka ovat kohdistettu heidän omiin kansallisiin visioihinsa.

Tämä on uusi asekilpailu. Se on kilpailu kertomuksen hallinnasta. Sivilisaatio, jolla ei ole omaa tekoälyä, menettää lopulta oman muistinsa. Jos lapsesi kysyy koneelta kysymyksen, ja kone vastaa toisen kulttuurin logiikalla, kulttuurisi alkaa kulua. Tämä tajunta voi kuitenkin johtaa erillisten digitaalisten lohkojen muodostumiseen. Päätyymme saattamaan lännessä tekoälyyn, Kiinan tekoälyyn, Intian tekoälyyn jne. Nämä järjestelmät toimivat eri tosiasioilla ja eri moraalisilla kompassilla. Nämä kehitykset osoittavat, että jos haluamme luoda yhden, oikeasti kohdistetun tekoälymallin, meidän on ensin löydettävä tapa kohdistaa sivilisaatioita.

Tarve diplomaattiseen tekoälyyn

Perinteinen kohdistaminen olettaa, että malli voidaan kohdistaa huolellisella koulutuksella, ohjauksella ja varotoimilla. Tämä ajattelu tulee varhaisen tekoälyturvallisuustutkimuksen teknisestä asenteesta. Mutta jopa täydellinen mallin kohdistaminen ei voi ratkaista sivilisaatioiden kohdistamisen haasteita. Kohdistaminen ei voi pysyä vakaana, kun yhteiskunnat vetävät vastakkaisiin suuntiin. Jos maat, yritykset ja yhteisöt ovat ristiriidassa tavoitteissaan, he työntävät tekoälyjärjestelmiä heijastamaan nämä ristiriidat. Nämä rajoitukset osoittavat, että kohdistaminen ei ole pelkästään tekninen ongelma. Se on hallinnon, kulttuurin ja koordinoinnin ongelma. Ja nämä ongelmat vaativat ei vain asiantuntijoita tai kehittäjiä. Ne vaativat koko sivilisaatioita.

Miten edetään? Jos hyväksymme, että yleinen kohdistaminen on mahdotonta, meidän on muutettava strategiaamme. Meidän on lopetettava etsiminen teknisestä korjauksesta filosofiseen ongelmaan. Meidän on aloitettava ajattelu diplomaattien tavoin. Meidän on rakennettava “sivilisaatioiden kohdistamisen” protokollat. Meidän on selvitettävä, miten tekoäly voi kunnioittaa yhteiskunnan uskomuksia ja arvoja ilman toisen kulttuurin uskomusten pakottamista. Toisin sanoen, meidän on luotava digitaalinen Yhdistyneet Kansakat algoritmeillemme.

Tämä vaatii avoimuutta. Tällä hetkellä emme tiedä, mitkä arvot ovat piilossa syvien neuroverkkojen kerroksissa. Me näemme vain tulosteen. Kohdistamaan sivilisaatioita meidän on oltava selkeä “perustuslaista” kunkin mallin. Mallin on ilmoitettava harhauttavuutensa. Se on sanottava: “Olen koulutettu tällä datalla, näillä turvallisuussäännöillä, priorisoiden nämä arvot.” Vasta kun harhauttavuus on näkyvissä, voimme luottaa järjestelmään. Käyttäjän on mahdollista vaihtaa näkökulmia. Voit kysyä kysymyksen ja nähdä, miten “länsimainen” malli vastaa verrattuna “itämaiseen” malliin. Tämä muuttaa tekoälyn työkaluksi ymmärtämiseen, ei aivopesuun.

Pohjimmiltaan

Olemme viettäneet liian paljon aikaa huolehtimalla Terminatorista. Todellinen riski ei ole se, että robotti tuhoaa meidät. Todellinen riski on se, että robotti saa meidät unohtamaan, keitä olemme. Kohdistaminen ei ole koodi, jonka voimme kirjoittaa kerran ja unohtaa. Se on jatkuva neuvottelu tekoälymallien kanssa, jotta ne pysyvät kohdistettuina uskomuksiimme ja arvoihimme. Se on poliittinen teko. Kun siirrymme tähän seuraavaan vaiheeseen älymäisen aikakauteen, meidän on katsettava ulos näytön ulkopuolelle. Meidän on tutkittava, miten tekoäly tulkitsee historian, rajojamme ja uskomuksiamme. Meidän on rakennettava mieli, jotka auttavat meitä hallitsemaan maailmaa. Meidän on varmistettava, että nämä mieli kunnioittavat sivilisaatioiden välisiä eroja.