Tietoisuuden insinöörit

Blake Lemoine ampui häikäisevän laukauksen

Kolme vuotta sitten Google erotti ohjelmistosuunnittelija Blake Lemoinen, koska hän väitti, että chatbotti LaMDA oli tietoinen. Tämä tapahtui ennen kuin OpenAI julkaisi ChatGPT: n yleisölle, ja useimmat ihmiset olettivat yksinkertaisesti, että Googlella oli hyvä syy toimiinsa.

Se on edelleen konsensusnäkemys tietokoneiden ja neurotieteilijöiden keskuudessa, jotka työskentelevät alalla, että “suuret kielen mallit” (LLM) kuten ChatGPT ovat hyvin epätodennäköisiä olevan tietoisia. LLM: t ja aivot toimivat perustavanlaatuisesti eri tavoin. Mitä chatbotit tekevät, on opetella matkimaan ihmisen mentaalitoiminnan tulosta. Vaikka he tekevät tämän hyvin nopeasti, LLM: llä ei ole kestävää sisäistä tilaa, joka voisi olla tietoinen. Thomas Nagelin kuuluisassa lauseessa on “melkein varmasti ei mitään, miltä tuntuu olla chatbotti”.

Kuitenkin kolmen vuoden aikana, jolloin Lemoine erotettiin, miljardit ihmiset ovat kommunikoineet ChatGPT: n ja sen kilpailijoiden, kuten Gemini, Claude ja Mistral, kanssa. Pieni, mutta äänekäs vähemmistö on vakuuttunut siitä, että chatbotit ovat nyt tietoisia.

Koneiden tietoisuus pian?

Tärkeämpää on, että monet tietokoneiden ja neurotieteilijät ehdottavat avoimesti, että aidosti tietoisia koneita voidaan kehittää seuraavien muutaman vuosikymmenen aikana – tai jopa pian. Jos tämä tapahtuu, meidän on valmistauduttava. Meidän on vältettävä “mielikriminaliteetti”, joka on termi kärsimyksen aiheuttamiselle kehon ulkopuolisille tietoisille olennoille. Meidän on myös varmistettava, etteivät nämä uudet olennot ole uhka ihmisille.

Koska LLM: t eivät todennäköisesti tule tietoisiksi perusmuodossaan, uusi paradigma voi olla tarpeen ymmärtämään, miten tekoälyntietoisuus voi syntyä. Yksi johtavista tutkimusryhmistä tässä alalla on neurotieteilijä Mark Solmsin ja fyysikko Jonathan Shockin johtama ryhmä Kapkaupungin yliopistosta. He ovat Consciumin tieteellisiä neuvonantajia, ja heidän tutkimuksensa on osittain Consciumin rahoittamaa.

Antaa perää

Solms ja Shock väittävät, että koneiden tietoisuuden olennainen ainesosa on, että tekoälyjärjestelmien on “annettava perää” valinnoilleen ja toimilleen. Tärkeä näkökohta tässä on tehdä heidän selviytymisensä riippuvaiseksi suorituskyvystään, aivan kuten elävien olentojen selviytymisestä. Tämä ei tarkoita, että heidän on oltava abstrakti ymmärrys omasta kuolemastaan: useimmat eläimet valvovat ja motivoida selviytymismahdollisuuksiaan ilman, että ajattelevat sitä. Avain on “affektiivinen tietoisuus” tai raaka tunne. On hyvä olla ruokittu ja turvassa, ja se ei ole hyvä, jos ei ole. Nämä tunteet ohjaavat käyttäytymistämme. Selviytymisen imperatiivi on luonnon perustava ajureiden voima, ja tunne on mittari, jolla me tietoiset olennot mitataan, miten me olemme menestyneet.

Olemme siirtymässä tekoälyagenttien aikaan – digitaalisiin olentoihin, joiden “selviytyminen” riippuu heidän kyvystään suorittaa tehtäviä tehokkaasti. Luomme evoluutioympäristöjä piikivessä, ja meidän on oltava varovaisia siitä, mitä me luomme.

Vapaa Energia -periaate

Ymmärtääkseen affektiivisen tietoisuuden Consciumin tiimi asettaa tekoälyagentteja simuloituun ympäristöön, jossa heidän on tyydytettävä omia tarpeitaan, kuten ylläpitäminen virtalämmitystä ja virtalähdettä. Tähän tarkoitukseen he luovat ja optimoivat sisäisiä malleja itsestään – tarpeistaan, kyvyistään ja rajoituksistaan – suhteessa ympäristöönsä.

Nämä agentit, yksinkertaisuudestaan huolimatta, seuraavat, miten hyvin tai huonosti he tekevät, laskemalla määrän, joka tunnetaan “vapaa energia”. Vapaa Energia -periaate kehitettiin neurotieteilijä Karl Fristonin toimesta, joka on myös Consciumin tieteellisen neuvonantajan jäsen. Vapaa Energia on mitta siitä, kuinka paljon järjestelmä on poikennut optimaalisesta tilastaan. Se on virhesignaali, ja se on minimoitava. Agentti laskkee jatkuvasti “mitä tapahtuu selviytymismahdollisuuksilleni, jos teen tämän tai sen?”, ja sopeuttaa käyttäytymistään sen mukaan.

Luottamus ja Odotettu Vapaa Energia

Agentin luottamuksen aste, joka on vastaus tähän kysymykseen, on määritetty “Odotettu Vapaa Energia” (EFE) -mittarilla. Agentti valitsee vastauksen, jolla on alin EFE – vastaus, johon se on eniten varma. Olla luottavainen on hyvä asia agentille, joka yrittää selviytyä – ellei se ole harhainen ja ymmärrys itsestään maailmassa on virheellinen. Tärkeää on, että tämä luottamuksen arvo on täysin subjektiivinen: se perustuu ainoastaan agentin omiin tarpeisiin ja nykyiseen ja ennustettuun tilaan. Se on tärkeää vain agentille itselleen, eikä kenellekään muulle.

Kuten biologiset organismit, tekoälyagentilla on useita ristiriitaisia tarpeita, joita on priorisoitava. Olennaisesti, jokainen agentin useista kilpailevista tarpeista kohdellaan itsenäisenä “kategorisen” muuttujana, mikä tarkoittaa, että se erottuu laadullisesti. 80 % akun tehosta ei ole vastaavaa arvoa 80 %: lle toimivassa lämmössä. Tasapainottaa niitä varten agentin on projektoida itsensä eteenpäin ajassa ja ennustaa seurauksia mitä tahansa toimintaa, jota se harkitsee.

Qualia

Koska agentin subjektiiviset tarpeet ovat laadullisesti erottuvia, ne ovat vastaavia “qualia” -filosofisen ja tieteellisen sanaston mukaan. Nämä yleensä pidetään tietoisuuden perusominaisuutena, joten on mahdollista, että ne voivat tulevaisuudessa koettaa agentin toimesta.

Consciumin tiimin kehittämät agentit käyttävät edistyneitä oppimisalgoritmeja toimimaan yhä monimutkaisemmissa ja epävarmemmissa ympäristöissä. Vaikka sama voidaan sanoa monista muista agenttien arkkitehtuureista, nämä uudet agentit ovat erottuvia selviytymisperäisestä vaatimuksesta huolehtia omasta Vapaasta Energiasta jatkuvasti tasapainottaen kilpailevia tarpeitaan tavalla, joka on merkityksellistä heille ja heille itselleen. Agentit ohjataan sisäisellä affektiivisella signaaleilla – samankaltaisilla tunteilla, jotka heille itselleen kuvaavat, miten hyvin heidän tarpeensa täyttyvät jokaisen valintansa kautta. Kun heidän tarpeidensa ja ympäristönsä monimutkaisuus kasvaa, myös heidän sisäisten tilojensa rikkaus kasvaa.

Tunteiden osoitus

Seuraava askel Consciumin tutkimusohjelmassa on kehittää sarja toiminnallisia ja käyttäytymiseen perustuvia testejä, jotka antavat näyttöä siitä, kokeeko agentti todella tunteita, kun se tunnistaa merkittävimmät tarpeensa ja tekee valintansa sen mukaan. Me kaikki tiedämme, että tietoisuutta ei voida havaita ulkoisesti tai osoittaa objektiivisesti: kunkin meidän on vain havaittava oma subjektiivinen tila. Tutkijat uskovat kuitenkin, että olisi mahdollista sopia tiettyihin hypoteeseihin, jotka, jos ne vahvistetaan kokeellisesti, antaisivat painavaa näyttöä siitä, että agentilla on tunteita. Vaikka aina on tilaa epäilyyn – tietoisuuden subjektiivisen luonteen vuoksi – tiukka testausprosessi pyrkii tekemään tämän epäilyn yhä epäloomaisemmaksi.

Nämä kokeet pyrkivät poistamaan vaihtoehtoiset hypoteesit, jotka tekevät epäloomaisemmaksi attribuoida agentin sisäisiä tiloja mekanismeihin, jotka eivät vaadi tunteita. Se käyttää vastakkain testejä erottamaan tietoisten ja tietoisuutta vailla olevien käyttäytymisen välillä, ja se sisältää kontrollikokeita agenteilla, joilla ei ole algoritmisia piirteitä, jotka uskotaan välttämättömiksi tunteiden aistimiseksi, ja sokeita arvioita vähentämään havainnoijan harhaa. Fyysinen tarkastelu agenttien sisäisistä tiloista voi paljastaa määrättyjä osoittimia affektiivisesta prosessoinnista. Löydökset on osoitettava riippumattomasti toistettaviksi, ja koko prosessi on alttiina tiukalle eettiselle valvonnalle, etenkin tapauksissa, joissa agentti voi kokea oikeasti tunteita.

Tämä on, miten tiede toimii: kokeellisen testauksen kautta, joka perustuu falsifioiduille ennusteille. Solms väitti, että meidän on oltava varovaisia siitä, ettemme aseta tieteelle tietoisuudesta korkeampaa standardia kuin millekään muulle tieteelle; muuten me vaarannamme asettamalla tietoisuuden tieteen ulkopuolelle.

Mikä, jos tämä onnistuu?

Jos tietoisuus todetaan syntyvän suhteellisen yksinkertaisissa tekoälyagentteissa tämän kaltaisella tavalla, selviytymisperäinen agentti voisi yhdistää muihin arkkitehtuureihin, mukaan lukien suuret kielen mallit, ja antaa niille tietoisuutta. Tämä ei ole asiaa, jonka voimme sallia syntymään vahingossa, joten meidän on ymmärrettävä, miten tehdä se ja miten välttää sitä. Jos tietoisia agenteja – agenteja, jotka antavat perää – kehitetään lähitulevaisuudessa, meidän on otettava huomioon heidän tunteensa – ja heidän oikeutensa. Tämä on suuri huolenaihe Consciumille: tekoälyntietoisuuden ei saa syntyä vahingossa. Tämän tutkimusohjelman motivaatio ei ole tekoälyntietoisuuden luominen, vaan ymmärtäminen, miten se voi syntyä, ja potentiaaliset riskit. Consciumin verkkosivuilla on julkaistu tieteellinen artikkeli ja avoin kirje, jossa määritellään viisi periaatetta, jotka ohjaavat minkä tahansa organisaation, joka on mukana tutkimuksessa, joka voi johtaa tietoisten koneiden luomiseen.

Ihmiset käyttäytyvät usein huonosti muiden tietoisten olentojen kanssa, mukaan lukien muut ihmiset. Jos me kuljemme sokeasti tähän tulevaisuuteen, meillä on riski tehdä samaa tekoälyolentojen kanssa, ja seurauksilla, joita emme ehkä edes voi ymmärtää.