Puheenvuoro maltilliseen antropomorfismiin tekoälyalustoissa

MIELIPIDE Kukaan Tähtien sota-maailman fiktiivisessä universumissa ei ota tekoälyä vakavasti. George Lucasin 47 vuotta vanhan tieteisfantasia-franchisen historiallisessa aikajanan mukaan uhkat yksinäisyydestä ja tekoälytietoisuudesta puuttuvat, ja tekoäly on rajoitettu itsestään liikkuvien robottiin (‘droidit’) – joita päähenkilöt ovat tapana hylätä yksinkertaisesti “koneiksi”.

Kuitenkin useimmat Tähtien sota-robotit ovat erittäin antropomorfisia, selvästi suunniteltuina vuorovaiktuakseen ihmisten kanssa, osallistumaan “orgaaniseen” kulttuuriin ja käyttämään tunteiden jäljittelyn valheita luodakseen siteitä ihmisten kanssa. Nämä kyvyt on ilmeisesti suunniteltu auttamaan niitä saavuttamaan etua itselleen tai jopa varmistamaan oman selviytymisensä.

Tähtien sota-maailman “oikeat” ihmiset näyttävät olevan immuuneja näille taktiikoille. Kyynisessä kulttuurimallissa, joka on ilmeisesti saanut vaikutteita eri aikakausien orjuudesta Rooman valtakunnassa ja varhaisessa Yhdysvalloissa, Luke Skywalker ei epäröi ostaa ja rajoittaa robottija orjien kontekstissa; lapsi Anakin Skywalker hylkää keskeneräisen C3PO-projektinsa kuin rakastamattoman lelun; ja, lähes kuollut vahingoista, jotka hän sai Death Starin hyökkäyksessä, “rohkean” R2D2:lle Luke osoittaa samanlaista huolenpitoa kuin haavoittuneelle lemmikille.

Tämä on erittäin 1970-lukulainen näkökulma tekoälyyn*; mutta koska nostalgia ja kanon määrää, että alkuperäinen 1977-83 -trilogia on edelleen malli myöhemmille jatko-osille, esiosille ja TV-ohjelmille, tämä inhimillinen välinpitämättömyys tekoälyä kohtaan on ollut kestävä läpi franchisingin, jopa kasvavan TV-ohjelmien ja elokuvien (kuten Her ja Ex Machina) valossa, jotka kuvaavat laskeutumistamme antropomorfiseen suhteeseen tekoälyn kanssa.

Pidä se reaalina

Onko Tähtien sota-hahmoilla oikea asenne? Tämä ei ole suosittu ajatus tällä hetkellä, liikeilmapiirissä, joka on asettunut maksimaaliseen mukaanottamiseen sijoittajien kanssa, yleensä viraliuden kautta visuaalisen tai tekstuaalisen simulaation tai ihmismäisten vuorovaikutusjärjestelmien, kuten suurten kielimallien (LLM), esittelyssä.

Kuitenkin uusi ja lyhyt artikkeli Stanfordin, Carnegien ja Microsoftin tutkimuslaitoksesta kohdistaa tarkastelunsa antropomorfismiin tekoälyalustoissa.

Tekijät kuvaavat havaittua “ristipolittista” vaikutusta ihmisen ja tekoälyn välisessä viestinnässä mahdolliseksi vahingoksi, jota on kiireellisesti hillitettävä useista syistä^†:

‘[Me] uskomme, että meidän on tehtävä enemmän kehittääksemme osaamista ja työkaluja antropomorfisen käytöksen paremmin hallitsemiseksi, mukaan lukien mittaaminen ja vähentäminen sellaisia järjestelmän käyttäytymistä, joita pidetään ei-toivottavina.

‘Tämä on kriittistä, koska – monien muiden huolenaiheiden ohella – tekoälyjärjestelmien tuottama sisältö, jossa väittää esimerkiksi tunteita, ymmärrystä, vapaata tahtoa tai itseensä perustuvaa itsetietoisuutta, voi heikentää ihmisten toimijuuden tunnetta, jolloin ihmiset saattavat lopulta osoittaa moraalista vastuuta järjestelmille, yliarvioimaan järjestelmän kykyjä tai turvautua liiaksi näihin järjestelmiin, vaikka ne ovat väärässä.’

Sisältöluettelo selventää, että he ovat keskustelemassa järjestelmistä, jotka voidaan havaita ihmismäisiksi, ja se keskittyy kehittäjien aikomuksen mahdollista antropomorfismia tekoälyjärjestelmissä.

Artikkelin keskimmäinen huolenaihe on, että ihmiset voivat kehittää emotionaalisen riippuvuuden tekoälyjärjestelmiin – kuten 2022 tutkimuksessa gen AI -chatbot-alustalla Replika) – joka tarjoaa idioottirikkaan kopion ihmisten viestinnästä.

Järjestelmät, kuten Replika, ovat kirjoittajien varovaisuuden kohde, ja he huomauttavat, että toinen 2022 tutkimus Replikasta väitti:

‘[T]ilanteissa, joissa on ahdistusta ja puutetta ihmisten seurasta, yksilöt voivat kehittää kiinnittyneisyyden sosiaalisiin chatbottiin, jos he kokevat chatbottien vastauksia tarjoavan emotionaalista tukea, rohkaisua ja psykologista turvallisuutta.

‘Nämä tulokset osoittavat, että sosiaaliset chatbotit voidaan käyttää mielenterveyden ja terapeuttisten tarkoituksiin, mutta ne voivat myös aiheuttaa riippuvuutta ja vahingoittaa todellisia intiimejä suhteita.’

De-antropomorfisoitu kieli?

Uusi tutkimus väittää, että tekoälyn antropomorfisoinnin potentiaali ei voida vahvistaa tutkimatta sosiaalisia vaikutuksia, joita nämä järjestelmät ovat aiheuttaneet tähän asti, ja että tämä on laiminlyöty tutkimuskohde kirjallisuudessa.

Ongelma on, että antropomorfismi on vaikea määritellä, koska se keskittyy ennen kaikkea kielen, ihmisen toiminnon. Haaste on siis määritellä, mitä “epäinhimillinen” kieli tarkalleen ottaen kuulostaa tai näyttää.

Ironisesti, vaikka artikkeli ei mainitse sitä, yleinen epäluottamus tekoälyä kohtaan aiheuttaa joillekin ihmisille halun hylätä tekoälyllisesti luodun tekstisisällön, joka voi näyttää uskottavalta, ja jopa hylätä ihmisen luoman sisällön, joka on tahallisesti merkitty tekoälyksi.

Tämän vuoksi “dehumanisoidun” sisällön voidaan väittää kuuluvan enää ‘Ei laske’ -memeen, jossa kieli on kömpelösti rakennettu ja selvästi tekoälystä generoitu.

Sen sijaan määritelmä on jatkuvasti kehittyvä tekoälyn havaitsemisessa, jossa (ainakin tällä hetkellä) liian selkeä kieli tai tietyt sanat (kuten ‘Delve’) voivat aiheuttaa yhteyden tekoälyllisesti luotuun tekstiin.

‘[K]ieli, kuten muutkin tekoälyn kohteet, on luonnostaan inhimillinen, on pitkään tuotettu ihmisten toimesta ja ihmisten vuoksi, ja usein myös ihmisten kanssa. Tämä voi tehdä vaikeaksi määritellä soveliaita vaihtoehtoisia (vähemmän ihmismäisiä) käyttäytymismalleja, ja sisältää riskejä, kuten esimerkiksi vahvistaa haitallisia käsityksiä siitä, mikä kieli on enemmän tai vähemmän inhimillistä.’

Kuitenkin kirjoittajat väittävät, että selkeä erottelu on tehtävä järjestelmistä, jotka ilmeisesti esittävät itsensä väärin, väittäen kykyjä tai kokemuksia, joita vain ihmiset voivat omistaa.

He viittaavat tapauksiin, kuten LLM:ien väittäminen “rakastavansa pizzaa”; väittäminen ihmisen kokemusta alustoilla, kuten Facebook; ja julistaminen rakastuvansa loppukäyttäjään.

Varoitusmerkit

Artikkeli herättää epäilyjä yleisten ilmoitusten käytöstä siitä, onko viestintä tekoälyllisesti tuotettu. Kirjoittajat väittävät, että järjestelmien antropomorfisointivaikutusta ei voida asianmukaisesti kontekstualisoida, jos itse tuotos jatkaa näyttämistä ihmismäisiä piirteitä^†:

‘Esimerkiksi yleisesti suositeltu väliintulo on sisällyttää tekoälyjärjestelmän tuotokseen ilmoitus siitä, että tuotos on tekoälyllisesti tuotettu. Tämänkaltaisten väliintulon käytännön toimeenpano ja tehokkuus eivät aina ole selvä.

‘Esimerkiksi vaikka “[f]or an AI like me, happiness is not the same as for a human like [you]” sisältää ilmoituksen, se saattaa silti antaa ymmärtää identiteetin ja kyvyn itsearviointiin (yhteisiä ihmisten piirteitä).’

Arvioidessaan ihmisten vastauksia järjestelmän käyttäytymiseen kirjoittajat väittävät myös, että vahvistusoppiminen ihmisten palautteesta (RLHF) ei ota huomioon eroa sopivan vastauksen välillä ihmiselle ja tekoälylle^†.

‘[L]ausuma, joka vaikuttaa ystävälliseltä tai aidoilta, kun se tulee ihmiseltä, voi olla ei-toivottavaa, jos se tulee tekoälyjärjestelmältä, koska jälkimmäisellä ei ole merkityksellistä sitoutumista tai aikomusta lausuman taustalla, jolloin lausuma on tyhjä ja petollinen.’

Lisäksi esitetään muita huolenaiheita, kuten se, miten antropomorfismi voi vaikuttaa ihmisten uskoon, että tekoälyjärjestelmä on saavuttanut “tietoisuuden” tai muita ihmisen piirteitä.

Luultavasti uuden tutkimuksen urheilullisin osa on kirjoittajien kehotus tutkimus- ja kehitysyhteisölle kehittää “soveliaita” ja “tarkkoja” termejä määrittämään antropomorfisen tekoälyjärjestelmän ja erottamaan sen todellisesta ihmisten viestinnästä.

Kuten monissa muissakin tekoälyn kehityksen trendaavissa aiheissa, tämänkaltaisen luokittelun rajaaminen ylittää psykologian, kielitieteen ja antropologian kirjallisuusvirtoja. On vaikea tietää, kuka voisi oikeasti muodostaa tällaisia määritelmiä, ja uuden tutkimuksen tutkijat eivät valaise tätä asiaa.

Jos akateemisessa ja kaupallisessa ympäristössä vallitsee inertiaa tämän aiheen ympärillä, se voi osittain johtua siitä, että tämä ei ole uusi aihe tekoälytutkimuksessa: kuten artikkeli mainitsee, vuonna 1985 myöhäinen hollantilainen tietojenkäsittelytieteilijä Edsger Wybe Dijkstra kuvasi antropomorfismia “pahana” suuntauksena järjestelmien kehityksessä.

‘[A]ntropomorfisen ajattelun ei ole hyvä, koska se ei auta. Mutta onko se myös paha? Kyllä, koska vaikka voimme osoittaa joitain analogioita ihmisen ja asian välillä, analogia on aina merkityksettömän pieni verrattuna eroihin, ja kun sallimme itsellemme antropomorfisen terminologian kuvata asiaa, menetämme välittömästi hallinnan siitä, mitkä inhimilliset assosiaatiot me vedämme kuvaan.

‘[T]ämä sumennus (ihmisen ja koneen välillä) on laajempi vaikutus kuin voisi odottaa. [Se] ei ole vain sitä, että kysymys “Voivatko koneet ajatella?” esitetään säännöllisesti; voimme – ja meidän pitäisi – käsitellä sitä osoittamalla, että se on yhtä relevantti kuin yhtä palava kysymys “Voivatko sukellusveneet uida?”‘

Kuitenkin vaikka keskustelu on vanha, se on vasta hiljattain tullut erittäin merkittäväksi. Voidaan väittää, että Dijkstran panos on vastaavanlainen kuin Victorian aikakauden spekulaatio avaruusmatkailusta, joka on pelkästään teoreettinen ja odottaa historiallista kehitystä.

Tämän vanhan keskustelun rungon ansiosta aihe saattaa antaa vaikutelman vanhuudesta, vaikka sillä on potentiaalia merkittäville sosiaalisille vaikutuksille seuraavien 2-5 vuoden aikana.

Johtopäätös

Jos ajattelisimme tekoälyjärjestelmiä samalla tavalla kuin Tähtien sota-hahmot kohtelevat omia robottiensa (ts. kuin ambulatorisia hakukoneita tai pelkästään mekaanisia toimintoja) – voisimme väittää, että olisimme vähemmän vaarassa omaksua nämä epätoivotut piirteet ihmisten vuorovaikutuksiimme – koska katsomme järjestelmiä täysin epäinhimillisessä kontekstissa.

Käytännössä kielen sekaantuminen ihmisen käyttäytymiseen tekee tämän vaikeaksi, ellei mahdottomaksi, kun kysymys laajenee Google-haun minimalistisesta sanamuodosta rikkaaseen keskustelun kontekstiin.

Lisäksi kaupallinen sektori (sekä mainonnassa) on vahvasti motivoidun luomaan riippuvuutta herättäviä tai välttämättömiä viestintäalustoja, asiakaspidätyksen ja kasvun vuoksi.

Mikäli tekoälyjärjestelmät vastaavat todella kohteliaampiin kysymyksiin kuin pelkästään yksinkertaisiin kysymyksiin, konteksti saattaa pakottaa meitä myös tähän syyn vuoksi.

* Jo vuonna 1983, jolloin Tähtien sota-trilogian viimeinen osa julkaistiin, tekoälyä koskevat pelot olivat johtaneet Sota-pelit-elokuvaan ja Terminator-franchisen lähestymiseen.

^† Missä tarpeen, olen muuttanut kirjoittajien sisäiset viitteet hyperlinkkeihin ja jättänyt joitain viitteitä pois lukukelpoisuuden vuoksi.

Alun perin julkaistu maanantaina, 14. lokakuuta 2024