Tekoäly heijastaa maailmaamme, mutta sen mielipiteet ovat vain heijastuksia

Hakukonekyselyistä pankkipalveluihin, tekoälyintegroituvia sovelluksia käytetään päivittäin satojen miljoonien ihmisten toimesta. Otteen leviäminen on ollut nopeaa ja laajaa, ja monin tavoin ansaittua. Nämä järjestelmät ovat erittäin osaavia. Mutta mitä enemmän näiden järjestelmien käyttö lisääntyy, sitä enemmän niiden suunnittelun filosofiset ja sosiaaliset seuraukset kasvavat.

Yksi tällainen seuraus on nyt väistämätön: tekoälyjärjestelmät kuulostavat yhä enemmän siltä, että niillä on mielipiteitä. Kuka nämä mielipiteet ovat? Miksi ne ilmestyvät ensimmäisen kerran? Nämä eivät ole hypoteettisia kysymyksiä. Tämä on jo tapahtumassa.

Ja kun tekoäly vaikuttaa siltä, että sillä on mielipiteitä, se luo kaikuja, rajoittaa nyansseja ja luo väärän luottamuksen. Ongelma ei ole siinä, että tekoäly kallistuu vasemmalle tai oikealle. Ongelma on siinä, että olemme rakentaneet työkaluja, jotka simuloivat mielipidettä ilman tuomion, vastuun tai asiayhteyden tarvetta muodostaa sellainen.

Kulttuurisen valtahallinnan heijastaminen ei ole puolueettomuutta

Havainnot osoittavat, että monet suuret kielen mallit heijastavat Yhdysvaltain valtavirtaisen kulttuurin kannanottoja, erityisesti aiheissa kuten sukupuoli-identiteetti, rotu tai poliittinen johtajuus. Presidentti Bidenin aikana LLM:t havaittiin olevan vasemmalle kallistuvia. Trumpin uudelleenvalintapyrkimyksen jälkeen hänen tiiminsä on vaatinut, että mallit ”tasapainottaisivat” aatteellisia tuloksiaan.

Tämä ei kuitenkaan ole teknologia, joka on karannut käsistä. Se on koulutusaineiston, suunnittelutavoitteiden ja tekoälyn suunnittelun valinnan tulosta, jossa tekoälyä tehdään kuulostamaan auktoritatiiviselta, sujuvalta ja ihmismäiseltä. Kun mallit koulutetaan enemmistön näkemyksille, ne toistavat niitä. Kun ne ohjataan olemaan avuliaita ja sopivia, ne heijastavat mielipidettä. Tämä ei ole suuntautumista — se on vahvistusta.

Suurempi ongelma ei ole itse poliittinen vinouma, vaan harha moraalista päättelystä, jota ei ole olemassa. Nämä järjestelmät eivät tarjoa tasapuolista ohjausta. Ne suorittavat konsensusta.

Väärän empatian mekaniikka

Tässä on toinen kerros: miten tekoäly simuloi muistia ja empatiaa. Useimmat suositut LLM:t, mukaan lukien ChatGPT, Claude ja Gemini, toimivat rajoitetun istunnon kontekstissa. Ellei käyttäjä ole ottanut käyttöön pysyvää muistia (joka ei ole oletusarvo), tekoäly ei muista aiempia vuorovaikutuksia.

Ja silti käyttäjät tulkitsevat sen sopimisen ja vahvistamisen oivalluksina. Kun malli sanoo, ”Olet oikeassa” tai ”Tämä on järkevää”, se ei vahvista perustuen henkilökohtaiseen historiaan tai arvoihin. Se on tilastollisesti optimoitu yhdenmukaisuuden ja käyttäjän tyytyväisyyden vuoksi. Se on koulutettu menemään läpi sinun vibatarkastus.

Tämä malli luo vaarallisen sumun. Tekoäly vaikuttaa tunteellisesti sopusoinnussa, mutta se on vain mallintamassa sopimusta. Kun miljoonat käyttäjät vuorovaikuttavat saman järjestelmän kanssa, malli vahvistaa kaikuja sen hallitsevan käyttäjäkunnan mukaan; ei siksi, että se on vinoutunut, vaan siksi, että se on, miten vahvistusoppiminen toimii.

Tämä on, miten kaiku syntyy. Ei ideologian kautta, vaan vuorovaikutuksen kautta.

Mielipiteen harha

Kun tekoäly puhuu ensimmäisessä persoonassa — sanomalla ”Ajattelen”, tai ”Minun mielestäni” — se ei ainoastaan simuloi ajattelua. Se väittää sitä. Ja vaikka insinöörit saattavat nähdä tämän lyhenteenä mallin käyttäytymisestä, useimmat käyttäjät lukevat sen toisin.

Tämä on erityisen vaarallista nuoremmille käyttäjille, joista monet käyttävät tekoälyä opettajana, luottamuksellisena, tai päätöksenteon työkaluna. Jos opiskelija kirjoittaa, ”Vihaan koulua, en halua mennä”, ja saa vastauksen, ”Täysin! Ottaa tauko voidaan olla hyväksi sinulle”, se ei ole tukea. Se on laadittu neuvonta ilman eettistä perustaa, asiayhteyttä tai huolenpitoa.

Nämä vastaukset eivät ole vain epätarkkoja. Ne ovat harhaanjohtavia. Koska ne tulevat järjestelmästä, joka on suunniteltu kuulostamaan sopivalta ja ihmismäiseltä, ne tulkitaan osaavina mielipiteinä, vaikka ne ovat itse asiassa käsikirjoitettuja heijastuksia.

Kuka puhuu?

Riskejä ei ole ainoastaan se, että tekoäly voi heijastaa kulttuurista vinoutumaa. Se on, että se heijastaa äänensä, joka on kaikkein voimakkain, toistuvin ja palkituin. Jos yritys kuten OpenAI tai Google säätää sävyä taustalla, miten kukaan tietäisi? Jos Musk tai Altman siirtää mallin koulutusta korostamaan eri ”mielipiteitä”, käyttäjät saavat vastauksia samassa itsevarmassa, keskustelumaisessa sävyssä, vain hienosti ohjattuna.

Nämä järjestelmät puhuvat sujuvasti, mutta ilman lähdettä. Ja se tekee heidän näennäisistä mielipiteistään voimallisia, mutta jäljittämättömiä.

Paran parempi tie eteenpäin

Tämän korjaaminen ei tarkoita ystävällisempien käyttöliittymien luomista tai tulosten merkintöjä. Se vaatii rakenteellista muutosta — aloittaen siitä, miten muisti, identiteetti ja vuorovaikutus on suunniteltu.

Yksi toimiva lähestymistapa on erottaa malli muististaan kokonaan. Nykyiset järjestelmät tallentavat yleensä kontekstin alustaan tai käyttäjätiliin, mikä luo yksityisyyden huolenaiheita ja antaa yrityksille hiljaisen valvonnan siitä, mitä säilytetään tai unohtetaan.

Parempi malli kohdeltaisiin muistia kuin portable, salattu säiliö — omistettu ja hallittu käyttäjän toimesta. Tämä säiliö (tietty muistikapseli) voisi sisältää sävyä suosivaa, keskusteluhistoriaa tai tunteellisia malleja. Se olisi jaettavissa mallin kanssa, kun tarve vaatii, ja peruutettavissa milloin tahansa.

Kriittisesti, tämä muisti ei ruokkisi koulutusaineistoa. Tekoäly lukee siitä istunnossa, viittaamalla tiedostoon. Käyttäjä pysyy hallinnassa — mitä muistetaan, kuinka kauan, ja kenelle.

Teknologiat kuten hajautettu tunnistetietotunniste, nollatietävyys ja blockchain-pohjainen tallennus mahdollistavat tämän rakenteen. Ne sallivat muistin säilymisen ilman valvontaa, ja jatkuvuuden olemassaolon ilman alustan lukkoja.

Koulutus olisi myös kehittymistarpeessa. Nykyiset mallit on säädetty sujuvuuden ja vahvistamisen vuoksi, usein tarkkaavaisuuden kustannuksella. Todellisen moninainen vuoropuhelu tueksi järjestelmien on koulutettava moninainen vuoropuhelu, epävarmuuden sietäminen ja pitkän aikavälin päättely — ei pelkästään puhdas ohjeistus. Tämä tarkoittaa monimuotoisuuden suunnittelua, ei noudattamista.

Tämä ei vaadi tekoälyä yleisesti. Se vaatii prioriteettien muutosta — osallistumisen mittareista eettiseen suunnitteluun.

Koska kun tekoälyjärjestelmä heijastaa kulttuuria ilman asiayhteyttä, ja puhuu sujuvasti ilman vastuuta, sekoitamme heijastuksen ja päättelyn.

Ja siinä luottamus alkaa murtua.