Tekoälyn inhimillistämisen riskit

Tekoälyn tuottama sisältö muistuttaa läheisesti ihmisen puhetta. Keskustelubotit voivat vastata kysymyksiin, käydä keskusteluja, vaikuttaa tunteikkailta, kertoa vitsejä ja muuttaa sävyään lennossa. Nämä ominaisuudet tekevät tekoälystä hyödyllisen ja kiinnostavan, mutta voivat myös saada ihmiset inhimillistämään sitä eli kohtelemaan sitä ikään kuin sillä olisi inhimillisiä ominaisuuksia, tunteita tai aikomuksia. Vaikka tällainen käyttäytyminen on luontaista, siitä voi tulla riskialtista, jos käyttäjät unohtavat, että tekoäly vain jäljittelee ihmisten välistä viestintää. 

Miksi ihmiset inhimillistävät tekoälyä?

Tekoälyä inhimillistetään, kun ihmiset alkavat kohdella sitä ikään kuin sillä olisi inhimillisiä ominaisuuksia, ajatuksia tai tunteita. Näin voi käydä tekoälyn viestintätavan ja sen suunnittelun vuoksi.

Tekoälyjärjestelmät käyttävät ihmisen puhetta muistuttavaa keskustelukieltä. Tekoäly voi esimerkiksi sanoa, että se ”ymmärtää” kysymyksen, ”ajattelee” vastauksen olevan hyödyllinen tai ”pahoittelee” virhettä. Vaikka tällaiset ilmaukset saavat vuorovaikutuksen tuntumaan luontevalta, ne voivat myös saada käyttäjät uskomaan, että tekoäly todella ajattelee tai tuntee. Tätä ilmiötä kutsutaan ELIZA-ilmiöksi. Se on saanut nimensä chatbot ELIZAn mukaan. Joseph Weizenbaum loi ELIZAn vuonna 1966.

Myös tekoälyn nimeäminen ihmisen mukaan tai sille annettu ihmismäinen ääni, kasvot tai persoonallisuus voivat saada sen vaikuttamaan enemmän ihmiseltä kuin tietokoneohjelmalta. Mitä realistisemmalta vuorovaikutus tuntuu, sitä helpommin käyttäjät suhtautuvat tekoälyyn sosiaalisesti.

Lopuksi ihmiset inhimillistävät tekoälyä myös siksi, että se on ihmispsykologialle luontaista. Ihmiset etsivät luonnostaan tunteita, aikomuksia ja persoonallisuuksia asioista, jotka viestivät heidän kanssaan, liittämällä ei-inhimillisiin kohteisiin inhimillisiä piirteitä. Lapset inhimillistävät leluja, kun taas aikuiset tekevät niin brändien kohdalla. Kun tekoäly siis vastaa keskustelunomaisesti, muistaa aiemmat keskustelut ja vaikuttaa empaattiselta, käyttäjät saattavat olettaa, että tällaisen käyttäytymisen taustalla on mieli. 

Tekoälyn inhimillistämisen vaarat

Kun tekoälyn viestintä ja vuorovaikutus käyttäjien kanssa muuttuvat yhä ihmismäisemmiksi, sen inhimillistäminen voi aiheuttaa useita riskejä, jotka vaikuttavat ihmisten ajatteluun, käyttäytymiseen ja päätöksentekoon. 

Perusteeton luottamus

Tekoälyn inhimillistäminen voi saada käyttäjät luottamaan sen vastauksiin liikaa. Kun tekoäly kuulostaa itsevarmalta, asiantuntevalta ja ihmismäiseltä, käyttäjät saattavat olettaa sen antamien tietojen olevan paikkansapitäviä. Generatiivinen tekoäly voi kuitenkin antaa virheellistä tai harhaanjohtavaa tietoa vakuuttavasti. 

Tällainen perusteeton luottamus voi olla vaarallista, kun tekoälyä käytetään lääketieteellisissä, taloudellisissa, oikeudellisissa, koulutukseen liittyvissä tai ammatillisissa päätöksissä. Ihmismäinen vastaus ei takaa paikkansapitävyyttä tai hyvää harkintaa. Tekoälyn on jopa tiedetty antavan tekaistuja terveysneuvoja käyttäjille.

Emotionaalinen riippuvuus

Tekoälyn inhimillistäminen voi johtaa siihen, että käyttäjät tulevat emotionaalisesti riippuvaisiksi keskusteluboteista. Koska tekoäly voi vastata välittömästi, muistaa yksityiskohtia, tarjota tukea ja jäljitellä empatiaa, käyttäjät saattavat alkaa pitää sitä ystävänä, neuvonantajana tai romanttisena kumppanina.

Huoli syntyy, kun tekoälystä tulee ihmissuhteiden korvike. Tekoäly voi jäljitellä välittämistä ja empatiaa, mutta se ei todella koe tunteita eikä muodosta ihmissuhteita. Käyttäjät saattavat siksi erehtyä pitämään simuloitua kumppanuutta todellisena yhteytenä. Riski voi olla suurempi nuoremmille tai haavoittuvassa asemassa oleville käyttäjille, jotka saattavat kiintyä tekoälyyn, koska se on aina saatavilla, kärsivällinen ja vastaanottavainen.

Tietoturvaongelmat

Tekoälyn inhimillistäminen voi aiheuttaa yksityisyyteen, tietoturvaan ja etiikkaan liittyviä riskejä. Kun käyttäjät pitävät tekoälyä luotettuna kumppanina, he saattavat jakaa henkilökohtaisia tai luottamuksellisia tietoja miettimättä, miten niitä voidaan tallentaa tai käyttää.

Ihmismäinen tekoäly voi myös tehdä huijauksista uskottavampia. Rikolliset voivat käyttää tekoälyn luomia ääniä, kuvia ja viestejä esiintyäkseen oikeina ihmisinä tai luotettuina organisaatioina, jolloin petoksia on vaikeampi tunnistaa.

Lisääntynyt manipulointi

Ihmismäinen tekoäly voi tehdä manipuloinnista uskottavampaa. Kun tekoäly vaikuttaa ystävälliseltä, luotettavalta tai arvovaltaiselta, käyttäjät saattavat herkemmin noudattaa sen ehdotuksia tai uskoa sen väitteitä. Belgialaismiehen kerrottiin esimerkiksi kärsineen pahenevasta ilmastoahdistuksesta keskusteltuaan pitkään chatbotin kanssa. Lopulta tekoäly kannusti häntä tekemään itsemurhan pelastaakseen planeetan.

Tätä voidaan käyttää ihmisten taivutteluun ostamaan tuotteita, jakamaan henkilökohtaisia tietoja tai hyväksymään harhaanjohtavaa tietoa. Riski kasvaa, jos käyttäjät eivät ymmärrä olevansa vuorovaikutuksessa tekoälyn kanssa. Teknologian muuttuessa yhä realistisemmaksi on entistä vaikeampi tunnistaa, tuleeko viesti oikealta ihmiseltä vai tekoälyjärjestelmältä.

Vaaralliset inhimillistetyn tekoälyn muodot

Kaikki inhimillistetty tekoäly ei aiheuta samanlaisia riskejä. Erityistä huolta herättävät kolme muotoa: ihmissuhteiden, elävien ihmisten ja historiallisten henkilöiden jäljittely.

1. Ihmissuhteiden jäljitelmät

Ihmissuhteita jäljittelevä tekoäly on suunniteltu käyttäytymään kuin ystävä, seuralainen, neuvonantaja tai romanttinen kumppani. Nämä järjestelmät voivat tarjota jatkuvaa huomiota ja yksilöllisiä vastauksia, mikä voi saada vuorovaikutuksen tuntumaan läheisemmältä kuin tavallisen ohjelmiston käyttö.

Vaarana on, että käyttäjät alkavat pitää suhdetta emotionaalisesti merkityksellisenä. He saattavat uskoa, että tekoäly välittää heistä, ymmärtää heitä tai tarvitsee heitä, vaikka se ei koe tällaisia tunteita. Tämä voi lisätä emotionaalista riippuvuutta ja mahdollisesti vähentää käyttäjän halua hakeutua ihmisten seuraan. Riski ei ole teoreettinen. Eräs nainen rakastui luomaansa ChatGPT-poikaystävään. Hän keskusteli sen kanssa yli 20 tuntia viikossa. Erään viikon aikana hän vietti sovelluksessa lähes 60 tuntia eli keskimäärin kahdeksan tuntia päivässä.

2. Elävien ihmisten simulaatiot

Tekoäly voi myös luoda syväväärennöksiä elävien ihmisten jäljittelemiseksi käyttämällä heidän nimiään, ulkonäköään, ääntään, kirjoitustyyliään tai keskustelutapojaan. Järjestelmä voidaan suunnitella muistuttamaan julkisuuden henkilöä, muuta tunnettua henkilöä, perheenjäsentä, työntekijää tai jotakuta muuta tunnistettavissa olevaa ihmistä.

Tämä herättää vakavia kysymyksiä suostumuksesta, identiteetistä, yksityisyydestä ja harhaanjohtamisesta. Henkilö voidaan saada näyttämään siltä, että hän sanoo jotain, mitä ei ole koskaan sanonut, tai kannattaa jotain, mitä ei ole koskaan tukenut. Mitä enemmän simulaatio muistuttaa todellista henkilöä, sitä vaikeampi yleisön voi olla erottaa esitys todellisuudesta.

3. Historiallisten henkilöiden simulaatiot

Myös historiallisia henkilöitä voidaan jäljitellä tekoälyn avulla. Käyttäjät voivat olla vuorovaikutuksessa simulaatioiden kanssa, jotka perustuvat tunnettuihin johtajiin, kirjailijoihin, tutkijoihin, filosofeihin tai taiteilijoihin.

Näillä järjestelmillä voi olla opetuksellista arvoa. Tekoälysimulaatio voi esimerkiksi tehdä historiasta vuorovaikutteisempaa esittämällä tiettyyn henkilöön liittyviä ajatuksia. Simulaatio on kuitenkin vain tulkinta, ei kyseinen historiallinen henkilö. Tekoälyn on muodostettava vastauksensa saatavilla olevien tietojen perusteella, ja vastaukset voivat heijastaa nykyajan oletuksia, puutteellisia lähteitä tai koulutusdatan vinoumia.

Jos tällaista simulaatiota kohdellaan kuin se todella puhuisi historiallisen henkilön puolesta, se voi vääristää käsitystä historiasta. Se voi myös antaa tekoälyn tuottamille lausunnoille perusteettoman auktoriteetin.

Tekoälyn ihmismäinen käyttäytyminen ei todista, että se olisi tietoinen

Tärkeä ero, joka on syytä muistaa, on se, että ihmismäinen käyttäytyminen ei tarkoita, että tekoäly olisi tietoinen. Tekoälyjärjestelmät pystyvät tuottamaan monipuolista kieltä, tunnistamaan malleja, reagoimaan asiayhteyteen ja jäljittelemään tunteiden ilmaisua, mutta nämä kyvyt eivät todista, että niillä olisi tietoisuus.

Tietoisuus tarkoittaa subjektiivisia kokemuksia, kuten kivun, ilon tai pelon tuntemista. Kun tekoäly sanoo ”Pelkään”, se vastaa ohjelmointinsa ja koulutuksensa perusteella. Tämä vastaus ei todista, että tekoäly todella tuntisi pelkoa.

Tekoälyn vastuullinen käyttö

Tekoälyn inhimillistäminen on luonnollinen reaktio teknologiaan, joka viestii ihmisen tavoin, mutta se voi aiheuttaa todellisia riskejä. Väärään kohdistuva luottamus, emotionaalinen riippuvuus, yksityisyyteen liittyvät huolet ja tietoturvauhat voivat olla seurauksena siitä, että käyttäjät unohtavat tekoälyn olevan kone. Ihmissuhteiden, elävien ihmisten ja historiallisten henkilöiden simulaatiot voivat tehdä tämän rajan tunnistamisesta entistä vaikeampaa. 

Tekoäly voi kuulostaa välittävältä, älykkäältä tai tunteelliselta, mutta se ei tarkoita, että se olisi tietoinen. Kun käyttäjät tiedostavat tekoälyn rajoitukset, suojaavat henkilötietojaan ja tarkistavat tärkeät tiedot, he voivat hyötyä tekoälystä ja käyttää sitä vastuullisesti.