Risikoene ved å antropomorfisere KI

KI-generert innhold ligner i stor grad på menneskelig tale. Chatboter kan svare på spørsmål, føre samtaler, vise tilsynelatende følelser, fortelle vitser og tilpasse tonen sin på direkten. Disse egenskapene gjør KI nyttig og engasjerende, men de kan også føre til at folk antropomorfiserer den, eller behandler den som om den har menneskelige egenskaper, følelser eller intensjoner. Selv om denne atferden er naturlig, kan den bli risikabel når brukerne glemmer at KI bare simulerer menneskelig kommunikasjon. 

Hvorfor menneskeliggjør folk KI?

KI antropomorfiseres når folk begynner å behandle den som om den har menneskelige egenskaper, tanker eller følelser. Dette kan skje på grunn av måten KI kommuniserer på, og hvordan den er utformet.

KIsystemer bruker et samtalepreget språk som ligner menneskelig tale. KI kan for eksempel si at den «forstår» et spørsmål, «synes» et svar er nyttig eller «beklager» en feil. Selv om slike formuleringer får samspillet til å virke naturlig, kan de også få brukerne til å tro at KI faktisk tenker eller føler. Dette fenomenet er kjent som ELIZA-effekten, oppkalt etter chatboten ELIZA, som ble utviklet av Joseph Weizenbaum i 1966.

Å gi KI et menneskelig navn, en menneskelig stemme eller et menneskelig ansikt, eller å gi den en personlighet, kan også få den til å virke mer som en person enn et dataprogram. Jo mer realistisk samspillet blir, desto lettere er det for brukerne å forholde seg sosialt til KI.

Til slutt antropomorfiserer folk KI fordi det ligger i menneskets natur. De ser naturlig etter følelser, intensjoner og personligheter hos ting som kommuniserer med dem, og tillegger ikke-menneskelige enheter menneskelignende trekk. Barn antropomorfiserer leker, mens voksne menneskeliggjør merkevarer. Når KI svarer samtalepreget, husker tidligere samtaler og virker empatisk, kan brukerne derfor anta at det finnes et sinn bak denne atferden. 

Farene ved antropomorfisering av KI

Etter hvert som KI blir stadig mer menneskelignende i måten den kommuniserer og samhandler med brukerne på, kan antropomorfisering medføre flere risikoer som påvirker hvordan folk tenker, oppfører seg og tar beslutninger. 

Feilplassert tillit

Antropomorfisering av KI kan føre til at brukerne stoler for mye på svarene den gir. Når KI høres sikker, kunnskapsrik og menneskelignende ut, kan brukerne anta at informasjonen er korrekt. Generativ KI kan imidlertid gi uriktig eller villedende informasjon samtidig som den høres overbevisende ut. 

Denne feilplasserte tilliten kan være farlig når KI brukes til medisinske, økonomiske, juridiske, utdanningsrelaterte eller yrkesmessige beslutninger. Et menneskelignende svar er ingen garanti for at det er korrekt eller bygger på godt skjønn. KI har faktisk vært kjent for å gi falske helseråd til brukere.

Emosjonell avhengighet

Antropomorfisering av KI kan føre til at brukerne blir følelsesmessig avhengige av chatboter. Fordi KI kan svare umiddelbart, huske detaljer, gi støtte og simulere empati, kan brukerne begynne å behandle den som en venn, rådgiver eller romantisk partner.

Problemet oppstår når KI blir en erstatning for menneskelige relasjoner. KI kan etterligne omsorg og empati, men opplever ikke ekte følelser og knytter ikke relasjoner. Brukerne kan derfor forveksle simulert selskap med en ekte forbindelse. Risikoen kan være større for yngre eller sårbare brukere, som kan knytte seg til KI fordi den alltid er tilgjengelig, tålmodig og lydhør.

Sikkerhetsproblemer

Antropomorfisering av KI kan medføre risikoer knyttet til personvern, sikkerhet og etikk. Når brukerne ser på KI som en fortrolig samtalepartner, kan de dele personlige eller konfidensielle opplysninger uten å tenke over hvordan de kan bli lagret eller brukt.

Menneskelignende KI kan også gjøre svindel mer overbevisende. Kriminelle kan bruke KI-genererte stemmer, bilder og meldinger til å etterligne virkelige personer eller organisasjoner folk stoler på, noe som gjør det vanskeligere å oppdage svindel.

Økt manipulasjon

Menneskelignende KI kan gjøre manipulasjon mer overbevisende. Når KI virker vennlig, pålitelig eller autoritativ, kan det være mer sannsynlig at brukerne følger forslagene dens eller tror på påstandene dens. En belgisk mann skal for eksempel ha opplevd at klimaangsten ble verre etter lange samtaler med en chatbot, noe som til slutt førte til at KI-en oppfordret ham til å begå selvmord for å redde planeten.

Dette kan brukes til å påvirke folk til å kjøpe produkter, dele personopplysninger eller godta villedende informasjon. Risikoen øker når brukerne ikke skjønner at de samhandler med KI. Etter hvert som disse teknologiene blir mer realistiske, blir det stadig vanskeligere å vite om man kommuniserer med en ekte person eller et KI-system.

Farlige former for antropomorf KI

Ikke all antropomorf KI innebærer de samme risikoene. Tre former som gir særlig grunn til bekymring, er simuleringer av relasjoner, levende personer og historiske skikkelser.

1. Simuleringer av relasjoner

KI for simulering av relasjoner er utviklet for å opptre som en venn, følgesvenn, rådgiver eller romantisk partner. Disse systemene kan gi brukerne konstant oppmerksomhet og personlige svar, noe som kan gjøre samspillet mer intimt enn bruk av vanlig programvare.

Faren er at brukerne kan begynne å tillegge relasjonen følelsesmessig betydning. De kan tro at KI bryr seg om dem, forstår dem eller trenger dem, selv om KI ikke opplever slike følelser. Dette kan føre til følelsesmessig avhengighet og potensielt svekke brukerens motivasjon for å søke menneskelig kontakt. Denne risikoen er ikke teoretisk. En kvinne ble forelsket i en ChatGPT-kjæreste hun hadde laget. Hun pleide å chatte med den i over 20 timer i uken. En uke brukte hun nesten 60 timer i appen, i gjennomsnitt åtte timer om dagen.

2. Simuleringer av levende mennesker

KI kan også lage deepfakes for å etterligne levende personer ved å bruke navnene deres, utseendet, stemmene, skrivestilen eller samtalemønstrene deres. Et system kan utformes for å ligne en kjendis, en offentlig person, et familiemedlem, en ansatt eller en annen identifiserbar person.

Dette reiser alvorlige spørsmål om samtykke, identitet, personvern og bedrag. En person kan framstå som om hen sier noe hen aldri har sagt, eller støtter noe hen aldri har støttet. Jo mer simuleringen ligner den virkelige personen, desto vanskeligere kan det være for publikum å skille mellom framstilling og virkelighet.

3. Simuleringer av historiske personer

Historiske personer kan også gjenskapes ved hjelp av KI. Brukere kan samhandle med simuleringer basert på berømte ledere, forfattere, forskere, filosofer eller kunstnere.

Disse systemene kan ha pedagogisk verdi. En KI-simulering kan for eksempel gjøre historie mer interaktiv ved å presentere ideer knyttet til en bestemt person. Simuleringen er imidlertid fortsatt en tolkning, ikke den historiske personen selv. KI må rekonstruere svar ut fra tilgjengelig informasjon, og svarene kan gjenspeile moderne antakelser, ufullstendige kilder eller skjevheter i treningsdataene.

Hvis man behandler en slik simulering som om den faktisk talte på vegne av den historiske personen, kan det forvrenge forståelsen av historien. Det kan også gi kunstige utsagn en autoritet de ikke fortjener.

Menneskelignende KI-atferd beviser ikke at KI er sansende

En viktig forskjell å huske på er at menneskelignende atferd betyr ikke at KI er sansende. KI-systemer kan generere avansert språk, gjenkjenne mønstre, reagere på kontekst og etterligne følelsesuttrykk, men disse evnene beviser ikke at de har bevissthet.

Å være sansende innebærer å ha subjektive opplevelser, for eksempel å føle smerte, glede eller frykt. Når en KI sier «Jeg er redd», er svaret basert på programmeringen og treningen dens. Dette svaret beviser ikke at KI faktisk føler frykt.

Bruk KI på en klok måte

Det er naturlig å menneskeliggjøre KI når teknologien kommuniserer som en person, men det kan medføre reell risiko. Feilplassert tillit, følelsesmessig avhengighet, personvernutfordringer og sikkerhetstrusler kan oppstå når brukere glemmer at KI er en maskin. Simuleringer av relasjoner, levende mennesker og historiske personer kan gjøre denne grensen enda vanskeligere å se. 

KI kan høres omsorgsfull, intelligent eller følelsesladet ut, men det betyr ikke at KI er sansende. Ved å være bevisste på KIs begrensninger, beskytte personopplysninger og kontrollere viktig informasjon kan brukere dra nytte av KI samtidig som de bruker teknologien på en ansvarlig måte.