Risiciene ved at antropomorfisere AI

AI’s output minder meget om menneskelig tale. Chatbots kan besvare spørgsmål, føre samtaler, udvise tilsyneladende følelser, fortælle vittigheder og tilpasse deres tone på stedet. Disse evner gør AI nyttig og engagerende, men de kan også få mennesker til at antropomorfisere AI eller behandle den, som om den har menneskelige egenskaber, følelser eller hensigter. Selvom denne adfærd er naturlig, kan den blive risikabel, når brugerne glemmer, at AI kun simulerer menneskelig kommunikation. 

Hvorfor menneskeliggør mennesker AI?

AI bliver antropomorfiseret, når mennesker begynder at behandle den, som om den har menneskelige egenskaber, tanker eller følelser. Det kan ske på grund af den måde, AI kommunikerer på, og den måde, den er designet på.

AI-systemer bruger et samtalepræget sprog, der minder om menneskelig tale. AI kan for eksempel sige, at den »forstår« et spørgsmål, »mener«, at et svar er nyttigt, eller »undskylder« for en fejl. Selvom disse formuleringer får samtalerne til at virke naturlige, kan de også få brugerne til at tro, at AI faktisk tænker eller føler. Dette fænomen er kendt som ELIZA-effekten, opkaldt efter chatbotten ELIZA, der blev skabt af Joseph Weizenbaum i 1966.

Hvis man giver en AI et menneskeligt navn, en menneskelig stemme, et ansigt eller en personlighed, kan den desuden virke mere som en person end som et computerprogram. Jo mere realistisk interaktionen bliver, desto lettere er det for brugerne at reagere socialt på AI.

Endelig antropomorfiserer mennesker AI, fordi det ligger i menneskets natur. De leder naturligt efter følelser, hensigter og personligheder hos ting, der kommunikerer med dem, idet de tillægger ikke-menneskelige væsener menneskelignende egenskaber. Børn antropomorfiserer legetøj, mens voksne menneskeliggør brands. Når en AI derfor svarer samtalepræget, husker tidligere samtaler og virker empatisk, kan brugerne antage, at der står et sind bag denne adfærd. 

Farerne ved at antropomorfisere AI

Efterhånden som AI bliver mere menneskelignende i sin kommunikation og interaktion med brugerne, kan antropomorfisering medføre en række risici, der påvirker, hvordan mennesker tænker, handler og træffer beslutninger. 

Fejlplaceret tillid

Antropomorfisering af AI kan få brugerne til at stole for meget på dens svar. Når en AI lyder selvsikker, vidende og menneskelignende, kan brugerne gå ud fra, at dens oplysninger er korrekte. Generativ AI kan dog give forkerte eller vildledende oplysninger og samtidig lyde overbevisende. 

Denne fejlplacerede tillid kan være farlig, når AI bruges til medicinske, økonomiske, juridiske, uddannelsesmæssige eller faglige beslutninger. Et menneskelignende svar er ingen garanti for nøjagtighed eller god dømmekraft. Faktisk er AI kendt for at give falske sundhedsråd til brugerne.

Følelsesmæssig afhængighed

Antropomorfisering af AI kan føre til, at brugerne bliver følelsesmæssigt afhængige af chatbots. Fordi AI kan svare med det samme, huske detaljer, tilbyde støtte og simulere empati, kan brugerne begynde at behandle den som en ven, rådgiver eller romantisk partner.

Problemet opstår, når AI bliver en erstatning for menneskelige relationer. AI kan efterligne omsorg og empati, men oplever ikke følelser eller indgår relationer i egentlig forstand. Brugerne kan derfor forveksle simuleret selskab med en ægte forbindelse. Risikoen kan være større for yngre eller sårbare brugere, som kan knytte sig til en AI, fordi den altid er tilgængelig, tålmodig og lydhør.

Sikkerhedsproblemer

Antropomorfisering af AI kan medføre risici for privatlivets fred, sikkerheden og etikken. Når brugerne opfatter AI som en betroet ledsager, kan de dele personlige eller fortrolige oplysninger uden at overveje, hvordan de kan blive opbevaret eller brugt.

Menneskelignende AI kan også gøre svindelnumre mere overbevisende. Kriminelle kan bruge AI-genererede stemmer, billeder og beskeder til at efterligne virkelige personer eller betroede organisationer, hvilket gør det sværere at opdage svindel.

Øget manipulation

Menneskelignende AI kan gøre manipulation mere overbevisende. Når en AI virker venlig, troværdig eller autoritativ, kan brugerne være mere tilbøjelige til at følge dens forslag eller tro på dens påstande. En belgisk mand oplevede angiveligt en forværring af sin klimaangst efter længere samtaler med en chatbot, hvilket til sidst fik AI’en til at opfordre ham til at begå selvmord for at redde planeten.

Dette kan bruges til at påvirke mennesker til at købe produkter, dele personlige oplysninger eller acceptere vildledende information. Risikoen øges, når brugerne ikke er klar over, at de interagerer med AI. Efterhånden som disse teknologier bliver mere realistiske, bliver det stadig sværere at afgøre, om kommunikationen kommer fra en virkelig person eller et AI-system.

Farlige former for antropomorf AI

Ikke al antropomorf AI indebærer de samme risici. Tre særligt bekymrende former er simuleringer af relationer, levende personer og historiske skikkelser.

1. Simuleringer af relationer

AI til simulering af relationer er udviklet til at opføre sig som en ven, ledsager, rådgiver eller romantisk partner. Disse systemer kan tilbyde konstant opmærksomhed og personligt tilpassede svar, hvilket kan få interaktionen til at føles mere intim end brugen af almindelig software.

Faren er, at brugerne kan begynde at tillægge relationen følelsesmæssig betydning. De kan komme til at tro, at AI’en holder af dem, forstår dem eller har brug for dem, selvom AI’en ikke oplever sådanne følelser. Det kan føre til følelsesmæssig afhængighed og potentielt mindske brugerens motivation for at søge menneskelig kontakt. Risikoen er ikke teoretisk. En kvinde blev forelsket i en ChatGPT-kæreste, som hun selv havde skabt. Hun ville chatte med den i over 20 timer om ugen. I løbet af en uge brugte hun næsten 60 timer på appen, i gennemsnit otte timer om dagen.

2. Simulationer af levende personer

AI kan også skabe deepfakes, der efterligner levende personer ved hjælp af deres navne, udseende, stemmer, skrivestil eller samtalemønstre. Et system kan være udviklet til at ligne en berømthed, offentlig person, et familiemedlem, en medarbejder eller en anden person, der kan identificeres.

Det giver anledning til alvorlige bekymringer om samtykke, identitet, privatliv og bedrag. En person kan komme til at fremstå, som om vedkommende siger noget, vedkommende aldrig har sagt, eller støtter noget, vedkommende aldrig har støttet. Jo mere simulationen ligner den virkelige person, desto sværere kan det være for publikum at skelne mellem gengivelse og virkelighed.

3. Simulationer af historiske personer

Historiske personer kan også genskabes ved hjælp af AI. Brugere kan interagere med simulationer, der er modelleret efter berømte ledere, forfattere, forskere, filosoffer eller kunstnere.

Disse systemer kan have undervisningsmæssig værdi. En AI-simulation kan for eksempel gøre historien mere interaktiv ved at præsentere idéer, der forbindes med en bestemt person. Simulationen er dog stadig en fortolkning og ikke den historiske person. AI skal rekonstruere svar ud fra tilgængelige oplysninger, og svarene kan afspejle moderne antagelser, ufuldstændige kilder eller skævheder i træningsdataene.

Hvis man behandler en sådan simulation, som om den virkelig talte på den historiske persons vegne, kan det forvride forståelsen af historien. Det kan også give kunstigt genererede udsagn en uberettiget grad af autoritet.

Menneskelignende AI-adfærd er ikke bevis på bevidsthed

En vigtig skelnen at huske på er, at menneskelignende adfærd ikke betyder, at AI er bevidst. AI-systemer kan generere avanceret sprog, genkende mønstre, reagere på konteksten og efterligne følelsesmæssige udtryk, men disse evner beviser ikke, at de har bevidsthed.

At være sansende betyder at have subjektive oplevelser, såsom at føle smerte, glæde eller frygt. Når en AI siger: »Jeg er bange«, er det et svar baseret på dens programmering og træning. Svaret beviser ikke, at AI’en faktisk føler frygt.

Sådan bruger du AI på en fornuftig måde

Det er en naturlig reaktion at antropomorfisere AI, når teknologien kommunikerer som et menneske, men det kan medføre reelle risici. Fejlagtig tillid, følelsesmæssig afhængighed, bekymringer om privatliv og sikkerhedstrusler kan opstå, når brugere glemmer, at AI er en maskine. Simulationer af relationer, levende personer og historiske personer kan gøre det endnu sværere at få øje på denne grænse. 

AI kan lyde omsorgsfuld, intelligent eller følelsesladet, men det betyder ikke, at den er bevidst. Ved at være opmærksomme på AI’s begrænsninger, beskytte personlige oplysninger og kontrollere vigtige oplysninger kan brugerne få glæde af fordelene ved AI og samtidig bruge den ansvarligt.