Riskerna med att antropomorfisera AI

AI-genererat innehåll liknar mänskligt tal mycket. Chattbotar kan svara på frågor, föra samtal, visa skenbara känslor, berätta skämt och anpassa tonen direkt. Dessa förmågor gör AI användbar och engagerande, men kan också få människor att antropomorfisera den, det vill säga behandla den som om den hade mänskliga egenskaper, känslor eller avsikter. Även om det här beteendet är naturligt kan det bli riskfyllt när användare glömmer att AI bara simulerar mänsklig kommunikation. 

Varför förmänskligar människor AI?

AI antropomorfiseras när människor börjar behandla den som om den hade mänskliga egenskaper, tankar eller känslor. Det kan bero på hur AI kommunicerar och hur den är utformad.

AI-system använder ett samtalsspråk som liknar mänskligt tal. AI kan till exempel säga att den ”förstår” en fråga, ”tycker” att ett svar är användbart eller ”ber om ursäkt” för ett misstag. Även om de här uttrycken får interaktioner att verka naturliga kan de också få användare att tro att AI faktiskt tänker eller känner. Detta fenomen är känt som ELIZA-effekten, uppkallad efter chattboten ELIZA, som skapades av Joseph Weizenbaum 1966.

Att ge en AI ett mänskligt namn, en mänsklig röst, ett ansikte eller en personlighet kan dessutom få den att verka mer som en person än ett datorprogram. Ju mer realistisk interaktionen blir, desto lättare är det för användare att bemöta AI socialt.

Slutligen antropomorfiserar människor AI eftersom det ligger i människans natur. De letar naturligt efter känslor, avsikter och personligheter hos sådant som kommunicerar med dem och tillskriver mänskliga egenskaper åt icke-mänskliga entiteter. Barn antropomorfiserar leksaker, medan vuxna förmänskligar varumärken. När en AI svarar på ett samtalsliknande sätt, minns tidigare samtal och verkar empatisk kan användare därför anta att det finns ett medvetande bakom dessa beteenden. 

Riskerna med att antropomorfisera AI

I takt med att AI blir alltmer människolik i sitt sätt att kommunicera och interagera med användare kan antropomorfisering medföra flera risker som påverkar hur människor tänker, beter sig och fattar beslut. 

Överdriven tillit

Att antropomorfisera AI kan få användare att lita alltför mycket på dess svar. När en AI låter självsäker, kunnig och människolik kan användare anta att informationen den ger är korrekt. Generativ AI kan dock lämna felaktig eller vilseledande information samtidigt som den låter övertygande. 

Den här överdrivna tilliten kan vara farlig när AI används för medicinska, ekonomiska, juridiska, utbildningsrelaterade eller yrkesmässiga beslut. Ett människolikt svar garanterar varken korrekthet eller gott omdöme. AI har faktiskt visat sig kunna ge falska hälsoråd till användare.

Emotionellt beroende

Att antropomorfisera AI kan leda till att användare blir känslomässigt beroende av chattbotar. Eftersom AI kan svara direkt, komma ihåg detaljer, erbjuda stöd och simulera empati kan användare börja behandla den som en vän, rådgivare eller romantisk partner.

Problemet uppstår när AI blir en ersättning för mänskliga relationer. AI kan efterlikna omsorg och empati, men upplever inte känslor på riktigt och skapar inte relationer. Användare kan därför missta simulerat sällskap för en verklig relation. Risken kan vara större för yngre eller sårbara användare, som kan knyta an till en AI eftersom den alltid är tillgänglig, tålmodig och lyhörd.

Säkerhetsrisker

Att antropomorfisera AI kan medföra risker för integriteten, säkerheten och etiken. När användare ser AI som en betrodd följeslagare kan de dela personlig eller konfidentiell information utan att tänka på hur den kan lagras eller användas.

Människolik AI kan också göra bedrägerier mer övertygande. Brottslingar kan använda AI-genererade röster, bilder och meddelanden för att efterlikna verkliga personer eller betrodda organisationer, vilket gör bedrägerier svårare att upptäcka.

Ökad manipulation

Människolik AI kan göra manipulation mer övertygande. När en AI verkar vänlig, pålitlig eller auktoritativ kan användare vara mer benägna att följa dess förslag eller tro på dess påståenden. En belgisk man uppges till exempel ha fått allt starkare klimatångest efter långa samtal med en chattbot, vilket till slut ledde till att AI:n uppmanade honom att begå självmord för att rädda planeten.

Detta kan användas för att påverka människor att köpa produkter, dela personlig information eller godta vilseledande uppgifter. Risken ökar när användare inte inser att de interagerar med AI. I takt med att tekniken blir mer realistisk blir det allt svårare att avgöra om kommunikationen kommer från en verklig person eller ett AI-system.

Farliga former av antropomorf AI

All antropomorf AI medför inte samma risker. Tre särskilt oroande former är simuleringar av relationer, levande personer och historiska gestalter.

1. Simuleringar av relationer

AI för relationssimulering är utformad för att uppträda som en vän, följeslagare, rådgivare eller romantisk partner. Sådana system kan erbjuda ständig uppmärksamhet och personligt anpassade svar, vilket kan göra interaktionen mer intim än när man använder vanlig programvara.

Risken är att användare börjar tillskriva relationen känslomässig betydelse. De kan tro att AI:n bryr sig om dem, förstår dem eller behöver dem, trots att den inte upplever sådana känslor. Det kan leda till känslomässigt beroende och potentiellt minska användarens motivation att söka mänsklig kontakt. Risken är inte teoretisk. En kvinna blev kär i en ChatGPT-pojkvän som hon hade skapat. Hon chattade med den i över 20 timmar i veckan. En vecka tillbringade hon nästan 60 timmar i appen, i genomsnitt åtta timmar om dagen.

2. Simuleringar av levande personer

AI kan också skapa deepfakes för att efterlikna levande personer med hjälp av deras namn, utseende, röster, skrivstilar eller samtalsmönster. Ett system kan utformas för att likna en kändis, offentlig person, familjemedlem, anställd eller någon annan identifierbar individ.

Det väcker allvarliga frågor om samtycke, identitet, integritet och vilseledning. En person kan framstå som om hen säger något som hen aldrig har sagt eller stöder något som hen aldrig har ställt sig bakom. Ju mer simuleringen liknar den verkliga personen, desto svårare kan det bli för publiken att skilja mellan gestaltning och verklighet.

3. Simuleringar av historiska personer

Historiska personer kan också återskapas med hjälp av AI. Användare kan interagera med simuleringar som bygger på berömda ledare, författare, forskare, filosofer eller konstnärer.

Sådana system kan ha ett pedagogiskt värde. En AI-simulering kan till exempel göra historien mer interaktiv genom att presentera idéer som förknippas med en viss person. Simuleringen är dock fortfarande en tolkning, inte den historiska personen. AI måste återskapa svar utifrån tillgänglig information, och svaren kan återspegla moderna föreställningar, ofullständiga källor eller snedvridningar i träningsdata.

Om man behandlar en sådan simulering som om den faktiskt talade för den historiska personen kan det förvränga förståelsen av historien. Det kan också ge artificiella uttalanden en auktoritet de inte förtjänar.

Mänskligt AI-beteende bevisar inte att AI har ett medvetande

En viktig skillnad att komma ihåg är att mänskligt beteende inte betyder att AI har ett medvetande. AI-system kan generera avancerat språk, känna igen mönster, reagera på sammanhang och efterlikna känslouttryck, men dessa förmågor bevisar inte att de har ett medvetande.

Att vara kännande innebär att ha subjektiva upplevelser, som att känna smärta, glädje eller rädsla. När en AI säger ”Jag är rädd” bygger svaret på dess programmering och träning. Det bevisar inte att AI:n faktiskt känner rädsla.

Att använda AI på ett klokt sätt

Att tillskriva AI mänskliga egenskaper är en naturlig reaktion på teknik som kommunicerar som en människa, men det kan medföra verkliga risker. Missriktad tillit, känslomässigt beroende, integritetsproblem och säkerhetshot kan uppstå när användare glömmer att AI är en maskin. Simuleringar av relationer, levande personer och historiska gestalter kan göra den här gränsen ännu svårare att uppfatta. 

AI kan låta omtänksam, intelligent eller känslosam, men det betyder inte att den har ett medvetande. Genom att vara medvetna om AI:s begränsningar, skydda personuppgifter och kontrollera viktig information kan användare dra nytta av tekniken och samtidigt använda den ansvarsfullt.