Et opkald til modereret antropomorfisering i AI-platforme

MENING Ingen i den fiktive Star Wars-univers tager AI alvorligt. I den historiske menneskelige tidslinje af George Lucas’s 47 år gamle science-fiction-franchise er trusler fra singulariteter og maskinlæringsbevidsthed fraværende, og AI er begrænset til autonome mobile robotter (‘droids’) – som protagonisternes hyppigt afviser som blot “maskiner”.

Men de fleste Star Wars-robotter er meget antropomorfe, tydeligt designede til at engagere sig med mennesker, deltage i “organisk” kultur og bruge deres simulakrum af emotionel tilstand til at binde sig til mennesker. Disse evner synes at være designede til at hjælpe dem med at opnå en fordel for sig selv eller endda sikre deres egen overlevelse.

De “rigtige” mennesker i Star Wars synes at være immun over for disse taktikker. I en cynisk kulturel model, der åbenbart er inspireret af de forskellige epoker af slaveri i det romerske imperium og det tidlige USA, tøver Luke Skywalker ikke med at købe og begrænse robotter i sammenhæng med slaver; barnet Anakin Skywalker forlader sit halvfærdige C3PO-projekt som en forkastet legetøj; og, nær død af skader påført under angrebet på Dødsstjernen, får den “tappre” R2D2 omtrent samme bekymring fra Luke som et såret kæledyr.

Dette er en meget 1970’er-agtig tilgang til kunstig intelligens*; men da nostalgi og kanon dikterer, at den originale 1977-83-trilogi forbliver en skabelon for de senere fortsættelser, prequels og tv-shows, har denne menneskelige ufølsomhed over for AI været en resilient tråd i franchise, selv i lyset af en voksende række af tv-shows og film (såsom Her og Ex Machina) der afbilder vores nedstigning i en antropomorf relation til AI.

Hold det ægte

Har de organiske Star Wars-karakterer faktisk den rigtige holdning? Det er ikke en populær tanke lige nu, i en forretningsklima, der er fast besluttet på maksimal engagement med investorer, som regel gennem virale demonstrationer af visuelt eller tekstligt simulering af den virkelige verden eller af menneskelignende interaktive systemer såsom Large Language Models (LLM).

Ikke desto mindre tager en ny og kort rapport fra Stanford, Carnegie Mellon og Microsoft Research, sigte på ligegyldighed omkring antropomorfisering i AI.

Forfatterne karakteriserer den opfattede “krydsbestøvning” mellem menneskelig og kunstig kommunikation som en potentiel skade, der skal afhjælpes i al hast, af en række grunde^†:

‘[Vi] tror, vi skal gøre mere for at udvikle den nødvendige viden og værktøjer til bedre at tackle antropomorf adfærd, herunder måling og afhjælpning af sådanne systemadfærd, når de anses for uønskede.

‘Det er kritisk, fordi – blandt mange andre bekymringer – det, at AI-systemer genererer indhold, der påstår at have f.eks. følelser, forståelse, fri vilje eller en underliggende selvbevidsthed, kan underminere menneskers følelse af agenti, med det resultat, at mennesker måske ender med at tilskrive moralsk ansvar til systemer, overvurderer systemets evner eller overdrager sig på disse systemer, selv når de er forkerte.’

Bidragerne klargør, at de diskuterer systemer, der opfattes som menneskelignende, og centerer sig om den potentiale hensigt hos udviklere at fremme antropomorfisering i maskinsystemer.

Bekymringen i hjertet af den korte rapport er, at mennesker kan udvikle emotionel afhængighed af AI-baserede systemer – som udtrykt i en 2022-studie på den generelle AI-chatbot-platform Replika) – som aktivt tilbyder en idiom-rig facsimile af menneskelig kommunikation.

Systemer som Replika er målet for forfatternes betænkelighed, og de bemærker, at en yderligere 2022 rapport om Replika hævdede:

‘[U]nder betingelser af distress og mangel på menneskelig selskab, kan individer udvikle en tilknytning til sociale chatbots, hvis de opfatter chatbotternes svar som tilbydende emotionel støtte, opmuntring og psykologisk sikkerhed.

‘Disse resultater antyder, at sociale chatbots kan bruges til mental sundheds- og terapeutiske formål, men har potentialet til at forårsage afhængighed og skade virkelige intime forhold.’

De-antropomorfiseret sprog?

Den nye rapport argumenterer for, at generativ AI’s potentiale til at blive antropomorfiseret ikke kan fastslås uden at studere de sociale konsekvenser af sådanne systemer hidtil, og at dette er en forsumpet forfølgning i litteraturen.

En del af problemet er, at antropomorfisering er svær at definere, da den centerer sig mest om sprog, en menneskelig funktion. Udfordringen ligger derfor i at definere, hvad “ikke-menneskeligt” sprog præcis lyder eller ser ud som.

Ironisk nok, selv om rapporten ikke berører det, er offentlig mistillid til AI mere og mere årsag til, at mennesker afviser AI-genereret tekstindhold, der kan synes plausibelt menneskeligt, og endda afviser menneskeligt indhold, der er bevidst forkert mærket som AI.

Derfor kan “de-humaniseret” indhold åbenbart ikke længere falde under ‘Does not compute’ memen, hvor sprog er klodset konstrueret og åbenlyst genereret af en maskine.

Men definitionen er konstant udviklende i AI-detectionscenen, hvor (i hvert fald for tiden) excessivt klart sprog eller brugen af bestemte ord (såsom ‘Delve’) kan føre til en association med AI-genereret tekst.

‘[S]prog, som med andre mål for GenAI-systemer, er i sig selv menneskeligt, er længe blevet produceret af og for mennesker, og er ofte også om mennesker. Dette kan gøre det svært at specificere passende alternative (mindre menneskelignende) adfærd, og risikerer, for eksempel, at fastholde skadelige forestillinger om, hvad – og hvis – sprog anses for mere eller mindre menneskeligt.’

Men forfatterne argumenterer for, at en klar linje af afgrænsning skal fastlægges for systemer, der åbenlyst misrepræsenterer sig selv, ved at påstå evner eller erfaring, der kun er mulige for mennesker.

De citerer tilfælde såsom LLM’er påstår at “elske pizza”; påstår menneskelig erfaring på platforme såsom Facebook; og erklærer kærlighed til en slutbruger.

Advarselskilder

Rapporten rejser tvivl om brugen af blanket-disclosure om, hvorvidt en kommunikation er faciliteret af maskinlæringsalgoritmer. Forfatterne argumenterer for, at systematisering af sådanne advarsler ikke tilstrækkeligt kontekstualiserer den antropomorfiserende effekt af AI-platforme, hvis output selv fortsætter med at vise menneskelige træk^†:

‘For eksempel er en almindelig anbefalet intervention at inkludere i AI-systemets output en advarsel om, at outputtet er genereret af et AI-system. Hvordan man operationaliserer sådanne interventioner i praksis, og om de kan være effektive alene, kan ikke altid være klart.

‘For eksempel, mens eksemplet “[f]or et AI som mig, er lykke ikke det samme som for et menneske som [dig]” inkluderer en advarsel, kan det stadig antyde en fornemmelse af identitet og evne til selv-vurdering (fælles menneskelige træk).’

I forhold til at evaluere menneskelige svar om systemadfærd, argumenterer forfatterne også for, at Reinforcement learning from human feedback (RLHF) ikke tager hensyn til forskellen mellem en passende respons for et menneske og for et AI^†.

‘[E]n udtalelse, der synes venlig eller ægte fra et menneske, kan være uønsket, hvis den opstår fra et AI-system, da sidstnævnte mangler meningsfuld engagement eller hensigt bag udtalelsen, og dermed gør udtalelsen hul og bedragerisk.’

Yderligere bekymringer illustreres, såsom måden, hvorpå antropomorfisering kan influere mennesker til at tro, at et AI-system har opnået ‘bevidsthed’, eller andre menneskelige egenskaber.

Måske den mest ambitiøse, afsluttende sektion af den nye rapport er forfatternes formaning, at forsknings- og udviklingsfællesskabet skal stræbe efter at udvikle “passende” og “præcise” terminologi, for at fastlægge parametrene, der ville definere et antropomorfisk AI-system, og skelne det fra virkelige menneskelige diskurser.

Som med så mange trendy områder af AI-udvikling, krydser denne type kategorisering over i litteraturstrømmene af psykologi, sprogvidenskab og antropologi. Det er svært at vide, hvilken nuværende myndighed, der kunne faktisk formulere definitioner af denne type, og den nye rapportens forskere kaster ikke noget lys over dette spørgsmål.

Hvis der er kommerciel og akademisk træghed omkring dette emne, kan det delvist tilskrives, at dette langt fra er et nyt diskussionsemne i kunstig intelligensforskning: som rapporten bemærker, beskrev den afdøde hollandske computerforsker Edsger Wybe Dijkstra i 1985 antropomorfisering som en “skadelig” tendens i systemudvikling.

‘[A]ntropomorfisk tænkning er ikke godt, fordi det ikke hjælper. Men er det også dårligt? Ja, det er, fordi selv om vi kan pege på en analogi mellem Menneske og Ting, er analogien altid ubetydelig i forhold til forskellene, og så snart vi tillader os at lade os forføre af analogien til at beskrive Ting i antropomorfisk terminologi, mister vi straks vores kontrol over, hvilke menneskelige konnotationer vi trækker ind i billedet.

‘…Men uklarheden [mellem menneske og maskine] har en langt større indvirkning, end man måske kunne tro. [Det] er ikke kun, at spørgsmålet “Kan maskiner tænke?” jævnligt stilles; vi kan – og skal – beskæftige os med det ved at påpege, at det er lige så relevant som det lige så brændende spørgsmål “Kan ubåde svømme?”‘

Men selv om debatten er gammel, er den først for nylig blevet meget relevant. Det kan argumenteres for, at Dijkstras bidrag er tilsvarende med victoriansk spekulation om rumrejser, som rent teoretisk og afventende historiske udviklinger.

Derfor kan denne etablerede debat give emnet en fornemmelse af træthed, på trods af dets potentiale for betydelig social relevans i de næste 2-5 år.

Konklusion

Hvis vi skulle tænke på AI-systemer på samme måde, som de organiske Star Wars-karakterer behandler deres egne robotter (dvs. som ambulerende søgemaskiner eller blot mekaniske funktioner), ville vi sandsynligvis være mindre udsat for at habituere disse sociale uønskede egenskaber over til vores menneskelige interaktioner – fordi vi ville se systemerne i en helt ikke-menneskelig kontekst.

I praksis gør indviklingen af menneskesprog med menneskeligt adfærd det svært, hvis ikke umuligt, når en forespørgsel udvider sig fra minimalismen af en Google-søgeord til den rige kontekst af en samtale.

Dertil er den kommercielle sektor (såvel som reklamebranchen) stærkt motiveret til at skabe afhængige eller essentielle kommunikationsplatforme til kundebehoud og vækst.

Under alle omstændigheder, hvis AI-systemer virkelig svarer bedre på høflige forespørgsler end på afklædte afhøringer, kan konteksten måske også være påtvunget os af den grund.

* Even i 1983, det år, hvor den sidste del af den originale Star Wars blev udgivet, havde frygter omkring væksten af maskinlæringsalgoritmer ført til den apokalyptiske War Games, og den forestående Terminator-franchise.

^† Hvor nødvendigt, har jeg konverteret forfatternes inline-citationer til hyperlinks og har i nogle tilfælde udeladt nogle af citationerne for læselighed.

Først udgivet mandag, 14. oktober 2024