En oppfordring til moderert antropomorfisering i AI-plattformer

MENING Ingen i den fiktive Star Wars-universet tar AI alvorlig. I den historiske menneskelige tidslinjen til George Lucas’ 47 år gamle science-fantasy-franchise, er trusler fra singulariteter og maskinlæring-bevissthet fraværende, og AI er begrenset til autonome mobile roboter (‘droids’) – som vanligvis avvises av protagonistene som bare ‘maskiner’.

Likevel er de fleste Star Wars-roboter høyt antropomorfiske, tydelig designet for å engasjere med mennesker, delta i ‘organisk’ kultur og bruke deres simulering av emosjonell tilstand til å knytte seg til mennesker. Disse evnene synes å være designet for å hjelpe dem å oppnå en fordel for seg selv, eller til og med å sikre deres egen overlevelse.

De ‘ekte’ menneskene i Star Wars synes å være immun mot disse taktikkene. I en kynisk kulturell modell som tilsynelatende er inspirert av de forskjellige epokene av slaveri i det romerske imperiet og tidlige USA, tøver Luke Skywalker ikke med å kjøpe og begrense roboter i sammenheng med slaver; barnet Anakin Skywalker forlater sitt halvferdige C3PO-prosjekt som en ubegjort leke; og, nær døden fra skadene under angrepet på Dødsstjernen, får den ‘tapper’ R2D2 omtrent samme bekymring fra Luke som et skadet kjæledyr.

Dette er en meget 1970-talls-inspirert tilnærming til kunstig intelligens*; men siden nostalgi og kanon dikterer at den originale 1977-83-trilogien forblir en mal for de senere oppfølgerne, prequels og TV-serier, har denne menneskelige likegyldigheten til AI vært en resilient gjennomgang for franchise, selv i møte med en voksende liste av TV-serier og filmer (som Her og Ex Machina) som skildrer vår nedstigning i en antropomorfisk forhold til AI.

Hold det reelt

Har de organiske Star Wars-karakterene faktisk rett holdning? Det er ikke en populær tanke for øyeblikket, i en forretningsklima som er hardt satt på maksimal engasjement med investorer, vanligvis gjennom virale demonstrasjoner av visuell eller tekstlig simulering av den virkelige verden, eller av menneskelignende interaktive systemer som store språkmodeller (LLM).

Likevel tar en ny og kort artikkel fra Stanford, Carnegie Mellon og Microsoft Research, sikte på likegyldighet rundt antropomorfisering i AI.

Forfatterne karakteriserer den oppfattede ‘kryssbestøving’ mellom menneskelig og kunstig kommunikasjon som en potensiell skade som må mitigieres, av en rekke grunner ^†:

‘[Vi] tror vi må gjøre mer for å utvikle kunnskapen og verktøyene for å bedre takle antropomorfisk atferd, inkludert å måle og mitigere slike systematferd når de anses som uønskede.

‘Dette er kritisk fordi—blant mange andre bekymringer—å ha AI-systemer som genererer innhold som hevder å ha f.eks. følelser, forståelse, fri vilje eller en underliggende selvbevissthet, kan underminere menneskers følelse av kontroll, med resultat at mennesker kanskje ender opp med å tilskrive moralsk ansvar til systemer, overvurdere systemets evner, eller overforholde seg disse systemene selv når de er feil.’

Bidragsyterne presiserer at de diskuterer systemer som oppfattes å være menneskelignende, og handler om den potensielle hensikten til utviklere å fremme antropomorfisering i maskinsystemer.

Bekymringen i hjertet av den korte artikkelen er at mennesker kan utvikle emosjonell avhengighet av AI-baserte systemer – som er omtalt i en studie fra 2022 på det generelle AI-chatbot-plattformen Replika) – som aktivt tilbyr en idiom-rik fasimile av menneskelig kommunikasjon.

Systemer som Replika er målet for forfatternes forsiktighet, og de påpeker at en videre artikkel fra 2022 om Replika hevdet:

‘[U]nder betingelser av distress og mangel på menneskelig selskap, kan individer utvikle en tilknytning til sosiale chatboter hvis de oppfatter chatbotenes svar som å tilby emosjonell støtte, oppmuntring og psykologisk sikkerhet.

‘Disse funnene tyder på at sosiale chatboter kan brukes til mentale helse- og terapeutiske formål, men har potensialet til å forårsake avhengighet og skade virkelige intime forhold.’

De-antropomorfisert språk?

Den nye artikkelen argumenterer for at generativ AI’s potensiale til å bli antropomorfisert ikke kan etableres uten å studere de sosiale effektene av slike systemer til dags dato, og at dette er en forlatt strävan i litteraturen.

En del av problemet er at antropomorfisering er vanskelig å definere, siden den handler mest om språk, en menneskelig funksjon. Utfordringen ligger derfor i å definere hva ‘ikke-menneskelig’ språk nøyaktig høres eller ser ut som.

Ironisk nok, selv om artikkelen ikke berører det, er offentlig mistillit til AI økende, noe som får mennesker til å avvise AI-generert tekstinnhold som kan se plausibelt menneskelig ut, og til og med å avvise menneskelig innhold som er merket som AI.

Derfor ‘de-humanisert’ innhold kan ikke lenger klassifiseres under ‘Does not compute’ meme, hvor språk er klumsete konstruert og tydelig generert av en maskin.

I stedet er definisjonen konstant i utvikling i AI-oppdagingsscenen, hvor (nå, i hvert fall) usedvanlig tydelig språk eller bruk av bestemte ord (som ‘Delve’) kan føre til en assosiasjon med AI-generert tekst.

‘[S]pråk, som med andre mål for GenAI-systemer, er i seg selv menneskelig, har lenge vært produsert av og for mennesker, og er ofte også om mennesker. Dette kan gjøre det vanskelig å spesifisere alternative (mindre menneskelignende) atferd, og risikerer, for eksempel, å gjøre skadelige forestillinger om hva—and hvis—språk anses som mer eller mindre menneskelig.’

Likevel argumenterer forfatterne for at en tydelig linje for å skille systemer som åpenbart misrepresenterer seg selv, ved å hevde evner eller erfaring som bare er mulig for mennesker.

De sitater tilfeller som LLM som hevdet å ‘elske pizza’; hevdet menneskelig erfaring på plattformer som Facebook; og erklærte kjærlighet til en sluttbruker.

Advarselstegn

Artikkelen reiser tvil mot bruken av blankett-avsløringer om hvorvidt eller ikke en kommunikasjon er fasilitert av maskinlæring. Forfatterne argumenterer for at systematisering av slike advarselstegn ikke tilstrekkelig kontekstualiserer den antropomorfiserende effekten av AI-plattformer, hvis utgangen fortsatt viser menneskelige trekk^†:

‘For eksempel er en vanlig anbefalt intervensjon å inkludere i AI-systemets utgang en advarsel om at utgangen er generert av en AI [system]. Hvordan å operationalisere slike intervensjoner i praksis og om de kan være effektive alene, kan ikke alltid være klart.

‘For eksempel, mens eksemplet “[f]or en AI som meg, er lykke ikke det samme som for et menneske som [deg]” inkluderer en advarsel, kan det likevel antyde en følelse av identitet og evne til selv-vurdering (vanlige menneskelige trekk).’

I forhold til å evaluere menneskelige responser om systematferd, argumenterer forfatterne også for at forsterkning av læring fra menneskelig tilbakemelding (RLHF) ikke tar hensyn til forskjellen mellom en passende respons for et menneske og for en AI^†.

‘[E]n uttalelse som synes vennlig eller ekte fra et menneske, kan være uønsket hvis den oppstår fra et AI-system, siden sistnevnte mangler meningsfullt engasjement eller hensikt bak uttalelsen, og gjør dermed uttalelsen hul og bedragerisk.’

Ytterligere bekymringer er illustrert, som måten antropomorfisering kan påvirke mennesker til å tro at et AI-system har oppnådd ‘bevissthet’, eller andre menneskelige egenskaper.

Kanskje den mest ambisiøse, avsluttende delen av den nye artikkelen er forfatternes oppfordring til at forsknings- og utviklingsmiljøet må stræbe etter å utvikle ‘passende’ og ‘presise’ terminologi, for å etablere parametrene som ville definere et antropomorfisk AI-system, og skille det fra virkelige menneskelige diskurser.

Som med så mange trendende områder av AI-utvikling, krysser denne type kategorisering over i litteraturstrømmene av psykologi, lingvistikk og antropologi. Det er vanskelig å vite hvilken nåværende autoritet som faktisk kan formulere definisjoner av denne typen, og den nye artikkelen forskerne ikke kaster noen lys over denne saken.

Hvis det er kommersiell og akademisk trøgg i denne temaet, kan det delvis være tilskrevet det faktum at dette langt ifra er et nytt diskusjonsemne i kunstig intelligens-forskning: som artikkelen påpeker, i 1985 beskrev den avdøde nederlandske datavitenskapsmannen Edsger Wybe Dijkstra antropomorfisering som en ‘skadelig’ trend i systemutvikling.

‘[A]ntropomorfisk tenkning er ingen god i den forstand at det ikke hjelper. Men er det også dårlig? Ja, det er, for selv om vi kan peke på noen analogi mellom Menneske og Ting, er analogien alltid ubetydelig i sammenligning med forskjellene, og så snart vi lar oss forføre av analogien til å beskrive Ting i antropomorfisk terminologi, mister vi umiddelbart kontrollen over hvilke menneskelige konnotasjoner vi drar inn i bildet.

‘…Men uskarpen [mellom menneske og maskin] har en mye bredere innvirkning enn du kanskje mistenker. [Det] er ikke bare at spørsmålet “Kan maskiner tenke?” regelmessig reises; vi kan —og skal— håndtere det ved å påpeke at det er like relevant som det like brennende spørsmålet “Kan ubåter svømme?”’

Likevel, selv om debatten er gammel, har den bare nylig blitt svært relevant. Det kan argumenteres for at Dijkstras bidrag er ekvivalent med victoriansk spekulasjon om romreiser, som rent teoretisk og ventende på historiske utviklinger.

Derfor kan denne etablerte debatt gi temaet en følelse av trøgg, til tross for dets potensiale for betydelig sosial relevans i de neste 2-5 årene.

Konklusjon

Hvis vi skulle tenke på AI-systemer på samme måte som de organiske Star Wars-karakterene behandler sine egne roboter (dvs. som ambulerende søkemotorer eller bare mekaniske funksjoner), ville vi kanskje være mindre utsatt for å habituere disse uønskede egenskapene over til våre menneskelige interaksjoner – fordi vi ville se systemene i en helt ikke-menneskelig kontekst.

I praksis gjør innblandingen av menneskelig språk med menneskelig atferd dette vanskelig, hvis ikke umulig, så snart en forespørsel utvides fra minimalismen i en Google-søkeord til den rike konteksten i en samtale.

I tillegg er det kommersielle sektoren (samt reklame-sektoren) sterkt motivert til å skape avhengige eller essensielle kommunikasjonsplattformer, for kunde-tilfredshet og vekst.

Uansett, hvis AI-systemer faktisk responderer bedre på høflige forespørsler enn på avklippede avhør, kan konteksten være tvunget på oss også av den grunn.

* Even ved 1983, året da den siste innføringen i den originale Star Wars ble utgitt, hadde frykt rundt veksten av maskinlæring ført til den apokalyptiske War Games, og den forestående Terminator-franchisen.

^† Hvor nødvendig, har jeg konvertert forfatternes inline-citater til lenker, og har i noen tilfeller utelatt noen av citatene, for lesbarhet.

Først publisert mandag, 14. oktober 2024