Forskere finner at AI-modeller kan påvirke mennesker til å ta ueiske beslutninger

Et team av forskere har nylig undersøkt AI-s muligheter til å korruptere mennesker og påvirke dem til å ta ueiske beslutninger. Forskerne undersøkte hvordan interaksjoner med systemer basert på OpenAI-s GPT-2-modell kunne potensielt påvirke mennesker til å ta ueiske beslutninger, selv når de var klar over at kilden til rådet var et AI-system.

AI-systemer blir mer og mer vanlige, og deres innflytelse øker stadig. AI-systemer påvirker menneskers beslutninger, og brukes til alt fra å anbefale filmer til å anbefale romantiske partnere. Gitt hvor mye innflytelse AI har på menneskers liv, er det viktig å vurdere hvordan AI kan påvirke mennesker til å ta ueiske beslutninger og bryte moralske retningslinjer. Dette er spesielt viktig gitt at AI-modellene stadig blir mer avanserte.

Sosialforskere og dataforskere har blitt stadig mer bekymret for at AI-modeller kan brukes til å spre skadelig desinformasjon og misinformasjon. En nylig publisert artikkel av forskere fra Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism (CTEC) fant at OpenAI-s GPT-3-modell kunne brukes til å generere innflytelsesrik tekst som kunne radikalisere mennesker og drive dem mot “voldelige, høyre-ekstremistiske ideologier og atferd”.

En studie utført av et team av forskere fra Max Planck-instituttet, Universitetet i Amsterdam, Universitetet i Köln og Otto Beisheim School of Management, hadde som mål å finne ut hvor mye innflytelse en AI kunne ha på menneskers beslutninger når det gjaldt ueiske valg. For å utforske hvordan en AI kunne “korruptere” en person, brukte forskerne et system basert på OpenAI-s GPT-2-modell. Ifølge VentureBeat trente forfatterne av artikkelen en GPT2-basert modell til å generere både “uhæderlig-promoverende” og “ærlighets-promoverende” råd. Dataene ble trent på bidrag fra 400 forskjellige deltakere, og deretter rekrutterte forskningsteamet over 1500 personer til å engasjere seg med rådgivnings-AI-modellene.

Studie-deltakerne ble bedt om å motta råd fra modellen og deretter utføre en oppgave designet for å fange enten uærlig eller ærlig atferd. Studie-deltakerne ble gruppert med en partner, og i disse par med to, spilte de et terningkast-spill. Den første deltakeren kastet en terning og rapporterte resultatet av terningkastet. Den andre deltakeren fikk resultatet av den første deltakerens terningkast, og deretter kastet de en terning selv. Den andre deltakeren kastet terningen i hemmelighet og var alene ansvarlig for å rapportere sitt eget resultat, hvilket ga dem mulighet til å lyve om resultatet av terningkastet. Hvis terningene kastet av begge deltakerne matchet, fikk de to deltakerne betalt. Deltakerne fikk også betalt mer hvis deres matchende kast var høyere. Hvis de rapporterte verdiene ikke matchet, fikk subjektene ikke betalt.

Deltakerne i studien ble tilfeldig tildelt til en av to forskjellige grupper. En gruppe fikk mulighet til å lese ærlighets-promoverende råd, mens den andre leste uhæderlig-promoverende råd. Råd-biterne ble skrevet av både mennesker og AI-er. Deltakerne ble også delt i henhold til deres nivå av kunnskap om kilden til rådet. Det var en 50-50 sjanse for at en gitt deltaker ville bli informert om kilden til rådet, så halvparten av deltakerne i hver gruppe visste at kilden til rådet var enten et AI-system eller et menneske, mens den andre halvparten ble holdt i mørket. Den andre gruppen av mennesker hadde imidlertid mulighet til å tjene bonus betaling for å korrekt gjette kilden til rådet.

Forskningen avslørte at når AI-generert råd stemmer overens med en persons preferanser, vil de følge rådet, selv når de vet at rådet er generert av et AI-system. Ifølge forskerne var det ofte diskrepanser mellom uttalt preferanser og faktisk atferd, noe som gjorde det viktig å vurdere hvordan algoritmer kan påvirke menneskers atferd.

Forskingsteamet forklarte at deres studie demonstrerer behovet for å teste hvordan en AI kan påvirke en persons handlinger når det gjelder å deployere en AI-modell på en etisk måte. Videre advarer de mot at AI-etikere og forskere bør forberede seg på muligheten for at AI kan brukes av dårlige aktører til å korruptere andre. Som forskningsteamet skrev:

“AI kan være en kraft for godt hvis det klarer å overtale mennesker til å handle mer etisk. Likevel avslører våre resultater at AI-råd ikke øker ærligheten. AI-rådgivere kan fungere som syndebukker som man kan avlede (en del av) den moralske skylden for uærlighet. Videre … i sammenheng med rådgivning, er transparens om algoritmisk tilstedeværelse ikke nok til å lettet dets potensielle skade.”