Ny forskning viser hvordan AI kan fungere som megler

Ny forskning fra Cornell University viser hvordan kunstig intelligens (AI) kan spille en rolle i å mediere samtaler. Dette skjer i en tid med sosial distansering og fjernsamtaler på grunn av en pandemi.

Ifølge den nye studien, stolte mennesker mer på kunstig intelligente systemer enn på de faktiske personene de snakket med når de hadde vanskelige samtaler. De kunstig intelligente systemene var “smart” svarsforslag i tekster.

Den nye studien har tittelen “AI som en moral crumple zone: Effekten av mediert AI-kommunikasjon på attribusjon og tillit.” Den ble publisert online i tidsskriftet Computers in Human Behavior.

Jess Hohenstein er en doktorgradsstudent i informasjonsvitenskap. Han er den første forfatteren av artikkelen.

“Vi finner at når ting går galt, tar mennesker ansvaret som ellers ville ha blitt tilordnet deres menneskelige partner og tilordner en del av det til det kunstig intelligente systemet,” sa Hohenstein. “Dette introduserer en mulighet til å bruke AI som en megler i våre samtaler.”

Detect når ting går galt

Under en samtale kan algoritmen analysere språk for å oppdage øyeblikket når ting går galt. Den kan så foreslå konfliktløsingsstrategier, ifølge Hohenstein.

Studiets hovedmål var å se på de forskjellige subtile og betydelige måtene AI-systemer, som smarte svar, kan endre hvordan mennesker interagerer. Ifølge forskerne kan noe så lite som å velge et svar som ikke er helt nøyaktig, dramatisk endre de forskjellige aspektene av en samtale. Det språket blir ofte valgt for å spare tid på å skrive, og det kan ha en direkte effekt på forhold.

Malte Jung er medforfatter av studien og assistant professor i informasjonsvitenskap. Han er også direktør for Robots in Groups-laboratoriet, som studerer hvordan roboter endrer gruppedynamikk.

“Kommunikasjon er så grunnleggende for hvordan vi danner oppfatninger av hverandre, hvordan vi danner og opprettholder forhold, eller hvordan vi er i stand til å oppnå noe sammen,” sa Jung.

“Denne studien faller innenfor den bredere agendaen om å forstå hvordan disse nye AI-systemene forstyrrer vår evne til å interagere,” fortsatte Jung. “Vi tenker ofte på hvordan designet av systemer påvirker hvordan vi interagerer med dem, men færre studier fokuserer på spørsmålet om hvordan teknologiene vi utvikler påvirker hvordan mennesker interagerer med hverandre.”

Bedre forståelse av menneskelig interaksjon

Studien kan hjelpe med å forstå måtene mennesker oppfatter og interagerer med datamaskiner. Den kan også hjelpe med å forbedre menneskelig kommunikasjon, gjennom bruk av subtil veiledning og AI-påminnelser.

Hohenstein og Jung ønsket å finne ut om det kunstig intelligente systemet kunne absorbere “kollisjonen” i en samtale.

“Det er en fysisk mekanisme i fronten av bilen som er designet for å absorbere kraften fra kollisjonen og ta ansvar for å minimere effektene av kollisjonen,” sa Hohenstein. “Her ser vi det kunstig intelligente systemet absorbere en del av den moralske ansvaret.”

Forskningen ble støttet delvis av National Science Foundation.