Nyt forskning viser, hvordan AI kan fungere som mæglere

Nyt forskning fra Cornell University viser, hvordan kunstig intelligens (AI) kan spille en rol i at mægle samtaler. Dette sker under en tid med social afstand og fjernsamtaler på grund af en pandemi.

Ifølge den nye studie stolede mennesker mere på kunstige intelligente systemer end på de faktiske personer, de talte med, når de havde vanskelige samtaler. De kunstige intelligente systemer var “smart” svarforslag i tekster.

Den nye studie har titlen “AI som en moralsk krængningszone: Effekten af medieret AI-kommunikation på tillid og ansvar”. Den er offentliggjort online i tidsskriftet Computers in Human Behavior.

Jess Hohenstein er en ph.d.-studerende på området informationsvidenskab. Han er den første forfatter på artiklen.

“Vi finder ud af, at når tingene går galt, tager mennesker ansvaret, der ellers ville være blevet tildelt deres menneskelige samarbejdspartner, og tildele en del af det til det kunstige intelligente system,” sagde Hohenstein. “Dette introducerer en mulighed for at bruge AI som mægler i vores samtaler.”

Detekter, når tingene går galt

Under en samtale kan algoritmen analysere sprog for at detektere øjeblikket, hvor tingene går galt. Den kan derefter foreslå visse konfliktløsningsstrategier, ifølge Hohenstein.

Studiets hovedformål var at se på de forskellige subtile og betydelige måder, hvorpå AI-systemer, som smarte svar, kan ændre, hvordan mennesker interagerer. Ifølge forskerne kan noget så lille som at vælge et svar, der ikke er helt præcist, dramatisk ændre de forskellige aspekter af en samtale. Det sprog er ofte valgt for at spare tid på at skrive, og det kan have en direkte effekt på forhold.

Malte Jung er medforfatter på studiet og adjunkt i informationsvidenskab. Han er også leder af Robots in Groups-laboratoriet, som studerer, hvordan robotter ændrer gruppedynamik.

“Kommunikation er så fundamentalt for, hvordan vi danner opfattelser af hinanden, hvordan vi danner og opretholder forhold eller hvordan vi er i stand til at opnå noget sammen,” sagde Jung.

“Denne studie falder inden for den bredere dagsorden for at forstå, hvordan disse nye AI-systemer påvirker vores evne til at interagere,” fortsatte Jung. “Vi tænker ofte på, hvordan systemernes design påvirker, hvordan vi interagerer med dem, men færre studier fokuserer på spørgsmålet om, hvordan de teknologier, vi udvikler, påvirker, hvordan mennesker interagerer med hinanden.”

Bedre forståelse af menneskelig interaktion

Studiet kan hjælpe med at forstå, hvordan mennesker opfatter og interagerer med computere. Det kan også hjælpe med at forbedre menneskelig kommunikation gennem brug af subtil vejledning og AI-påmindelser.

Hohenstein og Jung ville gerne finde ud af, om AI-systemet kunne absorbere “kollisionen” i en samtale.

“Der er en fysisk mekanisme i fronten af bilen, der er designet til at absorbere kraften af sammenstødet og tage ansvar for at minimere effekterne af kollisionen,” sagde Hohenstein. “Her ser vi, at AI-systemet absorberer en del af den moralske ansvar.”

Forskningen blev støttet delvist af National Science Foundation.