Ny forskning visar hur AI kan fungera som medlare

Ny forskning från Cornell University visar hur artificiell intelligens (AI) kan spela en roll i att medla samtal. Detta sker under en tid av social distansering och distanssamtal på grund av en pandemi.

Enligt den nya studien litar människor mer på artificiella intelligenssystem än på de faktiska personer de pratar med när de har svåra samtal. De artificiella intelligenssystemen var “smart” förslag på svar i texter.

Den nya studien heter “AI som en moralisk krockzon: Effekterna av medierad AI-kommunikation på attribut och förtroende.” Den publicerades online i tidskriften Computers in Human Behavior.

Jess Hohenstein är en doktorand inom informationsvetenskap. Han är den första författaren till artikeln.

“Vi upptäcker att när saker går fel, tar människor ansvaret som annars skulle ha tilldelats deras mänskliga partner och tilldelar en del av det till det artificiella intelligenssystemet”, sa Hohenstein. “Detta introducerar en möjlighet att använda AI som en medlare i våra samtal.”

Upptäck när saker går fel

Under ett samtal kan algoritmen analysera språk för att upptäcka ögonblicket när saker går fel. Den kan sedan föreslå vissa konfliktlösningsstrategier, enligt Hohenstein.

Studiens huvudmål var att undersöka de olika subtila och betydande sätten som AI-system, som smarta svar, kan förändra hur människor interagerar. Enligt forskarna kan något så litet som att välja ett svar som inte är helt korrekt drastiskt förändra olika aspekter av ett samtal. Det språket väljs ofta för att spara tid på att skriva, och det kan ha en direkt effekt på relationer.

Malte Jung är medförfattare till studien och biträdande professor i informationsvetenskap. Han är också chef för Robots in Groups-laboratoriet, som studerar hur robotar förändrar gruppens dynamik.

“Kommunikation är så grundläggande för hur vi bildar uppfattningar om varandra, hur vi bildar och upprätthåller relationer eller hur vi kan utföra något tillsammans”, sa Jung.

“Denna studie ingår i den bredare agendan att förstå hur dessa nya AI-system påverkar vår förmåga att interagera”, fortsatte Jung. “Vi tänker ofta på hur systemens design påverkar hur vi interagerar med dem, men färre studier fokuserar på frågan om hur de teknologier vi utvecklar påverkar hur människor interagerar med varandra.”

Bättre förståelse för mänsklig interaktion

Studien kan hjälpa till att förstå hur människor uppfattar och interagerar med datorer. Den kan också hjälpa till att förbättra mänsklig kommunikation genom att använda subtil vägledning och AI-påminnelser.

Hohenstein och Jung ville ta reda på om AI-systemet kunde absorbera “krocken” i ett samtal.

“Det finns en fysisk mekanism i framsidan av bilen som är utformad för att absorbera kraften från krocken och ta ansvar för att minimera effekterna av krocken”, sa Hohenstein. “Här ser vi att AI-systemet absorberar en del av den moraliska ansvaret.”

Forskningen stöddes delvis av National Science Foundation.