Nieuw onderzoek toont aan hoe AI kan fungeren als bemiddelaar

Nieuw onderzoek van de Cornell University toont aan hoe kunstmatige intelligentie (AI) een rol kan spelen bij het bemiddelen van gesprekken. Dit gebeurt in een tijd van sociale distantie en remote gesprekken vanwege een pandemie.

Volgens de nieuwe studie vertrouwen mensen kunstmatige intelligentie systemen meer dan de echte mensen met wie ze praten tijdens moeilijke gesprekken. De kunstmatige intelligentie systemen waren “slimme” antwoord suggesties in teksten.

De nieuwe studie heeft als titel “AI als morele crumple zone: De effecten van bemiddelde AI-communicatie op toekenning en vertrouwen.” Het is online gepubliceerd in het tijdschrift Computers in Human Behavior.

Jess Hohenstein is een doctoraal student in het veld van informatie wetenschap. Hij is de eerste auteur van het artikel.

“We vinden dat wanneer dingen verkeerd gaan, mensen de verantwoordelijkheid die anders aan hun menselijke partner zou zijn toegekend, deels toekennen aan het kunstmatige intelligentie systeem,” zei Hohenstein. “Dit introduceert een potentieel om AI te gebruiken als bemiddelaar in onze gesprekken.”

Ontdek wanneer dingen verkeerd gaan

Tijdens een gesprek kan het algoritme taal analyseren om het moment te detecteren waarop dingen verkeerd gaan. Het kan dan bepaalde conflict-oplossingsstrategieën suggereren, volgens Hohenstein.

Het hoofddoel van de studie was om te kijken naar de verschillende subtiele en significante manieren waarop AI-systemen, zoals slimme antwoorden, de interactie tussen mensen kunnen veranderen. Volgens de onderzoekers kan iets zo klein als het selecteren van een antwoord dat niet helemaal accuraat is, de verschillende aspecten van een gesprek drastisch veranderen. Die taal wordt vaak geselecteerd om tijd te besparen bij het typen, en het kan een direct effect hebben op relaties.

Malte Jung is co-auteur van de studie en assistant professor van informatie wetenschap. Hij is ook directeur van het Robots in Groups lab, dat onderzoekt hoe robots de groepsdynamiek veranderen.

“Communicatie is zo fundamenteel voor hoe we percepties van elkaar vormen, hoe we relaties vormen en onderhouden, of hoe we in staat zijn om samen te werken,” zei Jung.

“Deze studie past binnen de bredere agenda van het begrijpen van hoe deze nieuwe AI-systemen onze capaciteit om te interacteren beïnvloeden,” zei Jung verder. “We denken vaak aan hoe de ontwerp van systemen onze interactie met hen beïnvloedt, maar minder studies richten zich op de vraag hoe de technologieën die we ontwikkelen de manier waarop mensen met elkaar interacteren beïnvloeden.”

Beter begrip van menselijke interactie

De studie kan helpen om de manieren waarop mensen computers waarnemen en interacteren te begrijpen. Het kan ook helpen om menselijke communicatie te verbeteren door middel van subtiele richtlijnen en AI-herinneringen.

Hohenstein en Jung wilden weten of het AI-systeem de “crash” van een gesprek kon absorberen.

“Er is een fysiek mechanisme in de voorzijde van de auto dat ontworpen is om de kracht van de impact te absorberen en verantwoordelijk te zijn voor het minimaliseren van de effecten van de crash,” zei Hohenstein. “Hier zien we het AI-systeem enige morele verantwoordelijkheid absorberen.”

Het onderzoek werd deels ondersteund door de National Science Foundation.