Neue Forschung zeigt, wie KI als Vermittler agieren kann

Eine neue Studie der Cornell University zeigt, wie künstliche Intelligenz (KI) eine Rolle bei der Vermittlung von Gesprächen spielen kann. Dies kommt zu einer Zeit, in der soziale Distanzierung und Remote-Gespräche aufgrund einer Pandemie zunehmen.

Laut der neuen Studie vertrauen Menschen künstlichen Intelligenz-Systemen mehr als den tatsächlichen Personen, mit denen sie sprechen, wenn es um schwierige Gespräche geht. Die künstlichen Intelligenz-Systeme waren “intelligente” Vorschläge für Antworten in Texten.

Die neue Studie trägt den Titel “KI als moralische Knautschzone: Die Auswirkungen von KI-vermittelter Kommunikation auf Zuschreibung und Vertrauen.” Sie wurde online im Journal Computers in Human Behavior veröffentlicht.

Jess Hohenstein ist Doktorand im Bereich Information Science. Er ist der erste Autor des Papiers.

“Wir finden heraus, dass Menschen, wenn etwas schiefgeht, die Verantwortung, die sonst ihrem menschlichen Partner zugewiesen worden wäre, teilweise der künstlichen Intelligenz zuweisen”, sagte Hohenstein. “Dies introduceiert ein Potenzial, KI als Vermittler in unseren Gesprächen zu verwenden.”

Erkennen, wenn etwas schiefgeht

Während eines Gesprächs kann der Algorithmus die Sprache analysieren, um den Moment zu erkennen, in dem etwas schiefgeht. Er kann dann bestimmte Konfliktlösungsstrategien vorschlagen, laut Hohenstein.

Das Hauptziel der Studie war es, die verschiedenen subtilen und signifikanten Wege zu untersuchen, auf denen KI-Systeme, wie intelligente Antworten, die Art und Weise, wie Menschen interagieren, verändern. Laut den Forschern kann already etwas so Kleines wie die Auswahl einer Antwort, die nicht ganz genau ist, die verschiedenen Aspekte eines Gesprächs drastisch verändern. Diese Sprache wird oft ausgewählt, um Zeit beim Tippen zu sparen, und kann eine direkte Auswirkung auf Beziehungen haben.

Malte Jung ist Co-Autor der Studie und Assistant Professor für Information Science. Er ist auch Direktor des Robots in Groups Lab, das untersucht, wie Roboter die Gruppendynamik verändern.

“Kommunikation ist so fundamental für die Art und Weise, wie wir uns gegenseitig wahrnehmen, wie wir Beziehungen bilden und aufrechterhalten oder wie wir zusammenarbeiten”, sagte Jung.

“Diese Studie fällt in das breitere Agenda, die verstehen möchte, wie diese neuen KI-Systeme unsere Fähigkeit, miteinander zu interagieren, verändern”, fuhr Jung fort. “Wir denken oft darüber nach, wie die Gestaltung von Systemen unsere Interaktion mit ihnen beeinflusst, aber weniger Studien konzentrieren sich auf die Frage, wie die Technologien, die wir entwickeln, die Art und Weise, wie Menschen miteinander interagieren, beeinflussen.”

Besseres Verständnis der menschlichen Interaktion

Die Studie kann dazu beitragen, die Art und Weise, wie Menschen mit Computern interagieren, besser zu verstehen. Sie kann auch dazu beitragen, die menschliche Kommunikation durch die Verwendung von subtiler Anleitung und KI-Erinnerungen zu verbessern.

Hohenstein und Jung wollten herausfinden, ob das KI-System den “Crash” eines Gesprächs absorbieren kann.

“Es gibt ein physikalisches Mechanismus im Frontbereich des Autos, der darauf ausgelegt ist, die Kraft des Aufpralls zu absorbieren und die Auswirkungen des Crashes zu minimieren”, sagte Hohenstein. “Hier sehen wir, dass das KI-System einen Teil der moralischen Verantwortung absorbiert.”

Die Forschung wurde teilweise von der National Science Foundation unterstützt.