新しい研究：AIが仲裁者としての役割を果たす方法

コーネル大学からの新しい研究は、人工知能（AI）が会話を仲裁する役割を果たす方法を示しています。これは、社会的距離とリモート会話の時代に起こっています。

新しい研究によると、人間は、難しい会話をするときに、実際に話している人よりも、人工知能システムをより信頼しています。人工知能システムは、テキストでの「スマート」な返信の提案でした。

新しい研究は、「AI as a Moral Crumple Zone: The Effects of Mediated AI Communication on Attribution and Trust」と題されています。オンラインでジャーナルComputers in Human Behaviorに掲載されました。

ジェス・ホーエンシュタインは、情報科学の博士課程の学生です。彼は、この論文の第一著者です。

「私たちは、ものごとがうまくいかないとき、人々が人間のパートナーに責任を負わせるのではなく、人工知能システムに責任を負わせることができることを発見しました」とホーエンシュタインは述べました。「これは、会話の中でAIを仲裁者として使用する可能性を示しています」。

悪いことが起こったときに検知する

会話の中で、アルゴリズムは言語を分析して、ものごとが悪い方向に進むときを検知できます。すると、ホーエンシュタインによると、紛争解決戦略を提案できます。

研究の主な目的は、スマートな返信のようなAIシステムが人間のやり取りをどのように変えるかを調べることでした。研究者によると、完全に正確ではない返信を選択するだけでも、会話の様々な側面を大幅に変えることができます。その言語は、タイピングの時間を節約するために選択されることが多く、関係に直接影響を与えることができます。

マルテ・ユングは、研究の共著者であり、情報科学の助教授です。彼は、ロボット・イン・グループ・ラボのディレクターでもあり、ロボットがグループ・ダイナミクスをどのように変えるかを研究しています。

「コミュニケーションは、私たちが他人をどう認識するか、関係をどう形成するか、または一緒に何かを成し遂げる方法を決定する上で非常に重要です」とユングは述べました。

「この研究は、新しいAIシステムが私たちが互いにやり取りする能力をどのように変えるかを理解するというより広い議題に属しています」とユングは続けました。「私たちは、システムの設計が私たちがシステムとやり取りする方法にどのように影響するかについてよく考えていますが、開発したテクノロジーが私たちが互いにやり取りする方法にどのように影響するかについては、より少ない研究が行われています」。

人間のやり取りをよりよく理解する

この研究は、人間がコンピューターとどのように認識してやり取りするかを理解するのに役立ちます。また、人間のコミュニケーションを改善するために、繊細なガイダンスとAIによるリマインダーの使用も可能にします。

ホーエンシュタインとユングは、AIシステムが会話の「クラッシュ」を吸収できるかどうかを調べようとしました。

「自動車の前部には、衝撃の力を吸収し、クラッシュの影響を最小限に抑えるように設計された物理的なメカニズムがあります」とホーエンシュタインは述べました。「ここでは、AIシステムが道徳的な責任の一部を吸収しているのを見ています」。

この研究は、国立科学財団の支援を受けて行われました。