Nová výzkum ukazuje, jak může umělá inteligence působit jako zprostředkovatelé

Nový výzkum z Cornellovy univerzity ukazuje, jak může umělá inteligence (AI) sehrát roli při zprostředkování rozhovorů. To přichází v době sociálního distancování a rozhovorů na dálku kvůli pandemii. 

Podle nové studie důvěřovali lidé umělým inteligentním systémům více než skutečným lidem, se kterými mluvili, při obtížných rozhovorech. Umělé inteligentní systémy byly „chytré“ návrhy odpovědí v textových zprávách. 

Nová studie se jmenuje „Umělá inteligence jako morální zóna nárazu: Efekty zprostředkované komunikace AI na atribuci a důvěru.” Byla zveřejněna online v časopise Počítače v lidském chování.

Jess Hohenstein je doktorandem v oboru informační vědy. Je prvním autorem článku.

“Zjistili jsme, že když se věci pokazí, lidé přebírají odpovědnost, která by jinak byla určena jejich lidskému partnerovi, a určují část z ní umělým inteligentním systémem,” řekl Hohenstein. “To zavádí potenciál použít umělou inteligenci jako zprostředkovatele v našich rozhovorech.”

Detect When Things Go Bad 

Během rozhovoru může algoritmus analyzovat jazyk, aby zjistil okamžik, kdy se věci pokazí. Může pak navrhnout určité strategie pro řešení konfliktů, podle Hohensteina.

Hlavním cílem studie bylo prozkoumat různé jemné a významné způsoby, jakými systémy AI, jako jsou chytré odpovědi, mohou měnit, jak lidé interagují. Podle výzkumníků může něco tak malého, jako výběr odpovědi, která není úplně přesná, dramaticky změnit různé aspekty rozhovoru. Ten jazyk je často vybrán, aby se ušetřil čas psaní, a může mít přímý vliv na vztahy. 

Malte Jung je spoluautorem studie a asistentem profesora informační vědy. Je také ředitelem laboratoře Roboti ve skupinách, která studuje, jak roboti mění dynamiku skupiny. 

“Komunikace je tak fundamentální pro to, jak si vytváříme představy o sobě navzájem, jak vytváříme a udržujeme vztahy, nebo jak jsme schopni dosáhnout něčeho společně,” řekl Jung.

“Tato studie spadá do širšího programu porozumění tomu, jak tyto nové systémy AI mění naši schopnost interagovat,” pokračoval Jung. “Často si myslíme, jak design systémů ovlivňuje, jak s nimi interagujeme, ale méně studií se zaměřuje na otázku, jak technologie, které vyvíjíme, ovlivňují, jak lidé interagují navzájem.”

Lepší porozumění lidské interakci

Studie může pomoci porozumět způsoby, jak lidé vnímají a interagují s počítači. Může také pomoci zlepšit lidskou komunikaci pomocí jemného vedení a připomínek AI.

Hohenstein a Jung chtěli zjistit, zda může systém AI absorbovat „následky“ rozhovoru.

“Existuje fyzický mechanismus v přední části auta, který je navržen tak, aby absorboval sílu nárazu a převzal odpovědnost za minimalizaci účinků nehody,” řekl Hohenstein. “Zde vidíme, jak systém AI absorbuje část morální odpovědnosti.”

Výzkum byl podporován částečně Národní vědeckou nadací.