Studie naznačuje, že roboti jsou přesvědčivější, když se vydávají za lidi

Pokroky v oblasti umělé inteligence vytvořily boty a stroje, které mohou potenciálně vypadat jako lidé, pokud interagují s lidmi výhradně prostřednictvím digitálního média. Nedávno tým počítačových vědců studoval, jak roboti/stroje a lidé interagují, když lidé věří, že roboti jsou také lidé. Jak uvádí ScienceDaily, výsledky studie ukázaly, že lidé považují roboty/chatboty za přesvědčivější, když věří, že boti jsou lidé.

Talal Rahwan, asociativní profesor počítačové vědy na NYU Abu Dhabi, nedávno vedl studii, která zkoumala, jak roboti a lidé interagují navzájem. Výsledky experimentu byly zveřejněny v Nature Machine Intelligence v zprávě nazvané Transparency-Efficiency Tradeoff in Human-Machine Cooperation. Během studie byli testovací subjekty instruováni, aby hráli kooperativní hru s partnerem, a partner mohl být buď člověk nebo bot.

Hra byla variací na klasickou Dilema vězňů, kde účastníci musí rozhodnout, zda budou spolupracovat nebo zradit druhého v každém kole. V dilematu vězňů může jedna strana zvolit zradu a zradit partnera, aby dosáhla výhody na úkor druhého hráče, a pouze spoluprací mohou obě strany zajistit, že získají výhodu.

Vědci manipulovali svými testovacími subjekty tím, že jim poskytli buď správné nebo nesprávné informace o identitě jejich partnera. Některým účastníkům bylo řečeno, že hrají s botem, i když jejich partner byl ve skutečnosti člověk. Jiní účastníci byli v opačné situaci. Během experimentu byl výzkumný tým schopen kvantifikovat, zda lidé zacházejí s partnery jinak, když jim bylo řečeno, že jejich partneři jsou boti. Vědci sledovali stupeň, v jakém existovala předpojatost proti botům, a jak tyto postoje ovlivňovaly interakce s boty, které se identifikovaly.

Výsledky experimentu ukázaly, že boti byli účinnější při vyvolání spolupráce od svých partnerů, když lidé věřili, že bot je také člověk. Nicméně, když bylo odhaleno, že bot je bot, úroveň spolupráce klesla. Rahwan vysvětlil, že zatímco mnoho vědců a etiků souhlasí s tím, že AI by mělo být transparentní ohledně toho, jak jsou učiněna rozhodnutí, je méně jasné, zda by také měly být transparentní ohledně své povahy, když komunikují s ostatními.

Minulý rok Google (GOOGL ) Duplex způsobil rozruch, když demonstrace na pódiu ukázala, že je schopná dělat telefonní hovory a rezervovat schůzky jménem svého uživatele, generuje lidskou řeč tak sofistikovanou, že by mnoho lidí mohlo mít za to, že mluví s skutečným člověkem, kdyby jim nebylo řečeno, že mluví s botem. Od debutu Google Duplex mnoho etiků AI a robotů vyjádřilo své obavy z této technologie, což vedlo Google k prohlášení, že agent se bude identifikovat jako bot v budoucnu. V současné době je Google Duplex používán pouze ve velmi omezeném rozsahu. Brzy bude použit na Novém Zélandu, ale pouze pro kontrolu provozní doby podniků. Etici jsou stále znepokojení z míry, v níž by mohla být tato technologie zneužita.

Rahawan argumentuje, že recentní studie ukazuje, že bychom měli zvážit, jaké náklady jsme ochotni zaplatit za transparentnost:

„Je etické vyvinout takový systém? Měli bychom zakázat botům, aby se vydávali za lidi, a nutit je, aby byli transparentní ohledně toho, kým jsou? Pokud je odpověď ‘Ano’, pak naše zjištění zdůrazňují potřebu stanovit standardy pro náklad na efektivitu, který jsme ochotni zaplatit za takovou transparentnost.“