Onderzoek suggereert dat robots overtuigender zijn als ze doen alsof ze mens zijn

De vooruitgang in de kunstmatige intelligentie heeft bots en machines gecreëerd die potentieel als mens kunnen doorgaan als ze alleen via een digitaal medium met mensen communiceren. Onlangs hebben een team van computerwetenschappers onderzocht hoe robots/machines en mensen met elkaar omgaan als de mensen denken dat de robots ook mens zijn. Volgens ScienceDaily toonden de resultaten van de studie aan dat mensen robots/chatbots overtuigender vinden als ze denken dat de bots mens zijn.

Talal Rahwan, associate professor in de Computer Science aan de NYU Abu Dhabi, heeft onlangs een studie geleid die onderzocht hoe robots en mensen met elkaar omgaan. De resultaten van het experiment werden gepubliceerd in Nature Machine Intelligence in een rapport met de titel Transparency-Efficiency Tradeoff in Human-Machine Cooperation. Tijdens de studie werden de testpersonen gevraagd om een coöperatief spel te spelen met een partner, die een mens of een bot kon zijn.

Het spel was een variant op het klassieke Prisoner’s Dilemma, waarin deelnemers moeten beslissen of ze samenwerken of verraaden. In een prisoner’s dilemma kan één partij kiezen om te deserteren en de andere partij te verraden om een voordeel te behalen ten koste van de andere speler, en alleen door samen te werken kunnen beide partijen zich ervan verzekeren dat ze winst maken.

De onderzoekers manipuleerden hun testpersonen door hen correcte of incorrecte informatie te geven over de identiteit van hun partner. Sommige deelnemers werden verteld dat ze met een bot speelden, terwijl hun partner eigenlijk een mens was. Andere deelnemers waren in de omgekeerde situatie. Tijdens het experiment kon het onderzoeksteam meten of mensen hun partners anders behandeldden als ze dachten dat hun partners bots waren. De onderzoekers volgden de mate waarin vooroordelen tegen bots bestonden en hoe deze attitudes de interacties met bots beïnvloedden.

De resultaten van het experiment toonden aan dat bots beter in staat waren om samenwerking van hun partners te verkrijgen als de mens dacht dat de bot ook een mens was. Echter, toen het werd onthuld dat de bot een bot was, daalde het niveau van samenwerking. Rahwan legde uit dat veel wetenschappers en ethici het erover eens zijn dat AI transparant moet zijn over hoe beslissingen worden genomen, maar het is minder duidelijk of ze ook transparant moeten zijn over hun aard als ze met anderen communiceren.

Vorig jaar maakte Google (GOOGL ) Duplex indruk toen een demonstratie op het podium aantoonde dat het in staat was om telefoontjes te plegen en afspraken te maken namens de gebruiker, met een mensachtige spraak die zo geavanceerd was dat veel mensen het voor een echte persoon zouden hebben aangezien als ze niet waren verteld dat ze met een bot spraken. Sinds de lancering van Google Duplex hebben veel AI- en robotethici hun bezorgdheid geuit over de technologie, waardoor Google zei dat het de agent zou laten identificeren als een bot in de toekomst. Momenteel wordt Google Duplex alleen in een zeer beperkte capaciteit gebruikt. Het zal spoedig worden gebruikt in Nieuw-Zeeland, maar alleen om de openingsuren van bedrijven te controleren. Ethici zijn nog steeds bezorgd over de mate waarin de technologie kan worden misbruikt.

Rahawan stelt dat de recente studie aantoont dat we moeten overwegen wat de kosten zijn die we willen betalen voor transparantie:

“Is het ethisch om een dergelijk systeem te ontwikkelen? Moeten we bots verbieden om zich voor te doen als mensen en hen dwingen om transparant te zijn over wie ze zijn? Als het antwoord ‘Ja’ is, dan benadrukken onze bevindingen de noodzaak om normen te stellen voor de efficiëntiekosten die we willen betalen in ruil voor een dergelijke transparantie.”