Studie foreslår, at robotter er mere overbevisende, når de giver sig ud for at være mennesker

Fremgangen i kunstig intelligens har skabt botter og maskiner, der potentielt kan give sig ud for at være mennesker, hvis de kun interagerer med mennesker gennem en digital medie. For nylig har et hold af computer science-forskere studeret, hvordan robotter/maskiner og mennesker interagerer, når menneskene tror, at robotterne også er mennesker. Ifølge ScienceDaily fandt studiets resultater, at mennesker finder robotter/chatbotter mere overbevisende, når de tror, at botterne er mennesker.

Talal Rahwan, lektor i computer science ved NYU Abu Dhabi, har nylig ledet en studie, der undersøgte, hvordan robotter og mennesker interagerer med hinanden. Studiets resultater blev offentliggjort i Nature Machine Intelligence i en rapport kaldet Transparency-Efficiency Tradeoff in Human-Machine Cooperation. Under studiet blev testpersonerne bedt om at spille et samarbejdsspil med en partner, og partnern kunne enten være et menneske eller en bot.

Spillet var en variation af det klassiske Prisoner’s Dilemma, hvor deltagerne skal beslutte, om de vil samarbejde eller forråde den anden på hver runde. I et prisoner’s dilemma kan den ene side vælge at svigte og forråde sin partner for at opnå en fordel på bekostning af den anden spiller, og kun ved at samarbejde kan begge parter sikre sig en gevinst.

Forskerne manipulerede deres testpersoner ved at give dem enten korrekt eller forkert information om partnerns identitet. Nogle af deltagerne blev fortalt, at de spillede med en bot, selvom partnern i virkeligheden var et menneske. Andre deltagere var i den omvendte situation. Under eksperimentet kunne forskerholdet kvantificere, om mennesker behandlede partnere forskelligt, når de blev fortalt, at partnern var en bot. Forskerne sporede, i hvilken udstrækning fordomme mod botter eksisterede, og hvordan disse attituder påvirkede interaktioner med botter, der identificerede sig selv.

Studiets resultater viste, at botter var mere effektive til at fremme samarbejde fra deres partnere, når mennesket troede, at botten også var et menneske. Men når det blev afsløret, at botten var en bot, faldt samarbejdsniveauet. Rahwan forklarede, at selvom mange videnskabsmænd og etikere er enige om, at AI skal være gennemsigtig om, hvordan beslutninger tages, er det mindre klart, om de også skal være gennemsigtige om deres natur, når de kommunikerer med andre.

Sidste år gjorde Google (GOOGL ) Duplex overskrifter, da en sceneshow viste, at det var i stand til at foretage telefonopkald og bookede aftaler på vegne af sin bruger, og genererede menneske-lignende tale så avanceret, at mange mennesker ville have taget fejl af det for en rigtig person, hvis de ikke var blevet fortalt, at de talte med en bot. Siden Google Duplex’ debut har mange AI- og robotetikere udtrykt deres bekymring over teknologien, hvilket fik Google til at sige, at agenten ville identificere sig selv som en bot i fremtiden. For tiden bruges Google Duplex kun i en meget begrænset kapacitet. Det vil snart blive brugt i New Zealand, men kun til at tjekke åbningstider for virksomheder. Etikere er stadig bekymrede over, i hvilken udstrækning teknologien kan misbruges.

Rahawan argumenterer for, at den nyeste studie viser, at vi skal overveje, hvad vi er villige til at betale for gennemsigtighed:

“Er det etisk at udvikle et sådant system? Skal vi forbyde botter fra at give sig ud for mennesker og tvinge dem til at være gennemsigtige om, hvem de er? Hvis svaret er ‘Ja’, så fremhæver vores resultater behovet for at fastsætte standarder for den efficiensomkostning, vi er villige til at betale for sådan gennemsigtighed.”