Studio suggerisce che i robot sono più persuasivi quando fingono di essere umani

I progressi nell’intelligenza artificiale hanno creato bot e macchine che potrebbero essere scambiate per esseri umani se interagiscono con le persone esclusivamente attraverso un mezzo digitale. Recentemente, un team di ricercatori di scienze informatiche ha studiato come robot/macchine e umani interagiscono quando gli umani credono che i robot siano anche umani. Come riportato da ScienceDaily, i risultati dello studio hanno trovato che le persone trovano i robot/chatbot più persuasivi quando credono che i bot siano umani.

Talal Rahwan, professore associato di Informatica alla NYU Abu Dhabi, ha recentemente guidato uno studio che ha esaminato come robot e umani interagiscono tra loro. I risultati dell’esperimento sono stati pubblicati su Nature Machine Intelligence in un rapporto chiamato Transparency-Efficiency Tradeoff in Human-Machine Cooperation. Durante lo studio, i partecipanti sono stati istruiti a giocare a un gioco cooperativo con un partner, e il partner poteva essere un umano o un bot.

Il gioco era una variante del classico Dilemma del prigioniero, in cui i partecipanti devono decidere se cooperare o tradire l’altro in ogni round. In un dilemma del prigioniero, un lato può scegliere di tradire e tradire il partner per ottenere un beneficio a spese dell’altro giocatore, e solo cooperando entrambi i lati possono assicurarsi di ottenere un guadagno.

I ricercatori hanno manipolato i loro partecipanti fornendo loro informazioni corrette o errate sull’identità del loro partner. Alcuni partecipanti sono stati informati che stavano giocando con un bot, anche se il loro partner era in realtà un umano. Altri partecipanti erano nella situazione inversa. Durante l’esperimento, il team di ricerca è stato in grado di quantificare se le persone trattavano i partner in modo diverso quando veniva loro detto che i loro partner erano bot. I ricercatori hanno tracciato il grado in cui esisteva un pregiudizio contro i bot e come queste attitudini hanno impattato sulle interazioni con i bot che si identificavano.

I risultati dell’esperimento hanno dimostrato che i bot erano più efficaci nel suscitare la cooperazione dai loro partner quando l’umano credeva che il bot fosse anche un umano. Tuttavia, quando è stato rivelato che il bot era un bot, i livelli di cooperazione sono calati. Rahwan ha spiegato che mentre molti scienziati e studiosi di etica concordano che l’IA dovrebbe essere trasparente su come vengono prese le decisioni, non è così chiaro che dovrebbero anche essere trasparenti sulla loro natura quando comunicano con gli altri.

L’anno scorso, Google (GOOGL ) Duplex ha fatto scalpore quando una demo sul palco ha mostrato che era in grado di effettuare chiamate e prenotare appuntamenti per conto dell’utente, generando un linguaggio umano così sofisticato che molte persone lo avrebbero scambiato per una persona reale se non fossero state informate che stavano parlando con un bot. Dopo il debutto di Google Duplex, molti studiosi di etica dell’IA e dei robot hanno espresso le loro preoccupazioni sulla tecnologia, spingendo Google a dire che l’agente si sarebbe identificato come un bot in futuro. Attualmente, Google Duplex viene utilizzato in una capacità molto limitata. Presto verrà utilizzato in Nuova Zelanda, ma solo per controllare gli orari di apertura degli affari. Gli studiosi di etica sono ancora preoccupati per il grado in cui la tecnologia potrebbe essere utilizzata in modo improprio.

Rahawan sostiene che lo studio recente dimostra che dovremmo considerare quali costi siamo disposti a pagare in cambio della trasparenza:

“È etico sviluppare un tale sistema? Dovremmo proibire ai bot di fingersi umani e costringerli a essere trasparenti su chi sono? Se la risposta è ‘Sì’, allora i nostri risultati evidenziano la necessità di stabilire standard per il costo di efficienza che siamo disposti a pagare in cambio di tale trasparenza.”