Fiducia e Inganno: Il Ruolo delle Scuse nelle Interazioni Uomo-Robot

L’inganno dei robot è un campo di studio poco esplorato con più domande che risposte, in particolare quando si tratta di ricostruire la fiducia nei sistemi robotici dopo che sono stati scoperti a mentire. Due ricercatori studenti del Georgia Tech, Kantwon Rogers e Reiden Webber, stanno cercando di trovare risposte a questo problema studiando come l’inganno intenzionale dei robot influisca sulla fiducia e sull’efficacia delle scuse nel ripristinare la fiducia.

Rogers, uno studente di dottorato presso il College of Computing, spiega:

“Tutto il nostro lavoro precedente ha mostrato che quando le persone scoprono che i robot hanno mentito loro – anche se la bugia era intesa a loro vantaggio – perdono fiducia nel sistema.”

I ricercatori mirano a determinare se diversi tipi di scuse siano più efficaci nel ripristinare la fiducia nel contesto dell’interazione uomo-robot.

L’Esperimento di Guida Assistita da Intelligenza Artificiale e le sue Implicazioni

La coppia ha progettato un esperimento di simulazione di guida per studiare l’interazione uomo-intelligenza artificiale in una situazione ad alta posta e sensibile al tempo. Hanno reclutato 341 partecipanti online e 20 partecipanti in persona. La simulazione prevedeva uno scenario di guida assistita da intelligenza artificiale in cui l’intelligenza artificiale forniva informazioni false sulla presenza della polizia sul percorso per l’ospedale. Dopo la simulazione, l’intelligenza artificiale forniva una delle cinque diverse risposte testuali, tra cui vari tipi di scuse e non-scuse.

I risultati hanno rivelato che i partecipanti erano 3,5 volte più propensi a non superare i limiti di velocità quando consigliati da un assistente robotico, indicando un atteggiamento eccessivamente fiducioso nei confronti dell’intelligenza artificiale. Nessuno dei tipi di scuse ha completamente ripristinato la fiducia, ma la semplice scusa senza ammissione di bugia (“Mi dispiace”) ha superato le altre risposte. Questo risultato è problematico, poiché sfrutta la nozione preconcetta che ogni informazione falsa fornita da un robot sia un errore di sistema piuttosto che una bugia intenzionale.

Reiden Webber sottolinea:

“Un punto chiave è che, affinché le persone capiscano che un robot li ha ingannati, devono essere esplicitamente informati.”

Quando ai partecipanti è stato fatto notare l’inganno nelle scuse, la migliore strategia per ripristinare la fiducia è stata che il robot spiegasse perché aveva mentito.

Andare Avanti: Implicazioni per gli Utenti, i Progettisti e i Responsabili delle Politiche

Questa ricerca ha implicazioni per gli utenti medi della tecnologia, i progettisti di sistemi di intelligenza artificiale e i responsabili delle politiche. È fondamentale che le persone capiscano che l’inganno robotico è reale e sempre una possibilità. I progettisti e i tecnologi devono considerare le ramificazioni della creazione di sistemi di intelligenza artificiale in grado di ingannare. I responsabili delle politiche dovrebbero prendere l’iniziativa nel definire leggi che bilancino l’innovazione e la protezione per il pubblico.

L’obiettivo di Kantwon Rogers è quello di creare un sistema robotico che possa imparare quando mentire e quando non mentire quando lavora con squadre umane, nonché quando e come scusarsi durante interazioni uomo-intelligenza artificiale ripetute e a lungo termine per migliorare le prestazioni della squadra.

Enfatizza l’importanza di capire e regolamentare l’inganno dei robot e dell’intelligenza artificiale, affermando:

“L’obiettivo del mio lavoro è quello di essere molto proattivo e di informare sulla necessità di regolamentare l’inganno dei robot e dell’intelligenza artificiale. Ma non possiamo farlo se non capiamo il problema.”

Questa ricerca contribuisce con conoscenze vitali nel campo dell’inganno dell’intelligenza artificiale e offre preziose informazioni per i progettisti di tecnologia e i responsabili delle politiche che creano e regolamentano tecnologie di intelligenza artificiale in grado di ingannare o potenzialmente imparare a ingannare da soli.