Nuova ricerca getta luce sulla fiducia umano-robot

Una nuova ricerca, guidata dal U.S. Army Research Laboratory insieme all’Istituto per le simulazioni e l’addestramento dell’Università della Florida Centrale, sta gettando luce sul livello di fiducia che gli esseri umani hanno nei confronti dei robot. Il nuovo progetto si è concentrato sulla relazione tra esseri umani e robot, e se gli esseri umani danno più valore al ragionamento di un robot o ai suoi errori.

La nuova ricerca ha esaminato il teaming umano-agente, o HAT, e come la fiducia umana, il carico di lavoro e le percezioni di un agente sono influenzati dalla trasparenza degli agenti come robot, veicoli senza pilota e agenti software. La trasparenza dell’agente si verifica quando un essere umano è in grado di identificare l’intento, il processo di ragionamento e i piani futuri degli agenti.

La nuova ricerca suggerisce che la fiducia umana nei robot diminuisce ogni volta che il robot commette un errore. Ciò è indipendente dal fatto che il robot abbia o meno condiviso il suo processo di ragionamento.

La nuova ricerca è stata pubblicata nell’edizione di agosto di IEEE-Transactions on Human-Machine Systems. L’articolo era intitolato “Trasparenza e affidabilità dell’agente nell’interazione umano-robot: l’influenza sulla fiducia e sull’affidabilità percepita”.

Le ricerche tradizionali che trattano del teaming umano-agente utilizzano agenti intelligenti completamente affidabili che non commettono errori. Tuttavia, questo nuovo studio è stato uno dei pochi che ha esaminato come la trasparenza dell’agente interagisce con l’affidabilità dell’agente. Lo studio ha coinvolto un robot che commetteva errori mentre gli esseri umani lo osservavano, e gli esseri umani sono stati poi chiesti se vedevano il robot come meno affidabile. Durante l’intero processo, gli esseri umani hanno avuto accesso al processo di ragionamento del robot.

La dottoressa Julia Wright è l’investigatore principale del progetto, e lei è una ricercatrice presso il Laboratorio di ricerca dell’esercito del comando per lo sviluppo delle capacità di combattimento dell’esercito degli Stati Uniti, o ARL.

“Comprendere come il comportamento del robot influenza i suoi compagni di squadra umani è cruciale per lo sviluppo di team umano-robot efficaci, nonché per la progettazione di interfacce e metodi di comunicazione tra i membri del team”, ha detto. “Questa ricerca contribuisce agli sforzi dell’esercito per le operazioni multDominio per garantire la superiorità nelle capacità abilitate dall’intelligenza artificiale. Ma è anche interdisciplinare, poiché i suoi risultati informeranno il lavoro di psicologi, roboticisti, ingegneri e progettisti di sistemi che stanno lavorando per facilitare una migliore comprensione tra esseri umani e agenti autonomi nel tentativo di creare compagni di squadra autonomi e non solo strumenti”.

Questo nuovo progetto faceva parte di un progetto più ampio noto come il progetto Autonomous Squad Member (ASM) sponsorizzato dall’Iniziativa di ricerca sull’autonomia dell’Ufficio del Segretario della Difesa. L’ASM è un vero robot da terra che viene utilizzato all’interno di una squadra di fanteria. È in grado di comunicare e interagire con la squadra.

Lo studio ha coinvolto partecipanti che osservavano team di soldati umano-agente in un ambiente simulato. L’ASM faceva parte del team e si muoveva attraverso un corso di addestramento. Il compito degli osservatori era quello di monitorare il team e valutare il robot. Durante l’intero corso di addestramento, il team è stato presentato con vari eventi e ostacoli. I soldati sono stati in grado di navigare ogni ostacolo correttamente, ma ci sono stati momenti in cui il robot non è riuscito a capire l’ostacolo e ha commesso errori. Il robot ha poi condiviso il suo ragionamento dietro certe azioni, nonché il risultato atteso.

Lo studio ha scoperto che i partecipanti erano più preoccupati degli errori del robot rispetto alla logica e al ragionamento sottostanti. L’affidabilità del robot ha giocato un ruolo importante nella fiducia e nelle percezioni dei partecipanti. Ogni volta che il robot commetteva un errore, gli osservatori lo valutavano come meno affidabile.

L’affidabilità e la fiducia sono aumentate quando la trasparenza dell’agente è aumentata, o quando il robot ha condiviso dettagli e ragionamento dietro le sue decisioni. Tuttavia, l’affidabilità e la fiducia erano ancora inferiori a quelle dei robot che non avevano mai subito un errore. Ciò ha suggerito che la condivisione del ragionamento e della logica sottostante potrebbe aiutare con alcuni dei problemi di fiducia e affidabilità che circondano i robot.

“Studi precedenti suggeriscono che il contesto è importante nel determinare l’utilità delle informazioni di trasparenza”, ha detto Wright. “Dobbiamo capire meglio quali compiti richiedono una comprensione più approfondita del ragionamento dell’agente e come discernere quale sia la profondità di tale comprensione. La ricerca futura dovrebbe esplorare modi per fornire informazioni di trasparenza in base alle esigenze del compito”.

Questa nuova ricerca svolgerà un ruolo critico nel settore a causa dell’aumento dell’interazione tra esseri umani e robot. Una delle aree che sarà più importante è il settore militare. Come visto in questi esercizi, robot e soldati saranno eventualmente uno accanto all’altro. Proprio come un soldato deve avere fiducia in un altro soldato, lo stesso si applicherà ai robot. Se ciò sarà possibile e i robot diventeranno comuni nelle squadre di fanteria, sarà un altro esempio di intelligenza artificiale che penetra nel settore della difesa.