Nuova ricerca mostra come l’IA possa agire come mediatore

Una nuova ricerca dell’Università di Cornell mostra come l’intelligenza artificiale (IA) possa svolgere un ruolo nella mediazione delle conversazioni. Ciò avviene in un momento di distanziamento sociale e conversazioni remote a causa di una pandemia.

Secondo lo studio, gli esseri umani hanno fiducia negli sistemi di intelligenza artificiale più che nelle persone con cui stavano parlando quando avevano conversazioni difficili. I sistemi di intelligenza artificiale erano “risposte intelligenti” suggerite nei testi.

Lo studio si intitola “IA come zona di crumple morale: gli effetti della comunicazione mediata dall’IA sull’attribuzione e la fiducia” ed è stato pubblicato online sulla rivista Computers in Human Behavior.

Jess Hohenstein è uno studente di dottorato nel campo della scienza dell’informazione. È l’autore principale del documento.

“Scopriamo che quando le cose vanno male, le persone prendono la responsabilità che altrimenti sarebbe stata assegnata al loro partner umano e assegnano parte di essa al sistema di intelligenza artificiale”, ha detto Hohenstein. “Ciò introduce la possibilità di utilizzare l’IA come mediatore nelle nostre conversazioni”.

Rileva quando le cose vanno male

Durante una conversazione, l’algoritmo può analizzare il linguaggio per rilevare il momento in cui le cose vanno male. Può quindi suggerire strategie di risoluzione dei conflitti, secondo Hohenstein.

L’obiettivo principale dello studio era esaminare i diversi modi sottili e significativi in cui i sistemi di IA, come le risposte intelligenti, possono alterare il modo in cui gli esseri umani interagiscono. Secondo i ricercatori, qualcosa di così piccolo come la selezione di una risposta che non è completamente accurata può cambiare drasticamente gli aspetti di una conversazione. Quel linguaggio è spesso selezionato per risparmiare tempo di digitazione e può avere un effetto diretto sulle relazioni.

Malte Jung è coautore dello studio e professore assistente di scienza dell’informazione. È anche direttore del laboratorio Robots in Groups, che studia come i robot cambiano la dinamica di gruppo.

“La comunicazione è così fondamentale per come formiamo le percezioni gli uni degli altri, come formiamo e manteniamo le relazioni o come siamo in grado di realizzare qualcosa lavorando insieme”, ha detto Jung.

“Questo studio rientra nell’agenda più ampia di comprensione di come questi nuovi sistemi di IA influenzano la nostra capacità di interagire”, ha continuato Jung. “Spesso pensiamo a come la progettazione dei sistemi influenzi il modo in cui interagiamo con essi, ma meno studi si concentrano sulla questione di come le tecnologie che sviluppiamo influenzano il modo in cui le persone interagiscono tra loro”.

Migliore comprensione dell’interazione umana

Lo studio può aiutare a comprendere i modi in cui le persone percepiscono e interagiscono con i computer. Può anche aiutare a migliorare la comunicazione umana, attraverso l’uso di indicazioni sottili e promemoria di IA.

Hohenstein e Jung hanno voluto scoprire se il sistema di IA potesse assorbire il “crash” di una conversazione.

“C’è un meccanismo fisico nella parte anteriore dell’auto progettato per assorbire la forza dell’impatto e assumersi la responsabilità di minimizzare gli effetti dell’incidente”, ha detto Hohenstein. “Qui vediamo il sistema di IA assorbire alcune delle responsabilità morali”.

La ricerca è stata supportata in parte dalla National Science Foundation.