Michael McTear, Emeritus Professor at Ulster University – Intervista di Serie

Michael McTear è un Emeritus Professor all’Ulster University. Ha condotto ricerche nel campo dei sistemi di dialogo parlato per oltre 20 anni ed è l’autore di diversi libri, tra cui il più recente Conversational AI: Dialogue Systems, Conversational Agents e Chatbots (Springer Link 2021). Michael ha tenuto discorsi chiave e tutorial in molte conferenze e workshop accademici. Attualmente Michael è coinvolto in diversi progetti di ricerca e sviluppo che indagano sull’uso di agenti conversazionali nel sostegno alla salute mentale e nel monitoraggio a domicilio degli anziani.

Cosa ti ha inizialmente attirato verso il machine learning?

Fino a poco tempo fa ho lavorato con approcci basati su regole per il conversational AI, in particolare nell’area della gestione del dialogo, dove l’idea di base è sviluppare regole che determinano le strategie dell’agente in un dialogo. Tuttavia, con i recenti progressi nel machine learning, prima nel reinforcement learning e poi nel deep learning, ho trovato che questi approcci possono potenzialmente affrontare alcune delle questioni poste dai metodi basati su regole, come il problema della scalabilità e la necessità di scrivere molte regole per gestire flussi di dialogo più complessi.

Hai lavorato sulla voce e sull’intelligenza artificiale conversazionale per oltre 20 anni, cosa ti ha fatto concentrare su questo campo?

Ho sempre avuto interesse per il funzionamento della conversazione. Nella mia tesi di dottorato ho studiato lo sviluppo della competenza conversazionale nei bambini piccoli e questo è stato l’argomento del mio primo libro. In seguito mi sono interessato all’idea che i computer potessero impegnarsi in conversazioni in modo umano e da allora ho seguito gli sviluppi in questo settore. Inizialmente era un’area molto marginale all’interno dell’AI, ma negli ultimi anni è diventata molto importante poiché è stata adottata dalle grandi aziende tecnologiche come un’area di interesse strategico per loro.

Uno dei tuoi progetti più recenti su cui hai lavorato è ChatPAL per promuovere il benessere mentale nelle aree rurali. Potresti discutere le sfide dietro la costruzione di un chatbot per utenti che potrebbero non essere tecnologicamente esperti o familiari con il concetto di chatbot?

Molte persone sono familiari con gli assistenti vocali sui loro smartphone e come altoparlanti intelligenti come Amazon Alexa. I giovani utilizzano i loro telefoni principalmente per inviare messaggi di testo e quindi sono familiari con l’idea di interagire con un chatbot basato su testo. Tuttavia, quando si tratta di interagire con un chatbot specializzato per un dominio specifico, come nel nostro progetto Chatpal sviluppato per promuovere il benessere mentale nelle aree rurali, abbiamo trovato che alcuni utenti avevano aspettative sulla tecnologia basate sulle loro esperienze con Alexa e altri chatbot simili che superavano ciò che eravamo in grado di offrire con risorse più limitate. Abbiamo cercato di affrontare la questione degli utenti che non erano tecnologicamente esperti o familiari con i chatbot attraverso sessioni di laboratorio vivente iniziali e assicurandoci che le interazioni con il chatbot fossero naturali e intuitive.

Quali sono alcune delle sfide dietro la costruzione di chatbot focalizzati sulla salute mentale?

C’è il pericolo che alcuni utenti possano aspettarsi di più dal chatbot di quanto sia possibile con la tecnologia attuale. Non abbiamo voluto impegnarci nella diagnosi, poiché abbiamo ritenuto che questo sia troppo rischioso e ci sono stati rapporti di risposte dei chatbot in tali situazioni che potrebbero essere considerate dannose o addirittura pericolose. Siamo stati guidati dalle esigenze di vari comitati etici e da standard riconosciuti per la progettazione e lo sviluppo di chatbot. Un’altra questione è che abbiamo trovato differenze tra gli utenti in termini di come utilizzavano il chatbot. Alcuni utenti si sono arresi rapidamente quando hanno sperimentato problemi tecnici, mentre altri erano disposti a persistere. C’era anche una differenza legata all’età, poiché gli utenti più giovani erano felici di interagire con il nostro chatbot basato su testo, mentre gli utenti più anziani erano meno felici con questo tipo di interfaccia.

Alcune delle app che hai lavorato offrono piani d’azione per gli utenti, come generi efficacemente la motivazione dell’utente in un’app?

Per fare ciò è necessario creare e mantenere profili per ogni utente che riflettono cose come gli appuntamenti imminenti, le medicine, le preferenze generali e ciò che hanno discusso nelle conversazioni precedenti con il chatbot. Gli utenti spesso affermano che vogliono che il chatbot sia consapevole delle loro esigenze individuali e tenga traccia di ciò che è stato discusso in precedenza, piuttosto che fornire un’interazione più generica e meno adattiva.

Tuttavia, contro questo, ci sono questioni di privacy dei dati e gli utenti esprimono anche una preoccupazione sull’uso delle loro informazioni private. C’è un equilibrio delicato da mantenere qui e naturalmente c’è una quantità sempre crescente di legislazione per controllare l’uso etico dell’AI nella vita pubblica e privata.

Quali sono alcune delle considerazioni etiche dietro la costruzione di chatbot?

Una delle principali considerazioni etiche da considerare quando si costruiscono chatbot è se essi rafforzano gli stereotipi di genere. Tradizionalmente le femmine hanno assunto ruoli di tipo assistente nel luogo di lavoro, mentre i maschi hanno assunto ruoli di leadership. Implementare un chatbot con una personalità femminile potrebbe rafforzare tali stereotipi di genere.

Un’altra questione etica importante è se i chatbot dovrebbero adottare valori umani e comportarsi in modo da ispirare fiducia. Ciò è noto come il problema di allineamento. I chatbot dovrebbero essere progettati in modo da evitare di violare i diritti umani e creare pregiudizi, e le loro decisioni dovrebbero essere trasparenti per gli utenti umani.

Inoltre, come menzionato in precedenza, i chatbot dovrebbero rispettare la privacy degli utenti e le leggi sulla protezione dei dati. Ci sono molte ricerche e sforzi attualmente dedicati a queste considerazioni etiche.

In un mondo che si concentra su chatbot che parlano inglese, quali sono alcune delle sfide dietro la progettazione di chatbot multilingui e internazionali?

Tutto dipende dalla disponibilità di risorse linguistiche come modelli linguistici e, per i sistemi basati sulla voce, motori di riconoscimento e sintesi vocale. Ciò non è un problema per le lingue ampiamente parlate, ma è difficile per le lingue con risorse limitate che potrebbero essere parlate da un gran numero di persone e dove c’è un bisogno definito per i servizi di un chatbot. Una possibile soluzione è utilizzare il transfer learning da un modello pre-addestrato in una lingua come l’inglese e adattarlo con dati dalla lingua a risorse limitate.

La maggior parte delle app che hai progettato utilizza software open source, quali sono alcuni dei migliori strumenti open source disponibili?

L’uso di software open source era una richiesta degli enti che hanno finanziato i nostri progetti.

Abbiamo utilizzato Rasa nei nostri progetti poiché è open source, ma anche molto potente poiché utilizza gli ultimi sviluppi nelle tecnologie di intelligenza artificiale conversazionale. Oltre a Rasa, ci sono diversi altri eccellenti prodotti software di intelligenza artificiale conversazionale open source, tra cui Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog e DeepPavlov, per citarne solo alcuni.

Parlerai alla prossima conferenza Future of Chatbots & Conversational AI Summit ospitata da Group futurista, di cosa parlerai?

Nel mio discorso, comparerò gli approcci tradizionali alla sviluppo di chatbot basati sulle migliori pratiche, noti come progettazione della conversazione, con nuovi approcci basati su grandi modelli linguistici come ChatGPT. Coprirò i pro e i contro di ogni approccio e sosterrò che, sebbene gli approcci basati su grandi modelli linguistici offrano molto potenziale per lo sviluppo futuro dei chatbot, ci sono ancora molte questioni relative all’uso non controllato di grandi modelli linguistici, specialmente in aree come la sanità e gli affari, quindi c’è ancora bisogno di progettisti di conversazioni che possano garantire un’intelligenza artificiale conversazionale spiegabile, trasparente ed etica.

Grazie per la grande intervista, i lettori che desiderano ascoltare Michael McTear parlare dovrebbero partecipare alla Future of Chatbots & Conversational AI Summit ospitata da Group futurista.