Michael McTear, Profesor Emerit la Ulster University – Seria de Interviuri

Michael McTear este Profesor Emerit la Ulster University. El a efectuat cercetări în domeniul sistemelor de dialog vorbit pentru mai mult de 20 de ani și este autorul mai multor cărți, inclusiv recenta Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael a susținut prelegeri și tutoriale la numeroase conferințe și ateliere academice. În prezent, Michael este implicat în mai multe proiecte de cercetare și dezvoltare care investighează utilizarea agenților conversaționali în sprijinul sănătății mintale și monitorizarea la domiciliu a adulților mai în vârstă.

Ce v-a atras inițial la învățarea automată?

Până de curând, am lucrat cu abordări bazate pe reguli pentru inteligența conversațională, în special în domeniul gestionării dialogului, unde ideea de bază este să se dezvolte reguli care să determine strategiile agentului într-un dialog. Cu toate acestea, odată cu progresele recente în învățarea automată, mai întâi în învățarea prin întărire și apoi în învățarea profundă, am constatat că aceste abordări pot aborda potențial unele dintre problemele cu care se confruntă metodele bazate pe reguli, cum ar fi problema scalabilității și nevoia de a scrie reguli multiple pentru a face față unor fluxuri de dialog mai complexe.

Ați lucrat timp de peste 20 de ani la voce și inteligență conversațională, ce v-a făcut să vă concentrați pe acest domeniu?

Am fost interesat de modul în care funcționează conversația de mult timp. În teza mea de doctorat, am studiat dezvoltarea competenței conversaționale la copiii mici, și acesta a fost subiectul primei mele cărți. Mai târziu, am devenit fascinat de ideea că computerele pot angaja conversații într-un mod similar cu cel al oamenilor, și de atunci am urmărit dezvoltările în acest domeniu. La început, a fost un domeniu minor în cadrul inteligenței artificiale, dar în ultimii ani a devenit foarte important, deoarece a fost adoptat de marile companii tehnologice ca o zonă de interes strategic pentru ele.

Unul dintre proiectele dvs. recente pe care ați lucrat este ChatPAL, pentru a promova starea de bine mintală în zonele rurale. Puteți discuta despre provocările din spatele construirii unui chatbot pentru utilizatori care nu sunt familiari cu tehnologia sau nu sunt obișnuiți cu conceptul de chatbot?

Mulți oameni sunt familiari cu asistenții vocali de pe smartphone-urile lor și cu difuzoarele inteligente, cum ar fi Amazon Alexa. Tinerii folosesc telefoanele lor în principal pentru a trimite mesaje text, deci sunt familiarizați cu ideea de a interacționa cu un chatbot bazat pe text. Cu toate acestea, atunci când vine vorba de interacțiunea cu un chatbot specializat pentru un anumit domeniu, cum ar fi proiectul nostru Chatpal, care a fost dezvoltat pentru a promova starea de bine mintală în zonele rurale, am constatat că unii utilizatori aveau așteptări cu privire la tehnologie, bazate pe experiențele lor cu Alexa și alte chatbot-uri similare, care depășeau ceea ce am putut oferi cu resurse limitate. Am încercat să abordăm problema utilizatorilor care nu erau familiari cu tehnologia sau nu erau obișnuiți cu chatbot-urile prin sesiuni inițiale de laborator de viață, precum și prin asigurarea faptului că interacțiunile cu chatbot-ul erau naturale și intuitive.

Ce sunt unele dintre provocările din spatele construirii chatbot-urilor care se concentrează pe sănătatea mintală?

Există pericolul ca unii utilizatori să aștepte mai mult de la chatbot decât ceea ce este posibil cu tehnologia actuală. Nu am vrut să ne implicăm în diagnosticarea afecțiunilor, deoarece am considerat că acest lucru este prea riscant, și au existat rapoarte despre răspunsurile chatbot-urilor în astfel de situații care ar putea fi considerate dăunătoare sau chiar periculoase. Am fost ghidați de cerințele diferitelor comitete de etică, precum și de standardele recunoscute pentru proiectarea și dezvoltarea chatbot-urilor. O altă problemă este că am constatat că există diferențe între utilizatori în ceea ce privește modul în care au utilizat chatbot-ul. Unii utilizatori au renunțat rapid atunci când au întâmpinat probleme tehnice, în timp ce alții au fost dispuși să persiste. De asemenea, a existat o diferență legată de vârstă, deoarece utilizatorii mai tineri erau fericiți să interacționeze cu chatbot-ul nostru bazat pe text, în timp ce utilizatorii mai în vârstă erau mai puțin fericiți cu acest tip de interfață.

Unele dintre aplicațiile pe care le-ați lucrat oferă planuri de acțiune pentru utilizatori, cum generați eficient motivația utilizatorilor într-o aplicație?

Pentru a face acest lucru, este necesar să se creeze și să se mențină profiluri pentru fiecare utilizator care reflectă lucruri precum programările viitoare, medicamentele, preferințele generale și ceea ce au discutat în conversațiile anterioare cu chatbot-ul. Utilizatorii afirmă adesea că doresc ca chatbot-ul să fie conștient de nevoile lor individuale și să țină evidența a ceea ce a fost discutat anterior, mai degrabă decât să ofere o interacțiune mai generică și mai puțin adaptabilă.

Cu toate acestea, împotriva acestui fapt, există probleme de confidențialitate a datelor, iar utilizatorii exprimă, de asemenea, o preocupare cu privire la utilizarea informațiilor lor private. Există un echilibru delicat de menținut aici, și, desigur, există o cantitate tot mai mare de legislație pentru a controla utilizarea etică a inteligenței artificiale în viața publică și privată.

Ce sunt unele dintre considerațiile etice din spatele construirii chatbot-urilor?

Una dintre principalele considerații etice care trebuie luate în considerare atunci când se construiesc chatbot-uri este dacă acestea întăresc stereotipurile de gen. În mod tradițional, femeile au ocupat roluri de asistent în locul de muncă, în timp ce bărbații au preluat roluri de conducere. Implementarea unui chatbot cu o persoană feminină ar putea întări astfel de stereotipuri de gen.

O altă problemă etică importantă este dacă chatbot-urile ar trebui să îmbrățișezeze valorile umane și să se comporte într-un mod care inspiră încredere. Acest lucru este cunoscut sub numele de problema de aliniere. Chatbot-urile ar trebui să fie proiectate astfel încât să evite încălcarea drepturilor omului și să creeze prejudecăți, și deciziile lor ar trebui să fie transparente pentru utilizatorii umani.

De asemenea, așa cum am menționat anterior, chatbot-urile ar trebui să respecte confidențialitatea utilizatorilor și legile de protecție a datelor. Există multă cercetare și efort dedicat în prezent acestor considerații etice.

Într-o lume care se concentrează pe chatbot-urile care vorbesc engleza, ce sunt unele dintre provocările din spatele proiectării chatbot-urilor multilingve și internaționale?

Acest lucru depinde de disponibilitatea resurselor lingvistice, cum ar fi modelele lingvistice și, pentru sistemele bazate pe voce, motoarele de recunoaștere a vorbirii și sinteză a vorbirii. Acesta nu este un problemă pentru limbile vorbite pe scară largă, dar este dificil pentru limbile cu resurse limitate care, totuși, pot fi vorbite de un număr mare de oameni și unde există o nevoie clară de serviciile unui chatbot. O posibilă soluție este de a utiliza învățarea transferată dintr-un model preantrenat într-o limbă, cum ar fi engleza, și de a-l ajusta cu date din limba cu resurse limitate.

Majoritatea aplicațiilor pe care le-ați proiectat utilizează software open source, ce sunt unele dintre cele mai bune instrumente open source disponibile?

Utilizarea software-ului open source a fost o cerință a agențiilor care au finanțat proiectele noastre.

Am utilizat Rasa în proiectele noastre, deoarece este open source, dar și foarte puternic, deoarece utilizează cele mai recente dezvoltări în tehnologiile inteligenței conversaționale. Pe lângă Rasa, există mai multe produse software de inteligență conversațională open source excelente, inclusiv: Botpress, Microsoft Bot Framework, OpenDialog și DeepPavlov, pentru a menționa doar câteva.

Veți vorbi la următoarea Conferință despre Viitorul Chatbot-urilor și Inteligenței Conversaționale organizată de Group futurista, ce veți discuta?

În prezentarea mea, voi compara abordările tradiționale de dezvoltare a chatbot-urilor bazate pe cele mai bune practici, cunoscute sub numele de proiectare conversațională, cu abordări noi bazate pe modele lingvistice mari, cum ar fi ChatGPT. Voi acoperi avantaje și dezavantaje ale fiecărei abordări și voi argumenta că, deși abordările bazate pe modele lingvistice mari oferă mult potențial pentru dezvoltarea viitoare a chatbot-urilor, există încă multe probleme cu utilizarea necontrolată a modelelor lingvistice mari, în special în domenii precum sănătatea și afacerile, astfel încât există încă nevoie de designeri de conversații care pot asigura inteligența conversațională explicabilă, transparentă și etică.

Mulțumim pentru acest interviu minunat, cititorii care doresc să-l audă pe Michael McTear vorbind ar trebui să participe la Conferința despre Viitorul Chatbot-urilor și Inteligenței Conversaționale organizată de Group futurista.