Michael McTear, Emeritus Professor ved Ulster University – Interview Serie

Michael McTear er en Emeritus Professor ved Ulster University. Han har forsket i området talebaserede dialogsystemer i mere end 20 år og er forfatter til flere bøger, herunder senest Conversational AI: Dialogue Systems, Conversational Agents og Chatbots (Springer Link 2021). Michael har holdt nøgleforedrag og workshops på mange akademiske konferencer og workshops. For tiden er Michael involveret i flere forsknings- og udviklingsprojekter, der undersøger brugen af conversational agents i støtte til mental sundhed og overvågning af ældre voksne i deres hjem.

Hvad var det, der oprindeligt tiltrak dig til maskinlæring?

Indtil for nylig har jeg arbejdet med regelbaserede tilgange til conversational AI, særligt inden for området dialogue management, hvor den grundlæggende idé er at udvikle regler, der bestemmer agentens strategier i en dialog. Men med de seneste fremskridt i maskinlæring, først i forstærkninglæring og derefter i dyb læring, har jeg fundet, at disse tilgange potentielt kan løse nogle af de problemer, der er forbundet med regelbaserede metoder, såsom skala-problemet og behovet for at skrive multiple regler for at håndtere mere komplekse dialogflader.

Du har arbejdet med tale og conversational AI i over 20 år, hvad var det, der fik dig til at fokusere på dette område?

Jeg har været interesseret i, hvordan samtale fungerer, i lang tid. I min ph.d.-afhandling studerede jeg udviklingen af samtalekompetence hos små børn, og dette var emnet for min første bog. Senere blev jeg fascineret af ideen om, at computere kunne engagere sig i samtaler på en måde, der ligner menneskers, og siden da har jeg fulgt udviklingen i dette område. Først var det et meget mindre område inden for AI, men inden for de seneste år er det blevet meget vigtigt, da det er blevet adopteret af de store tech-virksomheder som et område af strategisk interesse for dem.

En af dine seneste projekter, som du har fokuseret på, er ChatPAL for at fremme mental sundhed i landdistrikter. Kan du diskutere udfordringerne ved at bygge en chatbot for brugere, der måske ikke er teknisk kyndige eller bekendte med begrebet chatbots?

Mange mennesker er bekendte med taleassistenter på deres smartphones og som smarte højttalere som Amazon Alexa. Unge mennesker bruger deres telefoner primært til at sende tekst, og således er de bekendte med ideen om at interagere med en tekstbaseret chatbot. Men når det kommer til at interagere med en chatbot, der er specialiseret til et bestemt område, som i vores Chatpal-projekt, der er udviklet til at fremme mental sundhed i landdistrikter, fandt vi, at nogle brugere havde forventninger om teknologien baseret på deres erfaringer med Alexa og andre lignende chatbots, der oversteg, hvad vi kunne tilbyde med mere begrænsede ressourcer. Vi forsøgte at løse problemet med brugere, der ikke var teknisk kyndige eller bekendte med chatbots, gennem initial living lab-sessions samt ved at sikre, at interaktionerne med chatbot’en var naturlige og intuitive.

Hvad er nogle af udfordringerne ved at bygge chatbots, der er fokuseret på mental sundhed?

Der er risikoen for, at nogle brugere måske forventer mere af chatbot’en, end det er muligt med den nuværende teknologi. Vi ønskede ikke at blande os i at lave nogen diagnose, da vi følte, at dette er for risikabelt, og der har været rapporter om chatbot-svar i sådanne situationer, der kunne være skadelige eller endda farlige. Vi blev vejledt af kravene fra forskellige etiske komiteer samt anerkendte standarder for design og udvikling af chatbots. Et andet problem er, at vi fandt, at der var forskelle mellem brugere i forhold til, hvordan de brugte chatbot’en. Nogle brugere gav op hurtigt, når de oplevede tekniske problemer, hvorimod andre var parate til at fortsætte. Der var også en aldersrelateret forskel, da yngre brugere var glade for at interagere med vores tekstbaserede chatbot, hvorimod ældre brugere var mindre glade for denne type interface.

Nogle af de apps, du har designet, tilbyder handlingsplaner for brugere, hvordan genererer du effektivt bruger motivation i en app?

For at gøre dette er det nødvendigt at oprette og vedligeholde profiler for hver bruger, der reflekterer ting som deres kommende aftaler, medicin, generelle præferencer og hvad de har diskuteret i tidligere samtaler med chatbot’en. Brugere siger ofte, at de ønsker, at chatbot’en skal være bekendt med deres individuelle behov og holde styr på, hvad der er blevet diskuteret tidligere, i stedet for at give en mere generisk og mindre adaptiv interaktion.

Men imod dette er der problemer med dataintegritet, og brugere udtrykker også bekymring om brugen af deres private oplysninger. Der er en delikat balance at slå fast her, og selvfølgelig er der en stadig stigende mængde lovgivning til at kontrollere den etiske brug af AI i offentligt og privat liv.

Hvad er nogle etiske overvejelser ved at bygge chatbots?

En af de vigtigste etiske overvejelser, der skal tages i betragtning, når man bygger chatbots, er, om de forstærker kønsstereotyper. Traditionelt har kvinder taget assistent-roller på arbejdspladsen, mens mænd har overtaget ledelsesroller. Implementering af en chatbot med en kvindelig personlighed kunne forstærke sådanne kønsstereotyper.

Et andet vigtigt etisk problem er, om chatbots skal omfavne menneskelige værdier og opføre sig på en måde, der inspirerer tillid. Dette kaldes alignment-problemet. Chatbots skal være designet således, at de undgår at krænke menneskerettigheder og skabe bias, og deres beslutninger skal være gennemsigtige for menneskelige brugere.

Og som nævnt tidligere skal chatbots respektere brugerens privatliv og data beskyttelseslove. Der er en stor mængde forskning og indsats, der er rettet mod disse etiske overvejelser.

I en verden, der er fokuseret på engelsktalende chatbots, hvad er nogle udfordringer ved at designe multi-linguale og internationale chatbots?

Det afhænger af tilgængeligheden af sprogressourcer såsom sprogmodeller og, for talebaserede systemer, talegenkendelse og tale syntese motorer. Dette er ikke et problem for bredt talte sprog, men svært for sprog med begrænsede ressourcer, der måske alligevel er talt af en stor mængde mennesker og hvor der er et klart behov for chatbot-tjenester. En mulig løsning er at bruge overførselslæring fra en model, der er forudtrænet på et sprog som engelsk, og finjustere den med data fra det lav-resourcede sprog.

De fleste af de apps, du har designet, bruger open source-software, hvad er nogle af de bedste open source-værktøjer derude?

At bruge open source-software var et krav fra de agenturer, der finansierede vores projekter.

Vi har brugt Rasa i vores projekter, da det er open source, men også meget kraftfuldt, da det udnytter de seneste udviklinger i conversational AI-teknologier. Ud over Rasa er der flere fremragende open source conversational AI-softwareprodukter, herunder Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog og DeepPavlov, for at nævne nogle få.

Du skal tale ved den kommende Future of Chatbots & Conversational AI Summit arrangeret af Group futurista., hvad vil du diskutere?

I min tale vil jeg sammenligne de traditionelle tilgange til chatbot-udvikling baseret på bedste praksis, kendt som conversation design, med nye tilgange baseret på store sprogmodeller såsom ChatGPT. Jeg vil dække fordelene og ulemperne ved hver tilgang og argumentere for, at selvom tilgange baseret på store sprogmodeller tilbyder mange muligheder for fremtidig udvikling af chatbots, er der stadig mange problemer med den ukontrollerede brug af store sprogmodeller, især inden for områder såsom sundhedspleje og forretning, så der er stadig behov for conversation designers, der kan sikre forklarlig, gennemsigtig og etisk conversational AI.

Tak for det gode interview, læsere, der ønsker at høre Michael McTear tale, skal deltage i Future of Chatbots & Conversational AI Summit arrangeret af Group futurista.