Michael McTear, Emeritus Professor ved Ulster University – Intervju-serie

Michael McTear er en Emeritus Professor ved Ulster University. Han har forsket på området talebaserte dialogsystemer i over 20 år og er forfatter av flere bøker, inkludert nylig Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael har holdt foredrag og tutorials på mange akademiske konferanser og workshop. For tiden er Michael involvert i flere forsknings- og utviklingsprosjekter som undersøker bruken av conversational agents i støtte til mental helse og hjemmeovervåking av eldre voksne.

Hva var det som først tiltalte deg til maskinlæring?

Frem til nylig har jeg arbeidet med regelbaserte tilnærminger til conversational AI, spesielt på området dialogue management hvor den grunnleggende ideen er å utvikle regler som bestemmer agentens strategier i en dialog. Men med de siste fremstegene i maskinlæring, først i forsterkingslæring og deretter i dyp læring, har jeg funnet at disse tilnærminger kan potensielt løse noen av problemene som møtes med regelbaserte metoder, som problemet med skalerbarhet og behovet for å skrive multiple regler for å håndtere mer komplekse dialogflyter.

Du har arbeidet med tale og conversational AI i over 20 år, hva var det som gjorde at du fokuserte på dette feltet?

Jeg har vært interessert i hvordan samtale fungerer i lang tid. I min PhD-avhandling studerte jeg utviklingen av samtalekompetanse hos unge barn og dette var temaet for min første bok. Senere ble jeg fascinert av ideen om at datamaskiner kunne engasjere i samtaler på en menneske-lignende måte og siden da har jeg fulgt utviklingen i dette området. Først var det et ganske lite område innen AI, men de siste årene har det blitt veldig viktig ettersom det har blitt adoptert av de store teknologiselskapene som et område av strategisk interesse for dem.

En av dine nyeste prosjekter som du har fokusert på er ChatPAL for å fremme mental velvære i rurale områder. Kan du diskutere utfordringene med å bygge en chatbot for brukere som kanskje ikke er teknisk kyndige eller kjente med konseptet chatboter?

Mange mennesker er kjente med taleassistenter på sine smartphones og som smarte høyttalere som Amazon Alexa. Unge mennesker bruker sine telefoner hovedsakelig til å tekst og så er de kjente med ideen om å interagere med en tekstbasert chatbot. Men når det kommer til å interagere med en chatbot som er spesialisert for et bestemt område, som i vårt Chatpal-prosjekt som ble utviklet for å fremme mental velvære i rurale områder, fant vi at noen brukere hadde forventninger om teknologien basert på deres erfaringer med Alexa og andre lignende chatboter som oversteg hva vi kunne tilby med mer begrensede ressurser. Vi forsøkte å løse problemet med brukere som ikke var teknisk kyndige eller kjente med chatboter gjennom innledende living lab-sesjoner samt å sikre at interaksjonene med chatboten var naturlige og intuitive.

Hva er noen av utfordringene med å bygge chatboter som er fokusert på mental helse?

Det er faren for at noen brukere kan forvente mer fra chatboten enn hva som er mulig med nåværende teknologi. Vi ønsket ikke å bli involvert i å gjøre noen diagnose ettersom vi følte at dette er for risikabelt og det har vært rapporter om chatbot-svar i slike situasjoner som kunne være skadelige eller til og med farlige. Vi ble veiledet av kravene fra ulike etiske komiteer samt anerkjente standarder for design og utvikling av chatboter. Et annet problem er at vi fant at det var forskjeller mellom brukere når det kom til hvordan de brukte chatboten. Noen brukere ga opp raskt når de opplevde tekniske problemer, mens andre var villige til å holde ut. Det var også en aldersrelatert forskjell ettersom yngre brukere var glade for å interagere med vår tekstbaserte chatbot, mens eldre brukere var mindre glade for denne type grensesnitt.

Noen av appene du har arbeidet på tilbyr handlingsplaner for brukere, hvordan genererer du effektivt bruker-motivasjon i en app?

For å gjøre dette er det nødvendig å opprette og vedlikeholde profiler for hver bruker som reflekterer ting som deres kommende møter, medisiner, generelle preferanser og hva de har diskutert i tidligere samtaler med chatboten. Brukere sier ofte at de ønsker at chatboten skal være klar over deres individuelle behov og holde spor av hva som har blitt diskutert tidligere, i stedet for å tilby en mer generisk og mindre adaptiv interaksjon.

Men mot dette er det problemer med datavern og brukere uttrykker også en bekymring om bruken av deres private informasjon. Det er en delikat balanse å strebe etter her og det er en stadig økende mengde lovgivning for å kontrollere den etiske bruken av AI i offentlig og privat liv.

Hva er noen av de etiske overveielser ved å bygge chatboter?

En av de viktigste etiske overveielser å vurdere når man bygger chatboter er om de forsterker kjønnsstereotyper. Tradisjonelt har kvinner tatt assistent-roller på arbeidsplassen, mens menn har overtatt ledelsesroller. Å implementere en chatbot med en kvinnelig personlighet kunne forsterke slike kjønnsstereotyper.

Et annet viktig etisk spørsmål er om chatboter bør omfavne menneskelige verdier og oppføre seg på en måte som inspirerer tillit. Dette er kjent som aligneringsproblemet. Chatboter bør være designet for å unngå å bryte menneskerettigheter og skape bias, og deres beslutninger bør være transparente for menneskelige brukere.

Og, som nevnt tidligere, bør chatboter respektere brukerens privatliv og datavern. Det er mye forskning og innsats som nå pågår for å løse disse etiske overveielser.

I en verden som er fokusert på engelsktalende chatboter, hva er noen av utfordringene med å designe flerspråklige og internasjonale chatboter?

Det avhenger av tilgjengeligheten av språkressurser som språkmodeller og, for talebaserte systemer, talegjenkjenning og talesyntese-motorer. Dette er ikke et problem for vidt utbredte språk, men vanskelig for språk med begrensede ressurser som likevel kan være snakket av et stort antall mennesker og hvor det er et klart behov for tjenestene til en chatbot. En mulig løsning er å bruke overføringslæring fra en modell som er forhåndstreinet på et språk som engelsk og finjustere den med data fra det lavresurs-språket.

De fleste av appene du har designet bruker åpne kildekode- programvare, hva er noen av de beste åpne kildekode-verktøyene der ute?

Å bruke åpen kildekode-programvare var et krav fra de agenter som finansiert våre prosjekter.

Vi har brukt Rasa i våre prosjekter ettersom det er åpen kildekode, men også veldig kraftig ettersom det utnytter de siste utviklingene i conversational AI-teknologier. I tillegg til Rasa finnes det flere utmerkede åpne kildekode-conversational AI-programvareprodukter, inkludert Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog og DeepPavlov, for å nevne noen få.

Du skal holde et foredrag på den kommende Future of Chatbots & Conversational AI Summit som arrangeres av Group futurista., hva vil du diskutere?

I mitt foredrag vil jeg sammenligne de tradisjonelle tilnærminger til chatbot-utvikling basert på beste praksis, kjent som samtale-design, med nye tilnærminger basert på store språkmodeller som ChatGPT. Jeg vil dekke fordelene og ulemper ved hver tilnærmning og argumentere for at, selv om tilnærminger basert på store språkmodeller tilbyr mye potensial for fremtidig utvikling av chatboter, finnes det fortsatt mange problemer med den ukontrollerte bruken av store språkmodeller, spesielt i områder som helse og forretning, så det er fortsatt et behov for samtale-designere som kan sikre forklarbare, transparente og etiske conversational AI.

Takk for det flotte intervjuet, lesere som ønsker å høre Michael McTear tale bør delta på Future of Chatbots & Conversational AI Summit som arrangeres av Group futurista.