Michael McTear, Emeritus Professor ved Ulster University – Intervju-serie

Michael McTear er en Emeritus Professor ved Ulster University. Han har forsket på området talebaserte dialogsystemer i over 20 år og er forfatter av flere bøker, inkludert nylig Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael har holdt keynote-foredrag og tutorials på mange akademiske konferanser og workshop. For tiden er Michael involvert i flere forsknings- og utviklingsprosjekter som undersøker bruken av konversasjonsagenter i støtte til mental helse og hjemmeovervåking av eldre voksne.

Hva var det som først tiltalte deg til maskinlæring?

Inntil nylig har jeg arbeidet med regelbaserte tilnærminger til konversasjons-AI, spesielt innen området dialogstyring hvor den grunnleggende ideen er å utvikle regler som bestemmer agentens strategier i en dialog. Men med de siste fremstegene i maskinlæring, først i forsterkninglæring og deretter i dyp læring, har jeg funnet at disse tilnærminger potensielt kan løse noen av problemene som møtes med regelbaserte metoder, som problemet med skalerbarhet og behovet for å skrive multiple regler for å håndtere mer komplekse dialogflyter.

Du har arbeidet med tale og konversasjons-AI i over 20 år, hva var det som fikk deg til å fokusere på dette feltet?

Jeg har vært interessert i hvordan samtale fungerer i lang tid. I min PhD-avhandling studerte jeg utviklingen av konversasjonskompetanse hos små barn, og dette var temaet for min første bok. Senere ble jeg fascinert av ideen om at datamaskiner kunne engasjere i samtaler på en menneske-lignende måte, og siden da har jeg fulgt utviklingen i dette området. Først var det et ganske lite område innen AI, men de siste årene har det blitt veldig viktig ettersom det er blitt adoptert av de store teknologiselskapene som et område av strategisk interesse for dem.

En av dine nyeste prosjekter som du har fokusert på er ChatPAL for å fremme mental velvære i landsbygda. Kan du diskutere utfordringene bak å bygge en chatbot for brukere som kanskje ikke er teknisk kyndige eller kjent med konseptet chatboter?

Mange mennesker er kjent med taleassistenter på sine smarttelefoner og som smarte høyttalere som Amazon Alexa. Unge mennesker bruker telefonene sine hovedsakelig til å tekst og så er de kjent med ideen om å interagere med en tekstbasert chatbot. Men når det kommer til å interagere med en chatbot som er spesialisert for et bestemt område, som i vårt Chatpal-prosjekt som ble utviklet for å fremme mental velvære i landsbygda, fant vi at noen brukere hadde forventninger om teknologien basert på deres erfaringer med Alexa og andre lignende chatboter som oversteg hva vi var i stand til å tilby med mer begrensede ressurser. Vi prøvde å løse problemet med brukere som ikke var teknisk kyndige eller kjent med chatboter gjennom innledende living lab-sesjoner samt å sikre at interaksjonene med chatboten var naturlige og intuitive.

Hva er noen av utfordringene bak å bygge chatboter som er fokusert på mental helse?

Det er faren for at noen brukere kanskje forventer mer fra chatboten enn hva som er mulig med nåværende teknologi. Vi ønsket ikke å bli involvert i å gjøre noen diagnose, da vi følte at dette er for risikabelt og det har vært rapporter om chatbot-svar i slike situasjoner som kunne være skadelig eller til og med farlig. Vi ble guidet av kravene fra ulike etiske komiteer samt anerkjente standarder for design og utvikling av chatboter. Et annet problem er at vi fant at det var forskjeller mellom brukerne i forhold til hvordan de brukte chatboten. Noen brukere ga opp raskt når de opplevde tekniske problemer, mens andre var villige til å persistere. Det var også en aldersrelatert forskjell, da yngre brukere var glade for å interagere med vår tekstbaserte chatbot, mens eldre brukere var mindre glade med denne type grensesnitt.

Noen av appene du har arbeidet på tilbyr handlingsplaner for brukerne, hvordan genererer du effektivt brukermotivasjon i en app?

For å gjøre dette er det nødvendig å opprette og vedlikeholde profiler for hver bruker som reflekterer ting som deres kommende avtaler, medisiner, generelle preferanser og hva de har diskutert i tidligere samtaler med chatboten. Brukere sier ofte at de ønsker at chatboten skal være klar over deres individuelle behov og holde spor av hva som har blitt diskutert tidligere, i stedet for å tilby en mer generisk og mindre adaptiv interaksjon.

Men mot dette er det problemer med dataintegritet og brukerne uttrykker også bekymring om bruken av deres private informasjon. Det er en fin balanse som må treffes her, og det er en stadig økende mengde lovgivning for å kontrollere den etiske bruken av AI i offentlig og privat liv.

Hva er noen av de etiske overveielser bak å bygge chatboter?

En av de viktigste etiske overveielser å vurdere når man bygger chatboter er om de forsterker kjønnsstereotyper. Tradisjonelt har kvinner tatt assistent-roller på arbeidsplassen, mens menn har overtatt ledelsesroller. Implementering av en chatbot med en kvinnelig personlighet kunne forsterke slike kjønnsstereotyper.

Et annet viktig etisk problem er om chatboter skal omfavne menneskelige verdier og oppføre seg på en måte som inspirerer tillit. Dette er kjent som aligneringsproblemet. Chatboter bør være designet slik at de unngår å bryte menneskerettigheter og skape bias, og deres beslutninger bør være gjennomsiktige for menneskelige brukere.

Og, som nevnt tidligere, bør chatboter respektere brukerens privatliv og følge datavernlovens bestemmelser. Det er mye forskning og innsats som nå gjøres for å løse disse etiske overveielser.

I en verden som er fokusert på engelsktalende chatboter, hva er noen av utfordringene bak å designe flerspråklige og internasjonale chatboter?

Det avhenger av tilgjengeligheten av språkressurser som språkmodeller og, for talebaserte systemer, talegjenkjenning og tale-syntese-motorer. Dette er ikke et problem for vidt utbredte språk, men vanskelig for språk med begrensede ressurser som likevel kan være snakket av et stort antall mennesker og hvor det er et bestemt behov for chatbot-tjenester. En mulig løsning er å bruke overføringslæring fra en modell som er forhåndstreinet på et språk som engelsk og finjustere den med data fra det lavresurs-språket.

De fleste av appene du har designet bruker åpen kildekode, hva er noen av de beste åpen kildekode-verktøyene der ute?

Bruken av åpen kildekode var et krav fra de byråene som finansiert våre prosjekter.

Vi har brukt Rasa i våre prosjekter, da det er åpen kildekode, men også veldig kraftig da det utnytter de siste utviklingene i konversasjons-AI-teknologier. I tillegg til Rasa finnes det flere utmerkede åpen kildekode konversasjons-AI-programvareprodukter, inkludert: Botpress, Microsoft Bot Framework, OpenDialog og DeepPavlov, for å nevne noen få.

Du skal snakke på den kommende Future of Chatbots & Conversational AI Summit som arrangeres av Group futurista., hva vil du diskutere?

I mitt foredrag vil jeg sammenligne de tradisjonelle tilnærminger til chatbot-utvikling basert på beste praksis, kjent som samtale-design, med nye tilnærminger basert på store språkmodeller som ChatGPT. Jeg vil dekke for- og ulemper med hver tilnærmning og argumentere for at, selv om tilnærminger basert på store språkmodeller tilbyr mye potensiale for fremtidig utvikling av chatboter, finnes det fortsatt mange problemer med den ukontrollerte bruken av store språkmodeller, spesielt i områder som helse og forretning, så det er fortsatt behov for samtale-designere som kan sikre forklarbare, gjennomsiktige og etiske konversasjons-AI.

Takk for det flotte intervjuet, lesere som ønsker å høre Michael McTear snakke bør delta på Future of Chatbots & Conversational AI Summit som arrangeres av Group futurista.