Michael McTear, Emeritus Professor vid Ulster University – Intervju-serie

Michael McTear är en Emeritus Professor vid Ulster University. Han har forskat inom området talade dialogsystem i över 20 år och är författare till flera böcker, inklusive den senaste Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael har hållit nyckeltal och workshops på många akademiska konferenser och workshoppar. För närvarande är Michael involverad i flera forsknings- och utvecklingsprojekt som undersöker användningen av konversationsagenter inom mental hälsa och hemövervakning av äldre vuxna.

Vad var det som initialt drog dig till maskinlärning?

Fram till nyligen har jag arbetat med regelbaserade tillvägagångssätt för konversations-AI, särskilt inom området dialoghantering där den grundläggande idén är att utveckla regler som bestämmer agentens strategier i en dialog. Men med de senaste framstegen inom maskinlärning, först inom förstärkt lärande och sedan inom djupinlärning, har jag funnit att dessa tillvägagångssätt kan potentiellt hantera vissa av de problem som regelbaserade metoder står inför, som problemet med skalbarhet och behovet av att skriva flera regler för att hantera mer komplexa dialogflöden.

Du har arbetat med röst och konversations-AI i över 20 år, vad var det som gjorde att du fokuserade på detta område?

Jag har länge varit intresserad av hur samtal fungerar. I min doktorsavhandling studerade jag utvecklingen av konversationskompetens hos små barn och detta var ämnet för min första bok. Senare blev jag fascinerad av idén att datorer kunde engagera sig i samtal på ett mänskligt sätt och sedan dess har jag följt utvecklingen inom detta område. Först var det ett ganska litet område inom AI, men under de senaste åren har det blivit mycket viktigt eftersom det har antagits av de stora teknikföretagen som ett område av strategiskt intresse för dem.

En av dina senaste projekt som du fokuserade på var ChatPAL för att främja mental välbefinnande i landsbygdsområden. Kan du diskutera utmaningarna med att bygga en chatbot för användare som kanske inte är tekniskt kunniga eller bekanta med konceptet med chatbotar?

Många människor är bekanta med röstassistenter på sina smartphones och som smarta högtalare som Amazon Alexa. Unga människor använder sina telefoner främst för att skicka meddelanden, så de är bekanta med idén att interagera med en textbaserad chatbot. Men när det gäller att interagera med en chatbot som är specialiserad för ett visst område, som i vårt Chatpal-projekt som utvecklades för att främja mental välbefinnande i landsbygdsområden, fann vi att vissa användare hade förväntningar om tekniken baserat på deras erfarenheter med Alexa och andra liknande chatbotar som översteg vad vi kunde erbjuda med mer begränsade resurser. Vi försökte hantera problemet med användare som inte var tekniskt kunniga eller bekanta med chatbotar genom initiala levande laboratorie-sessioner samt genom att se till att interaktionerna med chatboten var naturliga och intuitiva.

Vilka är några av utmaningarna med att bygga chatbotar som fokuserar på mental hälsa?

Det finns faran att vissa användare kan förvänta sig mer av chatboten än vad som är möjligt med nuvarande teknik. Vi ville inte bli inblandade i att göra någon diagnos, eftersom vi ansåg att detta var för riskabelt och det har funnits rapporter om chatbot-svar i sådana situationer som kunde anses vara skadliga eller till och med farliga. Vi följde kraven från olika etiska kommittéer samt erkända standarder för design och utveckling av chatbotar. Ett annat problem var att vi fann att det fanns skillnader mellan användare när det gällde hur de använde chatboten. Vissa användare gav upp snabbt när de upplevde tekniska problem, medan andra var beredda att fortsätta. Det fanns också en åldersrelaterad skillnad, eftersom yngre användare var glada att interagera med vår textbaserade chatbot, medan äldre användare var mindre glada med denna typ av gränssnitt.

Några av apparna som du har arbetat med erbjuder handlingsplaner för användare, hur genererar du effektivt användarmotivation i en app?

För att göra detta är det nödvändigt att skapa och underhålla profiler för varje användare som reflekterar saker som deras kommande möten, mediciner, allmänna preferenser och vad de har diskuterat i tidigare samtal med chatboten. Användare säger ofta att de vill att chatboten ska vara medveten om deras individuella behov och hålla reda på vad som har diskuterats tidigare, snarare än att tillhandahålla en mer generisk och mindre anpassad interaktion.

Men mot detta finns det frågor om dataskydd och användare uttrycker också en oro över användningen av deras privata information. Det finns en ömtålig balans att uppnå här och det finns en alltmer ökande mängd lagstiftning för att kontrollera den etiska användningen av AI i offentligt och privat liv.

Vilka är några etiska överväganden när man bygger chatbotar?

En av de viktigaste etiska övervägandena när man bygger chatbotar är om de förstärker könsstereotyper. Traditionellt har kvinnor tagit på sig assistent-liknande roller på arbetsplatsen, medan män har antagit ledarroller. Att implementera en chatbot med en kvinnlig personlighet kunde förstärka sådana könsstereotyper.

Ett annat viktigt etiskt problem är om chatbotar ska omfamna mänskliga värderingar och bete sig på ett sätt som inspirerar till förtroende. Detta kallas för “alignment-problemet”. Chatbotar ska utformas så att de undviker att bryta mot mänskliga rättigheter och skapa bias, och deras beslut ska vara transparenta för mänskliga användare.

Som nämnts tidigare ska chatbotar också respektera användarnas integritet och dataskyddslagar. Det pågår en hel del forskning och ansträngningar för att hantera dessa etiska överväganden.

I en värld som fokuserar på engelsktalande chatbotar, vilka är några utmaningar med att utforma flerspråkiga och internationella chatbotar?

Det beror på tillgängligheten av språkresurser som språkmodeller och, för talbaserade system, taligenkänning och talsyntesmotorer. Detta är inte ett problem för vidsträckt talade språk, men svårt för språk med begränsade resurser som kanske ändå talas av ett stort antal människor och där det finns ett tydligt behov av chatbot-tjänster. En möjlig lösning är att använda överföringsinlärning från en modell som är förtränad på ett språk som engelska och finjustera den med data från det lågresurs-språket.

De flesta av apparna som du har utformat använder öppen källkod, vilka är några av de bästa öppna källkodsverktygen där ute?

Användning av öppen källkod var ett krav från de byråer som finansierade våra projekt.

Vi har använt Rasa i våra projekt eftersom det är öppen källkod men också mycket kraftfullt, eftersom det använder de senaste utvecklingarna inom konversations-AI-teknologier. Utöver Rasa finns det flera utmärkta öppna källkodsprogramvaror för konversations-AI, inklusive Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog och DeepPavlov, för att nämna några.

Du kommer att tala på den kommande Future of Chatbots & Conversational AI Summit som arrangeras av Group futurista., vad kommer du att diskutera?

I min presentation kommer jag att jämföra de traditionella tillvägagångssätten för chatbot-utveckling baserat på bästa praxis, kallat konversationsdesign, med nya tillvägagångssätt baserade på stora språkmodeller som ChatGPT. Jag kommer att täcka för- och nackdelarna med varje tillvägagångssätt och hävda att, även om tillvägagångssätt baserade på stora språkmodeller erbjuder en hel del potential för framtida utveckling av chatbotar, finns det fortfarande många problem med den okontrollerade användningen av stora språkmodeller, särskilt inom områden som hälsovård och företag, så att det fortfarande finns ett behov av konversationsdesigners som kan säkerställa förklarbara, transparenta och etiska konversations-AI.

Tack för det underbara samtalet, läsare som vill höra Michael McTear tala bör delta i Future of Chatbots & Conversational AI Summit som arrangeras av Group futurista.