Michael McTear, Emeritus Professor aan de Ulster University – Interview Serie

Michael McTear is een Emeritus Professor aan de Ulster University. Hij heeft meer dan 20 jaar onderzoek gedaan op het gebied van gesproken dialoogsystemen en is de auteur van verschillende boeken, waaronder recentelijk Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael heeft keynote-adressen en tutorials gegeven op veel academische conferenties en workshops. Op dit moment is Michael betrokken bij verschillende onderzoeks- en ontwikkelingsprojecten die onderzoek doen naar het gebruik van conversational agents in de ondersteuning van de geestelijke gezondheid en het thuis monitoren van ouderen.

Wat trok je aanvankelijk aan naar machine learning?

Tot voor kort heb ik gewerkt met regelgebaseerde benaderingen van conversational AI, met name op het gebied van dialoogbeheer, waarbij het basisidee is om regels te ontwikkelen die de strategieën van de agent in een dialoog bepalen. Echter, met de recente vooruitgang in machine learning, eerst in versterking learning en vervolgens in diepe learning, heb ik ontdekt dat deze benaderingen potentieel enkele van de problemen kunnen aanpakken die worden gevonden door regelgebaseerde methoden, zoals het probleem van schaalbaarheid en de noodzaak om meerdere regels te schrijven om complexe dialoogstromen te ondersteunen.

Je hebt meer dan 20 jaar gewerkt aan spraak- en conversational AI, wat maakte dat je je op dit gebied richtte?

Ik ben al lang geïnteresseerd in hoe conversatie werkt. In mijn proefschrift heb ik onderzoek gedaan naar de ontwikkeling van conversatievaardigheden bij jonge kinderen en dit was het onderwerp van mijn eerste boek. Later werd ik geïntrigeerd door het idee dat computers op een menselijke manier kunnen converseren en sindsdien heb ik de ontwikkelingen in dit gebied gevolgd. Aanvankelijk was het een kleine niche binnen AI, maar in de afgelopen jaren is het een heel belangrijk gebied geworden, omdat het is overgenomen door de grote technologiebedrijven als een strategisch interessant gebied voor hen.

Een van je recentste projecten waar je je op richtte, is ChatPAL om de geestelijke gezondheid in plattelandsgebieden te bevorderen. Kun je de uitdagingen bespreken die komen kijken bij het bouwen van een chatbot voor gebruikers die mogelijk niet technisch onderlegd zijn of vertrouwd zijn met het concept van chatbots?

Veel mensen zijn vertrouwd met spraakassistenten op hun smartphones en als slimme speakers, zoals Amazon Alexa. Jonge mensen gebruiken hun telefoons voornamelijk om te tekstberichten te sturen en dus zijn ze vertrouwd met het idee om met een tekstgebaseerde chatbot te communiceren. Echter, wanneer het gaat om het communiceren met een chatbot die is gespecialiseerd in een bepaald domein, zoals in ons Chatpal-project dat is ontwikkeld om de geestelijke gezondheid in plattelandsgebieden te bevorderen, hebben we ontdekt dat sommige gebruikers verwachtingen hadden over de technologie op basis van hun ervaringen met Alexa en andere soortgelijke chatbots die onze beperkte middelen overtroffen. We hebben geprobeerd om het probleem van gebruikers die niet technisch onderlegd zijn of vertrouwd zijn met chatbots aan te pakken door middel van initieel levende lab-sessies en door ervoor te zorgen dat interacties met de chatbot natuurlijk en intuïtief waren.

Wat zijn enkele van de uitdagingen die komen kijken bij het bouwen van chatbots die zijn gericht op de geestelijke gezondheid?

Er is het gevaar dat sommige gebruikers meer verwachten van de chatbot dan mogelijk is met de huidige technologie. We wilden niet betrokken raken bij diagnose, omdat we voelden dat dit te riskant is en er zijn rapporten over chatbot-antwoorden in dergelijke situaties die als schadelijk of zelfs gevaarlijk kunnen worden beschouwd. We werden geleid door de eisen van verschillende ethische commissies en erkende standaarden voor het ontwerp en de ontwikkeling van chatbots. Een ander probleem is dat we ontdekt hebben dat er verschillen waren tussen gebruikers in termen van hoe ze de chatbot gebruikten. Sommige gebruikers gaven snel op toen ze technische problemen ervoeren, terwijl anderen bereid waren om door te gaan. Er was ook een leeftijdsgebonden verschil, omdat jonge gebruikers blij waren om met onze tekstgebaseerde chatbot te communiceren, terwijl oudere gebruikers minder blij waren met dit soort interface.

Sommige van de apps die je hebt ontwikkeld, bieden actieplannen aan voor gebruikers, hoe genereer je effectief gebruikersmotivatie in een app?

Om dit te doen, is het noodzakelijk om profielen te creëren voor elke gebruiker die dingen zoals hun komende afspraken, medicijnen, algemene voorkeuren en wat ze hebben besproken in eerdere conversaties met de chatbot, weergeven. Gebruikers zeggen vaak dat ze willen dat de chatbot zich bewust is van hun individuele behoeften en dat hij bijhoudt wat er eerder is besproken, in plaats van een meer generieke en minder adaptieve interactie te bieden.

Maar daartegenover staan er problemen van gegevensbescherming en gebruikers uiten ook bezorgdheid over het gebruik van hun privé-informatie. Er moet een delicate balans worden gevonden en er is een steeds groter wordende hoeveelheid wetgeving om de ethische gebruik van AI in het openbare en private leven te controleren.

Wat zijn enkele van de ethische overwegingen bij het bouwen van chatbots?

Een van de belangrijkste ethische overwegingen bij het bouwen van chatbots is of ze genderstereotypen versterken. Traditioneel hebben vrouwen assistent-achtige rollen in de werkplek ingenomen, terwijl mannen leiderschapsrollen hebben ingenomen. Het implementeren van een chatbot met een vrouwelijk persona kan dergelijke genderstereotypen versterken.

Een ander belangrijk ethisch probleem is of chatbots menselijke waarden moeten omarmen en zich moeten gedragen op een manier die vertrouwen inspireert. Dit wordt het align-probleem genoemd. Chatbots moeten zo worden ontworpen dat ze menselijke rechten niet schenden en geen vooroordelen creëren, en hun beslissingen moeten transparant zijn voor menselijke gebruikers.

En, zoals eerder vermeld, moeten chatbots gebruikersprivacy en gegevensbeschermingswetten respecteren. Er wordt op dit moment veel onderzoek en inspanning geleverd om deze ethische overwegingen aan te pakken.

In een wereld die zich richt op Engelstalige chatbots, wat zijn enkele van de uitdagingen bij het ontwerpen van meertalige en internationale chatbots?

Alles hangt af van de beschikbaarheid van taalbronnen zoals taalmodellen en, voor spraakgebaseerde systemen, spraakherkennings- en spraaksynthese-engines. Dit is geen probleem voor breed gesproken talen, maar het is moeilijk voor talen met beperkte middelen die mogelijk door een groot aantal mensen worden gesproken en waar er een duidelijke behoefte is aan de diensten van een chatbot. Een mogelijke oplossing is om transfer learning te gebruiken van een model dat is voorge-trained in een taal zoals Engels en het te fine-tunen met gegevens uit de taal met beperkte middelen.

De meeste van de apps die je hebt ontwikkeld, gebruiken open source software, wat zijn enkele van de beste open source tools die er zijn?

Het gebruik van open source software was een vereiste van de agentschappen die onze projecten financierden.

We hebben Rasa gebruikt in onze projecten, omdat het open source is, maar ook zeer krachtig, omdat het de laatste ontwikkelingen in conversational AI-technologieën gebruikt. Naast Rasa zijn er verschillende uitstekende open source conversational AI-softwareproducten, waaronder Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog en DeepPavlov, om er maar een paar te noemen.

Je zult spreken op de aanstaande Future of Chatbots & Conversational AI Summit gehost door Group futurista, waarover zul je spreken?

In mijn toespraak zal ik de traditionele benaderingen van chatbot-ontwikkeling op basis van best practices, bekend als conversatie-ontwerp, vergelijken met nieuwe benaderingen op basis van grote taalmodellen zoals ChatGPT. Ik zal de voor- en nadelen van elke benadering bespreken en betogen dat, hoewel benaderingen op basis van grote taalmodellen veel potentieel bieden voor de toekomstige ontwikkeling van chatbots, er nog veel problemen zijn met het ongecontroleerde gebruik van grote taalmodellen, vooral in gebieden zoals de gezondheidszorg en het bedrijfsleven, zodat er nog steeds een behoefte is aan conversatie-ontwerpers die ervoor kunnen zorgen dat conversational AI verklarend, transparant en ethisch is.

Bedankt voor het geweldige interview, lezers die Michael McTear willen horen spreken, moeten de Future of Chatbots & Conversational AI Summit bijwonen, gehost door Group futurista.