Michael McTear, emeritní profesor na Ulsterské univerzitě – Interview Series

Michael McTear je emeritní profesor na Ulsterské univerzitě. Už více než 20 let se zabývá výzkumem v oblasti mluvených dialogových systémů a je autorem několika knih, včetně poslední knihy Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael přednesl řadu přednášek a workshopů na mnoha akademických konferencích. V současné době se Michael podílí na několika výzkumných a vývojových projektech, které zkoumají použití konverzačních agentů pro podporu duševního zdraví a monitoring seniorů.

Co vás původně přitáhlo k strojovému učení?

Dokud jsem nedávno pracoval s pravidlovými přístupy k konverzačnímu AI, zejména v oblasti řízení dialogu, kde je základní myšlenka vyvinout pravidla, která určují strategie agenta v dialogu. Nicméně s recentními pokroky ve strojovém učení, nejprve v učení s posilováním a poté v hlubokém učení, jsem zjistil, že tyto přístupy mohou potenciálně řešit některé problémy, se kterými se setkávají pravidlové metody, jako je problém škálovatelnosti a potřeba psát多pravidla pro komplexnější dialogové toky.

Již více než 20 let pracujete na hlasové a konverzační AI, co vás přimělo se zaměřit na toto pole?

Jsem již dlouho fascinován tím, jak funguje konverzace. V mé disertační práci jsem studoval vývoj konverzační kompetence u malých dětí a to byla témata mé první knihy. Později jsem se začal zajímat o myšlenku, že počítače mohou vést konverzace podobně jako lidé a od té doby jsem sledoval vývoj v této oblasti. Zpočátku to byla poměrně okrajová oblast v rámci AI, ale v posledních letech se stala velmi důležitou, protože byla přijata velkými technologickými společnostmi jako strategická oblast jejich zájmu.

Jedním z vašich posledních projektů, na kterém jste se zaměřili, je ChatPAL, který má podporovat duševní zdraví v venkovských oblastech. Můžete diskutovat o problémech, které jste řešili při budování chatbota pro uživatele, kteří nemusí být technicky zdatní nebo熟悉í s konceptem chatbotů?

Mnozí lidé jsou熟悉í s hlasovými asistenty na svých smartphonech a jako inteligentními reproduktory, jako je Amazon Alexa. Mladí lidé používají své telefony主要ně pro textování a proto jsou熟悉í s myšlenkou interakce s textovým chatbotem. Nicméně, když se jedná o interakci s chatbotem, který je specializován pro konkrétní oblast, jako je náš projekt Chatpal, který byl vyvinut pro podporu duševního zdraví v venkovských oblastech, jsme zjistili, že někteří uživatelé měli určitá očekávání od technologie na základě svých zkušeností s Alexou a jinými podobnými chatboty, která přesahovala to, co jsme mohli nabídnout s omezenými prostředky. Pokusili jsme se řešit problém uživatelů, kteří nejsou technicky zdatní nebo nejsou熟悉í s chatboty, prostřednictvím počátečních living lab sezení a také tím, že jsme zajistili, aby interakce s chatbotem byly přirozené a intuitivní.

Jaké jsou některé z problémů, které jste řešili při budování chatbotů, které se zaměřují na duševní zdraví?

Existuje nebezpečí, že někteří uživatelé mohou očekávat více od chatbota, než je možné s current technologií. Nechtěli jsme se zapojit do diagnostiky, protože jsme se domnívali, že to je příliš riskantní a existují zprávy o odpovědích chatbotů v takových situacích, které by mohly být považovány za škodlivé nebo dokonce nebezpečné. Byli jsme vedeni požadavky různých etických komisí a uznávanými standardy pro návrh a vývoj chatbotů. Další problém spočívá v tom, že jsme zjistili, že existují rozdíly mezi uživateli v tom, jak používají chatbot. Někteří uživatelé se vzdali rychle, když narazili na technické problémy, zatímco jiní byli připraveni pokračovat. Také existovaly věkově podmíněné rozdíly, protože mladší uživatelé byli spokojeni s interakcí s naším textovým chatbotem, zatímco starší uživatelé byli méně spokojeni s tímto typem rozhraní.

Někteří z aplikací, na kterých jste pracovali, nabízejí akční plány pro uživatele, jak efektivní generujete motivaci uživatelů v aplikaci?

Abyste to udělali, je nutné vytvořit a udržovat profily pro každého uživatele, které odrážejí věci, jako jsou jejich nadcházející schůzky, léky, obecné preference a to, co diskutovali v předchozích konverzacích s chatbotem. Uživatelé často uvádějí, že chtějí, aby chatbot byl vědomý jejich individuálních potřeb a aby sledoval, co bylo diskutováno dříve, spíše než aby poskytoval více obecnou a méně adaptivní interakci.

Jaké jsou některé etické úvahy, které je třeba vzít v úvahu při budování chatbotů?

Jedním z hlavních etických úvah, které je třeba vzít v úvahu při budování chatbotů, je, zda posilují genderové stereotypy. Tradičně ženy zastávaly asistentské role v pracovním prostředí, zatímco muži zastávali vedoucí role. Implementace chatbota s ženskou osobností by mohla posílit takové genderové stereotypy.

Na co se budete zaměřovat ve své přednášce na nadcházející konferenci Future of Chatbots & Conversational AI Summit?

Budu srovnávat tradiční přístupy k vývoji chatbotů založené na osvědčených postupech, známých jako konverzační design, s novými přístupy založenými na velkých jazykových modelech, jako je ChatGPT. Budu diskutovat o výhodách a nevýhodách každého přístupu a budu argumentovat, že尽管 přístupy založené na velkých jazykových modelech nabízejí velký potenciál pro budoucí vývoj chatbotů, existují stále mnoho problémů s nekontrolovaným použitím velkých jazykových modelů, zejména v oblastech, jako je zdravotnictví a podnikání, takže stále existuje potřeba konverzačních designerů, kteří mohou zajistit vysvětlitelnou, transparentní a etickou konverzační AI.