Michael McTear, Emeritus Professor na Uniwersytecie w Ulsterze – Seria wywiadów

Michael McTear jest emerytowanym profesorem na Uniwersytecie w Ulsterze. Od ponad 20 lat prowadzi badania w dziedzinie systemów dialogowych i jest autorem kilku książek, w tym najnowszej “Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots” (Springer Link 2021). Michael wygłaszał wykłady i prowadził warsztaty na wielu konferencjach i seminariach. Obecnie jest zaangażowany w kilka projektów badawczych i rozwojowych, które dotyczą wykorzystania agentów konwersacyjnych w obszarze wsparcia zdrowia psychicznego i monitorowania osób starszych w domu.

Czym było to, co początkowo przyciągnęło Twoją uwagę do machine learning?

Do niedawna pracowałem z podejściami opartymi na regułach w dziedzinie sztucznej inteligencji konwersacyjnej, szczególnie w obszarze zarządzania dialogiem, gdzie podstawową ideą jest rozwój reguł, które określają strategie agenta w dialogu. Jednakże, dzięki ostatnim postępom w machine learning, najpierw w uczeniu wzmacnianym, a następnie w głębokim uczeniu, stwierdziłem, że te podejścia mogą potencjalnie rozwiązać niektóre problemy występujące w podejściach opartych na regułach, takich jak problem skalowalności i potrzeba pisania wielu reguł, aby uwzględnić bardziej złożone przepływy dialogowe.

Przez ponad 20 lat pracowałeś nad głosem i sztuczną inteligencją konwersacyjną, co skłoniło Cię do skupienia się na tej dziedzinie?

Od dawna interesuję się tym, jak działa konwersacja. W mojej pracy doktorskiej badałem rozwój kompetencji konwersacyjnych u małych dzieci, a to było tematem mojej pierwszej książki. Później zacząłem fascynować się ideą, że komputery mogą prowadzić konwersacje w sposób podobny do ludzi i od tego czasu śledzę rozwój tej dziedziny. Na początku była to bardzo mała dziedzina w ramach sztucznej inteligencji, ale w ciągu ostatnich kilku lat stała się bardzo ważna, ponieważ została przyjęta przez duże firmy technologiczne jako obszar strategicznego zainteresowania.

Jeden z Twoich najnowszych projektów, nad którym pracowałeś, to ChatPAL, który ma na celu promowanie dobrego samopoczucia w obszarach wiejskich. Czy mógłbyś omówić wyzwania związane z budową czatbota dla użytkowników, którzy mogą nie być zaznajomieni z technologią lub pojęciem czatbotów?

Wiele osób jest zaznajomionych z asystentami głosowymi na swoich smartfonach i urządzeniach takich jak Amazon Alexa. Młodzi ludzie używają swoich telefonów głównie do wysyłania wiadomości tekstowych, więc są zaznajomieni z ideą interakcji z czatbotem opartym na tekście. Jednakże, gdy chodzi o interakcję z czatbotem, który jest specjalnie zaprojektowany dla określonej dziedziny, jak nasz projekt Chatpal, który został opracowany w celu promowania dobrego samopoczucia w obszarach wiejskich, stwierdziliśmy, że niektórzy użytkownicy mieli oczekiwania dotyczące technologii oparte na ich doświadczeniach z Alexą i innymi podobnymi czatbotami, które przekraczały to, co mogliśmy zaoferować z naszymi ograniczonymi zasobami. Staramy się rozwiązać problem użytkowników, którzy nie są zaznajomieni z technologią lub czatbotami, poprzez wstępne sesje w laboratorium oraz zapewnienie, że interakcje z czatbotem są naturalne i intuicyjne.

jakie są niektóre z wyzwań związanych z budową czatbotów, które koncentrują się na zdrowiu psychicznym?

Istnieje niebezpieczeństwo, że niektórzy użytkownicy mogą oczekiwać więcej od czatbota, niż to, co jest możliwe z obecnych technologii. Nie chcieliśmy angażować się w diagnozowanie, ponieważ uważaliśmy, że jest to zbyt ryzykowne, a istnieją raporty o odpowiedziach czatbotów w takich sytuacjach, które mogą być uważane za szkodliwe lub nawet niebezpieczne. Kierowaliśmy się wymogami różnych komitetów etycznych, a także uznanych standardów dla projektowania i rozwoju czatbotów. Innym problemem jest to, że stwierdziliśmy, że istnieją różnice między użytkownikami pod względem tego, jak używali czatbota. Niektórzy użytkownicy szybko porzucali, gdy doświadczali problemów technicznych, podczas gdy inni byli gotowi wytrwać. Istniały również różnice związane z wiekiem, ponieważ młodsi użytkownicy byli zadowoleni z interfejsu opartego na tekście, podczas gdy starsi użytkownicy byli mniej zadowoleni z tego rodzaju interfejsu.

Jakie są niektóre z Twoich aplikacji, które oferują plany działania dla użytkowników, jak skutecznie generujesz motywację u użytkowników w aplikacji?

Aby to zrobić, konieczne jest stworzenie i utrzymanie profili dla każdego użytkownika, które odzwierciedlają rzeczy takie jak ich nadchodzące spotkania, leki, ogólne preferencje i to, co omawiali w poprzednich rozmowach z czatbotem. Użytkownicy często mówią, że chcą, aby czatbot był świadomy ich indywidualnych potrzeb i aby śledził to, co zostało omówione wcześniej, zamiast zapewniać bardziej ogólną i mniej adaptacyjną interakcję.

Jednakże, istnieją również kwestie związane z prywatnością danych i użytkownicy wyrażają obawy dotyczące wykorzystania ich informacji prywatnych. Istnieje delikatna równowaga, którą trzeba zachować, a także coraz więcej przepisów, które kontrolują etyczne wykorzystanie sztucznej inteligencji w życiu publicznym i prywatnym.

Jakie są niektóre z etycznych rozważań związanych z budową czatbotów?

Jednym z głównych etycznych rozważań, które należy wziąć pod uwagę przy budowaniu czatbotów, jest to, czy wzmacniają one stereotypy płciowe. Tradycyjnie kobiety pełniły role asystentów w miejscu pracy, podczas gdy mężczyźni pełnili role przywódcze. Wdrożenie czatbota z osobowością kobiecą mogłoby wzmacniać takie stereotypy.

Innym ważnym etycznym problemem jest to, czy czatboty powinny przyjmować wartości ludzkie i zachowywać się w sposób, który inspiruje zaufanie. Jest to znane jako problem wyrównania. Czatboty powinny być zaprojektowane w taki sposób, aby unikać naruszeń praw człowieka i tworzenia uprzedzeń, a ich decyzje powinny być transparentne dla użytkowników.

Ponadto, jak wcześniej wspomniano, czatboty powinny szanować prywatność użytkowników i przestrzegać przepisów o ochronie danych. W tej chwili wiele badań i wysiłków poświęca się tym etycznym rozważaniom.

W świecie, który koncentruje się na czatbotach mówiących w języku angielskim, jakie są niektóre z wyzwań związanych z projektowaniem czatbotów wielojęzycznych i międzynarodowych?

Wszystko zależy od dostępności zasobów językowych, takich jak modele językowe i, w przypadku systemów opartych na głosie, silniki rozpoznawania mowy i syntezatory mowy. Nie jest to problemem dla języków szeroko używanych, ale może być trudne dla języków z ograniczonymi zasobami, które mogą być mówione przez dużą liczbę ludzi i gdzie istnieje potrzeba usług czatbota. Jednym z możliwych rozwiązań jest użycie transferu uczenia z modelu wstępnie wyuczonym w języku takim jak angielski i dostosowanie go do danych z języka o ograniczonych zasobach.

Większość Twoich aplikacji wykorzystuje oprogramowanie open source, jakie są niektóre z najlepszych narzędzi open source dostępnych?

Użycie oprogramowania open source było wymogiem agencji, które finansowały nasze projekty.

Wykorzystaliśmy Rasa w naszych projektach, ponieważ jest to oprogramowanie open source, ale także bardzo potężne, ponieważ wykorzystuje najnowsze osiągnięcia w dziedzinie sztucznej inteligencji konwersacyjnej. Oprócz Rasa istnieją również inne doskonałe oprogramowania open source do sztucznej inteligencji konwersacyjnej, w tym Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog i DeepPavlov, aby wymienić tylko kilka.

Będziesz mówca na nadchodzącym Future of Chatbots & Conversational AI Summit organizowanym przez Group futurista. Co będziesz omawiać?

W moim wykładzie będę porównywał tradycyjne podejścia do rozwoju czatbotów oparte na najlepszych praktykach, znanych jako projektowanie konwersacji, z nowymi podejściami opartymi na dużych modelach językowych, takich jak ChatGPT. Omówię zalety i wady każdego podejścia i będę argumentował, że chociaż podejścia oparte na dużych modelach językowych oferują wiele potencjału dla przyszłego rozwoju czatbotów, istnieją jeszcze wiele problemów z niekontrolowanym użyciem dużych modeli językowych, szczególnie w obszarach takich jak opieka zdrowotna i biznes, więc nadal istnieje potrzeba projektantów konwersacji, którzy mogą zapewnić wyjaśnialną, transparentną i etyczną sztuczną inteligencję konwersacyjną.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą usłyszeć Michaela McTeara, powinni wziąć udział w Future of Chatbots & Conversational AI Summit organizowanym przez Group futurista.