Michael McTear, Emeritus Professor an der Ulster University – Interview-Reihe

Michael McTear ist ein Emeritus Professor an der Ulster University. Er hat über 20 Jahre lang in dem Bereich der gesprochenen Dialogsysteme geforscht und ist Autor mehrerer Bücher, darunter zuletzt Conversational AI: Dialogue Systems, Conversational Agents und Chatbots (Springer Link 2021). Michael hat Keynote-Reden und Tutorials auf vielen akademischen Konferenzen und Workshops gehalten. Derzeit ist Michael an mehreren Forschungs- und Entwicklungsprojekten beteiligt, die den Einsatz von Conversational Agents in der Unterstützung von Menschen mit psychischen Erkrankungen und der Überwachung von älteren Erwachsenen in ihrem Zuhause untersuchen.

Was hat Sie ursprünglich zum Maschinellen Lernen hingezogen?

Bis vor kurzem habe ich mit regelbasierten Ansätzen für Conversational AI gearbeitet, insbesondere im Bereich des Dialogmanagements, wo die grundlegende Idee darin besteht, Regeln zu entwickeln, die die Strategien des Agents in einem Dialog bestimmen. Durch die jüngsten Fortschritte im Maschinellen Lernen, zunächst im Reinforcement Learning und dann im Deep Learning, habe ich jedoch festgestellt, dass diese Ansätze einige der Probleme, die bei regelbasierten Methoden auftreten, wie das Skalierungsproblem und die Notwendigkeit, multiple Regeln zu schreiben, um komplexere Dialogflüsse zu ermöglichen, potenziell lösen können.

Sie haben über 20 Jahre lang an Sprach- und Conversational-AI-Projekten gearbeitet. Was hat Sie dazu gebracht, sich auf dieses Feld zu konzentrieren?

Ich habe mich schon seit Langem für die Funktionsweise von Konversationen interessiert. In meiner Doktorarbeit habe ich die Entwicklung von Konversationskompetenz bei kleinen Kindern untersucht, und dies war das Thema meines ersten Buches. Später wurde ich von der Idee fasziniert, dass Computer auf eine menschenähnliche Weise in Konversationen treten können, und seitdem habe ich die Entwicklungen in diesem Bereich verfolgt. Zunächst war dies ein sehr spezifisches Gebiet innerhalb der KI, aber in den letzten Jahren ist es sehr wichtig geworden, da es von den großen Tech-Unternehmen als strategisches Interessengebiet übernommen wurde.

Eines Ihrer jüngsten Projekte, an dem Sie gearbeitet haben, ist ChatPAL, um die psychische Gesundheit in ländlichen Gebieten zu fördern. Können Sie über die Herausforderungen sprechen, die bei der Erstellung eines Chatbots für Benutzer entstehen, die möglicherweise nicht technisch versiert oder mit dem Konzept von Chatbots vertraut sind?

Viele Menschen sind mit Sprachassistenten auf ihren Smartphones und als Smart Speaker wie Amazon Alexa vertraut. Junge Menschen nutzen ihre Telefone hauptsächlich zum Texten und sind daher mit der Idee vertraut, mit einem textbasierten Chatbot zu interagieren. Wenn es jedoch um die Interaktion mit einem Chatbot geht, der für ein bestimmtes Gebiet spezialisiert ist, wie unser Chatpal-Projekt, das zur Förderung der psychischen Gesundheit in ländlichen Gebieten entwickelt wurde, haben wir festgestellt, dass einige Benutzer Erwartungen an die Technologie hatten, die auf ihren Erfahrungen mit Alexa und anderen ähnlichen Chatbots basierten und die Möglichkeiten, die wir mit unseren begrenzten Ressourcen anbieten konnten, überstiegen. Wir haben versucht, das Problem von Benutzern, die nicht technisch versiert oder mit Chatbots vertraut sind, durch anfängliche Living-Lab-Sitzungen sowie durch die Sicherstellung, dass die Interaktionen mit dem Chatbot natürlich und intuitiv waren, anzugehen.

Was sind einige der Herausforderungen bei der Erstellung von Chatbots, die auf die psychische Gesundheit ausgerichtet sind?

Es gibt die Gefahr, dass einige Benutzer mehr von dem Chatbot erwarten, als mit der aktuellen Technologie möglich ist. Wir wollten uns nicht in die Diagnose einlassen, da wir dies als zu riskant ansahen und es Berichte über Chatbot-Antworten in solchen Situationen gab, die als schädlich oder sogar gefährlich angesehen werden könnten. Wir haben uns an den Anforderungen verschiedener Ethikkommissionen sowie an anerkannten Standards für die Gestaltung und Entwicklung von Chatbots orientiert. Ein weiteres Problem war, dass wir feststellten, dass es zwischen den Benutzern Unterschiede gab, wie sie den Chatbot nutzten. Einige Benutzer gaben schnell auf, wenn sie technische Probleme erlebten, während andere bereit waren, weiterzumachen. Es gab auch altersbedingte Unterschiede, da jüngere Benutzer glücklich waren, mit unserem textbasierten Chatbot zu interagieren, während ältere Benutzer weniger zufrieden mit dieser Art von Interface waren.

Einige der Apps, an denen Sie gearbeitet haben, bieten Aktionspläne für Benutzer an. Wie generieren Sie effektiv die Motivation der Benutzer in einer App?

Dazu ist es notwendig, Profile für jeden Benutzer zu erstellen, die Dinge wie ihre bevorstehenden Termine, Medikamente, allgemeine Vorlieben und das, was sie in vorherigen Gesprächen mit dem Chatbot besprochen haben, widerspiegeln. Benutzer sagen oft, dass sie möchten, dass der Chatbot ihre individuellen Bedürfnisse kennt und verfolgt, was zuvor besprochen wurde, anstatt eine generischere und weniger adaptive Interaktion anzubieten.

Es gibt jedoch auch Probleme im Zusammenhang mit der Datenschutzpolitik, und Benutzer äußern Bedenken hinsichtlich der Verwendung ihrer privaten Informationen. Hier muss ein feines Gleichgewicht geschaffen werden, und es gibt immer mehr Gesetze, die den ethischen Einsatz von KI im öffentlichen und privaten Leben regeln.

Was sind einige ethische Überlegungen bei der Erstellung von Chatbots?

Eine der wichtigsten ethischen Überlegungen bei der Erstellung von Chatbots ist, ob sie Geschlechterstereotype verstärken. Traditionell haben Frauen Assistenzrollen in der Arbeitswelt übernommen, während Männer Führungsrollen übernommen haben. Die Implementierung eines Chatbots mit einer weiblichen Persönlichkeit könnte solche Geschlechterstereotype verstärken.

Ein weiteres wichtiges ethisches Problem ist, ob Chatbots menschliche Werte aufnehmen und auf eine Weise handeln sollten, die Vertrauen inspiriert. Dies wird als Ausrichtungsproblem bekannt. Chatbots sollten so gestaltet werden, dass sie menschliche Rechte nicht verletzen und keine Voreingenommenheit erzeugen, und ihre Entscheidungen sollten für menschliche Benutzer transparent sein.

Wie bereits erwähnt, sollten Chatbots auch die Privatsphäre der Benutzer und die Datenschutzgesetze respektieren. Es gibt derzeit viel Forschung und Anstrengungen, die sich auf diese ethischen Überlegungen konzentrieren.

In einer Welt, die auf englischsprachige Chatbots fokussiert ist, was sind einige der Herausforderungen bei der Gestaltung von mehrsprachigen und internationalen Chatbots?

Alles hängt von der Verfügbarkeit von Sprachressourcen wie Sprachmodellen und, für sprachbasierte Systeme, Spracherkennungs- und Sprachsynthese-Engines ab. Dies ist kein Problem für weit verbreitete Sprachen, aber es ist schwierig für Sprachen mit begrenzten Ressourcen, die möglicherweise von einer großen Anzahl von Menschen gesprochen werden und für die es einen klaren Bedarf an den Diensten eines Chatbots gibt. Eine mögliche Lösung besteht darin, Transfer Learning von einem Modell zu verwenden, das in einer Sprache wie Englisch vorgebildet wurde, und es mit Daten aus der Sprache mit begrenzten Ressourcen fein zu justieren.

Die meisten der Apps, an denen Sie gearbeitet haben, verwenden Open-Source-Software. Was sind einige der besten Open-Source-Tools, die es gibt?

Die Verwendung von Open-Source-Software war eine Anforderung der Agenturen, die unsere Projekte finanzierten.

Wir haben Rasa in unseren Projekten verwendet, da es Open-Source ist, aber auch sehr leistungsfähig, da es die neuesten Entwicklungen in der Conversational-AI-Technologie nutzt. Neben Rasa gibt es mehrere hervorragende Open-Source-Conversational-AI-Software-Produkte, darunter Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog und DeepPavlov, um nur einige zu nennen.

Sie werden auf dem anstehenden Future of Chatbots & Conversational AI Summit von Group futurista sprechen. Worüber werden Sie sprechen?

In meinem Vortrag werde ich die traditionellen Ansätze der Chatbot-Entwicklung auf der Grundlage von Best Practices, bekannt als Konversationsdesign, mit neuen Ansätzen auf der Grundlage von großen Sprachmodellen wie ChatGPT vergleichen. Ich werde die Vor- und Nachteile jedes Ansatzes erörtern und argumentieren, dass Ansätze, die auf großen Sprachmodellen basieren, viel Potenzial für die zukünftige Entwicklung von Chatbots bieten, es jedoch immer noch viele Probleme mit der unkontrollierten Verwendung von großen Sprachmodellen gibt, insbesondere in Bereichen wie Gesundheitswesen und Wirtschaft, so dass es immer noch einen Bedarf an Konversationsdesignern gibt, die erklärbare, transparente und ethische Conversational-AI sicherstellen können.

Vielen Dank für das großartige Interview. Leser, die Michael McTear sprechen hören möchten, sollten am Future of Chatbots & Conversational AI Summit teilnehmen, das von Group futurista ausgerichtet wird.