Michael McTear, Guru Besar Emeritus di Ulster University – Seri Wawancara

Michael McTear adalah Guru Besar Emeritus di Ulster University. Ia telah melakukan penelitian di bidang sistem dialog ucapan selama lebih dari 20 tahun dan merupakan penulis beberapa buku, termasuk yang terbaru Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael telah menyampaikan pidato utama dan tutorial di banyak konferensi dan workshop akademis. Saat ini Michael terlibat dalam beberapa proyek penelitian dan pengembangan yang menyelidiki penggunaan agen konversasional dalam dukungan kesehatan mental dan pemantauan rumah bagi orang tua.

Apa yang awalnya menarik Anda untuk mempelajari pembelajaran mesin?

Sampai baru-baru ini saya bekerja dengan pendekatan berbasis aturan untuk kecerdasan buatan konversasional, terutama di bidang manajemen dialog di mana ide dasar adalah mengembangkan aturan yang menentukan strategi agen dalam dialog. Namun, dengan kemajuan baru-baru ini dalam pembelajaran mesin, pertama dalam pembelajaran penguatan dan kemudian dalam pembelajaran dalam, saya telah menemukan bahwa pendekatan ini dapat berpotensi mengatasi beberapa masalah yang dihadapi oleh metode berbasis aturan, seperti masalah skala dan kebutuhan untuk menulis aturan yang berbeda untuk mengakomodasi alur dialog yang lebih kompleks.

Anda telah bekerja pada suara dan kecerdasan buatan konversasional selama lebih dari 20 tahun, apa yang membuat Anda fokus pada bidang ini?

Saya telah tertarik dengan cara kerja konversasi selama waktu yang lama. Dalam disertasi saya, saya mempelajari perkembangan kompetensi konversasional pada anak-anak muda dan ini adalah topik buku pertama saya. Kemudian saya menjadi tertarik dengan ide bahwa komputer dapat terlibat dalam konversasi dengan cara yang mirip dengan manusia dan sejak itu saya telah mengikuti perkembangan dalam bidang ini. Awalnya ini adalah area kecil dalam AI, tetapi dalam beberapa tahun terakhir ini telah menjadi sangat penting karena telah diadopsi oleh perusahaan teknologi besar sebagai area minat strategis bagi mereka.

Salah satu proyek terbaru yang Anda fokuskan adalah ChatPAL untuk mempromosikan kesejahteraan mental di daerah pedesaan. Bisakah Anda membahas tantangan di balik membangun chatbot untuk pengguna yang mungkin tidak terbiasa dengan teknologi atau tidak familiar dengan konsep chatbot?

Banyak orang familiar dengan asisten suara pada smartphone mereka dan sebagai speaker pintar seperti Amazon Alexa. Orang muda menggunakan ponsel mereka terutama untuk mengirim teks dan sehingga mereka familiar dengan ide berinteraksi dengan chatbot berbasis teks. Namun, ketika datang ke berinteraksi dengan chatbot yang dikhususkan untuk domain tertentu, seperti proyek Chatpal kami yang dikembangkan untuk mempromosikan kesejahteraan mental di daerah pedesaan, kami menemukan bahwa beberapa pengguna memiliki harapan tentang teknologi berdasarkan pengalaman mereka dengan Alexa dan chatbot lain yang melebihi apa yang kami bisa tawarkan dengan sumber daya yang terbatas. Kami mencoba mengatasi masalah pengguna yang tidak terbiasa dengan teknologi atau tidak familiar dengan chatbot melalui sesi living lab awal serta memastikan bahwa interaksi dengan chatbot itu alami dan intuitif.

Apa beberapa tantangan di balik membangun chatbot yang fokus pada kesehatan mental?

Ada bahaya bahwa beberapa pengguna mungkin mengharapkan lebih dari chatbot daripada yang mungkin dengan teknologi saat ini. Kami tidak ingin terlibat dalam melakukan diagnosis karena kami merasa bahwa ini terlalu berisiko dan ada laporan tentang respons chatbot dalam situasi seperti itu yang bisa dianggap berbahaya atau bahkan berbahaya. Kami dipandu oleh persyaratan dari berbagai komite etika serta standar yang diakui untuk desain dan pengembangan chatbot. Masalah lainnya adalah kami menemukan bahwa ada perbedaan antara pengguna dalam hal bagaimana mereka menggunakan chatbot. Beberapa pengguna menyerah dengan cepat ketika mereka mengalami masalah teknis, sedangkan yang lain bersedia untuk terus mencoba. Juga ada perbedaan yang terkait dengan usia, karena pengguna yang lebih muda bahagia untuk berinteraksi dengan chatbot berbasis teks kami, sedangkan pengguna yang lebih tua kurang bahagia dengan antarmuka jenis ini.

Beberapa aplikasi yang Anda kerjakan menawarkan rencana aksi untuk pengguna, bagaimana Anda secara efektif menghasilkan motivasi pengguna dalam aplikasi?

Untuk melakukan ini, perlu membuat dan memelihara profil untuk setiap pengguna yang mencerminkan hal-hal seperti janji temu mereka yang akan datang, obat-obatan, preferensi umum, dan apa yang telah mereka bahas dalam percakapan sebelumnya dengan chatbot. Pengguna sering menyatakan bahwa mereka ingin chatbot menyadari kebutuhan individu mereka dan untuk melacak apa yang telah dibahas sebelumnya, bukan memberikan interaksi yang lebih generik dan kurang adaptif.

Namun, di sisi lain, ada masalah privasi data dan pengguna juga mengungkapkan kekhawatiran tentang penggunaan informasi pribadi mereka. Ada keseimbangan yang halus untuk dicapai di sini dan tentu saja ada banyak legislasi yang meningkat untuk mengontrol penggunaan etis AI dalam kehidupan publik dan pribadi.

Apa beberapa pertimbangan etis di balik membangun chatbot?

Salah satu pertimbangan etis utama ketika membangun chatbot adalah apakah mereka memperkuat stereotip gender. Secara tradisional, peran asisten di tempat kerja diambil oleh perempuan, sedangkan laki-laki mengambil peran kepemimpinan. Mengimplementasikan chatbot dengan persona perempuan bisa memperkuat stereotip gender seperti itu.

Masalah etis lainnya yang penting adalah apakah chatbot harus menerima nilai-nilai manusia dan berperilaku dengan cara yang menginspirasi kepercayaan. Ini dikenal sebagai masalah penyelarasan. Chatbot harus dirancang untuk menghindari pelanggaran hak asasi manusia dan menghasilkan bias, dan keputusan mereka harus transparan bagi pengguna manusia.

Juga, seperti disebutkan sebelumnya, chatbot harus menghormati privasi pengguna dan hukum perlindungan data. Ada banyak penelitian dan upaya yang saat ini dilakukan untuk pertimbangan etis ini.

Dalam dunia yang fokus pada chatbot berbahasa Inggris, apa beberapa tantangan di balik merancang chatbot multi-bahasa dan internasional?

Semua tergantung pada ketersediaan sumber daya bahasa seperti model bahasa dan, untuk sistem berbasis suara, mesin pengenalan ucapan dan sintesis ucapan. Ini bukan masalah untuk bahasa yang umum digunakan, tetapi sulit untuk bahasa dengan sumber daya terbatas yang mungkin masih digunakan oleh sejumlah besar orang dan di mana ada kebutuhan yang jelas untuk layanan chatbot. Salah satu solusi yang mungkin adalah menggunakan transfer learning dari model yang telah dipratinjau dalam bahasa seperti Inggris dan menyesuaikannya dengan data dari bahasa dengan sumber daya terbatas.

Sebagian besar aplikasi yang Anda desain menggunakan perangkat lunak sumber terbuka, apa beberapa alat sumber terbuka terbaik di luar sana?

Menggunakan perangkat lunak sumber terbuka adalah persyaratan dari lembaga yang mendanai proyek kami.

Kami telah menggunakan Rasa dalam proyek kami karena itu sumber terbuka tetapi juga sangat kuat karena menggunakan perkembangan terbaru dalam teknologi kecerdasan buatan konversasional. Selain Rasa, ada beberapa produk perangkat lunak kecerdasan buatan konversasional sumber terbuka yang sangat baik, termasuk: Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog, dan DeepPavlov, untuk menyebutkan beberapa.

Anda akan berbicara di Future of Chatbots & Conversational AI Summit yang akan datang yang diselenggarakan oleh Group futurista, apa yang akan Anda bahas?

Dalam presentasi saya, saya akan membandingkan pendekatan tradisional untuk pengembangan chatbot berdasarkan praktik terbaik, yang dikenal sebagai desain konversasi, dengan pendekatan baru berdasarkan model bahasa besar seperti ChatGPT. Saya akan membahas kelebihan dan kekurangan dari setiap pendekatan dan berargumen bahwa, meskipun pendekatan berdasarkan model bahasa besar menawarkan potensi besar untuk pengembangan chatbot di masa depan, masih ada banyak masalah dengan penggunaan tidak terkendali model bahasa besar, terutama di bidang seperti kesehatan dan bisnis, sehingga masih ada kebutuhan bagi desainer konversasi yang dapat memastikan kecerdasan buatan konversasional yang dapat dijelaskan, transparan, dan etis.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mendengar Michael McTear berbicara harus menghadiri Future of Chatbots & Conversational AI Summit yang diselenggarakan oleh Group futurista.