สัมภาษณ์
Michael McTear, Emeritus Professor at Ulster University – Interview Series
Michael McTear เป็น Emeritus Professor ที่ Ulster University เขาได้ทำการวิจัยในด้านspoken dialogue systems มากกว่า 20 ปี และเป็นผู้เขียนหนังสือหลายเล่ม รวมถึง Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021) ที่เพิ่งเผยแพร่ไม่นานนี้ Michael ได้ให้การบรรยายและอบรมที่หลายๆ การประชุมและเวิร์กช็อปทางวิชาการ ปัจจุบัน Michael กำลังทำงานในหลายๆ โครงการวิจัยและพัฒนา ที่สำรวจการใช้ conversational agents ในการสนับสนุนสุขภาพจิตและการดูแลผู้สูงอายุในบ้าน
สิ่งใดที่ดึงดูดคุณให้เข้าสู่โลกของ machine learning?
จนกระทั่งไม่นานมานี้ ฉันทำงานกับวิธีการแบบ rule-based สำหรับ conversational AI โดยเฉพาะในด้าน dialogue management ซึ่งแนวคิดหลักคือการสร้างกฎที่กำหนดกลยุทธ์ของตัวแทนในระหว่างการ 대화 อย่างไรก็ตาม ด้วยความก้าวหน้าล่าสุดใน machine learning ก่อนอื่นใน reinforcement learning และต่อมาใน deep learning ฉันพบว่าวิธีการเหล่านี้สามารถจัดการกับปัญหาบางอย่างที่เกิดขึ้นกับวิธีการแบบ rule-based เช่น ปัญหาในการปรับขนาดและความจำเป็นที่จะต้องเขียนกฎหลายๆ ข้อเพื่อรองรับกระแสการ 대화ที่ซับซ้อน
คุณทำงานด้าน voice และ conversational AI มากกว่า 20 ปีแล้ว สิ่งใดทำให้คุณมุ่งเน้นไปที่สาขานี้?
ฉันสนใจที่จะศึกษาว่าการ 대화ทำงานอย่างไรมานานแล้ว ในการวิจัยระดับ PhD ของฉัน ฉันศึกษาการพัฒนาความสามารถในการ 대화ในเด็กๆ และเป็นหัวข้อของหนังสือเล่มแรกของฉัน ต่อมา ฉันสนใจความคิดที่ว่าคอมพิวเตอร์สามารถมีส่วนร่วมในการ 대화ในลักษณะที่เหมือนมนุษย์ และตั้งแต่นั้นมา ฉันก็ได้ติดตามความก้าวหน้าในด้านนี้ ในตอนแรก มันเป็นเพียงสาขาย่อยๆ หนึ่งใน AI แต่ในช่วงไม่กี่ปีที่ผ่านมา มันได้กลายเป็นสิ่งสำคัญมาก เนื่องจากได้รับการยอมรับจากบริษัทเทคโนโลยีขนาดใหญ่ว่าเป็นหนึ่งในพื้นที่ที่มีศักยภาพ
หนึ่งในโครงการล่าสุดที่คุณเน้นไปที่ ChatPAL เพื่อส่งเสริมสุขภาพจิตในพื้นที่ชนบท คุณสามารถพูดถึงความท้าทายในการสร้าง chatbot สำหรับผู้ใช้ที่อาจไม่คุ้นเคยกับเทคโนโลยีหรือไม่คุ้นเคยกับแนวคิดของ chatbot ได้หรือไม่?
หลายคนคุ้นเคยกับ voice assistants บนสมาร์ทโฟนและสมาร์ทสปีกเกอร์ เช่น Amazon Alexa ผู้ใช้รุ่นใหม่ๆ ใช้โทรศัพท์หลักๆ เพื่อส่งข้อความ ดังนั้นพวกเขาจึงคุ้นเคยกับการโต้ตอบกับ chatbot แบบข้อความ อย่างไรก็ตาม เมื่อเป็นเรื่องของการโต้ตอบกับ chatbot ที่มีความเชี่ยวชาญในโดเมนเฉพาะ เช่น โครงการ Chatpal ของเราที่พัฒนาเพื่อส่งเสริมสุขภาพจิตในพื้นที่ชนบท เราพบว่าผู้ใช้บางคนมีความคาดหวังเกี่ยวกับเทคโนโลยีจากประสบการณ์กับ Alexa และ chatbot อื่นๆ ที่เกินกว่าที่เราสามารถให้ได้ด้วยทรัพยากรที่จำกัด เราได้พยายามแก้ไขปัญหานี้ผ่านเซสชัน living lab ในตอนต้นและทำให้แน่ใจว่าการโต้ตอบกับ chatbot เป็นไปอย่างธรรมชาติและ直觉
สิ่งใดเป็นความท้าทายหลักที่อยู่เบื้องหลังการสร้าง chatbot ที่เน้นไปที่สุขภาพจิต?
มีความเสี่ยงว่าผู้ใช้บางคนอาจคาดหวังมากเกินไปจาก chatbot มากกว่าที่เทคโนโลยีปัจจุบันสามารถทำได้ เราไม่ต้องการที่จะเกี่ยวข้องกับการวินิจฉัย เนื่องจากเรารู้สึกว่ามันเป็นเรื่องที่มีความเสี่ยง และมีรายงานเกี่ยวกับการตอบกลับของ chatbot ในสถานการณ์ดังกล่าวที่อาจถือเป็นอันตรายหรือแม้กระทั่งอันตราย เราได้รับการชี้นำจากข้อกำหนดของคณะกรรมการจริยธรรมต่างๆ และมาตรฐานที่รู้จักสำหรับการออกแบบและพัฒนา chatbot อีกประเด็นหนึ่งคือเราพบว่ามีความแตกต่างระหว่างผู้ใช้ในแง่ของวิธีการใช้ chatbot บางคนหยุดใช้เมื่อพบปัญหาทางเทคนิค ในขณะที่คนอื่นๆ พร้อมที่จะทนต่อปัญหา นอกจากนี้ยังมีความแตกต่างที่เกี่ยวข้องกับอายุ เนื่องจากผู้ใช้รุ่นใหม่ๆ มีความสุขที่จะโต้ตอบกับ chatbot แบบข้อความ ในขณะที่ผู้ใช้รุ่นเก่ากว่านั้นมีความสุขน้อยกว่ากับอินเทอร์เฟซประเภทนี้
บางแอปที่คุณได้ทำงานด้วยมีแผนการกระตุ้นผู้ใช้ คุณสร้างแรงบันดาลใจให้ผู้ใช้ได้อย่างมีประสิทธิภาพในแอปอย่างไร?
เพื่อทำเช่นนี้ เราต้องสร้างและบำรุงรักษาโปรไฟล์สำหรับผู้ใช้แต่ละคน ซึ่งสะท้อนถึงสิ่งต่างๆ เช่น การนัดหมายที่กำลังจะมาถึง, ยา, ความชอบทั่วไป และสิ่งที่พวกเขาพูดคุยในระหว่างการ 대화กับ chatbot ก่อนหน้านี้ ผู้ใช้หลายคนบอกว่าพวกเขาต้องการให้ chatbot ตระหนักถึงความต้องการส่วนบุคคลและติดตามสิ่งที่ได้พูดคุยไปก่อนหน้านี้ มากกว่าที่จะให้การโต้ตอบที่ทั่วไปและไม่ปรับเปลี่ยน
อย่างไรก็ตาม มีประเด็นเกี่ยวกับความเป็นส่วนตัวของข้อมูล และผู้ใช้ก็แสดงความกังวลเกี่ยวกับการใช้ข้อมูลส่วนตัวของตน มีความสมดุลที่ละเอียดอ่อนที่ต้องสร้างขึ้น และแน่นอนว่ามีกฎหมายที่เพิ่มขึ้นเรื่อยๆ เพื่อควบคุมการใช้ AI ในชีวิตสาธารณะและชีวิตส่วนตัว
สิ่งใดเป็นข้อพิจารณาด้านจริยธรรมหลักที่อยู่เบื้องหลังการสร้าง chatbot?
ข้อพิจารณาด้านจริยธรรมหลักประการหนึ่งคือว่า chatbot เสริมสร้างสเตอริโอไทป์ทางเพศหรือไม่ โดยทั่วไปแล้ว ผู้หญิงมักจะรับบทบาทผู้ช่วยในสถานที่ทำงาน ในขณะที่ผู้ชายมักจะรับบทบาทผู้นำ การนำ chatbot ที่มีบุคลิกภาพหญิงมาใช้อาจเสริมสร้างสเตอริโอไทป์เหล่านี้
ประเด็นด้านจริยธรรมที่สำคัญอีกประเด็นหนึ่งคือว่า chatbot ควรยึดมั่นในค่านิยมของมนุษย์และดำเนินการในลักษณะที่สร้างความไว้วางใจ สิ่งนี้เป็นที่รู้จักกันในชื่อ “alignment problem” chatbot ควรได้รับการออกแบบเพื่อหลีกเลี่ยงการละเมิดสิทธิมนุษยชนและการสร้างความลำเอียง และการตัดสินใจของพวกมันควรเป็นที่เข้าใจได้สำหรับผู้ใช้
นอกจากนี้ ตามที่กล่าวไว้ก่อนหน้านี้ chatbot ควรเคารพความเป็นส่วนตัวของผู้ใช้และกฎหมายคุ้มครองข้อมูล มีการวิจัยและความพยายามที่กำลังดำเนินอยู่เพื่อจัดการกับข้อพิจารณาด้านจริยธรรมเหล่านี้
ในโลกที่มุ่งเน้นไปที่ chatbot ที่พูดภาษาอังกฤษ สิ่งใดเป็นความท้าทายหลักที่อยู่เบื้องหลังการออกแบบ chatbot ที่สามารถใช้ได้หลายภาษาและระหว่างประเทศ?
ทุกอย่างขึ้นอยู่กับการมีอยู่ของทรัพยากรภาษา เช่น โมเดลภาษา และสำหรับระบบที่ใช้เสียง การรู้จำเสียงพูดและการสังเคราะห์เสียง นี่ไม่ใช่ปัญหาสำหรับภาษาที่ใช้กันอย่างแพร่หลาย แต่มันจะยากสำหรับภาษาที่มีทรัพยากรจำกัด ซึ่งอาจมีผู้พูดจำนวนมากและต้องการบริการของ chatbot วิธีแก้ปัญหาหนึ่งคือการใช้การเรียนรู้แบบถ่ายโอนจากโมเดลที่ได้รับการฝึกฝนในภาษา เช่น ภาษาอังกฤษ และปรับให้เหมาะสมกับข้อมูลจากภาษาที่มีทรัพยากรจำกัด
ส่วนใหญ่ของแอปที่คุณได้ออกแบบใช้ซอฟต์แวร์แบบเปิด คุณสามารถแนะนำซอฟต์แวร์แบบเปิดที่ดีที่สุดได้หรือไม่?
การใช้ซอฟต์แวร์แบบเปิดเป็นข้อกำหนดของหน่วยงานที่ให้ทุนสนับสนุนโครงการของเรา
เรามใช้ Rasa ในโครงการของเรา เนื่องจากเป็นซอฟต์แวร์แบบเปิดและทรงพลัง เนื่องจากใช้เทคโนโลยี conversational AI ล่าสุด นอกเหนือจาก Rasa ยังมีซอฟต์แวร์ conversational AI แบบเปิดที่ดีหลายตัว รวมถึง Botpress, Microsoft Bot Framework, OpenDialog และ DeepPavlov เพื่อชื่อไม่กี่ตัว
คุณจะพูดที่การประชุม Future of Chatbots & Conversational AI Summit ที่จัดโดย Group futurista คุณจะพูดถึงเรื่องอะไร?
ในคำพูดของฉัน ฉันจะเปรียบเทียบวิธีการแบบดั้งเดิมในการพัฒนา chatbot ที่อาศัยหลักปฏิบัติที่ดีที่สุด ซึ่งเรียกว่า conversation design กับวิธีการใหม่ที่อาศัยโมเดลภาษาขนาดใหญ่ เช่น ChatGPT ฉันจะครอบคลุมข้อดีและข้อเสียของแต่ละวิธีและแย้งว่า แม้ว่าวิธีการที่อาศัยโมเดลภาษาขนาดใหญ่จะมีศักยภาพมากสำหรับการพัฒนา chatbot ในอนาคต แต่ก็มีปัญหาหลายอย่างที่เกี่ยวข้องกับการใช้โมเดลภาษาขนาดใหญ่โดยไม่มีการควบคุม โดยเฉพาะในพื้นที่ เช่น สุขภาพและธุรกิจ ดังนั้นจึงยังมีความจำเป็นในการมีนักออกแบบการ 대화ที่สามารถรับรอง conversational AI ที่อธิบายได้, โปร่งใส และมีจริยธรรม
ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านที่ต้องการฟัง Michael McTear พูดควรเข้าร่วมการประชุม Future of Chatbots & Conversational AI Summit จัดโดย Group futurista.
