ยู ซู ผู้ร่วมก่อตั้งและซีอีโอของ NeoCognition – สัมภาษณ์ซีรีส์

ยู ซู ผู้ร่วมก่อตั้งและซีอีโอของ NeoCognition เป็นนักวิจัยด้านปัญญาประดิษฐ์ที่มีประสบการณ์ยาวนานซึ่งครอบคลุมทั้งด้านวิชาการ องค์กร AI และระบบตัวแทนขั้นสูง นอกจากการเป็นผู้นำ NeoCognition แล้ว เขายังดำรงตำแหน่งผู้ช่วยศาสตราจารย์และนักวิจัยด้านนวัตกรรมที่มหาวิทยาลัยรัฐโอไฮโอ โดยมีงานวิจัยที่เน้นไปที่ระบบตัวแทน AI ระบบการให้เหตุผล และการเรียนรู้ของเครื่อง ประวัติของเขายังรวมถึงการเป็นนักวิจัยอาวุโสที่ Microsoft (MSFT ) มากกว่า 6 ปี โดยทำงานร่วมกับนักวิจัยชั้นนำ เช่น Percy Liang ในระบบ AI สำหรับการสนทนาใน Outlook โดยใช้เทคนิคการวิเคราะห์เชิงความหมาย

NeoCognition เป็นบริษัทที่ทำการวิจัยเกี่ยวกับตัวแทน AI โดยมุ่งเน้นไปที่การพัฒนาสิ่งที่เรียกว่า “ปัญญาเฉพาะ” — ระบบ AI ที่สามารถเรียนรู้และปรับปรุงอย่างต่อเนื่องผ่านประสบการณ์ บริษัทนี้ก่อตั้งโดยนักวิจัย AI ชั้นนำ และมีวิสัยทัศน์ที่จะพัฒนาตัวแทน AI ที่สามารถพัฒนาความเชี่ยวชาญในโดเมนเฉพาะได้ การวิจัยของพวกเขามุ่งเน้นไปที่ด้านการเรียนรู้อย่างต่อเนื่อง การให้เหตุผล การวางแผน การใช้เครื่องมือ และการทำงานร่วมกันระหว่างตัวแทน โดยมีเป้าหมายในการสร้างระบบ AI ที่สามารถทำงานได้ดีขึ้นและเชื่อถือได้เมื่อเวลาผ่านไป

หลายบริษัทได้เร่งพัฒนาและเปิดตัวตัวแทน AI ทั่วไป แต่เรากำลังได้ยินข้อกังวลเกี่ยวกับความน่าเชื่อถือเมื่อระบบเหล่านี้เข้าสู่สภาพแวดล้อมการผลิตจริง คุณเชื่อว่าทำไมตัวแทน AI ที่มีอยู่ในปัจจุบันจึงต้องดิ้นรนเมื่อออกจากสภาพแวดล้อมที่ควบคุม?

ตัวแทน AI ส่วนใหญ่ในปัจจุบันต้องดิ้นรนในสถานการณ์จริงเพราะพวกมันยังคงเป็นนักวิเคราะห์รูปแบบทั่วไปที่ไม่มีความเข้าใจที่ยั่งยืนเกี่ยวกับสภาพแวดล้อมที่พวกมันทำงานอยู่ พวกมันสามารถทำภารกิจได้สำเร็จในสถานการณ์ทดสอบ แต่นั่นต่างจากการที่จะพัฒนาความสามารถในการตัดสินใจซ้ำๆ ในระบบการทำงานจริง

แบบจำลองในปัจจุบันสามารถจดจำรูปแบบได้ดี แต่พวกเขายังคงไม่มีกลไกที่มนุษย์ใช้ในการเป็นผู้เชี่ยวชาญที่เชื่อถือได้ มนุษย์ไม่ได้กลายเป็นผู้เชี่ยวชาญโดยการจำภารกิจที่แยกจากกัน แต่เราพัฒนาความเชี่ยวชาญโดยการเรียนรู้โครงสร้างของโลกเฉพาะ: การทำงาน การจำกัดความสัมพันธ์ เครื่องมือ ความสำคัญ และผลที่ตามมา ซึ่งกำหนดอาชีพหรือองค์กร เมื่อเวลาผ่านไป เราจะสร้างแบบจำลองการทำงานภายในของสภาพแวดล้อมนั้น และแบบจำลองนั้นคือสิ่งที่ทำให้การตัดสินใจดีขึ้นและซ้ำๆ

ตัวแทน AI ส่วนใหญ่ในปัจจุบันไม่ได้สร้างความเข้าใจเชิงปฏิบัติการนั้น พวกมันพึ่งพาการส่งคำสั่ง การดึงข้อมูล หรือชั้นการประสานงานที่ช่วยให้พวกมันทำภารกิจที่แยกจากกัน แต่พวกเขาก็ยังคงดิ้นรนเมื่อเผชิญกับสถานการณ์ใหม่ นั่นคือเหตุผลที่ประสิทธิภาพมักจะล้มเหลวเมื่อสภาพแวดล้อมเปลี่ยนแปลง และยิ่งไปกว่านั้นเมื่อสภาพแวดล้อมกลายเป็นเรื่องยุ่งยาก สภาพแวดล้อมที่มีการเปลี่ยนแปลงอย่างรวดเร็ว หรือสถานการณ์ที่มีความเสี่ยงสูง

สิ่งที่ขาดคือการเชี่ยวชาญ มนุษย์สามารถปรับตัวและกลายเป็นผู้เชี่ยวชาญในสภาพแวดล้อมที่เปลี่ยนแปลงได้โดยการเรียนรู้อย่างต่อเนื่อง เราเชื่อว่าตัวแทน AI ต้องการความสามารถที่คล้ายกัน: ความสามารถในการเรียนรู้โครงสร้างท้องถิ่นของโดเมนอย่างลึกซึ้งเพียงพอเพื่อทำงานด้วยความเชี่ยวชาญที่แท้จริง

NeoCognition ได้อธิบายวิสัยทัศน์ของตนเองว่าเป็นการสร้างตัวแทน AI ที่สามารถเรียนรู้และปรับตัวได้เหมือนมนุษย์ สิ่งนี้หมายถึงอะไรในทางเทคนิคเมื่อเทียบกับวิธีการปรับแต่งแบบคงที่หรือการดึงข้อมูลที่หลายองค์กรใช้ในปัจจุบัน?

ระบบ AI ขององค์กรส่วนใหญ่ในปัจจุบันสามารถปรับปรุงประสิทธิภาพได้โดยการปรับแต่งแบบจำลองเพียงครั้งเดียว หรือโดยการดึงข้อมูลที่เกี่ยวข้องในขณะอนุมาน แต่วิธีการเหล่านี้ไม่ได้ทำให้ตัวแทน AI พัฒนาความเชี่ยวชาญที่เปลี่ยนแปลงไปภายในโดเมน

การปรับแต่งแบบคงที่มักจะเกิดขึ้นหลังการฝึกอบรม การดึงข้อมูลช่วยให้สามารถค้นหาข้อมูลได้ แต่การดึงข้อมูลไม่ใช่การเรียนรู้หรือการปรับตัวตามประสบการณ์ ในหลายกรณี ตัวแทน AI ยังคงไม่มีแบบจำลองที่ยั่งยืนของสภาพแวดล้อมที่พวกมันทำงาน

เมื่อมนุษย์เข้าร่วมองค์กร พวกเขาจะไม่กลายเป็นมืออาชีพเพียงเพราะสามารถค้นหาสิ่งพิมพ์ได้ แต่พวกเขาจะพัฒนาความสามารถในการตัดสินใจโดยการเข้าใจว่าองค์กรทำงานอย่างไร และความเชี่ยวชาญจะเกิดขึ้นจากการที่พวกเขาปรับปรุงแบบจำลองภายในนั้นอย่างต่อเนื่อง

เราเชื่อว่าระบบ AI รุ่นต่อไปต้องการกลไกการเรียนรู้ที่คล้ายกัน ที่ NeoCognition เรามุ่งเน้นในการทำให้ตัวแทน AI สามารถสร้างแบบจำลองการทำงานที่เปลี่ยนแปลงได้ เพื่อให้พวกมันสามารถปรับปรุงและเชี่ยวชาญได้อย่างต่อเนื่องภายในโดเมน โดยไม่ต้องเริ่มต้นใหม่หรือพึ่งพาการออกแบบใหม่ของมนุษย์

ดูเหมือนว่ามีการแบ่งแยกที่เพิ่มขึ้นระหว่างการทดลอง AI และความไว้วางใจในการปฏิบัติงาน องค์กรอาจประสบความสำเร็จในการทดสอบตัวแทน AI ภายใน แต่การนำไปใช้ในการผลิตเป็นอีกเรื่องหนึ่ง สิ่งที่องค์กรต่างๆ มองข้ามเกี่ยวกับการเปลี่ยนแปลงนี้คืออะไร?

หลายองค์กรมองข้ามความที่สภาพแวดล้อมการทำงานจริงมีความซับซ้อนและเปลี่ยนแปลงอย่างรวดเร็ว ตัวแทน AI ที่ทำงานได้ด้วยความแม่นยำ 85% อาจดูเหมือนแข็งแกร่งในการทดสอบ แต่เมื่อนำไปใช้ในระดับองค์กรแล้ว สิ่งนี้จะกลายเป็นกระแสข้อผิดพลาดและสถานการณ์การกู้คืนอย่างต่อเนื่องซึ่งทีมงานของมนุษย์ต้องจัดการ ความท้าทายจะยิ่งใหญ่ขึ้นในกระบวนการทำงานหลายขั้นตอน гдеความล้มเหลวจะสะสมข้ามระบบและงาน ทำให้การดูแล การแทรกแซง และความรับผิดชอบยากขึ้นกว่าที่หลายองค์กรคาดไว้

องค์กรยังคงรักษาการนำไปใช้เพียงเพื่อแก้ปัญหาในการประสานงานหรือการดึงข้อมูล ในความเป็นจริงแล้ว นี่คือปัญหาการเรียนรู้ด้วย ตัวแทน AI ที่สามารถทำงานได้ไม่ใช่สิ่งเดียวที่ท้าทาย สิ่งที่ยากคือการทำให้ระบบพัฒนาความสามารถและความสามารถในการตัดสินใจที่ยั่งยืนภายในสภาพแวดล้อมการทำงานที่เปลี่ยนแปลง

ภาระของการปรับแต่ง การดูแล การควบคุม และการออกแบบใหม่ของมนุษย์ยังคงถูกวางบนบ่าของทีมงานมนุษย์ ซึ่งเป็นสัญญาณที่ชี้ว่าตัวแทน AI ยังคงไม่มีความเข้าใจเชิงปฏิบัติการ พวกมันถูกควบคุมด้วยมือโดยมนุษย์ทุกครั้งที่พวกมันเผชิญกับสถานการณ์ใหม่ นี่ไม่ใช่เส้นทางสู่การขยายขนาดหรือความไว้วางใจ

หัวข้อหลักที่เกิดขึ้นทั่วอุตสาหกรรม AI คือ การกำกับดูแล การควบคุม และการบังคับใช้นโยบาย อย่างไรก็ตาม NeoCognition แย้งว่าการกำกับดูแลเพียงอย่างเดียวไม่เพียงพอ คุณเชื่อว่าทำไมความน่าเชื่อถือในท้ายที่สุดต้องการระบบที่สามารถปรับตัวและเรียนรู้ได้อย่างต่อเนื่องในสภาพแวดล้อมของตนเอง?

การกำกับดูแลและเครื่องมือควบคุมมีความสำคัญ แต่กฎเกณฑ์ที่คงที่เพียงอย่างเดียวไม่สามารถแก้ปัญหาความน่าเชื่อถือในสภาพแวดล้อมที่ซับซ้อนได้

ระบบการทำงานจริงเปลี่ยนแปลงอย่างต่อเนื่อง กระบวนการทำงานเปลี่ยนแปลง เครื่องมืออัปเดต นโยบายเปลี่ยนแปลง และสถานการณ์ที่ไม่คาดคิดเกิดขึ้นซึ่งไม่สามารถคาดการณ์ได้ล่วงหน้า หากตัวแทน AI เพียงแต่ปฏิบัติตามกฎเกณฑ์ที่กำหนดไว้ล่วงหน้าโดยไม่เข้าใจสภาพแวดล้อมที่พวกมันทำงาน พวกมันจะเผชิญกับสถานการณ์ที่กฎเกณฑ์เหล่านั้นไม่ได้เตรียมการไว้

ความน่าเชื่อถือของมนุษย์มาจากการตัดสินใจ ไม่ใช่การยึดติดกับบทบาทที่เข้มงวด แต่เราพัฒนาความสามารถในการตัดสินใจโดยการเข้าใจโครงสร้างและข้อจำกัดของโลกที่เราอาศัยอยู่ เราเรียนรู้ว่าเมื่อใดที่ควรยกเลิก เมื่อใดที่สิ่งใดดูผิดปกติ และเมื่อใดที่บริบทเปลี่ยนแนวทางปฏิบัติที่ถูกต้อง

เราเชื่อว่าตัวแทน AI ต้องการความสามารถที่คล้ายกันในการปรับตัวและเข้าใจสภาพแวดล้อม ความปลอดภัยจะเกิดขึ้นจากการที่ระบบ AI มีความสามารถและเชี่ยวชาญมากขึ้นภายในโลกการทำงานที่ชัดเจน ระบบเหล่านี้สังเกตสภาพแวดล้อมของตนเองและผลลัพธ์ของตนเอง ติดตามจุดที่พวกมันล้มเหลว และปรับปรุงพฤติกรรมของพวกมัน

อุตสาหกรรม AI มักเน้นไปที่การสร้างแบบจำลองที่ใหญ่ขึ้นและความสามารถที่กว้างขึ้น แต่ NeoCognition ดูเหมือนจะเน้นไปที่การเชี่ยวชาญและเรียนรู้เชิงบริบท คุณเชื่อว่าอนาคตของตัวแทน AI ในองค์กรจะเหมือนกับคนงานดิจิทัลที่เชี่ยวชาญสูงหรือไม่?

เราเชื่ออย่างแน่วแน่ว่าอนาคตจะถูกขับเคลื่อนโดยการเชี่ยวชาญ อุตสาหกรรมได้เน้นไปที่การสร้างแบบจำลองที่มีความสามารถทั่วไปมากขึ้นเพราะความสามารถที่กว้างขวางนั้นน่าประทับใจ แต่ในสภาพแวดล้อมองค์กร ความท้าทายที่แท้จริงไม่ใช่ว่าตัวแทน AI สามารถทำสิ่งเล็กๆ น้อยๆ ได้มากมาย แต่เป็นว่าพวกมันสามารถทำงานในบทบาทเฉพาะได้อย่างน่าเชื่อถือและด้วยการตัดสินใจที่ดีในระยะยาว

ที่ NeoCognition เราเชื่อว่าอนาคตจะไม่ใช่ตัวแทน AI ที่สามารถทำทุกสิ่งได้ แต่จะเป็นความอุดมสมบูรณ์ของตัวแทน AI ที่เชี่ยวชาญ ซึ่งแต่ละตัวเรียนรู้โลกของตนเองอย่างลึกซึ้งเพียงพอเพื่อทำงานด้วยความเชี่ยวชาญที่แท้จริง ความน่าเชื่อถือ และการตัดสินใจ วัตถุประสงค์ของพวกมันไม่ใช่การแทนที่ความเชี่ยวชาญของมนุษย์ แต่เพื่อทำให้ความเชี่ยวชาญนั้นมีมากขึ้น: เพื่อนำความสามารถระดับแนวหน้ามาให้กับคนและองค์กรมากขึ้น และเพิ่มมาตรฐานของสิ่งที่บุคคลหรือองค์กรใดๆ สามารถทำได้

หนึ่งในข้อกังวลที่ใหญ่ที่สุดเกี่ยวกับตัวแทน AI ที่เป็นอิสระคือว่าพวกมันจะพฤติกรรมอย่างไรเมื่อสภาพแวดล้อมเปลี่ยนแปลงอย่างไม่คาดคิด ความสำคัญของการปรับตัวและความตระหนักรู้ในสภาพแวดล้อมในการป้องกันความล้มเหลว การหลอกลวง หรือการกระทำที่ไม่ปลอดภัยคืออะไร?

มันสำคัญอย่างยิ่ง ตัวแทน AI ที่ไม่มีความตระหนักรู้ในสภาพแวดล้อมสามารถดำเนินการอย่างมั่นใจแม้ว่าความเข้าใจของพวกมันต่อสถานการณ์จะล้าสมัยหรือไม่สมบูรณ์ นั่นคือที่ที่ความล้มเหลวในการปฏิบัติงานเกิดขึ้น

เราเชื่อว่าความน่าเชื่อถือต้องการให้ตัวแทน AI เรียนรู้โครงสร้างท้องถิ่นของสภาพแวดล้อมที่พวกมันทำงานอยู่อย่างต่อเนื่อง และปรับปรุงความเข้าใจของพวกมันเมื่อเวลาผ่านไป ความน่าเชื่อถือเปลี่ยนแปลงและพัฒนาเมื่อเวลาผ่านไป: สิ่งที่ดูเหมือนน่าเชื่อถือในเดือนกันยายนอาจไม่ดูเหมือนเดียวกันในเดือนพฤษภาคม ความเข้าใจที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับระบบ ข้อจำกัด กระบวนการทำงาน ความสัมพันธ์ และเครื่องมือที่อยู่รอบๆ ตัวแทน AI จะทำให้พวกมันสามารถตระหนักถึงการเปลี่ยนแปลงหรือความไม่แน่นอนได้ดีขึ้น

คุณคิดว่าอุตสาหกรรมอยู่ใกล้กับการนำระบบ AI ที่สามารถปรับปรุงตัวเองผ่านการโต้ตอบกับสภาพแวดล้อมการทำงานจริงมากแค่ไหน?

เรายังคงอยู่ในช่วงเริ่มต้นของการสร้างกลไกการเรียนรู้ที่จำเป็นสำหรับการเรียนรู้และปรับปรุงตัวเองอย่างต่อเนื่อง แต่อุตสาหกรรมอยู่ใกล้กับการเปลี่ยนแปลงนี้มากกว่าที่หลายคนคิด เราอาศัยอยู่ในเส้นเวลาแบบอัดแน่น ส่วนผสมสำหรับการ突破ทางเทคโนโลยีถูกเตรียมไว้แล้ว และสามารถเกิดขึ้นได้ไม่ช้า

สิ่งที่สำคัญไม่ใช่การปรับปรุงตัวเองในทางทฤษฎี แต่เป็นการเชี่ยวชาญที่มีโครงสร้างภายในสภาพแวดล้อมจริง ซึ่งหมายถึงการเรียนรู้กระบวนการทำงาน ข้อจำกัด ความสัมพันธ์ และรูปแบบการทำงานที่สำเร็จในลักษณะที่มั่นคง ควบคุมได้ และต้านทานการลืมอย่างรุนแรง นี่คือปัญหาที่เรากำลังแก้ไขที่ NeoCognition

เมื่อมองไปในอนาคตหลายปี คุณคิดว่าอะไรจะทำให้ตัวแทน AI ที่น่าเชื่อถือในองค์กรแตกต่างจากคลื่นของระบบทดลองที่กำลังเข้ามาในตลาด?

ระบบที่ประสบความสำเร็จจะเป็นระบบที่ดูเหมือนผู้ปฏิบัติงานที่เชื่อถือได้มากกว่าสถานการณ์ทดลอง

ความสามารถของแบบจำลองโดยตรงเพียงอย่างเดียวจะไม่เพียงพอ องค์กรจะสนใจว่าตัวแทน AI สามารถทำงานได้อย่างต่อเนื่องภายในสภาพแวดล้อมจริงของพวกเขา เข้าใจกระบวนการทำงานท้องถิ่นและข้อจำกัด ปรับเปลี่ยนอย่างปลอดภัยเมื่อเวลาผ่านไป และให้ผลลัพธ์ที่ซ้ำๆ

ผู้ชนะในอนาคตของ AI องค์กรจะไม่ใช่เพียงระบบที่สามารถตอบคำถามได้หลากหลายเท่านั้น แต่จะเป็นระบบที่สามารถเรียนรู้โลกการทำงานเฉพาะได้ลึกพอที่จะทำงานด้วยความเชี่ยวชาญที่แท้จริง การตัดสินใจ และความน่าเชื่อถือภายในมัน

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม NeoCognition เพื่อเรียนรู้เพิ่มเติม