Manuel Romero, ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่วิทยาศาสตร์ของ Maisa – สัมภาษณ์รายการ

Manuel Romero ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่วิทยาศาสตร์ของ Maisa เป็นนักวิจัยและวิศวกร AI ที่มุ่งเน้นในการพัฒนาระบบ AI ที่เชื่อถือได้และเหมาะสำหรับองค์กร เขาได้ร่วมก่อตั้ง Maisa ในปี 2024 เพื่อสร้าง AI ที่รับผิดชอบและสามารถดำเนินการกระบวนการทางธุรกิจที่ซับซ้อนได้ด้วยความโปร่งใสและควบคุม ก่อนที่จะเข้าร่วม Maisa โรมเอโร曾ดำรงตำแหน่งวิศวกร AI และวิศวกร Machine Learning ในบริษัทต่างๆ เช่น Clibrain และ Narrativa โดยมีประสบการณ์ในการประมวลผลภาษาธรรมชาติและระบบ AI ระดับใหญ่ ในช่วงแรกของอาชีพการงานของเขา เขาทำงานเป็นวิศวกรซอฟต์แวร์แบบเต็มและผู้เชี่ยวชาญ DevOps ก่อนที่จะเปลี่ยนมาเป็นนักวิจัยและพัฒนาระบบ AI ที่มีความซับซ้อน และกลายเป็นผู้ร่วมให้ข้อมูลในระบบ AI แบบเปิด

Maisa AI พัฒนา “พนักงานดิจิทัล” ที่เป็นอิสระ ซึ่งเป็นตัวแทน AI ที่ออกแบบมาเพื่อทำให้กระบวนการทำงานขององค์กรมีประสิทธิภาพสูงโดยยังคงรักษาความสามารถในการตรวจสอบและควบคุมได้ แพลตฟอร์มนี้ช่วยให้องค์กรสามารถสร้างและใช้งานตัวแทน AI โดยใช้ภาษาธรรมชาติ ทำให้สามารถทำงานอัตโนมัติได้ภายในระบบและแหล่งข้อมูลต่างๆ โดยไม่ต้องเขียนโค้ดมากนัก โดยการเน้นไปที่การให้เหตุผลที่สามารถตรวจสอบและควบคุมได้ Maisa มุ่งหวังที่จะเอาชนะข้อจำกัดที่พบในระบบ AI ที่สร้างขึ้น และช่วยให้องค์กรสามารถใช้งาน AI ที่มีความสามารถในการทำงานอัตโนมัติได้อย่างปลอดภัย

คุณมักเน้นไปที่การทำความเข้าใจ “เหตุผล” ที่ลึกซึ้งกว่าของระบบ AI จากมุมมองทางเทคนิค สิ่งใดที่กระตุ้นให้คุณร่วมก่อตั้ง Maisa ในปี 2024 และคุณเห็นว่ามีช่องว่างในโครงสร้าง AI ขององค์กรที่ไม่ได้รับการแก้ไข?

แรงบันดาลใจในการร่วมก่อตั้ง Maisa มาจากการรับรู้ว่าสแต็ก AI ขององค์กรส่วนใหญ่ถูกสร้างขึ้นโดยมีโมเดลเป็นศูนย์กลาง ไม่ใช่ระบบ

ในช่วงการเติบโตของ AI ที่สร้างขึ้นหลายบริษัทมุ่งเน้นไปที่การรวมโมเดลภาษาที่มีขนาดใหญ่เข้ากับกระบวนการทำงานที่มีอยู่ อย่างไรก็ตาม ระบบเหล่านี้มักจะไม่เสถียร ไม่โปร่งใส และยากต่อการดำเนินการในระดับใหญ่ พวกมันขาด:

• การทำงานที่แน่นอนในจุดที่สำคัญ
• การตรวจสอบและติดตามที่เข้มแข็ง
• การทำซ้ำผลลัพธ์

ช่องว่างที่เราเห็นคือการไม่มีโครงสร้างพื้นฐาน AI ที่แท้จริงสำหรับองค์กร บริษัทต่างๆ กำลังสร้างแอปพลิเคชันโดยรอบ API ของโมเดลภาษา แต่พวกเขาไม่มีอะไรที่เทียบเท่ากับโครงสร้างคอมพิวเตอร์สำหรับการทำงานด้านความรู้

Maisa ถูกสร้างขึ้นเพื่อแก้ไขช่องว่างนี้โดยการออกแบบโครงสร้างที่มีจุดศูนย์กลางอยู่ที่หน่วยประมวลผลความรู้ (KPU) ซึ่งเป็นระบบที่ทำให้ AI สามารถทำงานได้อย่างน่าเชื่อถือภายในกระบวนการทำงานขององค์กรที่แท้จริง

คุณได้ทำงานในด้านประมวลผลภาษาธรรมชาติที่ซับซ้อนและระบบที่สร้างขึ้นมาก่อนที่จะร่วมก่อตั้ง Maisa ประสบการณ์เหล่านั้นได้กำหนดรูปแบบทางสถาปัตยกรรมของแพลตฟอร์มอย่างไร?

ประสบการณ์ของฉันในการทำงานในด้าน NLP และ NLG โดยเฉพาะอย่างยิ่งในการฝึกอบรมและเตรียมโมเดลภาษา รวมถึงโมเดลภาษาที่มีขนาดใหญ่ (หลายร้อยแบบ) ทำให้ฉันเข้าใจสิ่งหนึ่งได้อย่างชัดเจนเมื่อพยายามสร้างระบบที่แท้จริงบนพื้นฐานของพวกมัน โครงสร้าง Transformer มีความสามารถมาก แต่ก็มีข้อจำกัดพื้นฐานอย่างน้อยสามประการที่ต้องได้รับการแก้ไขเพื่อใช้งานได้อย่างน่าเชื่อถือในการผลิต

ประการแรกคือการ “หลอกลวง” ของโมเดลเหล่านี้ ซึ่งสร้างข้อความโดยใช้ความน่าจะเป็นและสามารถผลิตข้อความที่ดูถูกต้อง แต่ไม่ได้มาจากข้อมูลที่ยืนยันแล้ว

ประการที่สองคือข้อจำกัดของบริบท แม้ว่าจะมีหน้าต่างบริบทที่ใหญ่กว่า โมเดลเหล่านี้ทำงานภายในพื้นที่โทเค็นที่มีขอบเขต ทำให้ยากต่อการให้เหตุผลเกี่ยวกับความรู้ที่ซับซ้อนหรือมีขนาดใหญ่

ประการที่สามคือข้อมูลที่อัปเดต โมเดลที่ได้รับการฝึกอบรมแสดงถึงภาพรวมของความรู้ ณ เวลาที่ฝึกอบรม ในขณะที่สภาพแวดล้อมขององค์กรต้องการระบบที่สามารถให้เหตุผลเกี่ยวกับข้อมูลที่เปลี่ยนแปลงอย่างต่อเนื่อง

การรับรู้ข้อจำกัดเหล่านี้กำหนดรูปแบบการออกแบบหลายอย่างของ Maisa แทนที่จะพึ่งพาโมเดลเพียงอย่างเดียว เราเน้นไปที่การสร้างระบบที่ให้การเข้าถึงความรู้ที่มีโครงสร้าง ระบบตรวจสอบ และการทำงานที่ควบคุมได้ เพื่อให้ AI สามารถทำงานได้อย่างน่าเชื่อถือภายในกระบวนการทำงานขององค์กรที่แท้จริง

หลายองค์กรทดลองใช้ AI ที่สร้างขึ้น แต่ด้วยความยากลำบากในการขยายขนาดไปมากกว่านั้น จากมุมมองของการออกแบบระบบ สาเหตุหลักที่ทำให้การขยายขนาดล้มเหลวในหลายองค์กรคืออะไร?

หลายองค์กรต้องดิ้นรนในการขยายขนาด AI ที่สร้างขึ้นเพราะการนำไปใช้ส่วนใหญ่ถูกสร้างขึ้นเป็นการทดลองมากกว่าระบบที่มีความน่าเชื่อถือ รูปแบบการนำไปใช้ในช่วงแรกมักจะพึ่งพาเทคนิคการออกแบบคำสั่ง การจัดการที่เบาๆ และการดึงข้อมูลที่ง่ายๆ ซึ่งสามารถแสดงถึงคุณค่าได้ แต่ไม่ได้ให้ความน่าเชื่อถือ การตรวจสอบ หรือการควบคุมที่จำเป็นสำหรับสภาพแวดล้อมการผลิต เมื่อองค์กรพยายามขยายขนาดระบบเหล่านี้ พวกเขาจะพบปัญหาเช่น การผลิตที่ไม่สอดคล้องกัน การขาดการตรวจสอบ การยากต่อการรวมเข้ากับกระบวนการทำงานขององค์กร และการควบคุมที่จำกัดเกี่ยวกับวิธีการทำงานของ AI สาเหตุหลักคือโมเดลภาษาที่มีขนาดใหญ่เป็นตัวสร้างข้อความแบบสุ่ม ในขณะที่กระบวนการขององค์กรต้องการพฤติกรรมที่คาดการณ์ได้และสามารถตรวจสอบได้

พนักงานดิจิทัลของ Maisa ได้รับการออกแบบมาให้สามารถตรวจสอบและควบคุมได้ มากกว่าการทำงานแบบสุ่มเท่านั้น สิ่งนี้หมายความว่าอะไรในทางปฏิบัติสำหรับองค์กรที่กำลังประเมิน AI สำหรับการใช้งานจริง?

เมื่อเราบอกว่าพนักงานดิจิทัลของ Maisa สามารถตรวจสอบและควบคุมได้ มากกว่าการทำงานแบบสุ่มเท่านั้น เราหมายถึงว่า AI ทำงานภายในระบบที่ควบคุมได้ โดยที่การกระทำและเหตุผลสามารถตรวจสอบและควบคุมได้ แทนที่จะปล่อยให้โมเดลสร้างข้อความและตัดสินใจได้โดยไม่มีการควบคุม ระบบกำหนดวิธีการที่ AI ติดต่อกับข้อมูล เครื่องมือ และกระบวนการทำงาน และทุกขั้นตอนสามารถบันทึก ตรวจสอบ และตรวจสอบได้ สำหรับองค์กร สิ่งนี้หมายความว่าระบบ AI สามารถตรวจสอบได้ ตรวจสอบได้ และรวมเข้ากับกระบวนการสำคัญได้ด้วยความมั่นใจมากขึ้น มันเปลี่ยน AI จากการเป็นตัวช่วยที่ไม่โปร่งใสไปสู่ระบบที่สามารถเข้าใจได้ ควบคุมได้ และเชื่อถือได้ในสภาพแวดล้อมการผลิต

ในฐานะสถาปนิกของหน่วยประมวลผลความรู้ (KPU) มันแตกต่างจากชั้นการประสานงานทั่วไปหรือเครื่องมือการทำงานแบบเวิร์กโฟลว์ที่สร้างขึ้นโดยรอบโมเดลภาษาที่มีขนาดใหญ่อย่างไร?

KPU แตกต่างจากชั้นการประสานงานทั่วไปเพราะได้รับการออกแบบมาเพื่อจัดการวงจรชีวิตทั้งหมดของการให้เหตุผลของ AI ไม่ใช่แค่การประสานงานขั้นตอนต่างๆ เช่น การดึงข้อมูล การส่งคำสั่ง และการทำงานของเครื่องมือ ชั้นการประสานงานส่วนใหญ่ทำงานเป็นผู้จัดการเวิร์กโฟลว์ที่เชื่อมต่อขั้นตอนต่างๆ KPU ทำงานในระดับโครงสร้างที่ลึกกว่าโดยการกำหนดวิธีการที่ความรู้ถูกเข้าถึง วิธีการให้เหตุผล และวิธีการทำงานภายในระบบ มันรักษาความประมวลผลความรู้เป็นชั้นการคำนวณหลัก โดยรวมความจำ ระบบตรวจสอบ และการทำงานที่ควบคุมได้ เพื่อให้ AI สามารถทำงานได้อย่างน่าเชื่อถือภายในกระบวนการทำงานขององค์กรที่ซับซ้อน

ในอุตสาหกรรมที่มีการควบคุมความเสี่ยงต่ำ การตัดสินใจด้านการออกแบบใดที่คุณทำเพื่อให้แน่ใจว่าผลลัพธ์ของ AI ยังคงเชื่อถือได้และไม่แพร่กระจายข้อผิดพลาดไปทั่วกระบวนการทำงานที่ซับซ้อน?

ในอุตสาหกรรมที่มีการควบคุมความเสี่ยงต่ำ ความน่าเชื่อถือและควบคุมมีความสำคัญ ดังนั้นเราจึงออกแบบระบบด้วยหลักการหลายประการเพื่อให้แน่ใจว่าผลลัพธ์ของ AI ยังคงเชื่อถือได้ หนึ่งในหลักการหลักคือการทำงานที่มีโครงสร้าง โดยที่ AI ไม่สามารถกระตุ้นการกระทำที่สำคัญโดยไม่ผ่านอินเทอร์เฟซที่ควบคุมได้ เรายังรวมชั้นการตรวจสอบที่ตรวจสอบผลลัพธ์ของโมเดลกับโครงสร้าง ข้อกำหนด หรือกลไกที่สองก่อนที่จะยอมรับ นอกจากนี้ ระบบยังคงสามารถตรวจสอบได้โดยการบันทึกขั้นตอนการให้เหตุผล การโต้ตอบกับเครื่องมือ และการตัดสินใจเพื่อให้สามารถตรวจสอบได้ การตัดสินใจเหล่านี้ช่วยป้องกันไม่ให้ข้อผิดพลาดแพร่กระจายผ่านกระบวนการทำงานและช่วยให้องค์กรสามารถดำเนินการระบบ AI ด้วยระดับความน่าเชื่อถือและควบคุมที่ต้องการใน môi trườngที่มีการควบคุม

กรณีการใช้งานเริ่มต้นใดที่น่าสนใจที่สุดที่คุณเห็นพนักงานดิจิทัลเปลี่ยนจากการช่วยเหลือที่มีการควบคุมไปสู่การทำงานอัตโนมัติของ AI ที่สมบูรณ์?

กรณีการใช้งานเริ่มต้นที่น่าสนใจที่สุดปรากฏในกระบวนการทำงานที่ต้องใช้ความรู้อย่างมาก โดยที่กระบวนการได้รับการกำหนดไว้อย่างดี แต่ยังคงต้องการการวิเคราะห์และการตัดสินใจที่สำคัญ ในพื้นที่ เช่น การตรวจสอบความสม่ำเสมอ การดำเนินงานด้านการสนับสนุนด้านเทคนิค และการบริหารจัดการความรู้ภายใน พนักงานดิจิทัลสามารถเปลี่ยนจากการช่วยเหลือไปสู่การทำงานอัตโนมัติได้ พวกเขาสามารถดึงและวิเคราะห์ข้อมูลภายในจำนวนมาก ใช้กระบวนการที่กำหนดไว้ ติดต่อกับระบบขององค์กรผ่านเครื่องมือที่ควบคุมได้ และผลิตผลลัพธ์ที่สามารถป้อนเข้ากระบวนการทำงานได้โดยตรง การเปลี่ยนแปลงสำคัญเกิดขึ้นเมื่อ AI ไม่เพียงแต่สร้างคำแนะนำเท่านั้น แต่ยังสามารถดำเนินการตามขั้นตอนที่กำหนดไว้ภายในระบบที่มีการควบคุมได้ ทำให้องค์กรสามารถทำงานอัตโนมัติได้บางส่วนของงานด้านความรู้ที่ซับซ้อนมากกว่าการเพิ่มประสิทธิภาพเท่านั้น

เมื่อการตรวจสอบด้านกฎระเบียบเกี่ยวกับ AI เพิ่มขึ้นทั่วโลก คุณเห็นว่าโครงสร้างพื้นฐาน AI จะพัฒนาเพื่อตอบสนองความต้องการด้านการปฏิบัติตามกฎระเบียบโดยไม่จำกัดการนวัตกรรม?

เมื่อการตรวจสอบด้านกฎระเบียบเกี่ยวกับ AI เพิ่มขึ้น ฉันเชื่อว่าเราจะเห็นการเปลี่ยนแปลงไปสู่โครงสร้างที่ไม่เพียงแต่เรียกใช้ API ของผู้ให้บริการโมเดลเท่านั้น แต่ยังต้องการระบบที่พฤติกรรมของ AI สามารถตรวจสอบได้ ตรวจสอบได้ และควบคุมได้ นี่คือจุดที่โครงสร้างเช่น KPU มีความสำคัญ โครงสร้างนี้ช่วยให้องค์กรสามารถบังคับใช้การควบคุม ตรวจสอบการตัดสินใจ และรับรองว่าผลลัพธ์ของ AI น่าเชื่อถือก่อนที่จะส่งผลกระทบต่อกระบวนการจริง ในระยะยาว ฉันคาดหวังว่าระบบเหล่านี้จะกลายเป็นรากฐานมาตรฐานสำหรับโครงสร้างพื้นฐาน AI ที่น่าเชื่อถือ

คุณได้พูดถึงจริยธรรมและความรับผิดชอบร่วมกับการทำงานทางเทคนิคของคุณ มุมมองเหล่านี้มีอิทธิพลต่อวิธีการสร้างระบบ AI ที่โปร่งใสอย่างไร?

จริยธรรมและความรับผิดชอบสำหรับฉันแปลเป็นการตัดสินใจด้านการออกแบบโดยตรง หากระบบ AI จะเข้าร่วมในกระบวนการทำงานจริง พวกมันไม่สามารถทำงานเป็นกล่องดำที่ไม่สามารถตรวจสอบหรือเข้าใจได้ มุมมองนี้มีอิทธิพลต่อวิธีการสร้างระบบ AI ของฉันอย่างมาก ความโปร่งใส การตรวจสอบ และการกำกับดูแลของมนุษย์จะต้องถูกสร้างเข้าไปในโครงสร้างตั้งแต่เริ่มต้น สิ่งนี้หมายถึงการรับรองว่าขั้นตอนการให้เหตุผลสามารถตรวจสอบได้ การตัดสินใจสามารถตรวจสอบได้ และการกระทำจะถูกดำเนินการผ่านกลไกที่ควบคุมได้ เมื่อหลักการเหล่านี้ถูกฝังอยู่ในระดับโครงสร้างพื้นฐาน ระบบ AI ไม่เพียงแต่น่าเชื่อถือมากขึ้นเท่านั้น แต่ยังง่ายต่อการกำกับดูแลอย่างรับผิดชอบโดยองค์กร

เมื่อมองไปข้างหน้า คุณเชื่อว่าโครงสร้างพื้นฐาน AI ที่มีเจตนา (agentic) จะกลายเป็นรากฐานที่สำคัญเช่นเดียวกับโครงสร้างพื้นฐานคลาวด์ที่ทำได้ในทศวรรษที่แล้ว และสิ่งที่ต้องเกิดขึ้นจากมุมมองทางเทคนิคเพื่อให้การเปลี่ยนแปลงนี้เกิดขึ้น?

ฉันเชื่อว่าโครงสร้างพื้นฐาน AI ที่มีเจตนา (agentic) มีศักยภาพที่จะกลายเป็นรากฐานที่สำคัญเช่นเดียวกับโครงสร้างพื้นฐานคลาวด์ที่ทำได้ในทศวรรษที่แล้ว เมื่อองค์กรต้องการเพิ่มประสิทธิภาพการทำงานด้านความรู้ที่ซับซ้อน พวกเขาจะต้องการระบบที่สามารถประสานการให้เหตุผล ความจำ และการทำงานได้หลายอย่างและหลายแหล่งข้อมูล อย่างไรก็ตาม เพื่อให้การเปลี่ยนแปลงนี้เกิดขึ้น โครงสร้างพื้นฐานจะต้องมีความเข้มแข็งมากกว่าการรวมโมเดลเพียงอย่างเดียว เราต้องการโครงสร้างพื้นฐานที่ให้การให้เหตุผลที่มีโครงสร้าง การเข้าถึงความรู้ขององค์กรที่เชื่อถือได้ การตรวจสอบที่เข้มแข็ง และการทำงานที่ควบคุมได้ เมื่อความสามารถเหล่านี้ถูกสร้างเข้าไปในระบบหลัก AI ที่มีเจตนา (agentic) จะสามารถพัฒนาจากเครื่องมือทดลองไปสู่โครงสร้างพื้นฐานที่เชื่อถือได้ซึ่งองค์กรสามารถพึ่งพาในการดำเนินงานที่สำคัญ

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Maisa AI เพื่อเรียนรู้เพิ่มเติม