โซฮ์รับ โฮสเซนิ, ผู้ร่วมก่อตั้ง orq.ai – ซีรีส์สัมภาษณ์

โซฮ์รับ โฮสเซนิ ผู้ร่วมก่อตั้ง orq.ai เป็นผู้นำด้านเทคโนโลยีและผู้ประกอบการซึ่งมีประสบการณ์มากมายในด้าน SaaS ระบบขนาดใหญ่ และ AI ที่ใช้งานจริง ตั้งแต่ก่อตั้ง orq.ai ในปี 2022 เขาได้มุ่งเน้นไปที่การสร้างโครงสร้างพื้นฐานที่ใช้ได้จริงซึ่งช่วยให้ทีมสามารถย้ายโมเดลภาษาขนาดใหญ่จากการทดลองไปสู่การใช้งานจริงได้อย่างน่าเชื่อถือ ประวัติของเขาประกอบด้วยตำแหน่งผู้นำระดับสูงในฐานะ COO และ CTO ของ Neocles, CTO ของ Future Technology ของ Transdev ซึ่งเขาทำงานเกี่ยวกับการกำหนดเส้นทางอัตโนมัติและการจัดการฝูง และ COO ของ TradeYourTrip ในขณะเดียวกันเขายังทำงานเป็นที่ปรึกษาและนักลงทุนเท่านั้น โดยให้คำแนะนำเกี่ยวกับทิศทางผลิตภัณฑ์ การตัดสินใจทางเทคนิค และกลยุทธ์การดำเนินการสำหรับบริษัท AI ในช่วงแรก

orq.ai เป็นแพลตฟอร์มการทำงานร่วมกันและ LLMOps ที่สร้างขึ้นเพื่อช่วยให้องค์กรออกแบบ ดำเนินการ และขยายผลิตภัณฑ์และตัวแทน AI ในสภาพแวดล้อมจริง แพลตฟอร์มนี้รวมการบริหารจัดการคำสั่ง การทดลอง การรวบรวมข้อมูล และการมองเห็นผลลัพธ์และต้นทุนแบบเรียลไทม์เข้าด้วยกันในพื้นที่ทำงานเดียว ในขณะเดียวกันก็ยังคงเข้ากันได้กับผู้ให้บริการโมเดลภาษาขนาดใหญ่ทั้งหมด โดยการทำให้ทีมทางเทคนิคและทีมที่ไม่ใช่เทคนิคสามารถทำงานร่วมกันอย่างใกล้ชิด orq.ai ช่วยให้บริษัทต่างๆ ลดระยะเวลาการเปิดตัว ปรับปรุงการกำกับดูแลและความโปร่งใส และลดความซับซ้อนและต้นทุนในการดำเนินการ AI ในการผลิต

คุณมีประสบการณ์ในการดำรงตำแหน่งระดับสูงด้านเทคนิคและปฏิบัติการในด้านระบบอัตโนมัติ เทคโนโลยีการจัดการฝูง และแพลตฟอร์ม SaaS ก่อนที่จะก่อตั้ง Orq.ai — วิธีการที่เส้นทางอาชีพของคุณมีอิทธิพลต่อการตัดสินใจสร้างชั้นควบคุมระดับองค์กรสำหรับตัวแทน AI ในปี 2022

พื้นหลังของเรามักจะเกี่ยวข้องกับการนำทีมวิศวกรและมุ่งเน้นไปที่แพลตฟอร์มการเปิดใช้งาน เช่น คลาวด์ DevOps และการเปิดใช้งานข้อมูล โดยเฉพาะในช่วงเวลาที่เราเป็นที่ปรึกษาด้านเทคโนโลยี เมื่อการระเบิดของ AI ที่สร้างขึ้นเริ่มต้นขึ้น ผู้ร่วมก่อตั้งและฉันตั้งคำถามกับตัวเองว่า: องค์กรจะต้องการการเปิดใช้งานแบบใดในการสร้าง AI ไม่ใช่เพียงการสร้าง AI เท่านั้น แต่ยังรวมถึงการกำกับดูแลและควบคุมด้วย

เราพบว่าความต้องการที่แท้จริงคือชั้นควบคุมระดับองค์กรสำหรับตัวแทน AI ซึ่งนำเราไปสู่การสร้าง Orq.ai ในที่สุด

เมื่อคุณเปิดตัว Orq.ai ในตอนแรก คุณเห็นอะไรในตลาดที่ทำให้คุณเชื่อว่าปัญหาจริงไม่ใช่คุณภาพของโมเดล แต่เป็นความไม่สามารถที่จะย้ายระบบตัวแทนจากตัวอย่างไปยังการผลิตที่เชื่อถือได้

เรามีความเชื่อมั่นว่าเมื่อคุณสร้างซอฟต์แวร์นวัตกรรม คุณต้องสร้างสำหรับอนาคต ตั้งแต่ต้นเริ่ม เราได้สมมติว่าโมเดลภาษาขนาดใหญ่จะยังคงดีขึ้นและฉลาดขึ้นตามเวลา ดังนั้นความท้าทายที่แท้จริงที่เราเห็นไม่ใช่คุณภาพของโมเดลตัวเอง แต่ปัญหาในการควบคุม การกำกับดูแล และการจัดการวงจรชีวิตที่เกิดขึ้นเมื่อคุณพยายามย้ายจากตัวอย่างไปยังสภาพแวดล้อมการผลิตจริง

ในอีกคำหนึ่ง แม้ว่าโมเดลจะดีขึ้น คุณค่าที่แท้จริงสำหรับลูกค้าของเรา (และสำหรับเรา) คือการทำให้แน่ใจว่าระบบเหล่านี้ทำงานได้อย่างน่าเชื่อถือในการผลิต และนั่นคือสิ่งที่เราพยายามแก้ไข

ส่วนใหญ่ทีมสามารถสร้างตัวแทนแบบตัวอย่างที่น่าประทับใจ แต่ด้วยความยากลำบากในการจัดลำดับระยะเวลาการทำงาน การกำกับดูแล และการตรวจสอบ ในมุมมองของคุณ จุดที่แตกหักมากที่สุดคืออะไรเมื่อทีมวิศวกรรมพยายามขยายตัวจากสภาพแวดล้อมการ chứng minhแนวคิดไปยังตัวแทนการผลิตสด

จุดที่แตกหักมากที่สุดคือทีมมักคิดว่ามันเป็นเส้นทางเชิงเส้นตรงจากการทดลองไปยังการผลิต ในความเป็นจริง มันเป็นกระบวนการที่ซ้ำกัน

คุณปรับสมมติฐานของคุณ ทดสอบมัน ย้ายสิ่งเหล่านั้นไปยังการผลิต และจากนั้นตรวจสอบสิ่งที่เกิดขึ้นในโลกแห่งความเป็นจริง คุณพบกรณี ngoại lệ และจากนั้นเริ่มวงจรนั้นอีกครั้ง

ความท้าทายคือไม่ใช่แค่ความพยายามครั้งเดียว แต่เป็นวงจรการปรับปรุงอย่างต่อเนื่อง และเพื่อเสริมสิ่งนั้น มักไม่มีเครื่องมือหรือโครงสร้างพื้นฐานเพียงพอเพื่อสนับสนุนกระบวนการนั้นอย่างราบรื่น

คุณต้องการวิธีสำหรับผู้เชี่ยวชาญด้านโดเมน ผู้จัดการผลิตภัณฑ์ และวิศวกรในการทำงานร่วมกันโดยไม่สร้างสิ่งอุดตันหรือการถ่ายโอนที่มีค่าใช้จ่ายสูงซึ่งทำให้เสียเวลามาก ดังนั้นสิ่งนี้จึงเป็นอีกชิ้นหนึ่งของปัญหา: การทำให้แน่ใจว่าผู้มีส่วนได้ส่วนเสียทั้งหมดนี้สามารถทำงานร่วมกันอย่างมีประสิทธิภาพ

Orq.ai ตั้งตนเป็นชั้นควบคุมที่รวมถึงการทดลอง การประเมิน การสังเกตการณ์ และระยะเวลาการทำงาน ทำไมคุณจึงเชื่อว่าโครงสร้างแบบ end-to-end จึงจำเป็น แทนที่จะเสนอวิธีแก้ปัญหาเฉพาะจุด

เมื่อคุณเริ่มต้น มันเป็นเรื่องธรรมดาที่จะเลือกวิธีแก้ปัญหาเฉพาะที่แก้ปัญหาที่ใหญ่ที่สุดของคุณในขณะนั้น ซึ่งอาจเป็นการสังเกตการณ์ แต่เมื่อทีมของคุณพัฒนา คุณจะพบกับอุปสรรคถัดไปและเพิ่มเครื่องมืออื่น เช่น AI Gateway ก่อนที่คุณจะรู้ตัว คุณมีเครื่องมือ 5 ถึง 7 ชิ้นต่างๆ ในภูมิทัศน์ของคุณ ข้อมูลจะกระจัดกระจาย ผู้คนสูญเสียความสามารถในการมองเห็น และคุณเสียเวลาและทรัพยากรไปกับการบำรุงรักษาการผสานรวมเหล่านั้น คุณสูญเสียมุมมองที่รวมถึงวงจรชีวิตของคุณ

เรามีความเชื่อมั่นว่าเมื่อองค์กรที่ขับเคลื่อนด้วยตัวแทนเกิดขึ้น คุณต้องการมุมมองที่รวมถึงทุกสิ่งที่ตัวแทนของคุณทำทั่วทั้งองค์กร ไม่ใช่แค่วิธีแก้ปัญหาเฉพาะจุดเท่านั้น นั่นคือเหตุผลที่เราไม่เห็นวิธีอื่นนอกจากการรวมส่วนใหญ่ของกระบวนการนั้นเข้าด้วยกันในแพลตฟอร์มที่รวมถึง

เมื่อคุณเปิดตัว Agent Studio และระยะเวลาการทำงานที่ได้รับการออกแบบใหม่ ปัญหาที่เจ็บปวดหลักคืออะไรที่คุณพยายามแก้ไขตามคำติชมจากลูกค้าในช่วงแรกในยุโรปและสหรัฐอเมริกา

สิ่งที่เราเห็นคือทีมใช้ไลบรารีแบบเปิดเพื่อสร้างตัวแทนของตนเอง แม้ว่าสถาปัตยกรรมของตัวแทนจะสะอาดและเรียบง่าย ทีมเหล่านั้นจบลงด้วยไลบรารีที่พองตัว มีภาระงานมาก และมีการเรียนรู้ที่ชันมากเพียงเพื่อให้ได้ตัวแทนออกไป ด้วย Orq เราต้องการ卸ภาระนั้น

แทนที่จะกังวลเกี่ยวกับสถาปัตยกรรม การคำนวณ การปรับขนาดอัตโนมัติ และโครงสร้างพื้นฐานทั้งหมด ทีมสามารถมุ่งเน้นไปที่การกำหนดค่าตัวแทนและให้เครื่องมือและ API ที่ถูกต้อง เราจัดการการยกน้ำหนักหนักๆ เพื่อให้ทีมสามารถมุ่งเน้นไปที่การสร้างกรณีการใช้งานที่แท้จริงของตนได้ และบนพื้นฐานนั้น เนื่องจากเราสนับสนุนวงจรชีวิตทั้งหมด เราได้สร้างเวิร์กเบนช์เฉพาะที่ช่วยให้คุณสามารถทดสอบตัวแทนของคุณได้จริง

ซึ่งหมายความว่าคุณสามารถค้นหากรณี ngoại lệได้เร็วขึ้นและทำให้ตัวแทนของคุณแข็งแกร่งขึ้นได้อย่างมีประสิทธิภาพ มันคือการให้ทีมเครื่องมือไม่เพียงแต่เพื่อสร้างตัวแทนได้ง่ายๆ แต่ยังช่วยให้พวกเขาสามารถปรับแต่งและเสริมสร้างตัวแทนเหล่านั้นในสถานการณ์จริงได้โดยไม่ต้องมีปัญหาเพิ่มเติม

เมื่อกฎระเบียบ GDPR และ EU AI Act มีความเข้มงวดมากขึ้น วิธีการที่กฎระเบียบเหล่านี้มีอิทธิพลต่อวิธีการที่องค์กรออกแบบ ตรวจสอบ และใช้ตัวแทน — และ orq.ai ปรับตัวให้เข้ากับสถานการณ์นี้อย่างไร

ไม่ใช่ว่าข้อกำหนดเหล่านี้กำลังเข้มงวดขึ้น แต่เป็นส่วนหนึ่งของกฎหมาย และลูกค้าของเราต้องปฏิบัติตาม สิ่งที่เราทำคือการทำให้แน่ใจว่าทั่วทั้งวงจรชีวิต เราจะให้เครื่องมือที่ถูกต้อง ตัวประเมิน และราวกั้นให้กับทีมเพื่อให้พวกเขาสามารถสร้างการปฏิบัติตามข้อกำหนดตั้งแต่วันแรก

เราจะทำให้การอยู่อาศัยของข้อมูล การรักษาความเป็นส่วนตัว และสิ่งเหล่านั้นทั้งหมดถูกนำเข้ามาจากจุดเริ่มต้น และด้วยความตึงเครียดทางภูมิรัฐศาสตร์และการผลักดันให้มีอำนาจอธิปไตยทางเทคโนโลยีและ AI ในยุโรป เราได้เห็นความต้องการที่ยิ่งใหญ่สำหรับสิ่งนั้น เนื่องจากเราสามารถทำงานได้อย่างเต็มรูปแบบบนพื้นฐานและช่วยให้องค์กรลดการอาศัยพึ่งพา เราจึงอยู่ในตำแหน่งที่ดีในการช่วยให้พวกเขาอยู่ในการควบคุมของตนเอง

องค์กรต่างๆ กำลังขอโครงสร้างพื้นฐานที่พร้อมสำหรับการอธิปไตยและติดตั้งแบบไฮบริด/บนพื้นฐานมากขึ้น สิ่งนี้บอกเราถึงทิศทางที่โครงสร้างพื้นฐาน AI ขององค์กรมุ่งหน้าไปอย่างไร

ทุกองค์กรและแม้แต่กรณีการใช้งานแต่ละประเภทเกี่ยวข้องกับการแลกเปลี่ยน มันเป็นคำถามเกี่ยวกับว่าสิ่งที่พร้อมใช้งานและปลอดภัยและบนพื้นฐานคืออะไรที่ต้องการ เราสนับสนุนทุกสีในพื้นฐานนั้น แต่สิ่งที่เราเห็นคือการเน้นไปที่การอธิปไตยและที่อยู่อาศัยของข้อมูลที่ระดับโมเดล

ลูกค้าต้องการความชัดเจนเกี่ยวกับว่าข้อมูลของตนอยู่ที่ไหนและความสามารถในการลดการอาศัยพึ่งพาผู้ให้บริการคลาวด์ขนาดใหญ่ ด้วย AI Gateway ของเรา ซึ่งทำงานบนแพลตฟอร์มคลาวด์หลักและบนพื้นฐาน ทีมสามารถทำการแลกเปลี่ยนเหล่านั้นได้ตามกรณีการใช้งาน พวกเขาจะได้ความยืดหยุ่นในการควบคุมและย้ายระหว่างสภาพแวดล้อมได้อย่างราบรื่น

เรามีความต้องการที่ยิ่งใหญ่จากองค์กรขนาดใหญ่และสถาบันสาธารณะ

คุณเห็นว่ากระบวนการทำงานร่วมกันแบบหลายตัวแทน ราวกั้นความปลอดภัย และระบบการให้เหตุผลที่ซับซ้อนมากขึ้นจะพัฒนาไปอย่างไรเมื่อองค์กรย้ายจากการทดลองไปสู่การอุตสาหกรรมตัวแทนจริงในปี 2026

เมื่อการใช้ตัวแทนเกิดขึ้นจริง เราจะเห็นปัญหาที่ไม่เหมือนใครเกิดขึ้น โดยเฉพาะอย่างยิ่งในการตั้งค่าหลายตัวแทน คุณอาจมีตัวแทนหลายสิบหรือหลายร้อยตัวทำงานในองค์กรของคุณในเวลาเดียวกัน เช่นเดียวกับพนักงาน

คำถามคือ: คุณจะกำกับดูแลพวกมันทั้งหมดได้อย่างไรเมื่อคุณมีปัญหาหลายมิติ เช่น ต้นทุน คุณภาพข้อมูล ที่อยู่อาศัยของข้อมูล ความถูกต้อง การวาดภาพข้อมูล และอื่นๆ คุณต้องการชั้นการกำกับดูแลใหม่เพื่อจัดการสิ่งนั้น และคุณต้องการราวกั้นความปลอดภัยที่สามารถใช้งานได้จากบนลงล่าง

คุณต้องการมุมมองที่รวมถึงและชั้นการรวมใหม่เพื่อให้ CFO, COO, CISO ของคุณสามารถมองเห็นและเข้าแทรกแซงด้วยข้อมูลเชิงลึกที่สามารถดำเนินการได้ เราเชื่อว่าในปี 2026 แนวคิด “แผนกตัวแทน” และเทคโนโลยีที่สนับสนุนจะกลายเป็นหัวข้อที่ร้อนแรงมากขึ้น

การลื่นไถลของตัวแทน การถดถอยของคุณภาพ และการไหลของข้อมูลที่ไม่ชัดเจนเป็นปัญหาที่เกิดขึ้นซ้ำๆ ใน AI การผลิต orq.ai จัดการกับช่องว่างด้านการควบคุม การประเมิน และการตรวจสอบอย่างไร

ทุกตัวแทนแท้จริงต้องการชุดการประเมินที่เป็นของตัวเอง ชุดการประเมินเหล่านี้กำหนดสิ่งที่ถูกต้องและไม่ถูกต้องสำหรับสถานการณ์นั้นๆ โดยการใช้เวลาในการตั้งค่าชุดการประเมินเหล่านี้อย่างเหมาะสม ทีมสามารถทำการทดลองออฟไลน์ที่ดีขึ้นเพื่อดูว่าสิ่งต่างๆ จะพฤติกรรมอย่างไรก่อนที่จะไปสู่การผลิต และจากนั้นโดยการตรวจสอบการประเมินเหล่านั้นออนไลน์ คุณสามารถระบุได้ว่าเมื่อโมเดลลื่นไถลหรือเมื่อการแสดงตัวแทนเริ่มเปลี่ยนแปลงไปตามเวลา

เมื่อมองไปข้างหน้า คุณคิดว่าอะไรจะกำหนดรุ่นต่อไปของตัวแทน AI ระดับองค์กร — และ orq.ai กำลังจัดตำแหน่งตัวเองเพื่อเป็นแพลตฟอร์มการดำเนินการที่ใช้ได้โดยทั่วไปสำหรับโลกนั้นอย่างไร

เมื่อมองไปข้างหน้า ฉันคิดว่าสิ่งที่จะกำหนดรุ่นต่อไปของตัวแทน AI ระดับองค์กรคือทุกผู้ให้บริการจะมีตัวแทนของตนเอง ในองค์กรขนาดใหญ่ จะเป็นภูมิทัศน์ที่กว้างขวางของตัวแทนระดับแรกและตัวแทนระดับที่สามที่ทำงานร่วมกันและเรียกใช้กันและกัน

ไม่ใช่แค่ตัวแทนประเภทเดียวหรือผู้ให้บริการเดียว แต่เป็นระบบนิเวศที่ต้องการการกำกับดูแลและการปฏิบัติตามข้อกำหนด และนั่นคือที่ที่ Orq เข้ามา เรากำลังจัดตำแหน่งตัวเองให้เป็นหอควบคุมตัวแทนซึ่งให้มุมมองที่ถูกต้องและข้อมูลเชิงลึกที่สามารถดำเนินการได้สำหรับการแทรกแซง ณ ใดๆ

ไม่ว่าจะเป็นการสร้าง การขยาย การดำเนินการ หรือแม้แต่การปลดประจำการของตัวแทน ฟังก์ชันต่างๆ จะต้องการมุมมองที่แตกต่างกันของภูมิทัศน์นั้น และเราจะเป็นผู้ให้บริการที่ต้องการสำหรับความสามารถนั้น

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม orq.ai เพื่อเรียนรู้เพิ่มเติม