เดนิส อิกนาตอวิช Co-founder และ Co-CEO ของ Imandra – สัมภาษณ์系列

เดนิส อิกนาตอวิช Co-founder และ Co-CEO ของ Imandra มีประสบการณ์มากกว่า 10 ปี ในด้านการซื้อขาย การจัดการความเสี่ยง การสร้างแบบจำลองทางคณิตศาสตร์ และการออกแบบระบบการซื้อขายที่ซับซ้อน ก่อนที่จะก่อตั้ง Imandra เขาเคยเป็นผู้นำทีมการซื้อขายความเสี่ยงกลางของ Deutsche Bank (DB ) London ซึ่งเขาได้เห็นถึงบทบาทสำคัญของ AI ในภาคการเงิน ความเข้าใจของเขาในช่วงเวลานั้นได้ช่วย塑造ผลิตภัณฑ์ทางการเงินของ Imandra ส่วนการมีส่วนร่วมของ Denis ในด้านตรรกวิทยาคอมพิวเตอร์สำหรับแพลตฟอร์มการซื้อขายทางการเงิน ได้แก่ สิทธิบัตรหลายฉบับ เขาได้รับวุฒิการศึกษาระดับ MSc ในสาขา Finance จาก London School of Economics และวุฒิการศึกษาระดับ Bachelor ในสาขา Computer Science และ Finance จาก UT Austin

Imandra เป็นเครื่องมือการให้เหตุผลที่ใช้ AI ที่ใช้เทคนิค neurosymbolic AI เพื่อทำให้การตรวจสอบและปรับปรุงอัลกอริทึมที่ซับซ้อนเป็นไปโดยอัตโนมัติ โดยเฉพาะในด้านการซื้อขายทางการเงินและระบบซอฟต์แวร์ โดยการรวมเทคนิคการให้เหตุผลเชิงสัญลักษณ์กับการเรียนรู้ของเครื่อง ทำให้สามารถเพิ่มความปลอดภัย ความถูกต้อง และประสิทธิภาพ ช่วยให้機構ต่างๆ ลดความเสี่ยงและปรับปรุงความโปร่งใสในการตัดสินใจโดยใช้ AI

อะไรที่สร้างแรงบันดาลใจให้คุณและ Dr. Grant Passmore ก่อตั้ง Imandra และวิสัยทัศน์ของคุณสำหรับบริษัทนี้คืออะไร?

หลังจากเรียนจบมหาวิทยาลัย ฉันเข้าไปทำงานในด้านการซื้อขายและลงทุนในลอนดอน ส่วน Dr. Grant Passmore ได้ทำปริญญาเอกที่เอดินเบิร์กและต่อมาไปทำงานที่剑桥เกี่ยวกับการใช้เทคนิคการให้เหตุผลอัตโนมัติสำหรับการวิเคราะห์ความปลอดภัยของระบบอัตโนมัติ (อัลกอริทึมที่ซับซ้อน) ในงานของฉัน ฉันก็ได้พบปัญหาเช่นเดียวกัน และเราทั้งสองคนจึงตัดสินใจที่จะเปลี่ยนแปลงสิ่งนี้โดยการให้เครื่องมือการให้เหตุผลอัตโนมัติแก่ผู้เชี่ยวชาญด้านการเงินเพื่อนำเทคนิคการวิจัยเชิงวิทยาศาสตร์มาสู่การออกแบบและพัฒนาซอฟต์แวร์ แต่สุดท้ายเราก็ได้สร้างสิ่งที่ไม่จำกัดเฉพาะอุตสาหกรรมใดอุตสาหกรรมหนึ่ง

คุณสามารถอธิบายได้ว่า neurosymbolic AI คืออะไร และมันแตกต่างจากแนวทาง AI แบบดั้งเดิมอย่างไร?

สาขา AI สามารถแบ่งออกเป็นสองส่วนใหญ่ๆ ได้แก่ สถิติ (รวมถึง LLMs) และสัญลักษณ์ (หรือการให้เหตุผลอัตโนมัติ) AI สถิติสามารถระบุรูปแบบและทำการแปลโดยใช้ข้อมูลที่ได้รับการฝึกฝน แต่มันไม่ดีในการให้เหตุผลเชิงตรรกะ AI สัญลักษณ์ทำให้คุณต้องแม่นยำมาก (เชิงคณิตศาสตร์) ในสิ่งที่คุณพยายามทำ และสามารถใช้ตรรกะในการให้เหตุผลที่ (1) มีหลักการเชิงตรรกะและ (2) ไม่ต้องการข้อมูลสำหรับการฝึกอบรม เทคนิคที่รวมทั้งสองส่วนนี้เข้าด้วยกันเรียกว่า “neurosymbolic” หนึ่งในแอปพลิเคชันที่มีชื่อเสียงของแนวทางนี้คือ AlphaFold project ของ DeepMind ซึ่งได้รับรางวัลโนเบลเมื่อเร็วๆ นี้

คุณคิดว่าอะไรที่ทำให้ Imandra แตกต่างในด้านการนำ neurosymbolic AI มาใช้?

มีเครื่องมือการให้เหตุผลสัญลักษณ์ที่น่าเหลือเชื่อหลายตัวที่มีอยู่แล้ว (ส่วนใหญ่อยู่ในมหาวิทยาลัย) ที่มุ่งเป้าไปที่ช่องว่างเฉพาะ (เช่น การพับโปรตีน) แต่ Imandra ให้เครื่องมือแก่นักพัฒนาเพื่อวิเคราะห์อัลกอริทึมด้วยการทำให้自动化ที่ไม่เคยเห็นมาก่อน ซึ่งมีการใช้งานและกลุ่มเป้าหมายที่กว้างกว่าเครื่องมือเหล่านั้น

Imandra ใช้การให้เหตุผลอัตโนมัติเพื่อกำจัดความท้าทาย AI ทั่วไป เช่น การหลอกลวง และเพิ่มความไว้วางใจในระบบ AI ได้อย่างไร?

ด้วยแนวทางของเรา LLMs ถูกใช้ในการแปลคำขอของมนุษย์เป็นตรรกะเชิงสัญลักษณ์ ซึ่งถูกวิเคราะห์โดยเครื่องมือการให้เหตุผลอัตโนมัติพร้อมด้วยการตรวจสอบเชิงตรรกะที่สมบูรณ์ แม้ว่าอาจเกิดข้อผิดพลาดในการแปลโดยใช้ LLM แต่ผู้ใช้ก็จะได้รับการอธิบายเชิงตรรกะว่าคำขอถูกแปลอย่างไร และการตรวจสอบเชิงตรรกะสามารถตรวจสอบได้ด้วยซอฟต์แวร์โอเพ่นซอร์สของบุคคลที่สาม เป้าหมายสูงสุดของเราคือการนำความโปร่งใสที่สามารถดำเนินการได้มาให้ระบบ AI โดยที่ระบบ AI สามารถอธิบายการให้เหตุผลของมันในลักษณะที่สามารถตรวจสอบได้โดยอิสระ

Imandra ถูกใช้โดย Goldman Sachs (GS ) และ DARPA เป็นต้น คุณสามารถแบ่งปันกรณีศึกษาที่แท้จริงของวิธีการที่เทคโนโลยีของคุณแก้ปัญหาที่ซับซ้อนได้หรือไม่?

ตัวอย่างที่ดีของผลกระทบของโลกแห่งความเป็นจริงของ Imandra คือการชนะการแข่งขัน UBS Future of Finance ในรางวัลที่ 1 (รายละเอียดพร้อมโค้ด Imandra อยู่บนเว็บไซต์ของเรา) ในขณะที่สร้างกรณีศึกษาสำหรับ UBS ที่เข้ารหัสเอกสารกำกับดูแลที่พวกเขา提交ให้กับ SEC Imandra ได้ระบุความผิดปกติขั้นพื้นฐานและละเอียดอ่อนในคำอธิบายอัลกอริทึม ซึ่งเป็นสิ่งที่ไม่สามารถตรวจพบ “ด้วยมือ” ได้ ความผิดปกตินี้เกิดจากเงื่อนไขเชิงตรรกะที่ต้องปฏิบัติตามเพื่อจัดอันดับสั่งซื้อภายในหนังสือสั่งซื้อ – สิ่งที่จะเป็นไปไม่ได้สำหรับมนุษย์ที่จะตรวจพบ “ด้วยมือ” ธนาคารได้มอบรางวัลให้เราเป็นอันดับ 1 (จากกว่า 620 บริษัททั่วโลก)

ประสบการณ์ของคุณที่ Deutsche Bank มีผลกระทบต่อการประยุกต์ใช้ของ Imandra ในระบบการเงินอย่างไร และคุณเห็นกรณีการใช้งานที่มีผลกระทบมากที่สุด?

ที่ Deutsche Bank เราได้พบกับโค้ดที่ซับซ้อนมากมายที่ตัดสินใจซื้อขายอัตโนมัติโดยอาศัยข้อมูล ML และตัวบ่งชี้ความเสี่ยงต่างๆ ในฐานะธนาคาร เราต้องปฏิบัติตามกฎระเบียบมากมายเช่นกัน สิ่งที่ Grant และฉันรู้คือว่าสิ่งนี้คล้ายกับการวิจัยที่เขาทำเกี่ยวกับความปลอดภัยของระบบอัตโนมัติ

นอกเหนือจากภาคการเงินแล้ว คุณเห็นว่าอุตสาหกรรมใดที่มีศักยภาพมากที่สุดในการได้รับประโยชน์จาก neurosymbolic AI?

เราจะเห็น AlphaFold ได้รับรางวัลโนเบล ดังนั้นเรามานับเป็นหนึ่ง… สุดท้าย แอปพลิเคชันส่วนใหญ่ของ AI จะได้รับประโยชน์อย่างมากจากการใช้วิธีการสัญลักษณ์ แต่โดยเฉพาะอย่างยิ่ง เรากำลังทำงานกับตัวแทนเหล่านี้ที่เราจะเปิดตัวเร็วๆ นี้: การวิเคราะห์โค้ด (แปลโค้ดแหล่งที่มาเป็นแบบจำลองทางคณิตศาสตร์), การสร้างแบบจำลองที่เข้มงวดจากข้อกำหนดที่เขียนด้วยภาษาอังกฤษ, การให้เหตุผลเกี่ยวกับแบบจำลอง SysML (ภาษาที่ใช้ในการอธิบายระบบในอุตสาหกรรมที่มีความปลอดภัยสูง) และการทำให้กระบวนการทางธุรกิจเป็นอัตโนมัติ

การแบ่งพื้นที่ของ Imandra เป็นคุณลักษณะใหม่ คุณสามารถอธิบายได้ว่ามันทำงานอย่างไรและความสำคัญของมันในการแก้ปัญหาที่ซับซ้อน?

คำถามที่ทุกคนคิดเมื่อเขียนซอฟต์แวร์คือ “กรณีเชิงขอบคืออะไร?” เมื่อพวกเขาเป็นคนตรวจสอบคุณภาพและต้องเขียนกรณีทดสอบหรือเขียนโค้ดและคิดว่าพวกเขาได้ใช้ข้อกำหนดอย่างถูกต้องหรือไม่ Imandra นำความเข้มงวดทางวิทยาศาสตร์มาเพื่อตอบคำถามนี้ – มันรักษาโค้ดเป็นแบบจำลองทางคณิตศาสตร์และวิเคราะห์กรณีเชิงขอบทั้งหมด (พร้อมทั้งการให้หลักฐานเกี่ยวกับการครอบคลุมที่สมบูรณ์แบบ) คุณลักษณะนี้ใช้เทคนิคทางคณิตศาสตร์ที่เรียกว่า ‘Cylindrical Algebraic Decomposition’ ซึ่งเราได้ “ยก” ไปยังอัลกอริทึมขนาดใหญ่ มันช่วยประหยัดเวลาเป็นจำนวนมากสำหรับลูกค้าของเราในภาคการเงินและเปิดเผยข้อผิดพลาดที่สำคัญ ตอนนี้เรากำลังนำคุณลักษณะนี้ไปให้工程师ทุกที่

Imandra รวมกับโมเดลภาษาขนาดใหญ่ (LLMs) อย่างไร และมันปลดล็อกความสามารถใหม่ๆ สำหรับ AI ที่สร้างสรรค์อย่างไร?

LLMs และ Imandra ทำงานร่วมกันเพื่อทำให้คำขอของมนุษย์เป็นตรรกะเชิงสัญลักษณ์ วิเคราะห์มัน และส่งผลลัพธ์กลับมาในลักษณะที่เข้าใจได้ง่าย เราใช้เฟรมเวิร์กอัจฉริยะ (เช่น Langgraph) เพื่อจัดการงานนี้และส่งมอบประสบการณ์เป็นตัวแทนให้กับลูกค้าของเราโดยตรง หรือรวมเข้ากับแอปพลิเคชันหรือตัวแทนของพวกเขา กระบวนการทำงานแบบสymbiotic นี้จะแก้ไขความท้าทายหลายอย่างในการใช้เครื่องมือ AI ที่ใช้ LLMs เท่านั้น และขยายการประยุกต์ใช้ของมันไปไกลกว่าข้อมูลฝึกอบรมที่เคยเห็นมาก่อน

วิสัยทัศน์ระยะยาวของคุณสำหรับ Imandra คืออะไร และคุณเห็น Imandra ปฏิวัติแอปพลิเคชัน AI ทั่วอุตสาหกรรมอย่างไร?

เราคิดว่าเทคนิค neurosymbolic จะเป็นพื้นฐานที่เปิดทางให้เราบรรลุคำมั่นสัญญาของ AI เทคนิคสัญลักษณ์เป็นส่วนผสมที่หายไปสำหรับการใช้งาน AI ในอุตสาหกรรมส่วนใหญ่ และเรารู้สึกตื่นเต้นที่จะอยู่ในจุดเริ่มต้นของบทใหม่นี้ของ AI

ขอขอบคุณสำหรับสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Imandra เพื่อเรียนรู้เพิ่มเติม