ดร. ราม ศรีหฤทา, รองประธานฝ่ายวิศวกรรมที่ Pinecone – ซีรีส์สัมภาษณ์

ดร. ราม ศรีหฤทา เป็นรองประธานฝ่ายวิศวกรรมและวิจัยที่ Pinecone

ก่อนที่จะเข้าร่วมทีม Pinecone ราม曾ดำรงตำแหน่งรองประธานฝ่ายวิศวกรรมที่ Yahoo, Databricks และ Splunk ที่ Yahoo เขา曾เป็นนักวิศวกรรมซอฟต์แวร์หลักและนักวิจัย ในขณะที่ที่ Databricks เขาเป็นผู้นำด้านผลิตภัณฑ์และวิศวกรรมสำหรับแพลตฟอร์มวิเคราะห์แบบรวมสำหรับจีโนมิกส์ และในสามปีที่ Splunk เขาได้เล่นบทบาทหลายอย่าง รวมถึง Sr Principal Scientist, รองประธานฝ่ายวิศวกรรม และ Distinguished Engineer

Pinecone เป็นฐานข้อมูลเวกเตอร์ที่จัดการอย่างเต็มรูปแบบ ซึ่งทำให้ง่ายต่อการเพิ่มการค้นหาเวกเตอร์ไปยังแอปพลิเคชันการผลิต มันรวมถึงไลบรารีการค้นหาเวกเตอร์ ความสามารถ เช่น การกรอง และโครงสร้างพื้นฐานแบบกระจายเพื่อให้ประสิทธิภาพสูงและความน่าเชื่อถือที่ใดๆ ก็ตาม

อะไรที่ดึงดูดคุณเข้าสู่เครื่องมือการเรียนรู้ของเครื่อง?

สถิติในมิติสูง ทฤษฎีการเรียนรู้ และหัวข้ออื่นๆ เช่นนี้คือสิ่งที่ดึงดูดให้ฉันเข้าสู่เครื่องมือการเรียนรู้ของเครื่อง พวกมันมีการกำหนดไว้อย่างดีทางคณิตศาสตร์ สามารถให้เหตุผลและให้ข้อมูลเชิงลึกพื้นฐานเกี่ยวกับสิ่งที่การเรียนรู้หมายถึง และวิธีการออกแบบอัลกอริทึมที่สามารถเรียนรู้ได้อย่างมีประสิทธิภาพ

ก่อนหน้านี้คุณ曾เป็นรองประธานฝ่ายวิศวกรรมที่ Splunk ซึ่งเป็นแพลตฟอร์มข้อมูลที่ช่วยให้ข้อมูลกลายเป็นการดำเนินการสำหรับการสังเกตการณ์ IT ความปลอดภัย และอื่นๆ อะไรคือสิ่งที่คุณได้รับจากประสบการณ์นี้?

ฉันไม่เคยรู้มาก่อนจนกระทั่งฉันมาถึง Splunk ว่ากรณีการใช้งานในด้านการค้นหาขององค์กรมีความหลากหลายมากเพียงใด: คนใช้ Splunk สำหรับการวิเคราะห์ข้อมูลล็อก การสังเกตการณ์ และการวิเคราะห์ความปลอดภัยในบรรดาคดีอื่นๆ และสิ่งที่เหมือนกันในหลายกรณีการใช้งานเหล่านี้คือความคิดในการตรวจจับเหตุการณ์ที่คล้ายกันหรือไม่เหมือนกัน (หรือผิดปกติ) ในข้อมูลที่ไม่มีโครงสร้าง ซึ่งกลายเป็นปัญหาที่ยาก และวิธีการค้นหาทางดั้งเดิมไม่ได้ทำงานได้ดีในขนาดใหญ่ ในช่วงเวลาที่ฉันอยู่ที่ Splunk ฉันเริ่มการวิจัยเกี่ยวกับพื้นที่เหล่านี้เกี่ยวกับวิธีการที่เราสามารถใช้การเรียนรู้ของเครื่อง (และการเรียนรู้ลึก) สำหรับการขุดลอกข้อมูลล็อก การวิเคราะห์ความปลอดภัย ฯลฯ ผ่านการทำงานนั้น ฉันเข้าใจว่าเวกเตอร์แบบฝังตัวและเวกเตอร์ค้นหาจะกลายเป็นรูปแบบพื้นฐานสำหรับแนวทางใหม่ในโดเมนเหล่านี้

คุณสามารถอธิบายสิ่งที่คือการค้นหาเวกเตอร์ได้หรือไม่?

ในการค้นหาทางดั้งเดิม (หรือที่เรียกว่าการค้นหาคำค้นหา) คุณกำลังมองหาคำค้นหาที่ตรงกันระหว่างคำถามและเอกสาร (ซึ่งอาจเป็นข้อความทวิตเตอร์ เอกสารเว็บ เอกสารทางกฎหมาย ฯลฯ) เพื่อทำเช่นนี้ คุณแบ่งคำถามของคุณออกเป็นโทเค็น รับเอกสารที่มีโทเค็นที่กำหนด และรวมและจัดอันดับเพื่อกำหนดเอกสารที่เกี่ยวข้องมากที่สุดสำหรับคำถามที่กำหนด

ปัญหาหลักแน่นอนคือเพื่อให้ได้ผลลัพธ์ที่เกี่ยวข้อง คำถามของคุณต้องมีการจับคู่คำค้นหาในเอกสาร ปัญหา经典ในการค้นหาทางดั้งเดิมคือ: หากคุณค้นหา “ป๊อป” คุณจะพบ “เพลงป๊อป” แต่จะไม่พบ “โซดา” ฯลฯ เนื่องจากไม่มีการทับซ้อนคำค้นหาระหว่าง “ป๊อป” และเอกสารที่มี “โซดา” แม้ว่าเราจะรู้ว่าในหลายพื้นที่ในสหรัฐอเมริกา “ป๊อป” หมายถึง “โซดา” เช่นกัน

ในการค้นหาเวกเตอร์ คุณเริ่มต้นด้วยการแปลงคำถามและเอกสารทั้งสองเป็นเวกเตอร์ในพื้นที่มิติสูงบางอย่าง ซึ่งโดยปกติจะทำโดยส่งข้อความผ่านโมเดลการเรียนรู้ลึก เช่น LLMs ของ OpenAI หรือโมเดลภาษาอื่นๆ สิ่งที่คุณได้รับเป็นผลลัพธ์คืออาร์เรย์ของตัวเลขจุดที่สามารถถือเป็นเวกเตอร์ในพื้นที่มิติสูงบางอย่าง

ความคิดหลักคือเวกเตอร์ที่อยู่ใกล้กันในพื้นที่มิติสูงนี้ก็มีความหมายที่คล้ายกันเช่นกัน โดยกลับไปที่ตัวอย่างของ “โซดา” และ “ป๊อป” หากโมเดลถูกฝึกอบรมบนคอร์ปัสที่ถูกต้อง มันจะน่าจะพิจารณาว่า “ป๊อป” และ “โซดา” มีความหมายที่คล้ายกัน และดังนั้นการฝังตัวที่สอดคล้องกันจะอยู่ใกล้กันในพื้นที่ฝังตัว หากเป็นเช่นนั้น การรับเอกสารที่ใกล้กันสำหรับคำถามที่กำหนดจะกลายเป็นปัญหาการค้นหาสมาคมที่ใกล้ที่สุดของเวกเตอร์คำถามที่สอดคล้องกันในพื้นที่มิติสูงนี้

คุณสามารถอธิบายได้หรือไม่ว่าฐานข้อมูลเวกเตอร์คืออะไร และมันช่วยให้สามารถสร้างแอปพลิเคชันการค้นหาเวกเตอร์ที่มีประสิทธิภาพสูงได้อย่างไร?

ฐานข้อมูลเวกเตอร์เก็บ ข้อมูลดัชนี และจัดการการฝังตัว (หรือเวกเตอร์) เหล่านี้ ปัญหาหลักที่ฐานข้อมูลเวกเตอร์แก้ไขคือ:

• การสร้างดัชนีการค้นหาที่มีประสิทธิภาพเหนือเวกเตอร์เพื่อตอบคำถามเพื่อนบ้านที่ใกล้ที่สุด
• การสร้างดัชนีและโครงสร้างข้อมูลที่มีประสิทธิภาพเพื่อสนับสนุนการกรองคำถาม ตัวอย่างเช่น ถ้าคุณต้องการค้นหาเฉพาะในเซตย่อยของคอร์ปัส คุณควรสามารถใช้ดัชนีการค้นหาที่มีอยู่โดยไม่ต้องสร้างใหม่

การสนับสนุนการอัปเดตที่มีประสิทธิภาพและรักษาข้อมูลและดัชนีการค้นหาที่สดใหม่ สอดคล้อง ทนทาน ฯลฯ

มีอะไรบ้างที่เป็นอัลกอริทึมการเรียนรู้ของเครื่องต่างๆ ที่ใช้ที่ Pinecone?

โดยทั่วไปแล้ว เราทำงานเกี่ยวกับอัลกอริทึมการค้นหาสมาคมที่ใกล้ที่สุดแบบประมาณ และพัฒนาใหม่สำหรับการอัปเดต ค้นหา และจัดการข้อมูลขนาดใหญ่ในรูปแบบที่คุ้มค่าที่สุด

เรายังทำงานเกี่ยวกับอัลกอริทึมที่รวมการรับกลับแบบหนาแน่นและเบาเพื่อปรับปรุงความเกี่ยวข้องของการค้นหา

อะไรคือความท้าทายที่อยู่เบื้องหลังการสร้างการค้นหาที่มีประสิทธิภาพสูง?

แม้ว่าการค้นหาสมาคมที่ใกล้ที่สุดแบบประมาณจะถูกวิจัยมาเป็นเวลาหลายทศวรรษ แต่เรายังคิดว่ายังมีหลายสิ่งที่ยังไม่ได้ถูกค้นพบ

โดยเฉพาะอย่างยิ่ง เมื่อพูดถึงการออกแบบการค้นหาสมาคมที่ใกล้ที่สุดขนาดใหญ่ที่คุ้มค่าในการใช้จ่าย การกรองที่มีประสิทธิภาพในระดับใหญ่ หรือการออกแบบอัลกอริทึมที่สนับสนุนการอัปเดตปริมาณมากและดัชนีที่สดใหม่โดยทั่วไปแล้วเป็นปัญหาที่ท้าทายในปัจจุบัน

อะไรคือกรณีการใช้งานต่างๆ ที่เทคโนโลยีนี้สามารถใช้ได้?

สเปกตรัมของกรณีการใช้งานสำหรับฐานข้อมูลเวกเตอร์กำลังเติบโตทุกวัน นอกเหนือจากการใช้งานในด้านการค้นหาทางความหมายแล้ว เรายังเห็นมันถูกใช้ในด้านการค้นหารูปภาพ การค้นหารูปภาพ การสร้าง AI การวิเคราะห์ความปลอดภัย ฯลฯ

คุณมีวิสัยทัศน์สำหรับอนาคตของการค้นหาอย่างไร?

ฉันคิดว่าอนาคตของการค้นหาจะถูกขับเคลื่อนด้วย AI และฉันไม่คิดว่ามันจะอยู่ห่างไกลมากนัก ในอนาคตนั้น ฉันคาดหวังว่าฐานข้อมูลเวกเตอร์จะเป็นรูปแบบพื้นฐานหลัก เราชอบที่จะคิดถึงฐานข้อมูลเวกเตอร์เป็นหน่วยความจำระยะยาว (หรือฐานความรู้ภายนอก) ของ AI

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Pinecone เพื่อเรียนรู้เพิ่มเติม