ผู้นำทางความคิด

การย้ายโมเดลภาษาขนาดใหญ่ (LLM) ไปยังแอปพลิเคชันทางธุรกิจในโลกแห่งความเป็นจริง

Dattaraj Rao
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญPersistent Systems ใช้การเชื่อมโยง LLM…
ดูเพิ่มเติม
  • Persistent Systems ใช้การเชื่อมโยง LLM เพื่อกรองผู้ป่วยในการทดลองทางคลินิกจากเอกสารและฐานข้อมูล SQL
  • การสร้างข้อความแบบเสริมด้วยการค้นคืน จับคู่การค้นหาเวกเตอร์กับ LLM เพื่ออ้างอิงคำตอบกับความรู้จากแหล่งภายนอก
  • ห่วงโซ่ LLM แบบกำหนดได้ ให้การควบคุมและการจัดการต้นทุนเหนือแนวทางแบบเอเจนต์ที่ทำงานอัตโนมัติแต่มีความเสี่ยง

โมเดลภาษาขนาดใหญ่พบได้ทุกที่ ทุกการคุยลูกค้าหรือการนำเสนอให้กับนักลงทุน ล้วนเกี่ยวข้องกับคำถามเกี่ยวกับความพร้อมของเทคโนโลยี LLM และวิธีที่จะขับเคลื่อนแอปพลิเคชันในอนาคต ฉันเคยพูดถึงรูปแบบบางอย่างเกี่ยวกับเรื่องนี้ใน โพสต์ก่อนหน้านี้ ของฉัน ในที่นี้ ฉันจะพูดถึงรูปแบบที่ใช้จริงสำหรับการใช้งานในอุตสาหกรรมยา ที่ Persistent Systems (PERSISTENT.BO ) ได้ทำงานร่วมกัน

โมเดลภาษาขนาดใหญ่และจุดแข็งหลัก

โมเดลภาษาขนาดใหญ่มีความสามารถในการเข้าใจภาษาเป็นอย่างดี รูปแบบที่พบบ่อยที่สุดในการใช้งานคือการสร้างคำตอบเสริมด้วยการค้นคืนข้อมูล (RAG) โดยใช้ความรู้จากแหล่งข้อมูลภายนอกและนำมาใช้เป็นคำแนะนำให้กับโมเดลภาษาขนาดใหญ่ ในกรณีนี้ ระบบค้นหาที่รวดเร็ว เช่น ฐานข้อมูลเวกเตอร์และเครื่องมือค้นหาที่ใช้ Elasticsearch จะทำหน้าที่เป็นขั้นแรกของการค้นหา จากนั้นผลลัพธ์ของการค้นหาจะถูกนำมาใช้เป็นคำแนะนำและส่งไปยังโมเดลภาษาขนาดใหญ่โดยใช้ API

อีกรูปแบบหนึ่งคือการสร้างคำถามโดยใช้ข้อมูลที่มีโครงสร้างโดยการให้โมเดลภาษาขนาดใหญ่แบบจำลองข้อมูลและคำถามเฉพาะของผู้ใช้ รูปแบบนี้สามารถใช้ในการพัฒนาเครื่องมือ “พูดคุยกับข้อมูล” ที่มีความสามารถขั้นสูงสำหรับฐานข้อมูล SQL เช่น Snowflake และฐานข้อมูลกราฟ เช่น Neo4j

การใช้รูปแบบโมเดลภาษาขนาดใหญ่เพื่อให้ได้ข้อมูลเชิงลึกในโลกแห่งความเป็นจริง

Persistent Systems ได้พิจารณารูปแบบหนึ่งสำหรับ Blast Motion ซึ่งเป็นบริษัทที่ให้บริการวิเคราะห์ข้อมูลการเคลื่อนไหวของนักกีฬา (การวิเคราะห์การตีบอลเบสบอล กอล์ฟ ฯลฯ) โดยการวิเคราะห์ข้อมูลชุดเวลาของสรุปการเคลื่อนไหวของนักกีฬาเพื่อให้ได้คำแนะนำ

สำหรับการใช้งานที่ซับซ้อนกว่านี้ เรามักต้องเชื่อมโยงคำขอโมเดลภาษาขนาดใหญ่ด้วยการประมวลผลระหว่างการเรียกใช้ สำหรับบริษัทยา เราได้พัฒนาแอปพลิเคชันอัจฉริยะสำหรับการทดลองทางคลินิก ที่กรองผู้ป่วยสำหรับการทดลองทางคลินิกตามเกณฑ์ที่ สกัดจากเอกสารการทดลองทางคลินิก โดยใช้แนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยง ก่อนอื่นเราจะพัฒนาโมเดลภาษาขนาดใหญ่เพื่ออ่านเอกสารการทดลองทางคลินิกแบบ PDF และใช้รูปแบบการสร้างข้อความโดยใช้ข้อมูลจากแหล่งข้อมูลภายนอกเพื่อ สกัดเกณฑ์การรวมและเกณฑ์การยกเว้น

ในกรณีนี้ เราใช้โมเดลภาษาขนาดใหญ่ที่ค่อนข้างง่าย เช่น GPT-3.5-Turbo (ChatGPT) จากนั้นเราจะรวมข้อมูลที่ถูก สกัดมาเหล่านี้กับแบบจำลองข้อมูลของฐานข้อมูลผู้ป่วย SQL ใน Snowflake เพื่อสร้างคำแนะนำ ซึ่งจะถูกส่งไปยังโมเดลภาษาขนาดใหญ่ที่มีพลังมากขึ้น เช่น GPT4 เพื่อให้ได้คำสืบค้น SQL ที่พร้อมใช้งานบน Snowflake เนื่องจากเราใช้แนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยง เราจึงสามารถใช้โมเดลภาษาขนาดใหญ่แตกต่างกันสำหรับแต่ละขั้นตอนในกระบวนการเชื่อมโยง ซึ่งช่วยให้เราสามารถจัดการค่าใช้จ่ายได้

ปัจจุบัน เราตัดสินใจที่จะรักษาแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงนี้ให้กำหนดผลลัพธ์ได้แน่นอนเพื่อให้มีการควบคุมที่ดีกว่า นั่นคือ เราตัดสินใจที่จะมีความฉลาดมากขึ้นในแนวทางโมเดลภาษาขนาดใหญ่และรักษาการประสานงานระหว่างขั้นตอนให้เรียบง่ายและคาดการณ์ได้ แต่ละส่วนของแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงเป็นแอปพลิเคชันที่ซับซ้อนโดยตัวมันเอง ซึ่งจะใช้เวลาหลายเดือนในการพัฒนาในยุคก่อนโมเดลภาษาขนาดใหญ่

การเพิ่มความสามารถในการใช้งานที่ซับซ้อนมากขึ้น

สำหรับการใช้งานที่ซับซ้อนมากขึ้น เราสามารถใช้ตัวแทน เช่น ReAct เพื่อให้คำแนะนำแก่โมเดลภาษาขนาดใหญ่ในการสร้างคำแนะนำทีละขั้นตอนสำหรับการค้นหาของผู้ใช้ ซึ่งจะต้องใช้โมเดลภาษาขนาดใหญ่ที่มีพลังมากขึ้น เช่น GPT4 หรือ Cohere หรือ Claude 2 อย่างไรก็ตาม จะมีความเสี่ยงในการที่โมเดลภาษาขนาดใหญ่อาจทำขั้นตอนที่ไม่ถูกต้อง ซึ่งจะต้องมีการตรวจสอบโดยใช้การป้องกันข้อผิดพลาด นี่คือการแลกเปลี่ยนระหว่างการเพิ่มความฉลาดในลิงก์ที่สามารถควบคุมได้หรือการทำให้กระบวนการเชื่อมโยงทั้งหมดทำงานอย่างอิสระ

ในวันนี้ เมื่อเรากำลังเข้าสู่ยุคของปัญญาประดิษฐ์เชิงกำเนิดสำหรับภาษา อุตสาหกรรมกำลังเริ่มที่จะนำแอปพลิเคชันโมเดลภาษาขนาดใหญ่มาใช้โดยมีแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงที่คาดการณ์ได้ เมื่อการนำไปใช้นี้เติบโตขึ้น เราจะเริ่มทดลองกับการให้ความอิสระมากขึ้นสำหรับแนวทางโมเดลภาษาขนาดใหญ่เหล่านี้ผ่านตัวแทน นั่นคือสิ่งที่การถกเถียงเกี่ยวกับ AGI คือเรื่องราวที่เราสนใจที่จะดูว่ามันจะพัฒนาไปอย่างไรในอนาคต

ดัตตาราจ ราว เป็น หัวหน้านักวิทยาศาสตร์ข้อมูล ที่ Persistent Systems และเป็นผู้เขียนหนังสือ “Keras to Kubernetes: The Journey of a Machine Learning Model to Production” ที่ Persistent Systems ดัตตาราจ เป็นผู้นำ ห้องปฏิบัติการวิจัย AI ซึ่งสำรวจอัลกอริทึมที่ทันสมัยในด้าน คอมพิวเตอร์วิทัศน์, การทำความเข้าใจภาษาธรรมชาติ, การเขียนโปรแกรมเชิงความน่าจะเป็น, การเรียนรู้แบบเสริมกำลัง, AI ที่อธิบายได้ และอื่นๆ และแสดงให้เห็นถึงความสามารถในการใช้งานในด้าน การดูแลสุขภาพ การธนาคาร และอุตสาหกรรม ดัตตาราจ มี 11 สิทธิบัตรในด้านการเรียนรู้ของเครื่อง และ คอมพิวเตอร์วิทัศน์