ผู้นำทางความคิด
การย้ายโมเดลภาษาขนาดใหญ่ (LLM) ไปยังแอปพลิเคชันทางธุรกิจในโลกแห่งความเป็นจริง

ประเด็นสำคัญPersistent Systems ใช้การเชื่อมโยง LLM…
ดูเพิ่มเติม
- Persistent Systems ใช้การเชื่อมโยง LLM เพื่อกรองผู้ป่วยในการทดลองทางคลินิกจากเอกสารและฐานข้อมูล SQL
- การสร้างข้อความแบบเสริมด้วยการค้นคืน จับคู่การค้นหาเวกเตอร์กับ LLM เพื่ออ้างอิงคำตอบกับความรู้จากแหล่งภายนอก
- ห่วงโซ่ LLM แบบกำหนดได้ ให้การควบคุมและการจัดการต้นทุนเหนือแนวทางแบบเอเจนต์ที่ทำงานอัตโนมัติแต่มีความเสี่ยง
โมเดลภาษาขนาดใหญ่พบได้ทุกที่ ทุกการคุยลูกค้าหรือการนำเสนอให้กับนักลงทุน ล้วนเกี่ยวข้องกับคำถามเกี่ยวกับความพร้อมของเทคโนโลยี LLM และวิธีที่จะขับเคลื่อนแอปพลิเคชันในอนาคต ฉันเคยพูดถึงรูปแบบบางอย่างเกี่ยวกับเรื่องนี้ใน โพสต์ก่อนหน้านี้ ของฉัน ในที่นี้ ฉันจะพูดถึงรูปแบบที่ใช้จริงสำหรับการใช้งานในอุตสาหกรรมยา ที่ Persistent Systems (PERSISTENT.BO ) ได้ทำงานร่วมกัน
โมเดลภาษาขนาดใหญ่และจุดแข็งหลัก
โมเดลภาษาขนาดใหญ่มีความสามารถในการเข้าใจภาษาเป็นอย่างดี รูปแบบที่พบบ่อยที่สุดในการใช้งานคือการสร้างคำตอบเสริมด้วยการค้นคืนข้อมูล (RAG) โดยใช้ความรู้จากแหล่งข้อมูลภายนอกและนำมาใช้เป็นคำแนะนำให้กับโมเดลภาษาขนาดใหญ่ ในกรณีนี้ ระบบค้นหาที่รวดเร็ว เช่น ฐานข้อมูลเวกเตอร์และเครื่องมือค้นหาที่ใช้ Elasticsearch จะทำหน้าที่เป็นขั้นแรกของการค้นหา จากนั้นผลลัพธ์ของการค้นหาจะถูกนำมาใช้เป็นคำแนะนำและส่งไปยังโมเดลภาษาขนาดใหญ่โดยใช้ API
อีกรูปแบบหนึ่งคือการสร้างคำถามโดยใช้ข้อมูลที่มีโครงสร้างโดยการให้โมเดลภาษาขนาดใหญ่แบบจำลองข้อมูลและคำถามเฉพาะของผู้ใช้ รูปแบบนี้สามารถใช้ในการพัฒนาเครื่องมือ “พูดคุยกับข้อมูล” ที่มีความสามารถขั้นสูงสำหรับฐานข้อมูล SQL เช่น Snowflake และฐานข้อมูลกราฟ เช่น Neo4j
การใช้รูปแบบโมเดลภาษาขนาดใหญ่เพื่อให้ได้ข้อมูลเชิงลึกในโลกแห่งความเป็นจริง
Persistent Systems ได้พิจารณารูปแบบหนึ่งสำหรับ Blast Motion ซึ่งเป็นบริษัทที่ให้บริการวิเคราะห์ข้อมูลการเคลื่อนไหวของนักกีฬา (การวิเคราะห์การตีบอลเบสบอล กอล์ฟ ฯลฯ) โดยการวิเคราะห์ข้อมูลชุดเวลาของสรุปการเคลื่อนไหวของนักกีฬาเพื่อให้ได้คำแนะนำ
สำหรับการใช้งานที่ซับซ้อนกว่านี้ เรามักต้องเชื่อมโยงคำขอโมเดลภาษาขนาดใหญ่ด้วยการประมวลผลระหว่างการเรียกใช้ สำหรับบริษัทยา เราได้พัฒนาแอปพลิเคชันอัจฉริยะสำหรับการทดลองทางคลินิก ที่กรองผู้ป่วยสำหรับการทดลองทางคลินิกตามเกณฑ์ที่ สกัดจากเอกสารการทดลองทางคลินิก โดยใช้แนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยง ก่อนอื่นเราจะพัฒนาโมเดลภาษาขนาดใหญ่เพื่ออ่านเอกสารการทดลองทางคลินิกแบบ PDF และใช้รูปแบบการสร้างข้อความโดยใช้ข้อมูลจากแหล่งข้อมูลภายนอกเพื่อ สกัดเกณฑ์การรวมและเกณฑ์การยกเว้น
ในกรณีนี้ เราใช้โมเดลภาษาขนาดใหญ่ที่ค่อนข้างง่าย เช่น GPT-3.5-Turbo (ChatGPT) จากนั้นเราจะรวมข้อมูลที่ถูก สกัดมาเหล่านี้กับแบบจำลองข้อมูลของฐานข้อมูลผู้ป่วย SQL ใน Snowflake เพื่อสร้างคำแนะนำ ซึ่งจะถูกส่งไปยังโมเดลภาษาขนาดใหญ่ที่มีพลังมากขึ้น เช่น GPT4 เพื่อให้ได้คำสืบค้น SQL ที่พร้อมใช้งานบน Snowflake เนื่องจากเราใช้แนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยง เราจึงสามารถใช้โมเดลภาษาขนาดใหญ่แตกต่างกันสำหรับแต่ละขั้นตอนในกระบวนการเชื่อมโยง ซึ่งช่วยให้เราสามารถจัดการค่าใช้จ่ายได้
ปัจจุบัน เราตัดสินใจที่จะรักษาแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงนี้ให้กำหนดผลลัพธ์ได้แน่นอนเพื่อให้มีการควบคุมที่ดีกว่า นั่นคือ เราตัดสินใจที่จะมีความฉลาดมากขึ้นในแนวทางโมเดลภาษาขนาดใหญ่และรักษาการประสานงานระหว่างขั้นตอนให้เรียบง่ายและคาดการณ์ได้ แต่ละส่วนของแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงเป็นแอปพลิเคชันที่ซับซ้อนโดยตัวมันเอง ซึ่งจะใช้เวลาหลายเดือนในการพัฒนาในยุคก่อนโมเดลภาษาขนาดใหญ่
การเพิ่มความสามารถในการใช้งานที่ซับซ้อนมากขึ้น
สำหรับการใช้งานที่ซับซ้อนมากขึ้น เราสามารถใช้ตัวแทน เช่น ReAct เพื่อให้คำแนะนำแก่โมเดลภาษาขนาดใหญ่ในการสร้างคำแนะนำทีละขั้นตอนสำหรับการค้นหาของผู้ใช้ ซึ่งจะต้องใช้โมเดลภาษาขนาดใหญ่ที่มีพลังมากขึ้น เช่น GPT4 หรือ Cohere หรือ Claude 2 อย่างไรก็ตาม จะมีความเสี่ยงในการที่โมเดลภาษาขนาดใหญ่อาจทำขั้นตอนที่ไม่ถูกต้อง ซึ่งจะต้องมีการตรวจสอบโดยใช้การป้องกันข้อผิดพลาด นี่คือการแลกเปลี่ยนระหว่างการเพิ่มความฉลาดในลิงก์ที่สามารถควบคุมได้หรือการทำให้กระบวนการเชื่อมโยงทั้งหมดทำงานอย่างอิสระ
ในวันนี้ เมื่อเรากำลังเข้าสู่ยุคของปัญญาประดิษฐ์เชิงกำเนิดสำหรับภาษา อุตสาหกรรมกำลังเริ่มที่จะนำแอปพลิเคชันโมเดลภาษาขนาดใหญ่มาใช้โดยมีแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงที่คาดการณ์ได้ เมื่อการนำไปใช้นี้เติบโตขึ้น เราจะเริ่มทดลองกับการให้ความอิสระมากขึ้นสำหรับแนวทางโมเดลภาษาขนาดใหญ่เหล่านี้ผ่านตัวแทน นั่นคือสิ่งที่การถกเถียงเกี่ยวกับ AGI คือเรื่องราวที่เราสนใจที่จะดูว่ามันจะพัฒนาไปอย่างไรในอนาคต












