การย้ายโมเดลภาษาขนาดใหญ่ (LLM) ไปยังแอปพลิเคชันทางธุรกิจในโลกแห่งความเป็นจริง

โมเดลภาษาขนาดใหญ่พบได้ทุกที่ ทุกการคุยลูกค้าหรือการนำเสนอให้กับนักลงทุน đềuเกี่ยวข้องกับคำถามเกี่ยวกับความพร้อมของเทคโนโลยี LLM และวิธีที่จะขับเคลื่อนแอปพลิเคชันในอนาคต ฉันเคยพูดถึงรูปแบบบางอย่างเกี่ยวกับเรื่องนี้ใน โพสต์ก่อนหน้านี้ ของฉัน ในที่นี้ ฉันจะพูดถึงรูปแบบที่ใช้จริงสำหรับการใช้งานในอุตสาหกรรมยา ที่ Persistent Systems ได้ทำงานร่วมกัน

โมเดลภาษาขนาดใหญ่และจุดแข็งหลัก

โมเดลภาษาขนาดใหญ่มีความสามารถในการเข้าใจภาษาเป็นอย่างดี รูปแบบที่พบบ่อยที่สุดในการใช้งานคือการสร้างข้อความโดยใช้ข้อมูลจากแหล่งข้อมูลภายนอกและนำมาใช้เป็นคำแนะนำให้กับโมเดลภาษาขนาดใหญ่ ในกรณีนี้ ระบบค้นหาที่รวดเร็ว เช่น ฐานข้อมูลเวกเตอร์และเครื่องมือค้นหาที่ใช้ Elasticsearch จะทำหน้าที่เป็นระบบค้นหาที่รวดเร็วที่สุด จากนั้นผลลัพธ์ของการค้นหาจะถูกนำมาใช้เป็นคำแนะนำและส่งไปยังโมเดลภาษาขนาดใหญ่โดยใช้ API

อีกรูปแบบหนึ่งคือการสร้างคำถามโดยใช้ข้อมูลที่มีโครงสร้างโดยการให้โมเดลภาษาขนาดใหญ่แบบจำลองข้อมูลและคำถามเฉพาะของ用户 รูปแบบนี้สามารถใช้ในการพัฒนาเครื่องมือ “พูดคุยกับข้อมูล” ที่มีความสามารถขั้นสูงสำหรับฐานข้อมูล SQL เช่น Snowflake และฐานข้อมูลกราฟ เช่น Neo4j

การใช้รูปแบบโมเดลภาษาขนาดใหญ่เพื่อให้ได้ข้อมูลเชิงลึกในโลกแห่งความเป็นจริง

Persistent Systems ได้พิจารณารูปแบบหนึ่งสำหรับ Blast Motion ซึ่งเป็นบริษัทที่ให้บริการวิเคราะห์ข้อมูลการเคลื่อนไหวของนักกีฬา (การวิเคราะห์การตีบอลเบสบอล กอล์ฟ ฯลฯ) โดยการวิเคราะห์ข้อมูลชุดเวลาของสรุปการเคลื่อนไหวของนักกีฬาเพื่อให้ได้คำแนะนำ

สำหรับการใช้งานที่ซับซ้อนกว่านี้ เรามักต้องเชื่อมโยงคำขอโมเดลภาษาขนาดใหญ่ด้วยการประมวลผลระหว่างการเรียกใช้ สำหรับบริษัทยา เราได้พัฒนาแอปพลิเคชัน “สมาร์ทเทรล” ที่กรองผู้ป่วยสำหรับการทดลองทางคลินิกตามเกณฑ์ที่ 추출จากเอกสารการทดลองทางคลินิก โดยใช้แนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยง ก่อนอื่นเราจะพัฒนาโมเดลภาษาขนาดใหญ่เพื่ออ่านเอกสารการทดลองทางคลินิกและใช้รูปแบบการสร้างข้อความโดยใช้ข้อมูลจากแหล่งข้อมูลภายนอกเพื่อ 추출เกณฑ์การรวมและเกณฑ์การยกเว้น

ในกรณีนี้ เราใช้โมเดลภาษาขนาดใหญ่ที่ค่อนข้างง่าย เช่น GPT-3.5-Turbo (ChatGPT) จากนั้นเราจะรวมข้อมูลที่ถูก 추출มาเหล่านี้กับแบบจำลองข้อมูลของฐานข้อมูลผู้ป่วย SQL ใน Snowflake เพื่อสร้างคำแนะนำ ซึ่งจะถูกส่งไปยังโมเดลภาษาขนาดใหญ่ที่มีพลังมากขึ้น เช่น GPT4 เพื่อให้ได้คำถาม SQL ที่พร้อมใช้งานบน Snowflake เนื่องจากเราใช้แนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยง เราจึงสามารถใช้โมเดลภาษาขนาดใหญ่หลายแบบสำหรับการเรียกใช้แต่ละครั้ง ซึ่งช่วยให้เราสามารถจัดการค่าใช้จ่ายได้

ปัจจุบัน เราตัดสินใจที่จะรักษาแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงนี้ให้เป็นแบบกำหนดได้เพื่อให้มีการควบคุมที่ดีกว่า นั่นคือ เราตัดสินใจที่จะมีความฉลาดมากขึ้นในแนวทางโมเดลภาษาขนาดใหญ่และรักษาการจัดการให้เรียบง่ายและคาดการณ์ได้ แต่ละส่วนของแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงเป็นแอปพลิเคชันที่ซับซ้อนโดยตัวมันเอง ซึ่งจะใช้เวลาหลายเดือนในการพัฒนาในยุคก่อนโมเดลภาษาขนาดใหญ่

การเพิ่มความสามารถในการใช้งานที่ซับซ้อนมากขึ้น

สำหรับการใช้งานที่ซับซ้อนมากขึ้น เราสามารถใช้ตัวแทน เช่น ReAct เพื่อให้คำแนะนำแก่โมเดลภาษาขนาดใหญ่ในการสร้างคำแนะนำทีละขั้นตอนสำหรับการค้นหาของผู้ใช้ ซึ่งจะต้องใช้โมเดลภาษาขนาดใหญ่ที่มีพลังมากขึ้น เช่น GPT4 หรือ Cohere หรือ Claude 2 อย่างไรก็ตาม จะมีความเสี่ยงในการที่โมเดลภาษาขนาดใหญ่อาจทำขั้นตอนที่ไม่ถูกต้อง ซึ่งจะต้องมีการตรวจสอบโดยใช้การป้องกันข้อผิดพลาด นี่คือการแลกเปลี่ยนระหว่างการเพิ่มความฉลาดในลิงก์ที่สามารถควบคุมได้หรือการทำให้แนวทางโมเดลภาษาขนาดใหญ่ทั้งหมดเป็นอิสระ

ในวันนี้ เมื่อเรากำลังเข้าสู่ยุคของปัญญาประดิษฐ์สำหรับภาษา อุตสาหกรรมกำลังเริ่มที่จะนำแอปพลิเคชันโมเดลภาษาขนาดใหญ่มาใช้โดยมีแนวทางโมเดลภาษาขนาดใหญ่แบบเชื่อมโยงที่คาดการณ์ได้ เมื่อการนำไปใช้นี้เติบโตขึ้น เราจะเริ่มทดลองกับการให้ความอิสระมากขึ้นสำหรับแนวทางโมเดลภาษาขนาดใหญ่เหล่านี้ผ่านตัวแทน นั่นคือสิ่งที่การถกเถียงเกี่ยวกับ AGI คือเรื่องราวที่เราสนใจที่จะดูว่ามันจะพัฒนาไปอย่างไรในอนาคต