วิธีการที่โมเดลภาษาขนาดใหญ่ (LLM) จะเป็นพลังงานให้กับแอปพลิเคชันในอนาคต

Generative AI และโดยเฉพาะภาษา – ChatGPT มีในทุกที่ เทคโนโลยีโมเดลภาษาขนาดใหญ่ (LLM) จะมีบทบาทสำคัญในการพัฒนาแอปพลิเคชันในอนาคต LLM มีความสามารถในการเข้าใจภาษาได้ดีเนื่องจากการฝึกอบรมอย่างกว้างขวางที่ทำไว้สำหรับโมเดลพื้นฐานบนข้อความสาธารณะหลายล้านบรรทัด รวมถึงโค้ด วิธีการเช่นการฝึกอบรมแบบดูแลและเรียนรู้ด้วยการให้คำติชมจากมนุษย์ (RLHF) ทำให้ LLM เหล่านี้มีประสิทธิภาพมากขึ้นในการตอบคำถามและพูดคุยกับผู้ใช้ เมื่อเราเข้าสู่ระยะต่อไปของแอปพลิเคชัน AI ที่ได้รับการสนับสนุนจาก LLM ส่วนประกอบสำคัญต่อไปนี้จะเป็นเรื่องสำคัญสำหรับแอปพลิเคชันรุ่นต่อไป รูปภาพด้านล่างแสดงถึงความก้าวหน้านี้ และเมื่อคุณเลื่อนขึ้นไปตามช่องทาง คุณจะสร้างความฉลาดและความเป็นอิสระมากขึ้นในแอปพลิเคชันของคุณ มาทำความรู้จักกับส่วนต่างๆ เหล่านี้กัน

LLM calls:

นี่คือการเรียกใช้โดยตรงไปยังโมเดลการเติมคำหรือการแชทโดยผู้ให้บริการ LLM เช่น Azure OpenAI หรือ Google PaLM หรือ Amazon Bedrock การเรียกใช้เหล่านี้มีคำสั่งพื้นฐานและใช้หน่วยความจำภายในของ LLM เพื่อสร้างผลลัพธ์

ตัวอย่าง: การถามโมเดลพื้นฐาน เช่น “text-davinci” เพื่อ “เล่าเรื่องตลก” คุณให้คำสั่งพื้นฐานและโมเดลพึ่งพาหน่วยความจำภายในที่ฝึกอบรมไว้เพื่อสร้างคำตอบ (เน้นด้วยสีเขียวในรูปด้านล่าง – โดยใช้ Azure OpenAI)

Prompts:

ระดับของความฉลาดถัดไปคือการเพิ่มบริบทมากขึ้นในคำสั่ง มีเทคนิคสำหรับการออกแบบคำสั่งที่สามารถนำไปใช้กับ LLM ซึ่งสามารถทำให้พวกมันให้คำตอบที่ปรับแต่งได้ ตัวอย่างเช่น เมื่อสร้างอีเมลถึงผู้ใช้ บริบทบางอย่างเกี่ยวกับผู้ใช้ การซื้อในอดีต และรูปแบบพฤติกรรมสามารถใช้เป็นคำสั่งเพื่อปรับแต่งอีเมลได้ดีขึ้น ผู้ใช้ที่คุ้นเคยกับ ChatGPT จะทราบถึงวิธีการต่างๆ ในการให้คำสั่ง เช่น การให้ตัวอย่างที่ใช้โดย LLM ในการสร้างคำตอบ คำสั่งเพิ่มบริบทให้กับหน่วยความจำภายในของ LLM ตัวอย่างด้านล่าง

Embeddings:

Embeddings นำคำสั่งไปสู่ระดับถัดไปโดยการค้นหาบริบทในคลังความรู้และเพิ่มบริบทนั้นเข้ากับคำสั่ง ขั้นแรกคือการสร้างคลังเอกสารขนาดใหญ่ด้วยข้อความที่ไม่มีโครงสร้างให้สามารถค้นหาได้โดยการสร้างดัชนีและเติมฐานข้อมูลเวกเตอร์ สำหรับสิ่งนี้ โมเดลการฝังตัว เช่น ‘ada’ โดย OpenAI จะถูกใช้ ซึ่งรับชิ้นส่วนข้อความและแปลงเป็นเวกเตอร์ n มิติ เอมเบดดิงเหล่านี้จับบริบทของข้อความได้ ดังนั้น วाकย์ที่คล้ายกันจะมีเอมเบดดิงที่ใกล้กันในพื้นที่เวกเตอร์ เมื่อผู้ใช้ป้อนคำถาม คำถามนั้นจะถูกแปลงเป็นเอมเบดดิงและเวกเตอร์นั้นจะถูกจับคู่กับเวกเตอร์ในฐานข้อมูล ดังนั้น เราจะได้ 5 หรือ 10 ชิ้นส่วนข้อความที่ตรงกันสูงสุดสำหรับคำถามซึ่งสร้างบริบท คำถามและบริบทจะถูกส่งไปยัง LLM เพื่อตอบคำถามในลักษณะที่เหมือนมนุษย์

Chains:

Chains คือเทคโนโลยีที่ทันสมัยและเต็มที่ที่สุดซึ่งใช้ในการสร้างแอปพลิเคชัน LLM ในปัจจุบัน Chains เป็นแบบกำหนดได้ โดยที่ลำดับของการเรียก LLM ถูกเชื่อมต่อกัน โดยผลลัพธ์จาก LLM หนึ่งจะไหลเข้าสู่ LLM หนึ่งหรือหลายตัว ตัวอย่างเช่น เราอาจมีการเรียก LLM เพื่อขอข้อมูลจากฐานข้อมูล SQL และรับรายชื่ออีเมลของลูกค้า แล้วส่งรายชื่อนั้นไปยัง LLM อีกตัวเพื่อสร้างอีเมลส่วนบุคคลให้กับลูกค้า ลำดับ LLM เหล่านี้สามารถรวมเข้ากับกระบวนการแอปพลิเคชันที่มีอยู่เพื่อสร้างผลลัพธ์ที่มีค่ามากขึ้น โดยใช้ลำดับ เราสามารถเพิ่มการเรียก LLM ด้วยการเรียก API และการผสานกับกราฟความรู้เพื่อเพิ่มบริบท นอกจากนี้ ในปัจจุบัน โดยมีผู้ให้บริการ LLM หลายราย เช่น OpenAI, AWS Bedrock, Google PaLM, MosaicML เป็นต้น เราสามารถผสมผสานการเรียก LLM เข้ากับลำดับได้ สำหรับส่วนประกอบของลำดับที่มีความฉลาดจำกัด LLM ระดับต่ำกว่า เช่น ‘gpt3.5-turbo’ สามารถใช้ได้ ในขณะที่สำหรับงานที่ซับซ้อนกว่า ‘gpt4’ จะถูกนำมาใช้ ลำดับให้การสรุปสำหรับข้อมูล แอปพลิเคชัน และการเรียก LLM

Agents:

เอเจนต์เป็นหัวข้อที่ถูกถกเถียงกันอย่างมาก โดยเฉพาะอย่างยิ่งเกี่ยวกับการเป็นปัญญาประดิษฐ์ทั่วไป (AGI) เอเจนต์ใช้ LLM ที่ทันสมัย เช่น ‘gpt4’ หรือ ‘PaLM2’ เพื่อวางแผนงานแทนที่จะใช้ลำดับที่กำหนดไว้ล่วงหน้า ดังนั้น เมื่อมีการร้องขอจากผู้ใช้ เอเจนต์จะตัดสินใจว่าจะเรียกใช้ลำดับหรืองานอะไร โดยสร้างลำดับไดนามิก ตัวอย่างเช่น เมื่อเรากำหนดเอเจนต์พร้อมคำสั่ง เช่น “แจ้งลูกค้าเมื่ออัตราดอกเบี้ยของเงินกู้เปลี่ยนแปลงเนื่องจากการปรับปรุงกฎระเบียบของรัฐบาล” เฟรมเวิร์กของเอเจนต์จะทำการเรียก LLM เพื่อตัดสินใจว่าจะดำเนินการหรือสร้างลำดับอย่างไร ที่นี่จะเกี่ยวข้องกับการเรียกใช้แอปที่ค้นหาเว็บไซต์กำกับดูแลและดึงอัตราดอกเบี้ยล่าสุด จากนั้นการเรียก LLM จะค้นหาฐานข้อมูลและดึงอีเมลของลูกค้าที่ได้รับผลกระทบ และสุดท้าย อีเมลจะถูกสร้างขึ้นเพื่อแจ้งให้ทุกคนทราบ

Final Thoughts

LLM เป็นเทคโนโลยีที่กำลังพัฒนา และมีการเปิดตัวโมเดลและแอปพลิเคชันที่ดีขึ้นทุกสัปดาห์ LLM ถึงเอเจนต์เป็นบันไดของความฉลาด และเมื่อเราก้าวขึ้นไป เราจะสร้างแอปพลิเคชันอัตโนมัติที่ซับซ้อนมากขึ้น โมเดลที่ดีขึ้นจะหมายถึงเอเจนต์ที่มีประสิทธิภาพมากขึ้น และแอปพลิเคชันรุ่นต่อไปจะถูกขับเคลื่อนด้วยสิ่งเหล่านี้ เวลาเท่านั้นที่จะบอกได้ว่าแอปพลิเคชันรุ่นต่อไปจะก้าวหน้าไปถึงไหน และจะถูกขับเคลื่อนด้วยรูปแบบใด