วิศวกรรมบริบท เทียบกับ วิศวกรรมคำสั่ง: คู่มือการโต้ตอบ AI

การปฏิวัติ AI เริ่มต้นด้วยการรับรู้อย่างง่าย: วิธีที่คุณถามมีความสำคัญ นักวิศวกรและผู้ใช้พบว่าคำสั่งที่ออกแบบอย่างรอบคอบสามารถปลดปล่อยความสามารถที่น่าประทับใจในแบบจำลองภาษา ทำให้คำตอบทั่วไปกลายเป็นคำตอบที่มีประโยชน์และมีประโยชน์ การปฏิบัตินี้ ซึ่งเรียกว่า วิศวกรรมคำสั่ง ได้ครอบงำการอภิปรายเกี่ยวกับการเพิ่มประสิทธิภาพ AI ตลอดปี 2023 และต้นปี 2024

แต่สิ่งที่น่าสนใจกำลังเกิดขึ้น เมื่อระบบ AI มีความซับซ้อนและรับมือกับงานที่ซับซ้อนมากขึ้น เราพบว่าแม้คำสั่งที่ออกแบบอย่างดีที่สุดก็มีข้อจำกัด เข้าสู่วิศวกรรมบริบท – การเปลี่ยนแปลงพื้นฐานใน cáchที่เราเข้าถึงการโต้ตอบ AI

การทำความเข้าใจวิศวกรรมคำสั่ง

เพื่อเข้าใจว่าเรากำลังจะไปที่ไหน เราต้องชื่นชมว่าเราเคยไปที่ไหน วิศวกรรมคำสั่งเกิดขึ้นจากการสังเกตอย่างง่าย: แบบจำลอง AI ตอบสนองต่าง ๆ กัน ขึ้นอยู่กับว่าคุณถามคำถามอย่างไร

พิจารณาแนวทางเหล่านี้:

• คำสั่งพื้นฐาน: “เขียนเกี่ยวกับสุนัข”
• คำสั่งที่ออกแบบ: “สมมติว่าเป็น兽แพทย์ที่มีประสบการณ์ 20 ปี และเขียนคู่มือที่ครอบคลุมเกี่ยวกับการดูแลสุนัขที่มีอายุมาก รวมถึงข้อพิจารณาด้านสุขภาพ ความต้องการอาหาร และคำแนะนำการออกกำลังกาย โดยใช้น้ำเสียงที่อบอุ่นและเข้าถึงได้สำหรับเจ้าของสัตว์เลี้ยง”

แนวทางที่สองมักให้ผลลัพธ์ที่ดีกว่าเพราะให้บริบทที่ชัดเจน ความต้องการเฉพาะ และพารามิเตอร์ที่กำหนดไว้ การค้นพบครั้งนี้ทำให้เกิดการแร่คำสั่งที่ดี “วิศวกรคำสั่ง” เกิดขึ้น ตลาดคำสั่งดอกไม้ และทุกคนกำลังมองหาการสร้างคำสั่งที่สมบูรณ์แบบที่จะทำให้ AI ทำสิ่งที่ต้องการ

การเกิดขึ้นของวิศวกรรมบริบท

เมื่อองค์กรเริ่มใช้ AI สำหรับการใช้งานจริง รอยแตกในแนวทางที่ใช้คำสั่งเพียงอย่างเดียวเริ่มปรากฏ ทีมจะสร้างคำสั่งที่ยอดเยี่ยมเพียงเพื่อค้นพบว่าผู้ช่วย AI ของพวกเขายังคงดิ้นรนในการทำงานที่ดูเหมือนตรงไปตรงมา ปัญหาไม่ใช่คุณภาพของคำถาม แต่เป็น AI ที่ขาดบริบทที่กว้างขึ้นใดๆ ที่มนุษย์จะมีในสถานการณ์เดียวกัน

ลองนึกถึงการขอให้พนักงานใหม่จัดการเรื่องร้องเรียนของลูกค้า คุณสามารถให้พวกเขาสคริปต์ที่ดีที่สุดในโลก แต่หากไม่มีการเข้าถึงประวัติของลูกค้า นโยบายของบริษัท ข้อมูลผลิตภัณฑ์ และการโต้ตอบก่อนหน้านี้ พวกเขาก็ยังคงดิ้นรนในการให้ความช่วยเหลือที่มีความหมาย

วิศวกรรมบริบทแสดงถึงการเปลี่ยนแปลงของพาราไดม์จากการจัดตั้งคำสั่งที่ดีที่สุดให้กับ AI ไปสู่การจัดตั้งระบบที่มีประสิทธิภาพซึ่งให้ AI รับข้อมูลที่เกี่ยวข้องทั้งหมดที่ต้องการเพื่อทำงานสำเร็จ

กราฟิกโดย Philipp Schmid (Google DeepMind)

เรื่องราวของสองแนวทาง

ความแตกต่างจะชัดเจนขึ้นผ่านตัวอย่าง สมมติว่าคุณกำลังสร้างผู้ช่วย AI สำหรับคลินิกทางการแพทย์

แนวทางวิศวกรรมคำสั่ง: คุณใช้เวลาหลายสัปดาห์ในการสร้างคำสั่ง เช่น “คุณเป็นผู้ช่วยจัดตารางนัดหมายทางการแพทย์ เมื่อผู้ป่วยขอนัดหมาย ตรวจสอบความพร้อม การยืนยันประกัน และให้คำแนะนำการเตรียมตัว…”

สิ่งนี้ทำงานได้ดีจนกว่าความซับซ้อนของโลกแห่งความเป็นจริงจะเข้ามาเกี่ยวข้อง ผู้ป่วยโทรหาว่า “ฉันต้องการนัดหมายกับ Dr. Johnson เกี่ยวกับปัญหาที่ฉันกำลังเผชิญอยู่” AI ที่ขาดบริบทที่กว้างขึ้นจะต้องเริ่มต้นการซักถามที่น่าเบื่อ: “ปัญหาอะไร? คุณมาเยี่ยมเมื่อไหร่ครั้งสุดท้าย? เรามี Dr. Johnson สามคน…”

แนวทางวิศวกรรมบริบท: เมื่อผู้ป่วยกล่าวถึง “ปัญหาที่ฉันกำลังเผชิญอยู่” ระบบมีการเข้าถึง:

• ประวัติทางการแพทย์ของพวกเขา
• การนัดหมายก่อนหน้านี้
• ข้อมูลประกัน
• Dr. Johnson ที่เฉพาะเจาะจงที่พวกเขาเคยพบมาก่อน

มันสามารถตอบกลับได้ทันที: “ฉันเห็นว่าคุณเคยพบ Dr. Johnson ในสาขาโรคหัวใจสำหรับการติดตามผลของความดันโลหิตสูงของคุณ เธอมีเวลาว่างวันพุธเวลา 14.00 น. หรือวันพฤหัสบดีเวลา 10.00 น. วันไหนที่ดีที่สุดสำหรับคุณ?”

เวทมนตร์ไม่ได้อยู่ในคำสั่งที่ฉลาดกว่า – มันอยู่ในความสามารถของระบบในการรวบรวมและนำเสนอข้อมูลที่เกี่ยวข้องจากแหล่งต่างๆ ในช่วงเวลาที่ต้องการ

การทำความเข้าใจชั้นของบริบท

สิ่งที่ทำให้วิศวกรรมบริบทท้าทายคือบริบทไม่ใช่สิ่งเดียว มันประกอบด้วยชั้นต่างๆ แต่ละชั้นมีหน้าที่ที่แตกต่างกัน:

• บริบททันที: การสนทนาและคำขอของผู้ใช้ในปัจจุบัน – สิ่งที่เกิดขึ้น ณ ตอนนี้
• บริบททางประวัติศาสตร์: การโต้ตอบในอดีต ความชอบ และรูปแบบที่แจ้งความต้องการในปัจจุบัน นี่รวมถึงทุกสิ่งจากตั๋วสนับสนุนก่อนหน้านี้ไปจนถึงความชอบของผู้ใช้ที่กำหนดไว้
• บริบทสิ่งแวดล้อม: ปัจจัยภายนอก เช่น เวลาของวัน ตำแหน่งของผู้ใช้ หรือเหตุการณ์ปัจจุบันที่อาจมีอิทธิพลต่อการโต้ตอบ
• บริบทโดเมน: ความรู้เฉพาะทาง กฎ และขั้นตอนการทำงานที่เกี่ยวข้องกับการทำงานหรืออุตสาหกรรมเฉพาะ

การจัดการชั้นเหล่านี้ต้องใช้การประสานงานที่ซับซ้อน ระบบจะต้องตัดสินใจว่าข้อมูลใดที่เกี่ยวข้อง วิธีการจัดลำดับความสำคัญของข้อมูลที่ขัดแย้งกัน เมื่อใดจึงควรอัปเดตข้อมูลที่เก็บไว้ และวิธีการนำเสนอข้อมูลทั้งหมดให้กับแบบจำลอง AI ในรูปแบบที่ปรับปรุงการตัดสินใจแทนการทำให้เสียสมดุล

Alex McFarland/Unite AI

ทำไมวิศวกรรมบริบทจึงมีความสำคัญตอนนี้

ปัจจัยหลายประการที่เกิดขึ้นพร้อมกันได้ทำให้วิศวกรรมบริบทไม่เพียงแต่มีประโยชน์ แต่ยังจำเป็น:

ขั้นแรก การใช้งาน AI มีความซับซ้อนมากขึ้นอย่างมาก เราไม่พอใจกับแชทบอทที่ตอบคำถามง่ายๆ เท่านั้น AI ตัวแทนของวันนี้จัดการกระบวนการทำงานหลายขั้นตอน ตัดสินใจตามเกณฑ์ที่ซับซ้อน และโต้ตอบกับระบบหลายระบบ การใช้งานที่ซับซ้อนนี้ไม่สามารถทำงานได้ดีด้วยคำสั่งเพียงอย่างเดียว

ประการที่สอง ความคาดหวังของผู้ใช้เพิ่มขึ้นอย่างมาก ผู้คนต้องการ AI ที่เข้าใจบริบทเหมือนผู้ช่วยมนุษย์ที่มีความรู้ พวกเขาต้องการ AI ที่จดจำการสนทนาครั้งก่อน เข้าใจความชอบของพวกเขา และสามารถเข้าถึงข้อมูลที่เกี่ยวข้องได้โดยไม่ต้องบอกพวกเขาอย่างชัดเจนว่าจะดูที่ไหน

ประการที่สาม ต้นทุนของความล้มเหลวเพิ่มขึ้น เมื่อ AI ถูกใช้สำหรับการใช้งานที่สำคัญ ความผิดพลาดมีผลกระทบจริง เมื่อ AI จัดการการบริการลูกค้า การจัดตารางนัดหมายทางการแพทย์ การวิเคราะห์ทางการเงิน และงานสำคัญอื่นๆ การทำผิดพลาดมีผลกระทบจริง

หลักการสำคัญของวิศวกรรมบริบท

ผ่านการลองผิดลองถูก ชุมชน AI ได้ระบุหลักการสำคัญหลายประการที่ชี้นำวิศวกรรมบริบทที่มีประสิทธิภาพ:

1. การรวบรวมข้อมูลแบบไดนามิก

บริบทต้องปรับเปลี่ยนตามความต้องการปัจจุบัน ลูกค้าที่ถามเกี่ยวกับการจัดส่งต้องการบริบทที่แตกต่างจากลูกค้าที่ถามเกี่ยวกับการคืนสินค้า แม้ว่าจะเป็นคนเดียวกันก็ตาม ระบบวิศวกรรมบริบทที่ดีจะรับรู้การเปลี่ยนแปลงเหล่านี้และปรับเปลี่ยนตามนั้น

2. การกรองและการจัดลำดับความสำคัญแบบอัจฉริยะ

ไม่ใช่ข้อมูลทั้งหมดที่มีประโยชน์ ในความเป็นจริง บริบทที่มากเกินไปสามารถเป็นปัญหาได้เท่ากับบริบทที่น้อยเกินไป ระบบที่มีประสิทธิภาพจะต้อง:

• เลือกข้อมูลที่เกี่ยวข้อง
• จัดระเบียบมันในลำดับชั้นที่มีประโยชน์
• ลบข้อมูลที่ล้าสมัยหรือขัดแย้งกัน
• นำเสนอในรูปแบบที่ AI สามารถประมวลผลได้อย่างมีประสิทธิภาพ

3. การเรียนรู้และการปรับตัวอย่างต่อเนื่อง

ระบบบริบทควรปรับปรุงเมื่อเวลาผ่านไป พวกมันต้องเรียนรู้จากการสนทนาที่ประสบความสำเร็จ ระบุช่องว่างข้อมูล และปรับตัวให้เข้ากับรูปแบบที่เปลี่ยนแปลงไป สิ่งนี้ช่วยในการปรับให้เหมาะสมกับสิ่งที่ข้อมูลที่จะให้และเมื่อใด

4. การบูรณาการอย่างไม่มีข้อผิดพลาด

วิศวกรรมบริบทที่ดีที่สุดเป็นแบบมองไม่เห็น ผู้ใช้ไม่ควรต้องคิดเกี่ยวกับมันหรือจัดการมัน พวกเขาควรเพียงแค่ประสบการณ์ AI ที่ดูเหมือนมีความรู้และเป็นประโยชน์อย่างน่าประทับใจ

อุปสรรคทั่วไปและวิธีการหลีกเลี่ยง

เมื่อทีมใช้วิศวกรรมบริบท อุปสรรคหลายประการจะเกิดขึ้น:

• การอัดแน่นของบริบท: ทีมที่กระตือรือร้นมักจะผิดพลาดโดยให้บริบทมากเกินไป ซึ่งนำไปสู่การตอบสนองที่ช้าลงและพฤติกรรม AI ที่สับสน วิธีแก้คือการจัดลำดับความสำคัญอย่างไม่ยอมแพ้ – รวมเฉพาะสิ่งที่ให้บริการงานปัจจุบันโดยตรง
• ข้อมูลที่ล้าสมัย: บริบทที่ไม่ได้รับการอัปเดตเป็นประจำอาจแย่กว่าไม่มีบริบทเลย ระบบต้องมีนโยบายที่ชัดเจนสำหรับการรีเฟรชและตรวจสอบข้อมูล
• ความขัดแย้งของบริบท: เมื่อแหล่งข้อมูลต่างๆ ให้ข้อมูลที่ขัดแย้งกัน แบบจำลอง AI จะต่อสู้กับการตัดสินใจ วิศวกรรมบริบทที่ดีจะรวมถึงกลไกการแก้ไขข้อขัดแย้งและลำดับชั้นของความไว้วางใจที่ชัดเจน
• ความกังวลเกี่ยวกับความเป็นส่วนตัว: บริบทที่มากขึ้นหมายถึงข้อมูลที่ละเอียดอ่อนมากขึ้น ระบบจะต้องสร้างสมดุลระหว่างบริบทที่ครอบคลุมกับการคุ้มครองความเป็นส่วนตัวและการกำกับดูแลข้อมูลที่เหมาะสม

มองไปข้างหน้า: อนาคตของการโต้ตอบ AI

การเปลี่ยนแปลงนี้มีผลกระทบอย่างลึกซึ้ง เมื่อวิศวกรรมบริบทมีความเจริญรุ่งเรือง เราจะเห็น:

• AI ที่เรียนรู้จากทุกการโต้ตอบ
• ระบบที่คาดการณ์ความต้องการก่อนที่จะแสดงออกมา
• การถ่ายโอนอย่างราบรื่นระหว่างตัวแทน AI ที่แตกต่างกัน
• การบูรณาการที่ทำให้ AI ดูเหมือนส่วนขยายตามธรรมชาติของความสามารถของมนุษย์

องค์กรที่ลงทุนในวิศวกรรมบริบทในปัจจุบันกำลังสร้างรากฐานสำหรับระบบ AI ที่จะไม่เพียงแต่ตอบคำถามเท่านั้น แต่ยังเป็นพันธมิตรที่แท้จริงในการทำงานที่ซับซ้อน

ข้อสรุปสำคัญสำหรับผู้ฟังต่างๆ

• สำหรับนักพัฒนา: วิศวกรรมบริบทต้องคิดไปไกลกว่าฟีเจอร์เดียวสู่ระบบทั้งหมด ไม่เพียงพอในการเพิ่มประสิทธิภาพคำสั่งเท่านั้น คุณต้องออกแบบการไหลของข้อมูล ระบบจัดเก็บข้อมูล และกลไกการดึงข้อมูลอัจฉริยะ
• สำหรับผู้นำธุรกิจ: เมื่อประเมินโซลูชัน AI ให้มองไปไกลกว่าการแสดงตัวอย่างที่น่าประทับใจ ถามว่าระบบจัดการบริบทอย่างไรเมื่อเวลาผ่านไป ทั่วเซสชัน และระหว่างผู้ใช้ที่แตกต่างกัน ประโยชน์ที่ยั่งยืนมากที่สุดจะมาจากวิศวกรรมบริบทที่เหนือกว่า ไม่ใช่แค่คำสั่งที่ดีกว่า
• สำหรับผู้ใช้สุดท้าย: การทำความเข้าใจวิศวกรรมบริบทช่วยให้คาดหวังที่เหมาะสม เมื่อ AI ดูเหมือน “รู้” สิ่งที่คุณต้องการ ให้ประเมินระบบที่ซับซ้อนซึ่งทำงานเบื้องหลัง เมื่อมันล้มเหลว ให้รับรู้ว่าข้อจำกัดอาจเป็นบริบท ไม่ใช่ความฉลาด

สรุป

การวิวัฒนาการจากวิศวกรรมคำสั่งสู่วิศวกรรมบริบทสะท้อนถึงการเติบโตของเทคโนโลยี AI โดยรวม เช่นเดียวกับเว็บไซต์ที่พัฒนาจากหน้าเว็บที่คงที่ไปสู่แอปพลิเคชันที่มีพลัง AI กำลังพัฒนาไปสู่ระบบอัจฉริยะที่เข้าใจและปรับตัวให้เข้ากับความต้องการของเรา

วิศวกรรมคำสั่งให้เราได้รับกุญแจในการปลดปล่อยศักยภาพของ AI วิศวกรรมบริบทกำลังสร้างโครงสร้างพื้นฐานทั้งหมดที่ทำให้ AI มีประโยชน์จริงๆ ในสถานการณ์จริงที่ซับซ้อน

คำสั่งเป็นเพียงจุดเริ่มต้น บริบทคืออนาคต

คำถามที่พบบ่อย (วิศวกรรมบริบท)

วิศวกรรมบริบทขยายไปไกลกว่าวิศวกรรมคำสั่งในระบบ AI อย่างไร?

วิศวกรรมบริบทสร้างระบบนิเวศของข้อมูลที่ให้ AI ข้อมูลที่เกี่ยวข้องเครื่องมือและหน่วยความจำแบบไดนามิก ในขณะที่วิศวกรรมคำสั่งมุ่งเน้นไปที่การเพิ่มประสิทธิภาพคำสั่งเพียงอย่างเดียว

ทำไมคุณภาพของบริบทจึงสำคัญกว่าการออกแบบคำสั่งเพียงอย่างเดียว?

แม้คำสั่งที่ออกแบบอย่างดีจะล้มเหลวเมื่อ AI ขาดข้อมูลพื้นหลังที่จำเป็น – เช่น การขอให้พนักงานใหม่จัดการเรื่องร้องเรียนของลูกค้าโดยไม่มีการเข้าถึงประวัติของลูกค้า นโยบายของบริษัท ข้อมูลผลิตภัณฑ์ และการโต้ตอบก่อนหน้านี้

ส่วนประกอบหลักใดที่เกี่ยวข้องกับการวิศวกรรมบริบทที่มีประสิทธิภาพ?

วิศวกรรมบริบทที่มีประสิทธิภาพรวมคำสั่งระบบ ประวัติการสนทนา ความจำระยะยาว การดึงข้อมูลแบบเรียลไทม์ (RAG) การกำหนดเครื่องมือ ออกแบบผลลัพธ์ที่มีโครงสร้าง และสถานะการทำงานเข้าด้วยกันเป็นสถาปัตยกรรมข้อมูลที่ครอบคลุม

ระบบบริบทแบบไดนามิกอาจปรับปรุงความน่าเชื่อถือและอัตราความสำเร็จของตัวแทน AI ได้อย่างไร?

ระบบบริบทแบบไดนามิกป้องกันความล้มเหลวทั่วไปโดยการให้ข้อมูลที่เกี่ยวข้องอัตโนมัติที่แต่ละจุดตัดสินใจ ลดการเห็นภาพหลอกลวงและทำให้ AI สามารถจัดการงานที่ซับซ้อนหลายขั้นตอนที่คำสั่งแบบคงที่ไม่สามารถรองรับได้

การสร้างและจัดระเบียบข้อมูลส่งผลต่อประสิทธิภาพของงาน AI อย่างไร?

บริบทที่มีโครงสร้างดีจะกำจัดความอัดแน่นของข้อมูลและความขัดแย้ง ทำให้ AI สามารถเข้าถึงสิ่งที่ต้องการได้อย่างรวดเร็ว ในขณะเดียวกันก็กรองเสียงรบกวนออกไป ซึ่งปรับปรุงความแม่นยำของการตอบสนองและลดเวลาในการประมวลผลอย่างมาก