โมเดลและแพลตฟอร์ม AI

วงจรป้อนกลับของ AI: รักษาคุณภาพผลลัพธ์ของแบบจำลองในยุคเนื้อหาที่ AI สร้าง

Haziqa Sajid
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญลูปคำติชมจากปัญญาประดิษฐ์ช่วยต่อสู้กับความเสื่อมของโมเดลที่เกิดจากการปนเปื้อนของข้อมูลฝึ…
ดูเพิ่มเติม
  • ลูปคำติชมจากปัญญาประดิษฐ์ช่วยต่อสู้กับความเสื่อมของโมเดลที่เกิดจากการปนเปื้อนของข้อมูลฝึกอบรมที่สร้างขึ้นโดยเอไอ
  • ความเสื่อมของโมเดลเกิดขึ้นเมื่อโมเดลเชิงสร้างสรรค์ได้รับการฝึกอบรมด้วยผลลัพธ์สังเคราะห์ของตัวเอง
  • ผู้เชี่ยวชาญเฉพาะด้านให้การกำกับดูแลโดยมนุษย์ที่สำคัญเพื่อรักษาความสอดคล้องของโมเดล

แบบจำลอง AI ที่นำไปใช้งานจริงต้องการกลไกการประเมินประสิทธิภาพที่มีความแข็งแกร่งและต่อเนื่อง นี่คือจุดที่วงจรป้อนกลับของ AI สามารถนำมาใช้เพื่อให้แน่ใจว่าแบบจำลองมีการทำงานที่สม่ำเสมอ

ลองฟังคำพูดของ Elon Musk:

“ฉันคิดว่ามันสำคัญมากที่จะมีวงจรป้อนกลับ ซึ่งคุณคิดอยู่เสมอว่าคุณทำอะไรและคุณสามารถทำมันได้ดีขึ้นอย่างไร”

สำหรับแบบจำลอง AI ทั้งหมด ขั้นตอนมาตรฐานคือการนำแบบจำลองไปใช้แล้วฝึกใหม่เป็นระยะ โดยใช้ข้อมูลจากโลกแห่งความเป็นจริงล่าสุดเพื่อให้แน่ใจว่าประสิทธิภาพของแบบจำลองไม่ลดลง แต่ด้วยการเพิ่มขึ้นอย่างรวดเร็วของ Generative AI การฝึกอบรมแบบจำลอง AI ได้กลายเป็นเรื่องที่ผิดปกติและเต็มไปด้วยข้อผิดพลาด นั่นเป็นเพราะแหล่งข้อมูลออนไลน์ (อินเทอร์เน็ต) กำลังจะกลายเป็นส่วนผสมของข้อมูลที่สร้างโดยมนุษย์และ AI

ตัวอย่างเช่น บล็อกหลายแห่งในปัจจุบันมีข้อความที่สร้างโดย AI โดยใช้ LLM (Large Language Models) เช่น ChatGPT หรือ GPT-4 แหล่งข้อมูลจำนวนมากยังมีภาพที่ AI สร้างด้วย DALL-E2 หรือ Midjourney นอกจากนี้ นักวิจัย AI ยังใช้ข้อมูลสังเคราะห์ที่สร้างโดย Generative AI ในการฝึกอบรมแบบจำลองของตน

ดังนั้น เราจึงต้องการกลไกที่มีความแข็งแกร่งเพื่อให้แน่ใจว่าคุณภาพของแบบจำลอง AI นี่คือจุดที่ความต้องการวงจรป้อนกลับของ AI ได้เพิ่มขึ้น

วงจรป้อนกลับของ AI คืออะไร?

วงจรป้อนกลับของ AI คือกระบวนการที่ซ้ำๆ กัน โดยที่การตัดสินใจและผลลัพธ์ของแบบจำลอง AI จะถูกเก็บและใช้เพื่อปรับปรุงหรือฝึกอบรมแบบจำลองใหม่ ซึ่งนำไปสู่การเรียนรู้ การพัฒนา และการปรับปรุงแบบจำลองอย่างต่อเนื่อง ในกระบวนการนี้ ข้อมูลฝึก พารามิเตอร์แบบจำลอง และอัลกอริทึมจะถูกปรับปรุงและพัฒนาโดยอาศัยข้อมูลที่สร้างขึ้นภายในระบบ

โดยทั่วไป มีสองประเภทของวงจรป้อนกลับของ AI:

  1. วงจรป้อนกลับของ AI ที่เป็นบวก: เมื่อแบบจำลอง AI สร้างผลลัพธ์ที่ถูกต้องซึ่งสอดคล้องกับความคาดหวังและความชอบของผู้ใช้ ผู้ใช้จะให้ข้อเสนอแนะที่เป็นบวกผ่านวงจรป้อนกลับ ซึ่งจะเสริมสร้างความถูกต้องของผลลัพธ์ในอนาคต
  2. วงจรป้อนกลับของ AI ที่เป็นลบ: เมื่อแบบจำลอง AI สร้างผลลัพธ์ที่ไม่ถูกต้อง ผู้ใช้จะรายงานข้อผิดพลาดผ่านวงจรป้อนกลับ ซึ่งจะพยายามปรับปรุงความเสถียรของระบบโดยการแก้ไขข้อผิดพลาด

ทั้งสองประเภทของวงจรป้อนกลับของ AI ช่วยให้แบบจำลอง AI มีการพัฒนาและปรับปรุงประสิทธิภาพอย่างต่อเนื่อง และไม่ได้ใช้หรือนำไปใช้ในลักษณะที่แยกจากกัน แต่จะช่วยให้แบบจำลอง AI ที่นำไปใช้งานจริงสามารถรู้ว่าอะไรถูกต้องหรือผิด

ขั้นตอนของวงจรป้อนกลับของ AI

An Illustration of AI-generated data in AI feedback loop

ภาพประกอบของกลไกป้อนกลับในแบบจำลอง AI แหล่งที่มา

การเข้าใจว่าวงจรป้อนกลับของ AI ทำงานอย่างไรเป็นสิ่งสำคัญในการปลดปล่อยศักยภาพเต็มที่ของการพัฒนา AI มาดูกันว่าขั้นตอนของวงจรป้อนกลับของ AI คืออะไร

  1. การรวบรวมข้อเสนอแนะ: รวบรวมผลลัพธ์ของแบบจำลองที่เกี่ยวข้องเพื่อประเมินผล โดยทั่วไป ผู้ใช้จะให้ข้อเสนอแนะเกี่ยวกับผลลัพธ์ของแบบจำลอง ซึ่งจะถูกใช้ในการฝึกอบรมใหม่ หรืออาจเป็นข้อมูลจากเว็บที่ถูกเลือกมาเพื่อปรับปรุงประสิทธิภาพของระบบ
  2. การฝึกอบรมแบบจำลองใหม่: โดยใช้ข้อมูลที่รวบรวมมา แบบจำลอง AI จะถูกฝึกอบรมใหม่เพื่อให้ทำนาย ตอบคำถาม หรือดำเนินกิจกรรมเฉพาะได้ดีขึ้น โดยการปรับปรุงพารามิเตอร์ของแบบจำลองหรือน้ำหนัก
  3. การผสมผสานและทดสอบข้อเสนอแนะ: หลังจากการฝึกอบรมใหม่ แบบจำลองจะถูกทดสอบและประเมินผลอีกครั้ง ในขั้นตอนนี้ ข้อเสนอแนะจากผู้เชี่ยวชาญจะถูกรวมเข้าด้วยเพื่อระบุปัญหาที่นอกเหนือจากตัวข้อมูล
  4. การนำไปใช้: แบบจำลองจะถูกนำไปใช้ใหม่หลังจากการตรวจสอบการเปลี่ยนแปลง ในขั้นตอนนี้ แบบจำลองควรแสดงผลลัพธ์ที่ดีขึ้นในข้อมูลจากโลกแห่งความเป็นจริงใหม่ ซึ่งจะนำไปสู่ประสบการณ์ของผู้ใช้ที่ดีขึ้น
  5. การตรวจสอบ: แบบจำลองจะถูกตรวจสอบอย่างต่อเนื่องโดยใช้เมตริกเพื่อระบุปัญหาเช่น การเปลี่ยนแปลงของข้อมูล และวงจรป้อนกลับจะดำเนินต่อไป

ปัญหาในข้อมูลใช้งานจริงและผลลัพธ์ของแบบจำลอง AI

การสร้างระบบ AI ที่มีความแข็งแกร่งต้องการความเข้าใจที่ลึกซึ้งเกี่ยวกับปัญหาในข้อมูลใช้งานจริง (ข้อมูลจากโลกแห่งความเป็นจริง) และผลลัพธ์ของแบบจำลอง มาดูกันว่าปัญหาใดที่กลายเป็นอุปสรรคในการรับรองความถูกต้องและความน่าเชื่อถือของระบบ AI:

  1. การเปลี่ยนแปลงของข้อมูล: เกิดขึ้นเมื่อแบบจำลองเริ่มรับข้อมูลจากโลกแห่งความเป็นจริงที่มีการกระจายต่างจากข้อมูลฝึกอบรม
  2. การเปลี่ยนแปลงของแบบจำลอง: ความสามารถในการทำนายและประสิทธิภาพของแบบจำลองลดลงเมื่อเวลาผ่านไปเนื่องจากสภาพแวดล้อมของโลกแห่งความเป็นจริงที่เปลี่ยนแปลง
  3. ผลลัพธ์ของแบบจำลอง AI เทียบกับการตัดสินใจในโลกแห่งความเป็นจริง: แบบจำลอง AI สร้างผลลัพธ์ที่ไม่ถูกต้องซึ่งไม่สอดคล้องกับการตัดสินใจของฝ่ายต่างๆ ในโลกแห่งความเป็นจริง
  4. ความลำเอียงและความยุติธรรม: แบบจำลอง AI อาจเกิดปัญหาด้านอคติและความเป็นธรรม ตัวอย่างเช่น ใน การบรรยาย TED โดย Janelle Shane เธออธิบายว่า Amazon ต้องหยุดพัฒนาแอลกอริทึมการจัดเรียงเรซูเม่เนื่องจากการเลือกปฏิบัติตามเพศ

เมื่อแบบจำลอง AI เริ่มฝึกอบรมด้วยเนื้อหาที่สร้างโดย AI ปัญหาเหล่านี้สามารถเพิ่มขึ้นได้ มาดูกันว่าทำไม

วงจรป้อนกลับของ AI ในยุคของเนื้อหาที่สร้างโดย AI

ในยุคของการนำ Generative AI ไปใช้อย่างรวดเร็ว นักวิจัยได้ศึกษาปรากฏการณ์ Model Collapse ซึ่งถูกกำหนดไว้ว่าเป็น

“กระบวนการเสื่อมสภาพที่ส่งผลต่อแบบจำลองเชิงกำเนิดที่เรียนรู้แล้วในรุ่นต่อ ๆ กัน โดยข้อมูลที่สร้างขึ้นปนเปื้อนชุดฝึกของรุ่นถัดไป และเมื่อฝึกด้วยข้อมูลที่ปนเปื้อน แบบจำลองเหล่านั้นจึงรับรู้ความจริงคลาดเคลื่อน”

Model Collapse มีสองกรณีพิเศษ

  • การเสื่อมสภาพแบบจำลองในระยะแรก: เกิดขึ้นเมื่อ “แบบจำลองเริ่มสูญเสียข้อมูลเกี่ยวกับหางของการแจกแจง” หรือส่วนปลายของการกระจายตัวฝึกอบรม
  • การเสื่อมสภาพแบบจำลองในระยะหลัง: เกิดขึ้นเมื่อ “แบบจำลองรวมโหมดต่างๆ ของการกระจายตัวเดิมและลู่เข้าสู่การแจกแจงที่แทบไม่คล้ายต้นฉบับ โดยมักมีความแปรปรวนต่ำมาก”

สาเหตุของการเสื่อมสภาพแบบจำลอง

สำหรับผู้ปฏิบัติงาน AI ที่ต้องการแก้ไขปัญหานี้ จำเป็นต้องเข้าใจสาเหตุของการเสื่อมสภาพแบบจำลอง ซึ่งแบ่งออกเป็นสองประเภทหลัก:

  1. ข้อผิดพลาดในการประมาณค่าทางสถิติ: ข้อผิดพลาดนี้เกิดจากจำนวนตัวอย่างที่จำกัด และจะหายไปเมื่อจำนวนตัวอย่างเข้าใกล้อนันต์
  2. ข้อผิดพลาดในการประมาณค่าแบบฟังก์ชัน: ข้อผิดพลาดนี้เกิดขึ้นเมื่อแบบจำลอง เช่น โครงข่ายประสาทเทียม ไม่สามารถจับฟังก์ชันพื้นฐานที่ต้องเรียนรู้จากข้อมูลได้
Causes Of Model Collapse-Example

ตัวอย่างผลลัพธ์ของแบบจำลองสำหรับหลายรุ่นของแบบจำลองที่ได้รับผลกระทบจาก Model Collapse แหล่งที่มา

วงจรป้อนกลับของ AI ได้รับผลกระทบอย่างไรจากเนื้อหาที่สร้างโดย AI

เมื่อแบบจำลอง AI ฝึกอบรมด้วยเนื้อหาที่สร้างโดย AI จะส่งผลเสียต่อวงจรป้อนกลับของ AI และอาจทำให้เกิดปัญหาหลายอย่าง เช่น

  • การเสื่อมสภาพแบบจำลอง: การเสื่อมสภาพแบบจำลองเป็นเรื่องที่น่าจะเกิดขึ้นหากวงจรป้อนกลับของ AI มีเนื้อหาที่สร้างโดย AI
  • การลืมอย่างรุนแรง: ปัญหาหนึ่งในการเรียนรู้อย่างต่อเนื่องคือแบบจำลองลืมตัวอย่างเก่าเมื่อเรียนรู้ข้อมูลใหม่ ซึ่งเรียกว่าการลืมอย่างรุนแรง
  • การปนเปื้อนข้อมูล: การปนเปื้อนของข้อมูลหมายถึงการให้ข้อมูลสังเคราะห์ที่ถูกจัดการเข้าไปในแบบจำลอง AI เพื่อทำให้ประสิทธิภาพลดลงและทำให้สร้างผลลัพธ์ที่ไม่ถูกต้อง

ธุรกิจสามารถสร้างวงจรป้อนกลับที่มีความแข็งแกร่งสำหรับแบบจำลอง AI ของตนได้อย่างไร

ธุรกิจสามารถได้รับประโยชน์จากการใช้วงจรป้อนกลับในกระบวนการทำงาน AI ของตน ต่อไปนี้คือขั้นตอนหลักๆ ที่ธุรกิจสามารถทำได้เพื่อปรับปรุงประสิทธิภาพของแบบจำลอง AI:

  • ข้อเสนอแนะจากผู้เชี่ยวชาญ: ผู้เชี่ยวชาญเฉพาะด้านมีความรู้ลึกในสาขาของตนและเข้าใจการใช้แบบจำลอง AI จึงให้ข้อเสนอแนะเพื่อเพิ่มความสอดคล้องกับบริบทจริงและเพิ่มโอกาสได้ผลลัพธ์ที่ถูกต้อง อีกทั้งกำกับดูแลและจัดการข้อมูลที่ AI สร้างได้ดีขึ้น
  • การเลือกเมตริกคุณภาพแบบจำลองที่เหมาะสม: การเลือกเมตริกที่เหมาะสมสำหรับงานและติดตามแบบจำลองในระบบใช้งานจริงตามเมตริกเหล่านั้นสามารถรับรองคุณภาพของแบบจำลองได้ นักพัฒนา AI ยังใช้เครื่องมือ MLOps สำหรับการประเมินและติดตามอัตโนมัติเพื่อเตือนผู้มีส่วนได้ส่วนเสียหากประสิทธิภาพของแบบจำลองเริ่มลดลงในระบบใช้งานจริง
  • การคัดเลือกข้อมูลอย่างเข้มงวด: เมื่อแบบจำลองในระบบใช้งานจริงถูกฝึกอบรมใหม่ด้วยข้อมูลใหม่ๆ มันสามารถลืมข้อมูลในอดีตได้ ดังนั้นจึงจำเป็นต้องคัดเลือกข้อมูลที่มีคุณภาพสูงซึ่งสอดคล้องกับวัตถุประสงค์ของแบบจำลอง ข้อมูลนี้สามารถใช้ในการฝึกอบรมแบบจำลองใหม่ในยุคต่อไปๆ ร่วมกับข้อเสนอแนะของผู้ใช้เพื่อให้แน่ใจว่าคุณภาพ

เพื่อเรียนรู้เพิ่มเติมเกี่ยวกับการพัฒนาของ AI ไปที่ Unite.ai.

Haziqa Sajid

Haziqa เป็นนักวิทยาศาสตร์ข้อมูลที่มีประสบการณ์อย่างกว้างขวางในการเขียนเนื้อหาทางเทคนิคสำหรับบริษัท AI และ SaaS