มั่นใจผิด : ทำไมโมเดล AI ที่ฉลาดที่สุดจึงแย่ที่สุดในการแก้ไขตัวเอง

หลายคนใน社区 AI เชื่อว่าปฏิวัติครั้งใหญ่ถัดไปจะเป็นยุคของ AI ที่ปรับปรุงตนเอง โดยที่ AI สามารถปรับปรุงตนเองได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์ ความคิดเห็นคือ : เมื่อโมเดลมีความสามารถมากขึ้น พวกมันจะเรียนรู้ไม่เพียงแต่จากข้อมูลเท่านั้น แต่ยังจากตัวมันเองอีกด้วย แต่ละครั้งที่ทำซ้ำจะทำให้ผลลัพธ์สมบูรณ์แบบมากขึ้น ข้อผิดพลาดจะถูกตรวจจับ แก้ไข และกำจัดออกไป เมื่อเวลาผ่านไป การสะสมการปรับปรุงเหล่านี้อาจทำให้เกิดการระเบิดของปัญญา โดยที่ AI เริ่มสร้าง AI ขึ้นมาเอง วิสัยทัศน์นี้เป็นรากฐานของความตื่นเต้นเกี่ยวกับ AI ที่ซ้ำซ้อน ตัวแทนอิสระ และการระเบิดของปัญญาที่คาดการณ์ไว้ยาวนาน ที่ศูนย์กลางของวิสัยทัศน์นี้คือความสามารถของระบบ AI ในการแก้ไขข้อผิดพลาดของตนเองได้อย่างน่าเชื่อถือ อย่างไรก็ตาม หากไม่มีการแก้ไขตนเอง การปรับปรุงตนเองก็ไม่สามารถทำได้ ระบบที่ไม่สามารถตระหนักได้ว่าตนเองผิดพลาดไม่สามารถเรียนรู้จากผลลัพธ์ของตนเองได้อย่างมีความหมาย ไม่ว่ามันจะดูแข็งแกร่งเพียงใด

สมมติฐานที่มีอยู่คือการแก้ไขตนเองจะเกิดขึ้นตามธรรมชาติเมื่อโมเดลมีความสามารถมากขึ้น ความเชื่อนี้ดูเหมือนจะสมเหตุสมผล หลังจากทั้งหมด โมเดลที่แข็งแกร่งกว่าทราบมากขึ้น คิดอย่างมีเหตุผลดีขึ้น และทำงานได้ดีขึ้นในหลายงาน อย่างไรก็ตาม การวิจัยล่าสุดแสดงให้เห็นถึงการค้นพบที่ขัดแย้งกันซึ่งโมเดลที่ทันสมัยมักจะดิ้นรนในการแก้ไขข้อผิดพลาดของตนเอง ในขณะที่โมเดลที่อ่อนแอกว่าทำงานได้ดีกว่าในการแก้ไขตนเอง สิ่งนี้เรียกว่าความขัดแย้งระหว่างความแม่นยำและการแก้ไข ทำให้เราต้องคิดใหม่ไม่เพียงแต่ว่าระบบ AI คิดอย่างไร แต่ยังรวมถึงความพร้อมของเราในการเตรียมตัวสำหรับ AI ที่ปรับปรุงตนเองด้วย

การทำความเข้าใจ AI ที่ปรับปรุงตนเอง

AI ที่ปรับปรุงตนเอง หมายถึงระบบ AI ที่สามารถระบุข้อผิดพลาดของตนเองได้ เรียนรู้จากข้อผิดพลาด และปรับปรุงพฤติกรรมของตนเองอย่างต่อเนื่อง ไม่เหมือนกับโมเดลแบบดั้งเดิมที่พึ่งพาข้อมูลการฝึกที่มนุษย์สร้างขึ้น AI ที่ปรับปรุงตนเองจะประเมินผลลัพธ์ของตนเองอย่างแข็งขันและปรับเปลี่ยนเมื่อเวลาผ่านไป ในทฤษฎี นี่จะสร้าง วงจรป้อนกลับ โดยที่แต่ละรอบการเรียนรู้สร้างบนรอบก่อนหน้า ทำให้เกิดสิ่งที่มักจะอธิบายว่าเป็นการระเบิดของปัญญา

แต่การบรรลุเป้าหมายนี้ไม่ใช่เรื่องง่าย การปรับปรุงตนเองต้องใช้มากกว่าพลังการคำนวณหรือชุดข้อมูลขนาดใหญ่ มันต้องใช้การประเมินตนเองที่เชื่อถือได้ รวมถึงความสามารถในการตรวจจับข้อผิดพลาด ระบุแหล่งที่มา และสร้างวิธีแก้ไขที่ถูกต้อง หากไม่มีความสามารถเหล่านี้ โมเดลไม่สามารถแยกแยะระหว่างเส้นทางการให้เหตุผลที่ถูกต้องและเส้นทางที่มีข้อบกพร่องได้ การทำซ้ำบนโซลูชันที่ผิดพลาด ไม่ว่าจะเร็วเพียงใด ก็เพียงแต่เสริมสร้างข้อผิดพลาดมากกว่าการปรับปรุงประสิทธิภาพ

สิ่งนี้มีความสำคัญอย่างยิ่ง ในมนุษย์ การเรียนรู้จากข้อผิดพลาดมักเกี่ยวข้องกับการสะท้อน การทดสอบสมมติฐาน และการเปลี่ยนแปลงเส้นทาง สำหรับ AI กระบวนการเหล่านี้ต้องถูกเข้ารหัสไว้ภายในระบบเอง หากโมเดลไม่สามารถตรวจจับและแก้ไขข้อผิดพลาดได้อย่างน่าเชื่อถือ มันจะไม่สามารถเข้าร่วมในวงจรการปรับปรุงตนเองได้อย่างมีความหมาย และสัญญาของปัญญาที่ซ้ำซ้อนจะยังคงเป็นทฤษฎีมากกว่าความเป็นจริง

ความขัดแย้งระหว่างความแม่นยำและการแก้ไข

การแก้ไขตนเองมักถูกมองว่าเป็นความสามารถเดียว แต่ในความเป็นจริง มันรวมถึงความสามารถที่แตกต่างกันหลายอย่างที่ต้องพิจารณาแยกกัน ในขั้นต่ำ เราสามารถแบ่งออกเป็นสามความสามารถที่วัดได้ : การตรวจจับข้อผิดพลาด การระบุแหล่งที่มาของข้อผิดพลาด และการแก้ไขข้อผิดพลาด การตรวจจับข้อผิดพลาดถามว่าโมเดลสามารถรู้ตัวได้ว่าผลลัพธ์ของมันไม่ถูกต้องหรือไม่ การระบุแหล่งที่มาของข้อผิดพลาดมุ่งเน้นไปที่การระบุว่าข้อผิดพลาดเกิดขึ้นที่ไหน การแก้ไขข้อผิดพลาดหมายถึงความสามารถในการสร้างวิธีแก้ไขที่ถูกต้อง

โดยการวัดความสามารถเหล่านี้แยกกัน นักวิจัยเปิดเผยข้อมูลเชิงลึกที่สำคัญเกี่ยวกับข้อจำกัดของระบบปัจจุบัน พวกเขาชี้ให้เห็นว่าโมเดลมีความแตกต่างกันอย่างกว้างขวางในความสามารถเหล่านี้ บางโมเดลมีความสามารถในการตรวจจับข้อผิดพลาด แต่ไม่ดีในการแก้ไข ในขณะที่โมเดลอื่น ๆ อาจไม่สามารถตรวจจับข้อผิดพลาดได้ แต่ก็สามารถแก้ไขได้โดยการลองซ้ำหลายครั้ง สิ่งสำคัญคือ ข้อมูลเชิงลึกเหล่านี้แสดงให้เห็นว่าการปรับปรุงในพื้นที่หนึ่งไม่ได้รับประกันการปรับปรุงในพื้นที่อื่น ๆ

เมื่อนักวิจัยทดสอบโมเดลที่ทันสมัยบนงานที่ต้องใช้เหตุผลทางคณิตศาสตร์ที่ซับซ้อน โมเดลเหล่านี้ทำข้อผิดพลาดน้อยลง สิ่งนี้คาดหวัง แต่สิ่งที่ไม่คาดคิดคือการค้นพบว่า : เมื่อโมเดลเหล่านี้ทำข้อผิดพลาด พวกมันจะน้อยกว่าที่จะแก้ไขข้อผิดพลาดเหล่านั้นเองโดยไม่มีการให้ข้อมูลจากภายนอก ในทางกลับกัน โมเดลที่อ่อนแอกว่า แม้ว่าจะทำข้อผิดพลาดมากกว่า แต่ก็สามารถแก้ไขข้อผิดพลาดเหล่านั้นได้ดีขึ้นโดยไม่ต้องมีการให้ข้อมูลจากภายนอก ในอีกคำหนึ่ง นักวิจัยพบว่าความแม่นยำและการแก้ไขตนเองเคลื่อนไหวในทิศทางตรงกันข้าม ซึ่งพวกเขาเรียกว่าความขัดแย้งระหว่างความแม่นยำและการแก้ไข สิ่งนี้ท้าทายความเชื่อที่มีมาอย่างยาวนานในการพัฒนา AI เรามักจะสมมติว่าการปรับขนาดโมเดลจะปรับปรุงทุกด้านของปัญญา ความขัดแย้งนี้แสดงให้เห็นว่าสมมติฐานนี้ไม่จำเป็นต้องเป็นจริงเสมอไป โดยเฉพาะอย่างยิ่งสำหรับความสามารถในการมองเห็นภายใน

สมมติฐานความลึกของข้อผิดพลาด

ความขัดแย้งนี้ทำให้เกิดคำถามที่ชัดเจน : ทำไมโมเดลที่อ่อนแอกว่าจึงสามารถแก้ไขตนเองได้ดีกว่าโมเดลที่แข็งแกร่งกว่า นักวิจัยพบคำตอบโดยการตรวจสอบ ประเภท ของข้อผิดพลาดที่โมเดลทำ พวกเขาพบว่าโมเดลที่แข็งแกร่งกว่าทำข้อผิดพลาดน้อยกว่า แต่ข้อผิดพลาดที่พวกมันทำมักจะ “ลึก” และทนทานต่อการแก้ไขมากกว่า ในทางกลับกัน โมเดลที่อ่อนแอกว่าทำข้อผิดพลาด “ตื้น” ที่สามารถแก้ไขได้ง่ายในการผ่านครั้งที่สอง

นักวิจัยเรียกข้อมูลเชิงลึกนี้ว่า สมมติฐานความลึกของข้อผิดพลาด พวกเขาจัดประเภทข้อผิดพลาดเป็นข้อผิดพลาดในการตั้งค่า ข้อผิดพลาดในการให้เหตุผล และข้อผิดพลาดในการคำนวณ ข้อผิดพลาดในการตั้งค่าเกี่ยวข้องกับการตีความปัญหาผิดพลาด ข้อผิดพลาดในการให้เหตุผลเกิดขึ้นเมื่อเส้นทางการให้เหตุผลมีโครงสร้างที่มีข้อบกพร่อง ข้อผิดพลาดในการคำนวณเป็นข้อผิดพลาดในการคำนวณง่ายๆ เช่น ข้อผิดพลาดทางคณิตศาสตร์ สำหรับ GPT-3.5 ส่วนใหญ่ของข้อผิดพลาด (62%) เป็นข้อผิดพลาดในการคำนวณง่ายๆ เหล่านี้เป็นข้อผิดพลาดตื้น เมื่อถูกขอให้ “ตรวจสอบอย่างระมัดระวัง” โมเดลสามารถพบข้อผิดพลาดทางคณิตศาสตร์ได้บ่อยครั้งและแก้ไขได้ สำหรับ DeepSeek อย่างไรก็ตาม 77% ของข้อผิดพลาดเป็นข้อผิดพลาดในการตั้งค่าหรือข้อผิดพลาดในการให้เหตุผล ข้อผิดพลาดเหล่านี้ต้องใช้การเปลี่ยนแปลงแนวทางพื้นฐานของโมเดล โมเดลที่แข็งแกร่งกว่าดิ้นรนในการทำสิ่งนี้เพราะพวกมันมักจะยึดติดกับเส้นทางการให้เหตุผลเริ่มต้น เมื่อความฉลาดของโมเดลเพิ่มขึ้น เพียงข้อผิดพลาดที่ทนทานและยากที่จะแก้ไขเท่านั้นที่เหลืออยู่

ทำไมการตรวจจับข้อผิดพลาดไม่ได้รับประกันการแก้ไข

หนึ่งในผลการค้นพบที่น่าประหลาดใจที่สุดของ การวิจัย คือการตรวจจับข้อผิดพลาดไม่สัมพันธ์กับความสามารถในการแก้ไขข้อผิดพลาด โมเดลหนึ่งอาจระบุได้อย่างถูกต้องว่าผลลัพธ์ของมันผิดพลาด แต่ยังคงล้มเหลวในการแก้ไข Claude-3-Haiku ให้ตัวอย่างที่น่าประหลาดใจที่สุด Claude ตรวจจับเพียง 10.1% ของข้อผิดพลาดของตนเอง ซึ่งเป็นค่าต่ำสุดในหมู่โมเดลที่ทดสอบทั้งหมด แม้จะตรวจจับได้ไม่ดีนัก แต่ก็บรรลุอัตราการแก้ไขภายในสูงสุด tại 29.1% เมื่อเปรียบเทียบ GPT-3.5 ตรวจจับข้อผิดพลาด 81.5% แต่แก้ไขได้เพียง 26.8%

สิ่งนี้ชี้ให้เห็นว่าบางโมเดลอาจ “แก้ไขข้อผิดพลาดโดยไม่ได้ตั้งใจ” โดยการแก้ปัญหาใหม่ผ่านเส้นทางการสุ่มตัวอย่างที่แตกต่าง แม้ว่าจะไม่ทราบว่าการพยายามครั้งแรกผิดพลาดก็ตาม การไม่เชื่อมต่อนี้เป็นอันตรายต่อการนำไปใช้งานในโลกแห่งความเป็นจริง เมื่อโมเดลมั่นใจและล้มเหลวในการตรวจจับข้อผิดพลาดเชิงตรรกะ มันสามารถนำเสนอคำอธิบายที่น่าเชื่อถือแต่ไม่ถูกต้องในฐานะความจริง ในบางกรณี การกระตุ้นโมเดลให้ระบุข้อผิดพลาดของตนเองอาจทำให้สถานการณ์เลวร้ายลง เมื่อโมเดลระบุข้อผิดพลาดผิด มันจะยึดติดกับคำอธิบายที่มีข้อบกพร่องและย้ำข้อผิดพลาด การกระทำนี้สะท้อนถึงความเอนเอียงทางจิตวิทยาของมนุษย์ เมื่อเราคิดว่าเรารู้ว่าอะไรผิดพลาด เราจะหยุดค้นหาสาเหตุที่ลึกกว่า

การทำซ้ำช่วย แต่ไม่เท่ากัน

การวิจัยยังแสดงให้เห็นว่าการสะท้อนซ้ำบ่อยครั้งสามารถปรับปรุงผลลัพธ์ แต่ไม่ใช่โมเดลทุกตัวที่ได้รับประโยชน์เท่าๆ กัน โมเดลที่อ่อนแอกว่าได้รับประโยชน์อย่างมากจากการคิดซ้ำหลายครั้ง เนื่องจากการทำซ้ำแต่ละครั้งให้โอกาสแก้ไขปัญหาที่อยู่ผิวเผิน โมเดลที่แข็งแกร่งกว่าแสดงให้เห็นถึงการปรับปรุงที่น้อยกว่าจากการทำซ้ำ ข้อผิดพลาดของพวกมันไม่สามารถแก้ไขได้ง่ายๆ โดยการทำซ้ำโดยไม่มีการให้คำแนะนำจากภายนอก การพยายามเพิ่มเติมโดยไม่มีการชี้แนะภายนอกมักจะผลิตเส้นทางการให้เหตุผลที่มีข้อบกพร่องในคำพูดที่แตกต่าง สิ่งนี้ชี้ให้เห็นว่าเทคนิคการปรับปรุงตนเองไม่ได้มีประสิทธิภาพเท่ากันสำหรับทุกคน ความสำเร็จของพวกมันขึ้นอยู่กับธรรมชาติของข้อผิดพลาดที่เกิดขึ้น ไม่ใช่แค่ความฉลาดของโมเดล

สิ่งที่หมายถึงการออกแบบระบบ AI

ข้อมูลเชิงลึกเหล่านี้มีผลกระทบเชิงปฏิบัติ ประการแรก เราควรหยุดสมมติว่าความแม่นยำที่สูงกว่าหมายถึงการแก้ไขตนเองที่ดีกว่า ระบบที่พึ่งพาการปรับปรุงตนเองอย่างอิสระต้องได้รับการทดสอบอย่างชัดเจนสำหรับการแก้ไขข้อผิดพลาด ไม่ใช่แค่ประสิทธิภาพสุดท้ายเท่านั้น ประการสอง โมเดลที่แตกต่างกันอาจต้องการกลยุทธ์การแทรกแซงที่แตกต่างกัน โมเดลที่อ่อนแอกว่าอาจได้รับประโยชน์จากการยืนยันและทำซ้ำที่ง่ายๆ โมเดลที่แข็งแกร่งกว่าอาจต้องการการให้คำแนะนำจากภายนอก การยืนยันที่มีโครงสร้าง หรือการตรวจสอบโดยใช้เครื่องมือเพื่อเอาชนะข้อผิดพลาดเชิงตรรกะที่ลึก ประการสาม ระบบการแก้ไขตนเองควรตระหนักถึงข้อผิดพลาด การทำความเข้าใจว่างานมีแนวโน้มที่จะเกิดข้อผิดพลาดตื้นหรือลึกสามารถแจ้งให้เราทราบได้ว่าการแก้ไขตนเองมีแนวโน้มที่จะทำงานหรือไม่ สุดท้ายนี้ มาตรฐานการประเมินควรแยกการตรวจจับ การระบุแหล่งที่มา และการแก้ไขออกจากกัน การปฏิบัติต่อพวกมันเป็นมาตรการเดียวซ่อนข้อบกพร่องที่สำคัญที่มีความสำคัญในการใช้งานจริง

สรุป

AI ที่ปรับปรุงตนเองขึ้นอยู่ไม่เพียงแต่การผลิตคำตอบที่ถูกต้องเท่านั้น แต่ยังขึ้นอยู่กับความสามารถในการตระหนัก วินิจฉัย และแก้ไขคำตอบที่ไม่ถูกต้อง ความขัดแย้งระหว่างความแม่นยำและการแก้ไขแสดงให้เห็นว่าโมเดลที่แข็งแกร่งกว่าไม่ได้ดีกว่าเสมอไปในงานนี้ เมื่อโมเดลมีความสามารถมากขึ้น ข้อผิดพลาดของพวกมันจะลึกซึ้งยิ่งขึ้น ยากต่อการตรวจจับ และทนทานต่อการแก้ไขตนเองมากขึ้น สิ่งนี้หมายความว่าการปรับปรุงขนาดโมเดลเพียงอย่างเดียวไม่เพียงพอ หากเราต้องการระบบ AI ที่สามารถเรียนรู้จากข้อผิดพลาดของตนเองได้อย่างแท้จริง การแก้ไขตนเองจะต้องได้รับการปฏิบัติเป็นความสามารถที่แยกออกมา วัดได้ฝึกฝน และได้รับการสนับสนุนอย่างชัดเจน