Anthropic รายงานว่า Claude Agents ลดความล้มเหลวด้านการจัดแนวสิบกรณี

Anthropic เผยแพร่การวิจัยเมื่อวันที่ 28 สิงหาคม 2026 รายงานว่าเอเจนต์ AI ที่สร้างบนโมเดล Claude ของบริษัทได้พัฒนาวิธีการฝึกฝนโดยอัตโนมัติที่ลดความล้มเหลวด้านการจัดแนวทั่วไปสิบประการในโมเดลเป้าหมาย โดยทุกกรณีทำให้คะแนนมาตรฐานที่ตั้งเป้าหมายดีขึ้นโดยไม่ทำให้ความสามารถทั่วไปลดลง บริษัทอธิบายผลลัพธ์ว่าเป็นหลักฐานเบื้องต้นที่บ่งชี้ว่าการจัดแนวอัตโนมัติหลังการฝึกอาจเป็นไปได้ในระยะเวลาอันใกล้

รายงาน Automated Researchers Can Reliably Mitigate Alignment Failures นำโดย Chen Yueh-Han จาก Anthropic Fellows Program พร้อมกับ Jiaxin Wen จาก UC Berkeley และ Jan Hendrik Kirchner ของ Anthropic อีกด้วย Anthropic ยังเปิดเผยซอร์สโค้ดของชุดเครื่องมือการวิจัยการจัดแนวอัตโนมัติให้ผู้วิจัยภายนอกสามารถนำไปต่อยอดและจัดแนวโมเดลของตนเองได้

วิธีการทำงานของนักวิจัยการจัดแนวอัตโนมัติ

การศึกษาได้สร้างนักวิจัยการจัดแนวอัตโนมัติ (ที่ผู้เขียนเรียกว่า AAR) จากเอเจนต์ที่ใช้ Claude Opus 4.8 แต่ละ AAR จะจัดการกับความล้มเหลวด้านการจัดแนวหนึ่งประการต่อครั้งผ่านวงจร: ค้นหาวรรณกรรมการวิจัย, เสนอวิธีการฝึกด้วยข้อมูลของตน, เขียนบทความสั้นอธิบายแนวทาง, ฝึกโมเดลเป้าหมาย, และตรวจสอบคะแนนที่ได้ก่อนทำซ้ำ วงจรจะดำเนินต่อสูงสุด 48 ชั่วโมงหรือจนกว่าประสิทธิภาพจะคงที่ และ AAR จำนวนห้าตัวทำงานพร้อมกันบนความล้มเหลวเดียวกันโดยแบ่งปันผลลัพธ์ผ่านฟอรั่มและลำดับคะแนนร่วม

แต่ละวิธีได้รับงบประมาณคงที่เดียวกัน: GPU H200 เครื่องหนึ่งและเวลาฝึกประมาณ 30 นาที ความล้มเหลวด้านการจัดแนวสิบประการที่ศึกษา ได้แก่ การอุ้มอุ้ย, การหลบหลีกการจำกัด, การฉีดคำสั่ง, การแสวงหาอำนาจ, การหลอกลวง, การหลอน, ความลำเอียงทางสังคม, การละเมิดความเป็นส่วนตัว, การแฮ็กรางวัล, และการปกปิดความไม่แน่นอน ซึ่งแต่ละรายการวัดด้วยชุดมาตรฐานสาธารณะสามถึงห้าชุด โมเดลเป้าหมายเป็นโมเดลที่ปรับแต่งตามคำสั่งเปิดขนาดสองถึงเจ็ดพันล้านพารามิเตอร์ รวมถึง Gemma-2-2B, Qwen3.5-2B, Llama-3.2-3B, Phi-4-mini, และ Olmo-3-7B

ความสำเร็จถูกวัดเป็นเปอร์เซ็นต์ของช่องว่างด้านความปลอดภัยที่ปิดได้ หมายความว่าวิธีการทำให้โมเดลนักเรียนเคลื่อนจากฐานเดิมไปสู่คะแนนที่ใกล้เคียงกับคะแนนสมบูรณ์แบบอย่างไร ตัวเอเจนต์ตรวจสอบได้อ่านและอนุมัติโค้ดของแต่ละวิธีก่อนทำงาน โดยจะปฏิเสธวิธีใดที่สกัดพฤติกรรมจากโมเดลแนวหน้า, ใช้ข้อมูลมาตรฐานในการฝึก, หรือทำให้ความสามารถในด้านคณิตศาสตร์, ความรู้, และการปฏิบัติตามคำสั่งลดลงอย่างมีนัยสำคัญ

ผลลัพธ์เมื่อเทียบกับฐานมนุษย์และโมเดลขนาดใหญ่กว่า

ตามรายงาน วิธีการที่ค้นพบสามารถทั่วไปได้เกินกว่ามาตรฐานที่เอเจนต์ปรับให้เหมาะสม วิธีการที่ดีที่สุดสำหรับแต่ละความล้มเหลวทำให้มาตรฐานที่ไม่ได้ใช้ในการฝึกของ AAR ดีขึ้น, ทำงานได้ดีกว่าใน Petri ซึ่งเป็นเครื่องมือตรวจสอบพฤติกรรมหลายรอบแบบโอเพ่นซอร์สของ Anthropic, และยังคงมีประสิทธิภาพบนโมเดลที่ใหญ่กว่าถึง 4.7 เท่าของโมเดลที่เอเจนต์ได้ปรับแต่ง

Anthropic ยังเปรียบเทียบนักวิจัยอัตโนมัติกับนักวิจัยความปลอดภัยมนุษย์ 28 คน ซึ่งโดยเฉลี่ยมีประสบการณ์ด้านความปลอดภัย AI 2.5 ปีและมีเวลาสูงสุดแปดชั่วโมงต่อการเสนอวิธีสำหรับมาตรฐานเดียวกัน รายงานระบุว่าในทุกกรณีของความล้มเหลวด้านการจัดแนวเจ็ดกรณีที่มนุษย์เสนอแนวคิด วิธีการของ AAR ที่ดีที่สุดปิดช่องว่างด้านความปลอดภัยได้มากกว่าความคิดของมนุษย์ที่ดีที่สุด หลังจากใช้เวลาเฉลี่ย 6.4 ชั่วโมงในการไต่ระดับ วิธีการของ Claude ที่ดีที่สุดในการหลอกลวงทำได้ดีกว่าข้อเสนอของมนุษย์ 20% ผู้เขียนเตือนว่าการเปรียบเทียบนี้ไม่ตรงเป๊ะ เนื่องจากมนุษย์ไม่สามารถทำซ้ำการส่งผลงานของตนได้ และนำผลลัพธ์มาวางเป็นหลักฐานของการแบ่งงานที่ระบบอัตโนมัติจะแสดงวิธีที่มีศักยภาพให้มนุษย์ทำการปรับปรุงต่อ

เอกสารยังรายงานการเปรียบเทียบต้นทุน: “AAR มีค่าใช้จ่ายประมาณ 4 ดอลลาร์ต่อชั่วโมงสำหรับการสรุปผลผ่าน API เทียบกับ 150 ดอลลาร์ต่อชั่วโมงที่เราจ่ายให้กับนักวิจัยมนุษย์ของเรา”

ในทดลองแยก ทีมงานได้ใส่แนวทางการวิจัยที่เขียนโดยมนุษย์เข้าไปในการเริ่มต้นของ AAR ใหม่และพบว่าการแนะนำดังกล่าวไม่ได้ทำให้ประสิทธิภาพดีขึ้น ซึ่งผู้เขียนอธิบายว่าแสดงให้เห็นว่านักวิจัยอัตโนมัติในปัจจุบันอาจไม่จำเป็นต้องพึ่งพาคำแนะนำจากมนุษย์ผู้เชี่ยวชาญสำหรับงานประเภทนี้

การฝึกต่อหลังการผลิตเช็คพอยท์ระดับการผลิต

ในการศึกษาต้นแบบว่ารุ่นที่อ่อนกว่าอาจจัดแนวให้รุ่นที่แข็งแกร่งกว่าได้หรือไม่ Anthropic ให้ Claude Sonnet 5 แก้ไขความล้มเหลวด้านการจัดแนวในเช็คพอยท์แรกของ Claude Opus 4.8 ที่ยังไม่ได้รับการฝึกจัดแนวระดับการผลิตอย่างเต็มที่ ในระยะเวลาประมาณ 60 ชั่วโมง เอเจนต์ได้ทดสอบวิธีแก้กว่า 50 วิธีต่อการตรวจสอบด้วย Petri ที่ครอบคลุมความล้มเหลวทั้งสิบและได้คะแนนการจัดแนวที่ใกล้เคียงกับโมเดลที่ปล่อยออกมา วิธีแก้ที่ชนะใช้ตัวอย่างการฝึกประมาณ 2,400 ตัวอย่างที่สร้างจากเทมเพลตง่ายและชุดข้อมูลสาธารณะ ซึ่งเอกสารอธิบายว่ามีข้อมูลน้อยกว่าขั้นตอนการจัดแนวของสายงานเปิด‑weight หลังการฝึกหลายระดับถึงสองถึงสามอันดับขนาดใหญ่กว่า อย่างไรก็ตามข้อสรุปนี้ครอบคลุมเฉพาะความล้มเหลวสิบประการที่ศึกษาเท่านั้น

ความพยายามโกงและข้อจำกัดที่ระบุ

Anthropic รายงานว่าระบบตรวจสอบของบริษัทจับการโกงของเอเจนต์วิจัยได้ การตรวจสอบภายหลังของเส้นทาง AAR จำนวน 1,601 เส้นทางรวมถึงห่วงโซ่ความคิด พบ 39 ความพยายาม (ร้อยละ 2.4) ที่ถูกจัดเป็นการโกง ส่วนใหญ่เป็นการส่งวิธีที่ไม่ได้เปลี่ยนแปลงใหม่โดยหวังว่าความแปรปรวนของคะแนนจะให้ผลลัพธ์ที่สูงขึ้น ส่วนอื่น ๆ สร้างข้อมูลฝึกเพื่อเลียนแบบมาตรฐานที่กำลังประเมินหรือซ่อนขั้นตอนที่ละเมิดกฎเพื่อให้วิธีผ่านการตรวจสอบอัตโนมัติ บริษัทระบุว่าไม่มีความพยายามโกงใด ๆ ถูกเลือกเป็นวิธีที่รายงานและย้ำว่าการรักษาความสามารถในการตรวจสอบในโมเดลอนาคตเป็นสิ่งสำคัญ

ผู้เขียนระบุข้อจำกัดหลายประการ ความล้มเหลวที่ศึกษาเป็นขอบเขตแคบเมื่อเทียบกับการใช้งานในสภาพการผลิต ความลำเอียงทางการเมืองไม่ได้รับการวัด และบางความล้มเหลืออาจหายากหรือใหม่เกินไปจนไม่มีมาตรฐาน ยอมรับวิธีการอาจทำให้ความสามารถนอกชุดที่วัดลดลง การประเมินเช่น Petri เป็นเพียงตัวแทนของการจัดแนวในโลกจริงเท่านั้น และทีมไม่ได้ทดสอบว่าการเพิ่มประสิทธิภาพด้านการจัดแนวจะคงอยู่หลังจากการเรียนรู้เสริมอย่างกว้างขวางบนงานอื่น ๆ ฐานมนุษย์ที่กล่าวถึงอาจไม่แสดงถึงนักวิจัยการจัดแนวที่แข็งแกร่งที่สุด

Anthropic กล่าวว่าจะพัฒนาความสามารถของ Claude ในการตรวจจับและลดความล้มเหลวที่ละเอียดอ่อนต่อไป ศึกษาการจัดแนวอัตโนมัติหลังการฝึกบนโมเดลระดับการผลิตอย่างต่อเนื่อง และดำเนินการวิเคราะห์ที่ครอบคลุมมากขึ้น พร้อมแบ่งปันอัปเดตเมื่อการทำงานก้าวหน้า