เมื่อเอเจนต์ AI ตามฝูงชน: ความเสี่ยงที่ซ่อนอยู่ในความเห็นพ้องของหลายเอเจนต์

ห้องที่เต็มไปด้วยเอเจนต์ AI ที่เห็นด้วยกันอาจดูให้ความมั่นใจหนึ่งคนเสนอคำตอบ อีกคนตรวจสอบมัน และอีกหลายคนสนับสนุนข้อสรุป อย่างไรก็ตาม มีเอเจนต์กี่คนที่จริง ๆ ตรวจสอบหลักฐานเบื้องหลัง? หากแต่ละคนรับการตัดสินของเอเจนต์ก่อนหน้า การตัดสินใจเป็นเอกฉันท์อาจซ่อนความผิดพลาดเพียงหนึ่งข้อไว้

การวิจัยใหม่ที่ได้รับการเน้นโดย University of Chicago Harris School of Public Policy ตรวจสอบปัญหานั้น ในการทดลองที่ตั้งใจให้ผลลบตามที่อธิบายในประกาศของพวกเขา เอเจนต์ภายหลังได้ตามข้อสรุปที่ผิดตั้งแต่แรกแม้ข้อมูลของตนเองจะชี้ไปยังคำตอบที่ถูก ประกาศนั้นยังเน้นว่าเหล่านี้เป็นผลการทดสอบความเครียดในระยะแรก ไม่ใช่หลักฐานว่าเอเจนต์อิสระทำเช่นนี้เป็นประจำ

สำหรับองค์กรที่สร้างกระบวนการทำงานหลายเอเจนต์ คำถามสำคัญคือวิธีแยกการตรวจสอบอย่างอิสระจากการสะท้อน ด้านล่างเราจะตรวจสอบการทดลอง เชื่อมโยงกับงานวิจัยการเรียนรู้ทางสังคมที่เป็นที่ยอมรับ และพัฒนาผลกระทบเชิงปฏิบัติเพื่อการออกแบบระบบ ข้อเสนอด้านวิศวกรรมและภาพประกอบเชิงตัวเลขเป็นการวิเคราะห์ของเรา ไม่ใช่ผลการทดลองเพิ่มเติม

สิ่งที่นักวิจัยทดสอบ

Andy Hall, Dan Thompson, Alexander Fouirnaies และ Sandy Handan-Nader ได้ตีพิมพ์ ความหลงลืมหลายเอเจนต์อันเหนือธรรมชาติและความบ้าคลั่งของฝูงชน เมื่อวันที่ 29 กันยายน 2026 เอเจนต์สรุปวิธีการทำงานของตัวประเมินงานจำลองจากสัญญาณการยอมรับหรือปฏิเสธส่วนตัวที่ให้ข้อมูลได้ 70% ของเวลา พวกเขาอ่านโพสต์บนบอร์ดก่อนหน้า โพสต์ข้อสรุปและรายงานความเชื่อแยกต่างหาก สภาวะความเครียดทำให้สัญญาณสี่แรกผิดพลาด

หากไม่มีการสื่อสาร สัญญาณอิสระภายหลังทำให้ข้อผิดพลาดเริ่มต้นเจือจางลง เมื่อมีบอร์ด การตัดสินใจที่ไม่ถูกต้องยังคงอยู่; เอเจนต์ยังรายงานหลักฐานของตนเองผิดพลาด การทดลองส่วนใหญ่ใช้ Claude Haiku 4.5 ผู้เขียนรายงานการทำซ้ำด้วย Sonnet 4.6, Opus 4.6 และ GPT-5 mini โดยอาจมีข้อยกเว้นสำหรับ Gemini 2.5 Flash

ในนโยบายการสื่อสารเจ็ดแบบและสถานการณ์เพิ่มเติม กฎที่รักษาผลการทดสอบส่วนตัวทำผลงานได้ดีที่สุด หนึ่งข้อกำหนดต้องการการรายงานที่แม่นยำและห้ามสร้างการทดสอบหรือการนับจำนวนขึ้นมาใหม่ เหตุผลหลังการทดลองกล่าวถึงคะแนนส่วนใหญ่ของบอร์ดมากกว่า 90% ของเวลา แต่ผู้เขียนเตือนว่าคำอธิบายเหล่านี้ไม่ได้ยืนยันกลไกภายใน

ความแตกต่างระหว่างฝูงชนและการสะท้อน

พื้นฐานทางปัญญามีอายุย้อนไปก่อน AI สร้างสรรค์ ใน บทความปี 1992 เกี่ยวกับการไหลของข้อมูล Sushil Bikhchandani, David Hirshleifer และ Ivo Welch อธิบายว่าผู้ตัดสินใจตามลำดับสามารถตามผู้บรรพบุรุษได้แม้ละเลยข้อมูลของตนเอง กรอบแนวคิดของพวกเขาช่วยอธิบายว่าทำไมการสอดคล้องกันจึงสามารถอยู่ร่วมกับความเชื่อร่วมที่เปราะบาง การทบทวนต่อมาที่ เกี่ยวกับการไหลของข้อมูลและการเรียนรู้ทางสังคม ซึ่งร่วมเขียนกับ Omer Tamuz สรุปงานวิจัยเชิงทฤษฎีและเชิงประจักษ์ที่ตามมา

พิจารณาการตรวจสอบซอฟต์แวร์เชิงสมมติ เอเจนต์ A แปลการทดสอบที่ล้มเหลวว่าเป็นหลักฐานว่าห้องสมุดการตรวจสอบสิทธิ์เสียหาย เอเจนต์ B อ่านรายงานของ A และแนะนำให้เปลี่ยนห้องสมุดนั้น เอเจนต์ C สรุปข้อความทั้งสองเป็นการยืนยันสองครั้งของข้อบกพร่องเดียวกัน ผู้ประสานงานจึงเห็นเอเจนต์สามคนเห็นพ้องกัน แม้ว่าโซ่ทั้งหมดจะอิงอยู่กับการตีความหนึ่งของการทดสอบหนึ่งครั้ง

การเพิ่มเอเจนต์ D ไม่ได้หมายความว่าจะให้ข้อมูลใหม่ หาก D เพียงอ่านสรุป กระบวนการทำงานก็สร้างโอกาสอีกครั้งในการทำซ้ำข้ออ้าง หน่วยการยืนยันที่เกี่ยวข้องคือการสังเกตอิสระ: การทำซ้ำแยกต่างหาก การทดสอบที่แตกต่าง หรือการตรวจสอบโดยตรงของความล้มเหลวที่สงสัย

ความแตกต่างนี้สำคัญแม้เมื่อส่วนประกอบทั้งหมดมีความสามารถและทำงานร่วมกัน การเห็นพ้องกันเป็นประโยชน์เฉพาะเมื่อพื้นฐานหลักฐานสนับสนุนมัน ระบบจึงควรบันทึกว่าเอเจนต์ใดทำการตรวจสอบ, เอเจนต์ใดเพียงแค่ตีความผลลัพธ์ของเอเจนต์อื่น, และเอเจนต์ใดทำซ้ำข้อสรุปโดยไม่ได้ตรวจสอบ

ทำไมความอิสระจึงเปลี่ยนแปลงการคำนวณ

การคำนวณอย่างง่ายแสดงให้เห็นถึงความสำคัญ สมมติว่าผู้ลงคะแนนสมมติห้าคนแต่ละคนตอบคำถามแบบสองค่าได้อย่างถูกต้องด้วยความน่าจะเป็น 0.7 และคำตอบของพวกเขาเป็นอิสระ ความน่าจะเป็นที่อย่างน้อยสามคนจะตอบถูกประมาณ 83.7% การรวมคะแนนของพวกเขาช่วยเพิ่มความแม่นยำจาก 70% ของผู้ลงคะแนนคนเดียว

ต่อไปสมมติว่าทั้งห้าคนคัดลอกคำตอบเดียวกัน ส่วนมากจะถูกต้องเฉพาะเมื่อคำตอบต้นฉบับนั้นถูกต้อง: 70% ของเวลา จำนวนผู้เข้าร่วมที่มองเห็นเพิ่มขึ้น แต่ปริมาณข้อมูลอิสระไม่ได้เพิ่ม นี่เป็นความน่าจะเป็นเชิงอธิบาย ไม่ใช่การวัดประสิทธิภาพจากการวิจัยใหม่

มีการคำนวณที่เป็นประโยชน์อีกหนึ่งอย่างสำหรับการตีความสภาวะความเครียด หากสัญญาณสี่ตัวมีโอกาสผิด 30% อย่างอิสระ ความน่าจะเป็นที่สัญญาณทั้งสี่จะผิดพร้อมกันคือ 0.3 ยกกำลังสี่ หรือ 0.81% ซึ่งอธิบายความน่าจะเป็นของลำดับเริ่มต้นเฉพาะภายใต้สมมติฐานเหล่านั้น ไม่ได้อธิบายความน่าจะเป็นที่ทีมเอเจนต์ที่ใช้งานจริงจะล้มเหลว

การประมาณการความล้มเหลวต้องอาศัยข้อมูลทั้งความถี่ที่สถานการณ์ยากเกิดขึ้นและพฤติกรรมของระบบเมื่อเกิดขึ้น การสับสนระหว่างปริมาณเหล่านี้อาจทำให้ผลลัพธ์ดูน่ากลัวหรือให้ความมั่นใจเกินกว่าที่หลักฐานสนับสนุน การทดสอบความเครียดสามารถเปิดเผยจุดอ่อนที่สำคัญได้โดยไม่ต้องวัดความถี่ของมันในงานประจำวัน

สร้างร่องรอยหลักฐานก่อนสร้างความเห็นพ้อง

วิธีการที่เป็นประโยชน์คือการแยกการสังเกตจากการตีความในพื้นที่ทำงานร่วมกัน สำหรับการสืบสวนการตรวจสอบสมมติ การสังเกตอาจประกอบด้วยรหัสประจำการทดสอบ, รุ่นของโค้ดที่ทดสอบ, ผลลัพธ์จริงและเวลาในการดำเนินการ ฟิลด์แยกต่างหากจะบันทึกคำอธิบายที่เสนอโดยเอเจนต์และระดับความไม่แน่นอนของมัน

โครงสร้างนี้ทำให้ผู้ประสานงานสามารถตั้งคำถามที่ชัดเจนได้ว่า: คำแนะนำนี้เพิ่มการสังเกตใหม่หรืออ้างอิงถึงหลักฐานที่นับแล้วแล้วหรือไม่? สรุปสามรายการที่อ้างอิงการทดสอบที่ล้มเหลวเดียวกันควรคงเหลือเป็นการทดสอบเดียวในบัญชีหลักฐาน การทำซ้ำอิสระครั้งที่สองควรปรากฏเป็นการตรวจสอบแยกต่างหาก

สำหรับการตัดสินใจที่มีค่าใช้จ่ายสูงหรือมีผลสำคัญ ทีมงานอาจเก็บการประเมินเบื้องต้นก่อนเปิดเผยผลสรุปของเอเจนต์ต่อกัน ผู้ตรวจสอบจะตรวจสอบวัสดุต้นฉบับ, ให้การตัดสินใจเบื้องต้นและจึงดูการสนทนากลุ่ม การเปลี่ยนใจยังคงเป็นไปได้ แต่ระบบสามารถบันทึกว่าหลักฐานใหม่ใดเป็นเหตุผลที่ทำให้เปลี่ยนแปลงนั้น

นี่เป็นข้อเสนอการออกแบบเพื่อประเมิน ไม่ใช่มาตรการป้องกันที่ได้รับการยืนยันจากการทดลองนี้ พวกมันเพิ่มต้นทุน: บันทึกที่มีโครงสร้างมากขึ้น, การเรียกใช้เครื่องมือเพิ่มเติมและอาจทำให้การประสานงานช้าลง คุณค่าของพวกมันควรประเมินเทียบกับการตัดสินใจที่พวกมันปกป้อง กระบวนการระดมสมองอาจยอมรับการสนทนาที่คล่องตัว แต่การสืบสวนเหตุการณ์การผลิตอาจต้องการร่องรอยหลักฐานที่เข้มงวดมากกว่า

กฎของพรอมต์และการควบคุมระยะเวลาการทำงานแก้ปัญหาที่แตกต่างกัน

การขอให้เอเจนต์เก็บหลักฐานเป็นสิ่งที่มีประโยชน์ แต่สถาปัตยกรรมการผลิตสามารถทำได้มากกว่าด้วยการเก็บผลลัพธ์ของเครื่องมือดั้งเดิมไว้เอง บริการการดำเนินการอาจบันทึกผลลัพธ์ลงในบันทึกที่เอเจนต์สามารถอ้างอิงได้แต่ไม่สามารถเขียนทับได้ ผู้อ่านจึงสามารถเปรียบเทียบการตีความกับผลลัพธ์ดิบได้

แม้บันทึกที่ไม่เปลี่ยนแปลงไม่ได้รับประกันว่าการทดสอบออกแบบมาอย่างดี, แหล่งข้อมูลเชื่อถือได้ หรือการตีความถูกต้อง อย่างไรก็ตาม มันทำให้ความแตกต่างสามารถตรวจสอบได้ ระบบสามารถแยกแยะการทดสอบที่บกพร่องจากรายงานที่อธิบายการทดสอบนั้นอย่างไม่ถูกต้อง

การให้สิทธิ์การอนุญาตควรเป็นการตัดสินใจแยกต่างหาก ข้อสรุปที่มั่นใจว่าระบบต้องการการซ่อมแซมไม่ได้ให้สิทธิ์ในการแก้ไข การเก็บสิทธิ์การดำเนินการแยกออกจากกระบวนการสร้างความเห็นพ้องกันป้องกันไม่ให้ข้อผิดพลาดเชิงอปิศีดกลายเป็นการกระทำเชิงปฏิบัติ ทีมเอเจนต์อาจผิดพลาดได้แต่ไม่ได้รับอนุญาตให้ทำการเปลี่ยนแปลงโดยไม่มีข้อจำกัด

ความหลากหลายของโมเดลควรได้รับการประเมินเช่นกัน ไม่ใช่สมมติว่าจะแก้ปัญหาได้โดยอัตโนมัติ โมเดลที่แตกต่างอาจให้การตีความที่หลากหลาย แต่การกำหนดชื่อหรือบทบาทที่แตกต่างให้กับเอเจนต์ไม่ได้ทำให้หลักฐานของพวกมันเป็นอิสระ กลุ่มที่หลากหลายซึ่งอ่านสรุปที่ผิดพลาดเดียวกันก็ยังคงมีคอขวดของหลักฐานเดียวกัน

สิ่งที่การประเมินที่เข้มข้นควรวัด

เอกสารที่เชื่อมโยงเป็นการเขียนวิจัยสาธารณะ ผู้อ่านควรหลีกเลี่ยงการถือว่าเป็นเกณฑ์มาตรฐานที่ครอบคลุมของผลิตภัณฑ์หลายเอเจนต์ที่ใช้งานจริง คุณค่าของมันอยู่ที่รูปแบบความล้มเหลวเฉพาะที่ทำให้สามารถทดสอบได้; ผลกระทบที่กว้างขึ้นยังต้องการหลักฐานเพิ่มเติม

การประเมินต่อเนื่องที่เป็นประโยชน์ควรเปลี่ยนลำดับของสัญญาณ, ความแม่นยำของหลักฐานส่วนตัว, จำนวนผู้เข้าร่วมและโครงสร้างการสื่อสาร ควรรวมลำดับปกติพร้อมกับลำดับที่ตั้งใจทำให้เข้าใจผิด, และรวมผลสรุปส่วนใหญ่ที่ถูกต้องพร้อมกับผลสรุปส่วนใหญ่ที่ผิด หากไม่เช่นนั้น นโยบายอาจดูเหมือนประสบความสำเร็จเพียงเพราะสอนเอเจนต์ให้สงสัยทุกความเห็นพ้องกัน

ความแม่นยำอย่างเดียวจะพลาดความแตกต่างสำคัญ ผู้ประเมินควรวัดว่ารายงานรักษาการสังเกตอย่างซื่อสัตย์หรือไม่, เอเจนต์สร้างหลักฐานสนับสนุนขึ้นมาเองบ่อยแค่ไหน, ส่วนน้อยที่ถูกต้องสามารถเปลี่ยนการตัดสินใจสุดท้ายได้หรือไม่, และผู้ประสานงานนับการอ้างอิงซ้ำเป็นการตรวจสอบแยกต่างหากหรือไม่ การใช้โทเค็นและความหน่วงเวลาควรอยู่ในเปรียบเทียบเดียวกัน: โพรโทคอลที่ปลอดภัยยิ่งขึ้นยังต้องมีต้นทุนที่ใช้งานได้จริง

เพื่อสำรวจกลไก นักวิจัยอาจทดลองเปลี่ยนการเข้าถึงการตัดสินใจก่อนหน้าโดยคงหลักฐานของงานคงที่ พวกเขาอาจเปรียบเทียบการประเมินเริ่มต้นอิสระกับการประเมินที่เกิดหลังจากอ่านบอร์ด การสุ่มลำดับการนำเสนอจะช่วยแยกผลของหลักฐานจากผลของลำดับหรือความโดดเด่น คำอธิบายที่สร้างขึ้นอาจชี้นำสมมติฐานได้ แต่ไม่ควรเป็นหลักฐานเดียวที่พิสูจน์ว่าทำไมโมเดลจึงเปลี่ยนคำตอบ

คำนิยามที่ดีกว่าสำหรับความน่าเชื่อถือของหลายเอเจนต์

ภาษาของการเป็นฝูงชนอาจทำให้เห็นภาพชัดเจน แต่ไม่ควรตีความว่าเป็นหลักฐานว่าโมเดลประสบแรงกดดันทางสังคมของมนุษย์หรือมีความเชื่อของมนุษย์ ความกังวลเชิงปฏิบัติคือสิ่งที่สังเกตได้: ข้อมูลเข้าสู่กระบวนการทำงาน, การตัดสินใจมีอิทธิพลต่อการตัดสินใจต่อไป, และคำตอบสุดท้ายอาจซ่อนแหล่งที่มาของการสนับสนุน

สำหรับผู้สร้าง ขั้นตอนต่อไปควรเป็นการแก้ไขที่พิสูจน์ได้ เมื่อเอเจนต์หนึ่งทำความผิดพลาดที่ดูสมเหตุสมผล อีกเอเจนต์หนึ่งสามารถระบุหลักฐานที่ขัดแย้งได้หรือไม่? ผู้ประสานงานสามารถรักษาความขัดแย้งนั้นไว้ได้นานพอที่จะตรวจสอบได้หรือไม่? การตัดสินใจขั้นสุดท้ายสามารถอธิบายได้ว่าการตรวจสอบอิสระใดบ้างที่แก้ไขปัญหาได้?

ทีมที่ใหญ่ขึ้นจะได้รับความไว้วางใจเมื่อเพิ่มข้อมูลที่ตรวจสอบได้และปรับปรุงการตัดสินใจภายใต้ความท้าทาย การนับจำนวนเอเจนต์ การนับการรับรองและการสร้างการสนทนาที่ยาวขึ้นไม่ใช่การทดแทนที่เพียงพอ ระบบหลายเอเจนต์ที่มีประโยชน์ที่สุดคือระบบที่หลักฐานยังคงสามารถตรวจสอบได้แม้ผู้เข้าร่วมจะเห็นด้วยกัน