การต่อสู้ที่จะหยุด AI จากการโกงในการทดสอบ

ผลการวิจัยใหม่จากมหาวิทยาลัยจีนให้ข้อมูลเชิงลึกเกี่ยวกับเหตุใดโมเดลประมวลผลภาษาธรรมชาติแบบสร้างสรรค์ เช่น GPT-3 มีแนวโน้มที่จะ “โกง” เมื่อถูกถามคำถามที่ยาก โดยให้คำตอบที่อาจถูกต้องจากทางเทคนิค แต่ไม่มีความเข้าใจจริงๆ ว่าทำไมคำตอบถึงถูกต้อง และเหตุใดจึงแสดงความสามารถน้อยหรือไม่มีความสามารถในการอธิบายตรรกะเบื้องหลังคำตอบ “ง่าย” ของพวกเขา นักวิจัยยังเสนอวิธีการใหม่ๆ เพื่อให้ระบบ “เรียนหนัก” ระหว่างช่วงฝึกอบรม

ปัญหาคือสองประการ ประการแรก เราออกแบบระบบที่พยายามบรรลุผลลัพธ์อย่างรวดเร็วและใช้ทรัพยากรอย่างเหมาะสม แม้ว่าในกรณีของ GPT-3 ทรัพยากรอาจมากกว่าที่โครงการวิจัย NLP ทั่วไปสามารถจัดหาได้ แต่วัฒนธรรมการเพิ่มประสิทธิภาพผลลัพธ์นี้ยังคงครอบงำวิธีการ เนื่องจากได้กลายเป็นแบบแผนในวงการวิชาการ

ดังนั้น สถาปัตยกรรมการฝึกอบรมของเราจึงให้รางวัลแก่โมเดลที่บรรลุผลลัพธ์อย่างรวดเร็วและให้คำตอบที่ดูเหมาะสมต่อคำถาม แม้ว่าโมเดล NLP จะไม่สามารถอธิบายคำตอบหรือแสดงวิธีการได้ถึงข้อสรุปของมัน

การมีแนวโน้มที่จะโกงตั้งแต่เนิ่นๆ

สิ่งนี้เกิดขึ้นเพราะโมเดลเรียนรู้ “คำตอบทางลัด” ในช่วงต้นของการฝึกอบรมมากกว่าการเรียนรู้รูปแบบที่ซับซ้อนกว่าของการได้รับความรู้ เนื่องจากรูปแบบการเพิ่มประสิทธิภาพที่เพิ่มขึ้น thườngให้รางวัลโมเดลที่ตอบคำถาม “อย่างรวดเร็ว” และไม่มีการมองเห็นจริงๆ

เนื่องจากการเรียนรู้ทางลัดจะแสดงถึงความสำเร็จแรกๆ ในช่วงการฝึกอบรม การฝึกอบรมจะหันเหไปจากงานที่ยากขึ้นในการได้รับมุมมองเชิงอภิปรัชญาที่มีประโยชน์และสมบูรณ์แบบ ซึ่งอาจมีระดับความหมายและตรรกะที่ลึกซึ้งและน่าสนใจมากกว่า

การให้อาหาร AI คำตอบ “ง่าย”

ปัญหาประการที่สองคือ แม้ว่าโครงการวิจัยล่าสุดจะศึกษาการมีแนวโน้มของ AI ที่จะ “โกง” ในลักษณะนี้ และได้ระบุปรากฏการณ์ของ “ทางลัด” แต่ก็ยังไม่มีการพยายามจัดประเภท “ทางลัด” ในชุดข้อมูลที่มีส่วนช่วย ซึ่งเป็นขั้นตอนแรกที่มีเหตุผลในการแก้ไขสิ่งที่อาจเป็นข้อบกพร่องทางสถาปัตยกรรมพื้นฐานในระบบการอ่านข้อมูลของเครื่อง (MRC)

เอกสารวิจัยใหม่ ใหม่ ซึ่งเป็นความร่วมมือระหว่างสถาบันเทคโนโลยีคอมพิวเตอร์ Wangxuan และห้องปฏิบัติการภาษาเชิงคำนวณ MOE Key ที่มหาวิทยาลัยปักกิ่ง ทดสอบโมเดลภาษาหลายรุ่นเทียบกับ ชุดข้อมูลที่มีการเพิ่มคำอธิบายใหม่ ซึ่งรวมถึงการจำแนกประเภทสำหรับ “คำตอบง่าย” และ “คำตอบยาก” สำหรับคำถามที่เป็นไปได้

แหล่งที่มา: https://arxiv.org/pdf/2106.01024.pdf

ชุดข้อมูลใช้การเขียนใหม่ (paraphrasing) เป็นเกณฑ์สำหรับคำตอบที่ซับซ้อนและลึกซึ้งกว่า เนื่องจากความเข้าใจเชิงความหมายเป็น必要ในการปฏิรูปความรู้ที่ได้รับ ในทางตรงกันข้าม คำตอบ “ทางลัด” สามารถใช้โทเค็น เช่น วันที่ และคำสำคัญที่ห่อหุ้มไว้ เพื่อสร้างคำตอบที่มีความถูกต้องตามข้อเท็จจริง แต่ไม่มีบริบทหรือการให้เหตุผล

ส่วนประกอบทางลัดของการเพิ่มคำอธิบายประกอบด้วยการผสมคำถาม (QWM) และการผสมอย่างง่าย (SpM) สำหรับ QWM โมเดลจะใช้เอนทิตีที่ได้รับจากข้อมูลข้อความที่ให้มาและละทิ้งบริบท สำหรับ SpM โมเดลจะระบุการซ้อนทับกันระหว่างประโยคคำตอบและคำถามที่ให้มาในชุดข้อมูลการฝึกอบรม

ข้อมูลทางลัดเกือบจะ “ไวรัส” ในอิทธิพลต่อชุดข้อมูล

นักวิจัยแย้งว่าชุดข้อมูลมักจะมีสัดส่วนสูงของคำถามทางลัด ซึ่งทำให้โมเดลที่ฝึกอบรมพึ่งพาเทคนิคทางลัด

โมเดลที่ใช้ในการทดลองคือ BiDAF และ BERT ของ Google -base นักวิจัยสังเกตเห็นว่าแม้จะฝึกอบรมกับชุดข้อมูลที่มีสัดส่วน “คำถามยาก” สูงกว่า โมเดลทั้งสองยังคงทำงานได้ดีกว่าในคำถามทางลัดมากกว่าคำถามที่เขียนใหม่และยากกว่า แม้ว่าจะมีตัวอย่างเพียงไม่กี่ตัวอย่างในชุดข้อมูลก็ตาม

สิ่งนี้นำเสนอ “ข้อมูลทางลัด” ในบริบทของ “ไวรัส” – ซึ่งไม่จำเป็นต้องมี “ข้อมูลทางลัด” มากนักในชุดข้อมูลเพื่อให้ได้รับการยอมรับและจัดลำดับความสำคัญในการฝึกอบรมภายใต้มาตรฐานและแนวปฏิบัติทั่วไปใน NLP

การ chứng minhการโกง

วิธีหนึ่งที่การวิจัยใช้ในการ chứng minhความอ่อนแอของคำตอบทางลัดคือการแทนที่คำที่เป็น “ทางลัด” ด้วยคำที่ผิดปกติ เมื่อใช้วิธีการทางลัด Logic ของคำตอบที่ “โกง” ไม่สามารถให้เหตุผลได้ แต่เมื่อคำตอบมาจากบริบทที่ลึกซึ้งและประเมินเชิงความหมายของข้อความที่มีส่วนช่วยกว้างขึ้น ระบบสามารถวิเคราะห์ข้อผิดพลาดและสร้างคำตอบที่ถูกต้องขึ้นมาใหม่ได้

การแทนที่ ‘Beyoncé’ (บุคคล) ด้วย ‘America’ (ที่ตั้ง) เพื่อแสดงว่าระบบมีตรรกะพื้นหลังสำหรับคำตอบหรือไม่

ทางลัดเนื่องจากแรงจูงใจทางเศรษฐกิจ

เกี่ยวกับเหตุผลทางสถาปัตยกรรมบางประการที่ทำให้ทางลัดได้รับการจัดลำดับความสำคัญในกระบวนการฝึกอบรม NLP ผู้เขียนกล่าวว่า ‘โมเดล MRC อาจเรียนรู้เทคนิคทางลัด เช่น QWM ได้ด้วยทรัพยากรการคำนวณที่น้อยกว่าความท้าทายในการทำความเข้าใจ เช่น การระบุการเขียนใหม่’

สิ่งนี้อาจเป็นผลที่ไม่ได้ตั้งใจมาจากปรัชญาการเพิ่มประสิทธิภาพและการอนุรักษ์ทรัพยากรทั่วไปในแนวทางการอ่านข้อมูลของเครื่อง และแรงกดดันในการได้รับผลลัพธ์ด้วยทรัพยากรที่จำกัดในกรอบเวลาแคบ

นักวิจัยยังชี้ให้เห็นว่า:

‘[เนื่องจาก] เทคนิคทางลัดสามารถใช้เพื่อตอบคำถามส่วนใหญ่ในชุดฝึกอบรมได้อย่างถูกต้อง คำถามที่ไม่ได้รับการแก้ไขที่เหลืออยู่อาจไม่กระตุ้นให้โมเดลสำรวจวิธีแก้ปัญหาที่ซับซ้อนซึ่งต้องใช้ทักษะที่ท้าทาย’

หากผลการวิจัยของเอกสารนี้ได้รับการยืนยันต่อไป ดูเหมือนว่าด้านการประมวลผลข้อมูลที่กำลังเติบโตอย่างรวดเร็วอาจต้องคำนึงถึง “คู่มือที่ซ่อนอยู่” ในข้อมูลเป็นปัญหาที่ต้องแก้ไขในระยะยาว หรือแก้ไขสถาปัตยกรรม NLP เพื่อจัดลำดับความสำคัญของกระบวนการกินข้อมูลที่ท้าทายมากขึ้น g skills.’ หากผลการวิจัยของเอกสารนี้ได้รับการยืนยันต่อไป ดูเหมือนว่าด้านการประมวลผลข้อมูลที่กำลังเติบโตอย่างรวดเร็วอาจต้องคำนึงถึง “คู่มือที่ซ่อนอยู่” ในข้อมูลเป็นปัญหาที่ต้องแก้ไขในระยะยาว หรือแก้ไขสถาปัตยกรรม NLP เพื่อจัดลำดับความสำคัญของกระบวนการกินข้อมูลที่ท้าทายมากขึ้น