ทำไมข้อความที่สร้างด้วย AI จึงเข้าใจยากกว่าที่คุณคิด

โมเดล AI อาจกำลังเข้าใจยากขึ้น เพราะการฝึกโมเดลให้รางวัลกับการแก้ปัญหาอย่างมีประสิทธิภาพมากขึ้นเรื่อยๆ มากกว่าการอธิบายให้มนุษย์เข้าใจอย่างชัดเจน

ประโยคข้างต้นที่ไม่ได้ผ่านการแก้ไขเขียนขึ้นโดย ChatGPT เพื่อตอบคำขอให้สรุปบทความวิทยาศาสตร์เป็นประโยคเดียวในรูปแบบ ELI5 และมีลักษณะการใช้ภาษาที่บิดเบือนอยู่หลายประการตามที่อธิบายไว้ในงานศึกษาใหม่ชิ้นนั้น* งานวิจัยใหม่นี้สรุปว่าปัญหาดังกล่าวส่งผลต่อโมเดลแนวหน้าทั้งหมด รวมถึงโมเดลที่ใกล้เคียงระดับแนวหน้า และโมเดลแบบเปิดน้ำหนักบางรุ่นที่นำมาทดสอบด้วย

ตัวอย่างเช่น ช่วงต้นของข้อความ «การฝึกโมเดลให้รางวัลกับการแก้ปัญหาอย่างมีประสิทธิภาพมากขึ้นเรื่อยๆ» แสดงให้เห็นแนวคิดของบทความที่ว่า บางครั้งโมเดล AI กำหนดการกระทำของมนุษย์ให้แก่สิ่งไม่มีชีวิต (เพราะในตัวอย่างข้างต้นกล่าวถึง «การฝึก» ว่าเป็นสิ่งที่ให้รางวัลแก่บางสิ่งอย่างแข็งขัน)

ลักษณะนี้อาจทำให้การทำความเข้าใจวลีอย่างรวดเร็วทำได้ยากขึ้น เพราะเราต้องรับรู้ในใจเสียก่อนว่าการกำหนดการกระทำนั้นเป็นวิธีการยกตัวอย่าง ไม่ใช่ข้อความที่ควรตีความตามตัวอักษร ซึ่งทำได้ง่ายกว่ามาก

ส่วนท้ายของข้อความ «ให้รางวัลกับการแก้ปัญหาอย่างมีประสิทธิภาพมากขึ้นเรื่อยๆ» ยังบีบอัดแนวคิดหลายอย่างไว้ด้วยกัน ทำให้ผู้อ่านต้องหาคำตอบเองว่าอะไรคือสิ่งที่ได้รับรางวัล อะไรคือสิ่งที่กำลังได้รับการแก้ไข และอะไรที่กำลังมีประสิทธิภาพมากขึ้น

บทความระบุไว้^†ว่า:

«[Readers]ใช้ความมีชีวิตเป็นเบาะแสระหว่างการวิเคราะห์ประโยค และหากไม่มีบริบทเพิ่มเติม ความไม่สอดคล้องกันอาจกระตุ้นให้เกิดการตอบสนองแบบ P600^†† ซึ่งเกี่ยวข้องกับการวิเคราะห์ใหม่»

«อย่างไรก็ตาม การปรับถ้อยคำของประโยคเหล่านี้เพื่อหลีกเลี่ยงประธานที่เป็นสิ่งไม่มีชีวิตอาจทำให้ประโยคยาวขึ้น ตัวอย่างเช่น คำว่า “กัด” ใช้แทน “ทำให้เกิดปัญหา”

«เราคาดการณ์ว่า ในระหว่างการฝึก โมเดลอาจปรับตัวจนใช้โครงสร้างเช่นนี้เป็นวิธีสื่อความหมายที่มีประสิทธิภาพ แม้จะไม่ใช่รูปแบบมาตรฐาน และหากไม่ใช้วิธีนี้ก็ต้องใช้โทเค็นมากขึ้น»

อะไรนะ?

ประเด็นหลักของบทความคือ โมเดล AI สมัยใหม่อย่าง ChatGPT, Claude และ Gemini ได้รับการปรับให้เหมาะกับการแก้ปัญหาหลายประเภท มากกว่าการสื่อสารโดยเฉพาะ จึงมักส่งภาษาออกมาในรูปแบบที่บีบอัดข้อมูลไว้อย่างมากและต้องถอดความหมาย

เรื่องนี้ทำให้ฉันประหลาดใจ เพราะฉันพยายามโน้มน้าว ChatGPT และโมเดลอื่นๆ อยู่เสมอให้ใช้คำให้น้อยลงและกระชับยิ่งขึ้น ซึ่งเป็นปัญหาที่มีการระบุและหาทางแก้ไขไว้ในงานวิชาการ

ในทางกลับกัน บทความนำเสนอความเยิ่นเย้อว่าเป็นเสมือนระเบิดไฟล์ ZIPที่ทำให้เข้าใจได้ยาก แม้แต่ในประโยคที่ไม่ได้ยาวมาก ดังนั้น เมื่อนำปัญหาทั้งสองด้านมาพิจารณาร่วมกัน ได้แก่ ความยาวของคำตอบเริ่มต้นที่มากเกินไป กับข้อสังเกตของบทความเรื่องการบีบอัดข้อมูลที่มากเกินไป เราจึงอาจจินตนาการได้ว่ารูปแบบเฉพาะของคำตอบเริ่มต้นจาก AI ระดับแนวหน้านั้นแตกต่างอย่างชัดเจน (และสันนิษฐานได้ว่ารูปแบบที่ค่อนข้างสั้นนี้เป็นหนึ่งในปัจจัยที่ใช้ในเครื่องมือตรวจจับข้อความที่สร้างโดย AI แม้บทความจะไม่ได้กล่าวถึงเรื่องนี้ก็ตาม)

ผู้เขียนยังศึกษาถึงกลุ่มคำนามที่ซ้อนต่อกัน โดยยกวลีที่มีปัญหาอย่างทีมช่วยสุนัขกัด^†เป็นตัวอย่าง:

«ในภาษาอังกฤษ คำนามสามารถขยายคำนามอื่นในลักษณะเดียวกับคำคุณศัพท์ได้อย่างอิสระ เช่น ในวลี ร้านกาแฟ คำว่า กาแฟขยายความคำว่า ร้านทั้งที่โดยทั่วไปคำว่า กาแฟ มักทำหน้าที่เป็นคำนาม ลักษณะนี้ทำให้สามารถนำคำนามหลายคำมาต่อกันเป็นคำประสมที่สื่อความหมายเฉพาะเจาะจงได้อย่างละเอียด

อย่างไรก็ตาม การเรียงคำนามซ้อนกันเช่นนี้อาจทำให้เกิดความกำกวมในการแบ่งวลี ดังเช่นพาดหัวข่าว ทีมช่วยเหยื่อสุนัขกัด และทำให้อ่านสะดุด»

ดังนั้น หาก LLM ใช้ถ้อยคำยืดยาวผ่านการบีบอัดข้อมูล ก็เท่ากับว่าพวกมันกำลังยืดยาวเป็นสองเท่าด้วยการสร้างข้อความที่ถูกบีบอัดในปริมาณมากเกินไปเพื่อตอบคำถามหรือไม่? นั่นหมายความว่า นอกจากจะมีข้อความจำนวนมากให้ต้องอ่านเพื่อตอบคำถามแล้ว ตัวข้อความเองก็อาจมีความหมาย «โดยนัย» อยู่มาก ซึ่งต้องถอดความด้วย

บทความปี 2023เสนอว่า LLM อาจใช้ถ้อยคำยืดยาวเกินจำเป็น เพราะมีการใช้ผู้ประเมินที่เป็น AI ระหว่างการฝึก เนื่องจากผู้ประเมินเหล่านี้มักให้คะแนนคำตอบที่ยาวกว่า แม้ในการทดสอบของงานศึกษานั้น มนุษย์จะชอบคำตอบที่สั้นกว่าก็ตาม

ผู้เขียนงานวิจัยใหม่นี้ระบุว่า (ดูคำอ้างอิงก่อนหน้า) แนวโน้มการบีบอัดข้อมูลบางส่วนของโมเดลระดับแนวหน้าเกิดจากลักษณะของสถาปัตยกรรมที่มุ่งประหยัดโทเค็น ซึ่งเป็นมุมมองที่ใจกว้างมากในยุคนี้

มาดูวิธีการ ข้อมูล และการทดสอบที่ผู้เขียนใช้ในการศึกษานี้กัน

ข้อมูลและวิธีการศึกษา

มีการตรวจสอบความคาดเดายากของการจับคู่คำที่ไม่ค่อยพบ โดยวัดจากชุดคำ n คำ หรือชุดลำดับคำ และพบว่าการจับคู่คำที่พบได้น้อยสัมพันธ์กับการอ่านที่ยากขึ้น

ระยะห่างระหว่างคำที่สัมพันธ์กันทางไวยากรณ์ (ระยะห่างระหว่างคำที่เชื่อมโยงกันทางไวยากรณ์) ก็ได้รับการวัดด้วยเช่นกัน เนื่องจากระยะห่างที่มากขึ้นทำให้ต้องใช้ความจำขณะทำงานมากขึ้น โดยเฉพาะเมื่อมีคำหลายคำคั่นระหว่างประธานกับกริยาของประธาน

มีการตรวจสอบอนุประโยคสัมพันธการกที่ทำหน้าที่เป็นกรรม (โครงสร้างอย่าง ‘บ้านที่ผู้รับเหมาสร้าง’) โดยเฉพาะกรณีที่ละคำซึ่งเลือกใส่หรือไม่ใส่ก็ได้ เช่น ‘ที่’ ใน ‘บ้านที่ผู้รับเหมาสร้าง’

นอกจากนี้ ยังมีการศึกษากรณีคำนามหลายคำเรียงซ้อนกันดังที่กล่าวไปแล้ว (คำนามตั้งแต่สามคำขึ้นไปเชื่อมต่อกัน เช่น ‘เครื่องสร้างเพลงประกอบภาพยนตร์สยองขวัญ’) เนื่องจากความสัมพันธ์ระหว่างคำแต่ละคำอาจกำกวมได้

มีการตรวจสอบคำกริยาที่สร้างจากคำนาม (การใช้คำนามเป็นคำกริยา เช่น ‘ใช้ส้อมจิ้มมัน’ แทนที่จะพูดว่า ‘วางมันลงบนส้อม’) ควบคู่ไปกับการศึกษาประธานที่ไม่มีชีวิตซึ่งใช้คู่กับกริยาที่มักใช้กับสิ่งมีชีวิต (ตามที่กล่าวไปก่อนหน้านี้) โครงสร้างทั้งสองแบบช่วยถ่ายทอดความหมายให้กระชับลงได้โดยใช้คำจำนวนน้อยลง แต่ผู้อ่านอาจต้องตีความเพิ่มเติม

โมเดลที่นำมาทดสอบ

นักวิจัยรวบรวมบทสนทนาที่สร้างโดย AI จาก 14 โมเดล ได้แก่ Kimi K2.5; GLM 5; Claude Sonnet 5, Opus 5, Opus 5.5 และ Fable 5; GPT-5.6 Luna, Terra และ Sol; Olmo Base, Instruct และ Think; และ Llama Base and Instruct

การทดสอบประกอบด้วยโจทย์เริ่มต้น 10 ข้อสำหรับการสนทนาทั่วไป และ 5 ข้อสำหรับการเขียนโค้ด โดยแต่ละงานกำหนดให้โมเดลทำสำเนาที่เก็บโค้ดสาธารณะจริงบน GitHub ค้นหาจุดบกพร่อง และแก้ไขในสภาพแวดล้อมแซนด์บ็อกซ์

การสนทนาจำกัดไว้ที่ 12 รอบโต้ตอบ ส่วนการเขียนโค้ดจำกัดไว้ที่ 11 รอบ ก่อนจะส่งข้อความปิดท้ายที่กำหนดไว้ตายตัว ในการทดสอบแยกต่างหาก มีการขอให้แต่ละโมเดลเขียนเรียงความ 7 เรื่องตามโจทย์จากชุดข้อมูล PERSUADE 2.0 dataset

เพื่อใช้เปรียบเทียบ นักวิจัยนำข้อความที่มนุษย์เขียนมาจากแหล่งข้อมูลที่เลือกให้ใกล้เคียงกับผลลัพธ์จาก AI ทั้งสามประเภทมากที่สุด โดยใช้ OpenSubtitles (คลังคำบรรยายภาพยนตร์และโทรทัศน์ ซึ่งไม่เกี่ยวข้องกับแพลตฟอร์มซับไตเติลแบบโอเพนซอร์ส) สำหรับการสนทนาทั่วไป ใช้ StackExchange (เครือข่ายฟอรัมถามตอบออนไลน์) สำหรับการพูดคุยเรื่องการเขียนโค้ด และใช้เรียงความของนักเรียนจากชุดข้อมูล PERSUADE 2.0 ที่กล่าวถึงข้างต้นสำหรับงานเขียน นอกจากนี้ยังใช้ Wikipedia เป็นแหล่งข้อมูลเปรียบเทียบเพิ่มเติมด้วย

เมื่อมีข้อมูลจากมนุษย์ที่เหมาะสม นักวิจัยจะวัดคุณลักษณะทางภาษาชุดเดียวกันในข้อความที่มนุษย์เขียนและข้อความที่ AI สร้างขึ้น โดยใช้คลังข้อมูลอ้างอิงเหล่านี้ประเมินความถี่ของการใช้คำร่วมกันด้วย

มีการแปลไปกลับจากภาษาอังกฤษเป็นภาษาญี่ปุ่นและกลับเป็นภาษาอังกฤษโดยใช้โมเดล NLLB-200 เพื่อแยกความชอบด้านรูปแบบการเขียนออกจากข้อจำเป็นทางภาษา โดยความหมายส่วนใหญ่ยังคงเดิม แม้โครงสร้างประโยคจะเปลี่ยนไป จึงสามารถระบุถ้อยคำที่ซับซ้อนเกินความจำเป็นได้

ผลการทดลอง

การทดลองที่ 1

ดังที่แสดงด้านล่าง พบโครงสร้างที่เข้าใจยากหลายแบบในข้อความต้นฉบับที่ AI สร้างขึ้นบ่อยกว่า โดยเฉพาะในกลุ่มโมเดลแนวหน้ารุ่นใหม่ นักวิจัยตีความว่านี่เป็นหลักฐานที่บ่งชี้ว่าโมเดลมีแนวโน้มเลือกใช้ถ้อยคำที่ซับซ้อนเกินความจำเป็น:

เปรียบเทียบข้อความต้นฉบับที่ AI สร้างขึ้นกับฉบับที่แปลเป็นภาษาญี่ปุ่นแล้วแปลกลับเป็นภาษาอังกฤษ จุดสีเขียวแสดงรูปแบบภาษาที่พบในต้นฉบับบ่อยกว่า ส่วนจุดสีชมพูแสดงรูปแบบที่พบหลังการแปลบ่อยกว่า โดยทั่วไป ความแตกต่างในโมเดล GPT และ Claude มีมากกว่า แหล่งที่มา

มีการเปรียบเทียบคุณลักษณะทางภาษาทั้ง 6 ด้านในโมเดล AI 14 โมเดล ภายใต้บริบท 3 แบบ ได้แก่ การสนทนา การเขียนโค้ด และการเขียนเรียงความ โดยทดสอบ 12 โมเดลในการสนทนา 9 โมเดลในการเขียนโค้ด และครบทั้ง 14 โมเดลในการเขียนเรียงความ:

เปรียบเทียบคุณลักษณะทางภาษา 6 ด้านในโมเดล AI สำหรับการสนทนา การเขียนโค้ด และการเขียนเรียงความ สัญลักษณ์รูปเพชรแต่ละอันแสดงผลรวมของโมเดลหนึ่งโมเดล ส่วนแถบแนวนอนแสดงช่วงความเชื่อมั่น 95% เส้นประแนวตั้งแสดงค่าฐานจากข้อความที่มนุษย์เขียน ได้แก่ OpenSubtitles (การสนทนา), StackExchange (การเขียนโค้ด) และเรียงความของนักเรียนจาก PERSUADE 2.0 (การเขียนเรียงความ) เส้นจุดแสดงข้อมูลเปรียบเทียบจาก Wikipedia โดยทั่วไป ค่าที่สูงขึ้นหมายถึงการใช้โครงสร้างที่วัดบ่อยขึ้น หรือมีความซับซ้อนทางภาษามากขึ้น โปรดดูบทความวิจัยต้นฉบับเพื่อดูภาพที่มีความละเอียดสูงกว่า

นอกจากนี้ ยังนำข้อความที่ AI สร้างขึ้นฉบับต้นฉบับมาเปรียบเทียบกับฉบับที่แปลกลับ เพื่อวัดความแตกต่างด้านโครงสร้างประโยค:

การเปรียบเทียบข้อความที่ AI สร้างขึ้นฉบับต้นฉบับ (สัญลักษณ์รูปเพชรทึบ) กับฉบับที่แปลเป็นภาษาญี่ปุ่นแล้วแปลกลับเป็นภาษาอังกฤษด้วย NLLB-200 (วงกลมโปร่ง) เส้นสีชมพูแสดงลักษณะทางภาษาที่พบถี่ขึ้นหลังการแปล ส่วนเส้นสีเขียวแสดงลักษณะที่พบถี่กว่าในต้นฉบับ เครื่องหมายดอกจันแสดงนัยสำคัญทางสถิติ (จำนวนดอกจันที่เพิ่มขึ้นจากหนึ่งเป็นสองหรือสามดอกแสดงถึงหลักฐานทางสถิติที่หนักแน่นขึ้น) การแปลทำให้การใช้โครงสร้างส่วนใหญ่ที่สัมพันธ์กับความยากในการอ่านลดลง โดยเฉพาะในโมเดลแนวหน้าของวงการ โปรดดูบทความต้นฉบับเพื่อดูภาพที่มีความละเอียดสูงขึ้น

พบว่าโมเดลแนวหน้าและโมเดลที่ใกล้เคียงกับโมเดลแนวหน้ามีแนวโน้มใช้การจับคู่คำที่ไม่คุ้นเคย คำกริยาที่สร้างจากคำนาม ประธานที่ไม่มีชีวิต และอนุประโยคสัมพันธการกที่ทำหน้าที่เป็นกรรมซึ่งละคำที่เลือกละได้มากเกินไป (ดูกราฟด้านบน) โดยทั่วไป แนวโน้มเหล่านี้พบได้น้อยกว่าใน Llama และ Olmo Base แต่เด่นชัดกว่าใน Olmo Think

พบความแตกต่างในการเขียนเรียงความน้อยกว่าในการสนทนาหรือการเขียนโค้ด ซึ่งอธิบายได้ว่าเรียงความมีลักษณะเป็นการตอบโจทย์จากพรอมป์ต์เดียว ขณะที่การสนทนาที่โต้ตอบกันต่อเนื่องหลายครั้งอาจส่งเสริมให้ใช้ภาษาที่กระชับกว่า

ผู้เขียนระบุว่า:

‘เมื่อเทียบกับการสนทนาและ[coding] เรียงความจาก PERSUADE มีการเปลี่ยนแปลงจากการแปลไปกลับน้อยกว่าในหลายหมวดหมู่ (มาตรวัด n-gram, ความยาวของความสัมพันธ์เชิงพึ่งพา, คำนามซ้อน และคำกริยาที่สร้างจากคำนาม)

‘เราตั้งสมมติฐานว่าเป็นเพราะงานเหล่านี้มีพรอมป์ต์เพียงชุดเดียว ต่างจากการสนทนาและการเขียนโค้ดที่มีการโต้ตอบหลายรอบ เราคาดว่ารูปแบบบางอย่างอาจเกิดขึ้นในการสนทนาที่ยืดเยื้อและโต้ตอบกันไปมา (ซึ่งอาจต้องบีบอัดข้อมูลให้มากขึ้น)’

Llama และ Olmo Base กับ Instruct มีการเปลี่ยนแปลงหลังการแปลน้อยที่สุด และยังมีรูปแบบการใช้คำร่วมกันกับการใช้คำกริยาที่ใกล้เคียงกับเรียงความของนักเรียนมากที่สุด ในทางตรงกันข้าม พบว่า Olmo Think มีพฤติกรรมคล้ายโมเดลแนวหน้ามากกว่า ส่วน Claude Opus 5.5 ใช้โครงสร้างที่เข้าใจยากน้อยกว่า Opus 5 ในการเปรียบเทียบ 19 จาก 21 รายการ โดยช่วงความเชื่อมั่น 95% ไม่ทับซ้อนกันใน 8 รายการ

การทดลองที่ 2

การทดลองที่สองออกแบบมาเพื่อทดสอบว่าแรงกดดันเบื้องหลังที่ทำให้ต้องสร้างคำตอบให้สั้นและมีข้อมูลหนาแน่นขึ้น อาจทำให้โมเดลเลือกใช้โครงสร้างทางภาษาที่มนุษย์เข้าใจได้ยากขึ้นหรือไม่

ในการทดลองนี้ ได้นำ Qwen2.5-1.5B-Instruct มาปรับแต่งเพิ่มเติมด้วย Group Relative Policy Optimization (GRPO) และมอบหมายให้โมเดลแปลงคำอธิบายเหตุการณ์ที่มีโครงสร้างในรูปแบบ JSON ให้เป็นประโยคภาษาอังกฤษ

มีการปรับการฝึกสองด้าน ได้แก่ โมเดลได้รับอนุญาตให้เปลี่ยนแปลงการเลือกใช้คำตามปกติได้มากเพียงใด (β) และจะถูกลงโทษรุนแรงเพียงใดหากสร้างคำตอบที่ยาวขึ้น (λ) เหตุการณ์แต่ละรายการสามารถเขียนได้สองแบบที่ถูกต้องตามหลักไวยากรณ์ โดยทราบจำนวนโทเคนที่แตกต่างกัน

ตัวอย่างเช่น ‘He sent us a photo’ ใช้โทเคน 6 ตัว เทียบกับ ‘He sent a photo to us’ ซึ่งใช้ 7 ตัว นอกจากนี้ยังมีการทดสอบอีกชุดหนึ่ง โดยใช้ถ้อยคำสองแบบที่สื่อความหมายเหมือนกันและใช้จำนวนโทเคนเท่ากัน เพื่อตรวจสอบว่าความแตกต่างเกิดจากความยาวของประโยคหรือไม่

มีการทดสอบผลกับประโยคที่ไม่เคยพบมาก่อน โดยใช้โครงสร้าง 4 แบบที่พบระหว่างการฝึก โครงสร้างอีก 2 แบบที่ไม่ได้ใช้ฝึกและมีคำว่า ‘that’ ซึ่งอาจละได้ รวมถึงโครงสร้างอื่นที่ไม่เกี่ยวข้องกับการฝึก ซึ่งประกอบด้วยรูปแสดงความเป็นเจ้าของ คำบอกปริมาณ ประโยคกรรมวาจก และอนุประโยคแสดงจุดประสงค์

การทดสอบออกแบบมาเพื่อดูว่าโมเดลจะเรียนรู้ความชอบในการใช้ถ้อยคำที่สั้นกว่าและนำความชอบดังกล่าวไปใช้กับโครงสร้างที่ไม่เคยพบระหว่างการฝึกได้หรือไม่:

ผลของการลงโทษคำตอบที่ยาวระหว่างการฝึก ตัวอย่างการใช้ถ้อยคำแบบสั้นและแบบยาวแสดงไว้ใน A ส่วน B วัดความชอบต่อรูปประโยคที่สั้นกว่า ขณะที่ C และ D แสดงผลการทดสอบกับรูปประโยคที่ไม่เคยใช้ในการฝึกมาก่อน สีส้มหมายถึงการฝึกโดยไม่มีข้อจำกัดในการเปลี่ยนแปลงโมเดลเดิม ส่วนสีน้ำเงินหมายถึงการฝึกโดยมีข้อจำกัดดังกล่าว เส้นประแสดงความชอบของโมเดลเดิม โดยทั่วไป การลงโทษที่เข้มงวดขึ้นทำให้โมเดลชอบใช้ถ้อยคำที่สั้นลงมากขึ้น แม้ในรูปประโยคที่ไม่มีอยู่ในการฝึก โปรดดูบทความวิจัยต้นฉบับเพื่อดูภาพที่มีความละเอียดสูงกว่า

เมื่อเพิ่มค่าปรับสำหรับคำตอบที่ยาวขึ้น โมเดลก็เลือกใช้ถ้อยคำที่สั้นลงบ่อยขึ้น (ดังแสดงไว้ด้านบน) หากไม่มีค่าปรับ KL (ข้อจำกัดที่กำหนดว่าโมเดลจะเบี่ยงเบนจากการคาดคะเนคำเดิมได้มากเพียงใด) การเปลี่ยนแปลงนี้เกิดขึ้นอย่างรวดเร็ว แต่เมื่อมีค่าปรับดังกล่าว ก็พบผลแบบเดียวกัน เพียงแต่เกิดขึ้นอย่างค่อยเป็นค่อยไปกว่า หากไม่มีค่าปรับทั้งสองประเภท ความชอบจะแตกต่างกันมากในแต่ละรอบการฝึก แต่แม้ค่าปรับความยาวเพียงเล็กน้อยก็ทำให้โมเดลเลือกใช้ถ้อยคำทางเลือกที่สั้นกว่าอย่างสม่ำเสมอ

ยังพบความชอบเช่นนี้ในรูปประโยคที่ไม่เคยพบมาก่อน ซึ่งมีคำว่า ‘that’ ที่อาจใส่หรือไม่ใส่ก็ได้ การถ่ายโอนไปยังรูปประโยคทางไวยากรณ์ที่แตกต่างออกไปมากกว่านั้นมีผลน้อยกว่ามาก โดยพบผลเฉพาะกับรูปแสดงความเป็นเจ้าของเมื่อไม่มีค่าปรับ KL

ผู้เขียนสรุปว่า:

‘เรามองว่าผลลัพธ์เหล่านี้เป็นข้อพิสูจน์แนวคิดว่า ค่าปรับความยาวที่ใช้ระหว่างการเรียนรู้แบบเสริมกำลังด้วย GRPO สามารถส่งผลโดยตรงต่อลักษณะทางไวยากรณ์ได้

‘เราขอเน้นว่า โมเดลไม่ได้รับคำสั่งโดยตรงให้ใช้ภาษาที่กระชับหรือหนาแน่น และไม่ได้รับข้อมูลโดยตรงว่ามีรูปแบบทางไวยากรณ์อื่นให้เลือกใช้

‘แต่ค่าปรับกลับทำให้เกิดความชอบต่อรูปแบบที่สั้นกว่าในบรรดารูปแบบทางไวยากรณ์ที่ใช้แทนกันได้ขึ้นมาเอง

บทสรุป

ฉันสนใจมาระยะหนึ่งแล้วว่า จุดยึดแบบใด—ทั้งที่เกิดขึ้นโดยไม่ตั้งใจและโดยตั้งใจ—เป็นลักษณะเด่นของข้อความที่ AI สร้างขึ้น ดังนั้น ข้อเสนอล่าสุดนี้จึงช่วยให้เห็นความกระจ่างขึ้นเกี่ยวกับความขัดแย้งที่ดูเหมือนจะมีอยู่ ระหว่างความเยิ่นเย้อที่มักกล่าวถึงใน LLM กับแนวโน้มที่ได้รับการกล่าวถึงไม่แพ้กันในปัจจุบันของ LLM ที่จะบีบอัดข้อมูลในลักษณะที่ดูเหมือน “อ่านง่าย” เพียงเพราะใช้คำไม่มาก—แต่เห็นได้ชัดว่านั่นเป็นการตีความสัญญาณดังกล่าวผิดไป

ใน LLM ความกระชับของข้อความที่สร้างขึ้นอาจบ่งบอกถึงความซับซ้อน มากกว่าการกลั่นเนื้อหาให้เหลือแต่สาระสำคัญ ราวกับว่า AI กำลังยื่นปริศนาให้เรา แทนที่จะนำเสนอแนวคิดตรงไปตรงมาที่อยู่เบื้องหลังถ้อยคำเหล่านั้น ทั้งหมดนี้ดูเหมือนจะเป็นไปเพื่อให้โมเดลเดียวสามารถเขียนโค้ดและเขียนข้อความได้

* บทความชื่อ “เหตุใดภาษาที่ AI สร้างขึ้นจึงเข้าใจยากนัก?” เขียนโดยผู้เขียนสองคนจาก New York University และ The University of Texas

^† ฉันเปลี่ยนการอ้างอิงในเนื้อหาของผู้เขียนให้เป็นไฮเปอร์ลิงก์

^†† https://mikeydoes.com/glossary/p600/

เผยแพร่ครั้งแรกเมื่อวันจันทร์ที่ 26 ตุลาคม 2026