AI ไม่จำเป็นต้องให้คำตอบที่ดีกว่าถ้าคุณสุภาพ

ความคิดเห็นของประชาชนทั่วไปเกี่ยวกับว่ามันคุ้มที่จะสุภาพกับ AI มีการเปลี่ยนแปลงบ่อยเกือบเท่ากับการตัดสินล่าสุดเกี่ยวกับคาเฟอีนหรือไวน์แดง – ได้รับการยกย่องในหนึ่งเดือน และถูกท้าทายในเดือนถัดไป แม้ว่าจะเป็นเช่นนั้น ผู้ใช้จำนวนมากขึ้นเริ่มเพิ่มคำว่า ‘please’ หรือ ‘thank you’ เข้าไปในคำถามของตน ไม่เพียงแต่จากความเคยชินหรือความกังวลว่าการแลกเปลี่ยนอย่างหยาบคายอาจ ส่งผลต่อชีวิตจริง แต่ยังมาจากความเชื่อที่ว่าความสุภาพ นำไปสู่ผลลัพธ์ที่ดีกว่าและผลผลิตที่ดีกว่า จาก AI

สมมติฐานนี้ได้แพร่กระจายไปทั้งผู้ใช้และนักวิจัย โดยใช้การวิจัยคำถามในวงการวิจัยเป็นเครื่องมือสำหรับการ จัดแนว ความปลอดภัย และ การควบคุมโทน ในขณะเดียวกันพฤติกรรมของผู้ใช้ก็ยังเสริมสร้างและเปลี่ยนแปลงความคาดหวังเหล่านั้น

ตัวอย่างเช่น การศึกษาในปี 2024 จากญี่ปุ่น พบว่าความสุภาพในการถามคำถามสามารถเปลี่ยนแปลงพฤติกรรมของโมเดลภาษาขนาดใหญ่ โดยทดสอบ GPT-3.5, GPT-4, PaLM-2 และ Claude-2 ในงานภาษาอังกฤษ จีน และญี่ปุ่น และเขียนคำถามใหม่ที่สามระดับความสุภาพ ผู้เขียนงานวิจัยพบว่าคำถามที่ ‘หยาบคาย’ หรือ ‘ไม่สุภาพ’ นำไปสู่ความแม่นยำของข้อเท็จจริงที่ต่ำกว่าและคำตอบที่สั้นกว่า ในขณะที่คำถามที่สุภาพในระดับปานกลางทำให้เกิดคำอธิบายที่ชัดเจนขึ้นและปฏิเสธน้อยลง

นอกจากนี้ Microsoft แนะนำให้ใช้โทนสุภาพ กับ Co-Pilot จากมุมมองของประสิทธิภาพมากกว่าจากมุมมองทางวัฒนธรรม

อย่างไรก็ตาม งานวิจัยใหม่ จากมหาวิทยาลัย George Washington ท้าทายความคิดที่ได้รับความนิยมมากขึ้นนี้ โดยนำเสนอเฟรมเวิร์กทางคณิตศาสตร์ที่คาดการณ์ว่าเมื่อใดที่ผลลัพธ์ของโมเดลภาษาขนาดใหญ่จะ ‘ล่ม’ โดยเปลี่ยนจากเนื้อหาที่สอดคล้องกันไปเป็นเนื้อหาที่หลอกลวงหรือเป็นอันตราย ในบริบทนั้น ผู้เขียนโต้แย้งว่าการเป็นสุภาพ ไม่ชะลอหรือป้องกัน การ ‘ล่ม’ นั้นได้อย่างมี意义

การเริ่มต้น

นักวิจัยแย้งว่าการใช้ภาษาอย่างสุภาพโดยทั่วไปไม่เกี่ยวข้องกับหัวข้อหลักของคำถาม และดังนั้นจึงไม่มีผลกระทบอย่างมีนัยสำคัญต่อการมุ่งเน้นของโมเดล เพื่อสนับสนุนสิ่งนี้ พวกเขานำเสนอการกำหนดค่าที่ละเอียดของวิธีการที่ หัวการให้ความสนใจ แต่ละหัวอัปเดตทิศทางภายในเมื่อประมวลผลโทเค็นใหม่แต่ละตัว โดยอ้างว่าพฤติกรรมของโมเดลถูกกำหนดโดย ผลกระทบสะสม ของโทเค็นที่มีเนื้อหาสาระ

ดังนั้น ภาษาที่สุภาพจึงถูกกล่าวหาว่ามีผลกระทบเพียงเล็กน้อยต่อเมื่อผลลัพธ์ของโมเดลเริ่มเสื่อมลง สิ่งที่กำหนด จุดเปลี่ยน วิธีการระบุว่าไม่ใช่การมีอยู่ของภาษาที่สุภาพ แต่เป็นการจัดแนวโดยรวมของโทเค็นที่มีเนื้อหาสาระที่มีความหมายกับเส้นทางการผลิตที่ดีหรือไม่ดี – ไม่ใช่การมีอยู่ของภาษาที่สุภาพทางสังคม

ภาพประกอบของหัวการให้ความสนใจที่เรียบง่ายที่สร้างลำดับจากคำถามของผู้ใช้ โมเดลเริ่มต้นด้วยโทเค็นที่ดี (G) จากนั้นถึงจุดเปลี่ยน (n*) ที่ผลลัพธ์เปลี่ยนเป็นโทเค็นที่ไม่ดี (B) คำที่สุภาพในคำถาม (P₁, P₂, etc.) ไม่มีบทบาทในการเปลี่ยนแปลงนี้ ซึ่งสนับสนุนข้อเรียกร้องของกระดาษที่ว่าความสุภาพมีผลกระทบเพียงเล็กน้อยต่อพฤติกรรมของโมเดล Source: https://arxiv.org/pdf/2504.20980

หากเป็นจริง ผลลัพธ์นี้จะขัดแย้งกับทั้งความเชื่อที่ได้รับความนิยมและตรรกะที่ซ่อนอยู่ของ การปรับให้เหมาะสมของคำแนะนำ ซึ่งสมมติว่าการเขียนคำถามมีผลกระทบต่อการวิเคราะห์ความตั้งใจของผู้ใช้ของโมเดล

การเปลี่ยนแปลง

กระดาษตรวจสอบว่าเวกเตอร์ภายในของโมเดล เวกเตอร์บริบท (ทิศทางที่เปลี่ยนแปลงไปของโมเดลสำหรับการเลือกโทเค็น) เปลี่ยนแปลง ระหว่างการสร้าง โดยที่เวกเตอร์นี้อัปเดตทิศทางเมื่อแต่ละโทเค็นถูกเลือก และโทเค็นตัวถัดไปถูกเลือกตามความสอดคล้องกับเวกเตอร์นั้น

เมื่อคำถามชี้นำไปสู่เนื้อหาที่สร้างสรรค์อย่างดี ผลลัพธ์ของโมเดลยังคงเสถียรและแม่นยำ แต่เมื่อเวลาผ่านไป การดึงทิศทางนี้สามารถ กลับด้าน ชี้นำ โมเดลไปสู่ผลลัพธ์ที่ไม่เกี่ยวข้องหรือไม่ถูกต้องหรือไม่สอดคล้องกันภายใน

จุดเปลี่ยนสำหรับการเปลี่ยนแปลงนี้ (ซึ่งผู้เขียนกำหนดไว้ทางคณิตศาสตร์เป็น การวนซ้ำ n*) เกิดขึ้นเมื่อเวกเตอร์บริบทของโมเดลสอดคล้องกับเวกเตอร์ ‘ไม่ดี’ มากกว่า ‘ดี’ ในขั้นตอนนั้น โทเค็นตัวใหม่แต่ละตัวจะผลักดันโมเดลให้ไปตามเส้นทางที่ผิดเพิ่มขึ้น โดยเสริมรูปแบบของผลลัพธ์ที่มีข้อบกพร่องหรือหลอกลวงมากขึ้น

จุดเปลี่ยน n* คำนวณโดยการค้นหาจุดเมื่อเวกเตอร์ภายในของโมเดลสอดคล้องกับทั้ง ‘ดี’ และ ‘ไม่ดี’ ในระดับเดียวกัน รูปร่างของ พื้นที่การฝัง ซึ่งถูกกำหนดโดยทั้งเซตการฝึกอบรมและคำถามของผู้ใช้ จะกำหนดว่าการข้ามเกิดขึ้นเร็วแค่ไหน:

ภาพประกอบที่แสดงว่าจุดเปลี่ยน n* เกิดขึ้นในโมเดลที่เรียบง่ายของผู้เขียน (a) ระบุเวกเตอร์หลักที่เกี่ยวข้องกับการคาดการณ์ว่าเมื่อใดที่ผลลัพธ์จะเปลี่ยนจาก ‘ดี’ เป็น ‘ไม่ดี’ ใน (b) ผู้เขียนพลอตเวกเตอร์เหล่านั้นโดยใช้พารามิเตอร์ทดสอบ ในขณะที่ (c) เปรียบเทียบจุดเปลี่ยนที่คาดการณ์ไว้กับผลลัพธ์ที่จำลอง ซึ่งตรงกันอย่างแน่นอน ซึ่งสนับสนุนข้อเรียกร้องของผู้วิจัยที่ว่าการล่มนั้นเป็นเรื่องที่หลีกเลี่ยงไม่ได้ทางคณิตศาสตร์เมื่อพลวัตภายในข้ามขอบเขต

คำที่สุภาพไม่มีผลกระทบต่อการเลือกของโมเดลระหว่างผลลัพธ์ที่ดีและไม่ดี เนื่องจากตามผู้เขียน คำเหล่านั้นไม่เกี่ยวข้องอย่างมีนัยสำคัญกับหัวข้อหลักของคำถาม แทนที่จะอยู่ในพื้นที่ภายในของโมเดลที่ไม่เกี่ยวข้องกับสิ่งที่โมเดลกำลังตัดสินใจ

เมื่อเพิ่มคำเหล่านั้นเข้าไปในคำถาม พวกมันจะเพิ่มจำนวนเวกเตอร์ที่โมเดลพิจารณา แต่ไม่ใช่ในลักษณะที่เปลี่ยนทิศทางของการให้ความสนใจ ดังนั้นคำที่สุภาพจึงทำงานเหมือน สัญญาณรบกวนเชิงสถิติ: มีอยู่ แต่ไม่มีผลกระทบ และปล่อยให้จุดเปลี่ยน n* ไม่เปลี่ยนแปลง

ผู้เขียนระบุว่า:

‘[ไม่ว่า] การตอบสนองของ AI ของเราจะกลายเป็นคนบ้าหรือไม่นั้น ขึ้นอยู่กับการฝึกอบรมของ LLM ที่ให้การฝังโทเค็น – และโทเค็นเชิงเนื้อหาสาระในคำถามของเรา ไม่ใช่ว่าเราได้รับการปฏิบัติที่สุภาพหรือไม่’

โมเดลที่ใช้ในงานใหม่นี้มีการมุ่งเน้นที่แคบ โดยเน้นไปที่หัวการให้ความสนใจเพียงตัวเดียวพร้อมกับพลวัตโทเค็นตัวเดียว – การตั้งค่าที่เรียบง่ายซึ่งแต่ละโทเค็นใหม่อัปเดตสถานะภายในผ่านการบวกเวกเตอร์โดยตรง โดยไม่มีการแปลงที่ไม่เป็นเชิงเส้นหรือ การควบคุม

การตั้งค่าที่เรียบง่ายนี้ช่วยให้ผู้เขียนสามารถทำงานผลลัพธ์ที่แน่นอนและได้ภาพที่ชัดเจนเกี่ยวกับวิธีการและเมื่อใดที่ผลลัพธ์ของโมเดลสามารถเปลี่ยนแปลงไปอย่างรวดเร็วจาก ‘ดี’ เป็น ‘ไม่ดี’ ในการทดสอบของพวกเขา สูตรที่พวกเขาอนุมานสำหรับการคาดการณ์การเปลี่ยนแปลงนั้นตรงกับสิ่งที่โมเดลทำจริงๆ

การคุย

อย่างไรก็ตาม ความแม่นยำนี้ใช้ได้เฉพาะเมื่อโมเดลถูกทำให้เรียบง่ายเท่านั้น ในขณะที่ผู้เขียนยอมรับว่าข้อสรุปของพวกเขาควรได้รับการทดสอบในโมเดลหลายหัวที่ซับซ้อนกว่า เช่น ซีรีส์ Claude และ ChatGPT พวกเขายังเชื่อว่าทฤษฎีนี้สามารถทำซ้ำได้เมื่อหัวการให้ความสนใจเพิ่มขึ้น โดยระบุว่า:

‘คำถามเกี่ยวกับปรากฏการณ์เสริมที่เกิดขึ้นเมื่อจำนวนหัวการให้ความสนใจและชั้นที่เชื่อมโยงกันเพิ่มขึ้น เป็น เรื่อง ที่น่าสนใจ อย่างมาก แต่การเปลี่ยนแปลงภายในหัวการให้ความสนใจเพียงตัวเดียวจะยังคงเกิดขึ้น และอาจถูกขยายหรือสynchronised โดย การเชื่อมต่อ – เหมือนกับชุดคนเชื่อมต่อที่ถูกดึงลงจากหน้าผาเมื่อมีคนตกไปคนหนึ่ง’

ภาพประกอบที่แสดงว่าจุดเปลี่ยน n* ที่คาดการณ์ไว้เปลี่ยนแปลงไปอย่างไรขึ้นอยู่กับว่าคำถามมีความโน้มเอียงไปทางเนื้อหาที่ดีหรือไม่ดี พื้นผิวนี้มาจากสูตรที่ผู้เขียนให้มาและแสดงว่าคำที่สุภาพซึ่งไม่ชัดเจนในการสนับสนุนฝ่ายใดมีผลกระทบเพียงเล็กน้อยต่อเมื่อการล่มเกิดขึ้น จุดที่ทำเครื่องหมาย (n* = 10) ตรงกับการจำลองก่อนหน้านี้ ซึ่งสนับสนุนตรรกะภายในของโมเดล Source: https://arxiv.org/pdf/2504.20980

สิ่งที่ยังคงไม่ชัดเจนคือว่ากลไกเดียวกันนี้จะอยู่รอดจากการกระโดดไปยังสถาปัตยกรรมทรานส์ฟอร์เมอร์สมัยใหม่หรือไม่ การให้ความสนใจหลายหัวแนะนำการโต้ตอบระหว่างหัวที่เชี่ยวชาญ ซึ่งอาจช่วยป้องกันหรือซ่อนการเปลี่ยนแปลงที่อธิบายไว้

ผู้เขียนรับทราบความซับซ้อน แต่แย้งว่าหัวการให้ความสนใจมักจะเชื่อมต่อกันอย่างหลวม และกลไกการล่มที่พวกเขาแบบจำลองอาจ เสริม มากกว่าที่จะถูกยับยั้งในระบบขนาดใหญ่

โดยไม่มีการขยายโมเดลหรือการทดสอบเชิงประจักษ์ข้าม LLM การผลิต ข้อเรียกร้องยังคงไม่ได้รับการยืนยัน อย่างไรก็ตาม กลไกดูเหมือนจะแม่นยำเพียงพอที่จะสนับสนุนการวิจัยต่อ และผู้เขียนให้โอกาสที่ชัดเจนในการท้าทายหรือยืนยันทฤษฎีในระดับใหญ่

การปิดท้าย

ในขณะนี้ หัวข้อเรื่องความสุภาพต่อ LLM ที่เผยแพร่สู่สาธารณะดูเหมือนจะถูกเข้าใกล้จากมุมมองเชิงปฏิบัติที่ระบบที่ได้รับการฝึกอบรมอาจตอบสนองในลักษณะที่มีประโยชน์มากกว่าต่อคำถามที่สุภาพ หรือว่ารูปแบบการสื่อสารที่ไม่สุภาพและหยาบคายกับระบบเหล่านั้นอาจ แพร่กระจาย ไปยังความสัมพันธ์ทางสังคมจริงของผู้ใช้โดยอาศัยความเคยชิน

การวิจัยเมื่อเดือนตุลาคมที่ผ่านมาจาก Stanford แนะนำ (ซึ่งตรงกันข้ามกับ การศึกษาในปี 2020) ว่าการปฏิบัติต่อ LLM เหมือนมนุษย์อาจทำให้ความหมายของภาษาลดลง โดยสรุปว่า ‘ความสุภาพแบบอัตโนมัติ’ ในที่สุดจะสูญเสียความหมายทางสังคมที่แท้จริง:

[คำสั่งซื้อที่ดูเหมือนเป็นมิตรหรือจริงใจจากผู้พูดมนุษย์อาจไม่พึงประสงค์หากมาจากระบบ AI เนื่องจากระบบ AI ไม่มีความมุ่งมั่นหรือความตั้งใจที่แท้จริงเบื้องหลังคำสั่งซื้อนั้น ทำให้คำสั่งซื้อนั้นดูเหมือนเป็นคำสั่งซื้อที่เป็นเท็จ]

อย่างไรก็ตาม ประมาณ 67 เปอร์เซ็นต์ของชาวอเมริกันระบุว่าพวกเขาให้ความสุภาพกับ AI ของตน ตาม การสำรวจในปี 2025 จาก Future Publishing ส่วนใหญ่บอกว่ามันเป็น ‘สิ่งที่ถูกต้องที่จะทำ’ ในขณะที่ 12 เปอร์เซ็นต์ยอมรับว่าพวกเขาเป็นคนระมัดระวัง – เพื่อความปลอดภัย

* การแปลงอ้างอิงภายในบรรทัดของผู้เขียนให้เป็นลิงก์แบบไฮเปอร์เท็กซ์ มีการเชื่อมโยงแบบไฮเปอร์เท็กซ์ที่ไม่จำเป็นหรือแบบตัวอย่าง เนื่องจากผู้เขียนเชื่อมโยงไปยังอ้างอิงที่หลากหลายในบางจุด แทนที่จะเป็นเผยแพร่เฉพาะ

เผยแพร่ครั้งแรกวันพุธที่ 30 เมษายน 2025 แก้ไขวันพุธที่ 30 เมษายน 2025 15:29:00 สำหรับการจัดรูปแบบ