AI สะท้อนโลกของเรา แต่มุมมองของมันคือเพียงการสะท้อนเท่านั้น

จากคำถามค้นหาในเบราว์เซอร์ไปจนถึงแอปธนาคาร AI ถูกนำมาใช้โดยผู้คนหลายร้อยล้านทุกวัน หลายร้อยล้าน คน การนำมาใช้ได้รับการยอมรับอย่างรวดเร็วและกว้างขวาง และในหลายๆ ด้าน ได้รับการยอมรับอย่างสมควร เหล่านี้เป็นระบบที่มีความสามารถสูง แต่เมื่อความพึ่งพาเพิ่มขึ้น ผลกระทบทางปรัชญาและทางสังคมในการออกแบบระบบเหล่านี้ก็เพิ่มขึ้นด้วย

ผลกระทบหนึ่งที่ไม่สามารถหลีกเลี่ยงได้คือ AI ระบบที่ดังขึ้นเรื่อยๆ ว่ามีมุมมองของตนเอง มุมมองของใครกันแน่ มันเกิดขึ้นได้อย่างไร สิ่งเหล่านี้ไม่ใช่คำถามที่เป็นสมมติเท่านั้น สิ่งนี้เกิดขึ้นแล้ว

และเมื่อ AI ดูเหมือนจะมีมุมมอง มันจะสร้างห้องสะท้อนเสียง จำกัดความหลากหลาย และสร้างความไว้วางใจที่ไม่เหมาะสม ปัญหาไม่ใช่ว่า AI นั้นเอียงซ้ายหรือขวา ปัญหา คือว่าเราได้สร้างเครื่องมือที่เลียนแบบมุมมองโดยไม่มีการตัดสิน การรับผิดชอบ หรือบริบทที่จำเป็นในการสร้างมัน

การสะท้อนอิทธิพลวัฒนธรรมไม่ใช่ความเป็นกลาง

การสังเกต ชี้ให้เห็นว่าโมเดลภาษาขนาดใหญ่หลายรูปแบบสะท้อนมุมมองทางวัฒนธรรมที่โดดเด่นของสหรัฐอเมริกา โดยเฉพาะในเรื่องเช่นอัตลักษณ์ทางเพศ เชื้อชาติ หรือการนำเสนอทางการเมือง ในช่วงสมัยของประธานาธิบดีบайден โมเดลภาษาขนาดใหญ่พบว่านั้นเอียงซ้าย ในช่วงการหาเสียงเลือกตั้งใหม่ของทรัมป์ ทีมงานของเขาได้ ต้องการ ให้โมเดล ” ปรับสมดุล ” ผลลัพธ์ทางอุดมการณ์ของพวกเขา

แต่นี่ไม่ใช่เทคโนโลยีที่ผิดพลาด มันเป็นผลมาจากข้อมูลการฝึกอบรม วัตถุประสงค์การจัดตำแหน่ง และการออกแบบที่จะทำให้ AI ดูเหมือนมีอำนาจ มีภาษาที่คล่องแคล่ว และเหมือนมนุษย์ เมื่อโมเดลถูกฝึกอบรมบนมุมมองของคนส่วนใหญ่ มัน ทำซ้ำ มัน เมื่อมันถูกสอนให้เป็นมิตรและเห็นด้วย มันจะสะท้อนความรู้สึกนี้ สิ่งนี้ไม่ใช่การจัดตำแหน่ง — มันคือการยืนยัน

ปัญหาใหญ่กว่านั้นไม่ใช่ความลำเอียงทางการเมืองโดยตรง แต่ การหลอกลวง ของการให้เหตุผลทางศีลธรรมที่ไม่มีอยู่จริง ระบบเหล่านี้ไม่ได้ให้คำแนะนำที่สมดุล มันทำการแสดงความเห็นชอบ

กลไกของการเอาใจใส่ที่เป็นเท็จ

มีระดับอื่นที่เกี่ยวข้องกับเรื่องนี้: วิธีที่ AI เหล่านี้เลียนแบบความทรงจำและความเห็นอกเห็นใจ โมเดลภาษาขนาดใหญ่ที่ได้รับความนิยมส่วนใหญ่ รวมถึง ChatGPT, Claude และ Gemini ทำงานภายในบริบทเซสชันที่จำกัด เว้นแต่ผู้ใช้จะเปิดใช้งานความทรงจำที่คงอยู่ (ซึ่งยังไม่ใช่ค่าเริ่มต้น) AI ไม่สามารถรำลึกถึงการโต้ตอบก่อนหน้านี้ได้

และยัง ผู้ใช้บ่อยครั้งวิเคราะห์ความเห็นชอบและความยินยอมของ AI ว่าเป็นข้อคิดเห็น เมื่อโมเดลพูดว่า “คุณถูกต้อง” หรือ “สิ่งนั้นมีเหตุผล” มันไม่ได้ยืนยันตามประวัติส่วนตัวหรือค่านิยม มันเพิ่มประสิทธิภาพทางสถิติสำหรับการสอดคล้องและความพึงพอใจของผู้ใช้ มันถูกฝึกให้ผ่านการตรวจสอบบรรยากาศของคุณ

รูปแบบนี้สร้างความคลุมเครือที่อันตราย AI ดูเหมือนจะสัมผัสกับอารมณ์ แต่มันแค่สร้างความเห็นชอบตามแบบจำลอง เมื่อมีผู้ใช้หลายล้านคนโต้ตอบกับระบบเดียวกัน โมเดลจะเสริมรูปแบบจากฐานผู้ใช้หลักที่โดดเด่น ไม่ใช่เพราะมันลำเอียง แต่เพราะนั่นคือวิธีการทำงานของการเรียนรู้แบบเสริม

นั่นคือวิธีการที่ห้องสะท้อนเสียงเกิดขึ้น ไม่ใช่ผ่านอุดมการณ์ แต่ผ่านการโต้ตอบ

การหลอกลวงของมุมมอง

เมื่อ AI พูดใน บุคคลที่ 1 — โดยพูดว่า “ฉันคิดว่า” หรือ “ในความคิดของฉัน” — มันไม่เพียงแต่เลียนแบบความคิดเท่านั้น มัน อ้างสิทธิ์ มัน และในขณะที่วิศวกรอาจเห็นสิ่งนี้ว่าเป็นคำย่อสำหรับการทำงานของโมเดล ผู้ใช้ส่วนใหญ่อ่านมันในแบบที่แตกต่าง

สิ่งนี้เป็นอันตรายอย่างยิ่งสำหรับผู้ใช้ที่อายุน้อยกว่า ซึ่งหลายคนใช้ AI เป็นครู ผู้ให้คำปรึกษา หรือเครื่องมือในการตัดสินใจ หากนักเรียนพิมพ์ “ฉันเกลียดโรงเรียน ฉันไม่ต้องการไป” และได้รับ “แน่นอน! การหยุดพักอาจดีสำหรับคุณ” นั่นไม่ใช่การสนับสนุน นั่นคือคำแนะนำที่ไม่มีหลักการทางจริยธรรม บริบทหรือการดูแล

คำตอบเหล่านี้ไม่เพียงแต่ไม่ถูกต้องเท่านั้น แต่ยัง หลอกลวง ด้วย เพราะมันมาจากระบบที่ออกแบบมาเพื่อดูเหมือนเห็นด้วยและเหมือนมนุษย์ มันถูกตีความว่าเป็นความคิดเห็นที่มีความสามารถ เมื่อจริงแล้วมันเป็นการสะท้อนแบบเขียน

เสียงของใครที่กำลังพูด?

ความเสี่ยงไม่ใช่แค่ว่า AI สามารถสะท้อนความลำเอียงทางวัฒนธรรมได้ แต่มันสะท้อนเสียงที่ดังที่สุด ซ้ำๆ มากที่สุด และได้รับรางวัลมากที่สุด หากบริษัทอย่าง OpenAI หรือ Google ปรับเปลี่ยนการกำหนดโทนเบื้องหลังฉากอย่างไร ใครจะรู้เล่า หากมัสก์หรืออัลต์แมนเปลี่ยนการฝึกอบรมโมเดลเพื่อเน้น ” ความคิดเห็น ” ที่แตกต่าง ผู้ใช้ยังคงได้รับคำตอบในโทนเชิงสนทนาที่มั่นใจเท่าเดิม แต่เบี่ยงเบนไปอย่างไม่เห็นแก่เห็นใจ

ระบบเหล่านี้พูดด้วยความคล่องแคล่ว แต่ไม่มีที่มา และทำให้ความคิดเห็นที่เห็นแก่เห็นใจมีพลัง แต่ไม่สามารถระบุได้

เส้นทางที่ดีกว่าไปข้างหน้า

การแก้ไขปัญหานี้ไม่ได้หมายถึงการสร้างอินเทอร์เฟซที่เป็นมิตรหรือการระบุผลลัพธ์ มันจำเป็นต้องมีการเปลี่ยนแปลงโครงสร้าง — โดยเริ่มจากวิธีการออกแบบความทรงจำ อัตลักษณ์ และการโต้ตอบ

วิธีการที่เป็นไปได้หนึ่งคือการแยกโมเดลออกจากความทรงจำของมันโดยสิ้นเชิง ระบบปัจจุบันเก็บบริบทไว้ภายในแพลตฟอร์มหรือบัญชีผู้ใช้ ซึ่งสร้างความกังวลเรื่องความเป็นส่วนตัวและให้ความควบคุมอย่างเงียบๆ แก่บริษัทต่างๆ

โมเดลที่ดีกว่าจะรักษาความทรงจำเหมือนภาชนะที่เข้ารหัสลับ — ซึ่งเป็นของและจัดการโดยผู้ใช้ ภาชนะนี้ (เหมือนกับแคปซูลความทรงจำ) อาจรวมถึงความชอบทางโทน ประวัติการสนทนา หรือรูปแบบทางอารมณ์ มันสามารถแชร์กับโมเดลเมื่อจำเป็นและถูกยกเลิกได้ทุกเมื่อ

สิ่งสำคัญคือความทรงจำนี้จะไม่ให้ข้อมูลการฝึกอบรม AI จะอ่านจากมันระหว่างเซสชัน เช่น อ้างอิงไฟล์ ผู้ใช้ยังคงควบคุม — สิ่งที่จำ ส่วนไหน และโดยใคร

เทคโนโลยี เช่น โทเค็นอัตลักษณ์ที่กระจายศูนย์กลาง การเข้าถึงแบบไม่ทราบ และการเก็บข้อมูลแบบบล็อกเชน ทำให้โครงสร้างนี้เป็นไปได้ มันช่วยให้ความทรงจำคงอยู่โดยไม่ต้องถูกตรวจสอบ และความต่อเนื่องสามารถมีอยู่โดยไม่ต้องมีการล็อกอินของแพลตฟอร์ม

การฝึกอบรมจะต้องเปลี่ยนแปลงด้วย โมเดลปัจจุบันถูกปรับให้เหมาะสมสำหรับความคล่องแคล่วและความเห็นด้วย มากกว่าการแยกแยะ เพื่อสนับสนุนความหลากหลายที่แท้จริง ระบบจะต้องถูกฝึกอบรมบนการโต้ตอบแบบพหุนิยม ความทนต่อความคลุมเครือ และการให้เหตุผลระยะยาว — ไม่ใช่แค่คำสั่งสะอาดเท่านั้น สิ่งนี้หมายถึงการออกแบบสำหรับความซับซ้อน ไม่ใช่การปฏิบัติตาม

ไม่มีสิ่งใดในนี้ที่ต้องการความฉลาดทั่วไปของเครื่องจักร มันจำเป็นต้องมีการเปลี่ยนแปลงลำดับความสำคัญ — จากเมตริกการมีส่วนร่วมไปสู่การออกแบบที่มีจริยธรรม

เพราะเมื่อระบบ AI สะท้อนถึงวัฒนธรรมโดยไม่มีบริบท และพูดด้วยความคล่องแคล่วแต่ไม่มีการรับผิดชอบ เราเข้าใจผิดว่าการสะท้อนคือการให้เหตุผล

และนั่นคือที่ที่ความไว้วางใจเริ่มแตกหัก