เราไม่ได้จัดแนว AI อีกต่อไป เรากำลังจัดแนวอารยธรรม

ในช่วงหลายปีที่ผ่านมา คำถามหลักในด้านปัญญาประดิษฐ์ (AI) คือวิธีการจัดแนวโมเดล AI กับค่านิยมของมนุษย์ นักวิจัยพยายามกำหนดกฎความปลอดภัย หลักการทางจริยธรรม และกลไกการควบคุมที่ชี้นำการตัดสินใจของ AI การทำงานนี้ได้สร้างความก้าวหน้าที่สำคัญ แต่ขณะนี้เมื่อระบบ AI เหล่านี้มีความสามารถและแพร่หลายมากขึ้น จุดสนใจของการจัดแนวเริ่มเปลี่ยนแปลง สิ่งที่เริ่มต้นเป็นความท้าทายในการจัดแนวโมเดลเดียวให้เข้ากับชุดคำสั่งเดียว ได้กลายเป็นความท้าทายที่ใหญ่กว่าในการจัดแนวอารยธรรมทั้งหมดที่ใช้ระบบเหล่านี้ในระดับโลก AI ไม่ใช่แค่เครื่องมืออีกต่อไป มันกำลังพัฒนาเป็นสภาพแวดล้อมที่สังคมทำงาน สื่อสาร ต่อรอง และแข่งขันกัน ในผลลัพธ์ การจัดแนวไม่ได้เหลือเป็นปัญหาทางเทคนิคอีกต่อไป มันกลายเป็นปัญหาของอารยธรรม ในบทความนี้ ฉันจะอธิบายว่าทำไมการจัดแนวจึงไม่ใช่แค่เรื่องของโมเดล และทำไมเราต้องเริ่มคิดในแง่ของอารยธรรมมากกว่าเครื่องจักร ฉันจะพูดถึงว่าการเปลี่ยนแปลงนี้ส่งผลต่อความรับผิดชอบของเราอย่างไร และสิ่งที่มันหมายถึงการร่วมมือระดับโลก

ค่านิยมของ AI แทนใคร?

หากคุณถาม AI เกี่ยวกับเหตุการณ์ทางประวัติศาสตร์ที่ละเอียดอ่อน คำตอบของมันจะขึ้นอยู่กับข้อมูลที่มันศึกษา หากข้อมูลนั้นมาจากอินเทอร์เน็ตตะวันตก คำตอบจะถูกขับเคลื่อนโดยมุมมองตะวันตก มันจะจัดลำดับความสำคัญของลัทธิบุคคลนิยม การพูดอย่างอิสระ และอุดมการณ์ประชาธิปไตย ค่านิยมเหล่านี้เป็นสิ่งที่ดีสำหรับหลายคน แต่ไม่ใช่ค่านิยมเดียวในโลก

ผู้ใช้ในสิงคโปร์ ผู้ใช้ในริยาด และผู้ใช้ในซานฟรานซิสโก มีนิยามที่แตกต่างกันเกี่ยวกับสิ่งที่ “มีประโยชน์” และสิ่งที่ “เป็นอันตราย” ในบางวัฒนธรรม ความสามัคคีทางสังคมมีความสำคัญมากกว่าเสรีภาพในการพูดอย่างสมบูรณ์ ในวัฒนธรรมอื่น การเคารพในลำดับชั้นมีความสำคัญมากกว่าการเปลี่ยนแปลง

เมื่อบริษัทในซิลิคอนแวลลีย์ใช้ “การเรียนรู้แบบเสริมจากข้อเสนอแนะของมนุษย์” (RLHF) พวกเขาจ้างมนุษย์เพื่อประเมินคำตอบของ AI แต่ใครคือมนุษย์เหล่านี้? มุมมองของพวกเขาคืออะไร? หากพวกเขาปรับโมเดลให้สอดคล้องกับมาตรฐานอเมริกัน พวกเขากำลังสร้างสินค้าทางวัฒนธรรมอเมริกันโดยไม่ได้ตั้งใจ พวกเขากำลังสร้างนักการทูตดิจิทัลที่บังคับใช้กฎของอารยธรรมหนึ่งๆ กับโลก

การเพิ่มขึ้นของวงจรการให้ข้อเสนอแนะ

ความท้าทายไม่ใช่แค่ว่า AI สะท้อนถึงความเชื่อของวัฒนธรรมหนึ่ง แต่เป็นว่าความเชื่อเหล่านั้นสามารถเปลี่ยนแปลงเราได้อย่างไร ระบบ AI สมัยใหม่มีศักยภาพในการ塑造พฤติกรรมของบุคคล องค์กร และแม้กระทั่งประเทศ พวกเขาสามารถมีอิทธิพลต่อวิธีที่เราคิด ทำงาน วางใจ และแข่งขัน สิ่งนี้สร้างวงจรการให้ข้อเสนอแนะระหว่างระบบ AI และสังคมมนุษย์; เราอบรม AI และ AI塑造วิธีที่เราคิดและกระทำ วงจรเหล่านี้กำลังแข็งแกร่งขึ้นเมื่อ AI กลายเป็นสิ่งที่แพร่หลายมากขึ้น เพื่อดูว่าวงจรการให้ข้อเสนอแนะนี้ทำงานอย่างไร ต่อไปนี้คือตัวอย่างสองประการ:

• การนำ AI ไปใช้ในระดับใหญ่เปลี่ยนแปลงพฤติกรรมทางสังคม และพฤติกรรมทางสังคมเปลี่ยนแปลงข้อมูลที่ใช้ฝึกอบรมระบบใหม่ ตัวอย่างเช่น อัลกอริทึมการแนะนำสามารถ塑造สิ่งที่คนดู อ่าน และเชื่อเครื่องมือความผลิตเปลี่ยนแปลงวิธีการทำงานร่วมกันของทีมและวิธีการเรียนรู้ของนักเรียน การเปลี่ยนแปลงพฤติกรรมเหล่านี้เปลี่ยนแปลงรูปแบบข้อมูลในรูปแบบของการดูสื่อ การสื่อสารในที่ทำงาน หรือรูปแบบการเขียน เมื่อข้อมูลนี้ไหลเข้าสู่ชุดข้อมูลฝึกอบรมในอนาคต โมเดลจะปรับสมมติฐานและผลลัพธ์ของตนตามนั้น พฤติกรรมของมนุษย์塑造โมเดล และโมเดลในทางกลับกัน塑造พฤติกรรมของมนุษย์
• เครื่องมือการตัดสินใจอัตโนมัติอิทธิพลต่อนโยบายสาธารณะ และนโยบายสาธารณะอิทธิพลต่อการฝึกอบรมโมเดลในอนาคต ตัวอย่างเช่น รัฐบาลหลายแห่งใช้ AI เพื่อแนะนำว่าจะจัดสรรทรัพยากร เช่น ระบุพื้นที่ที่ต้องการการสนับสนุนด้านสุขภาพมากขึ้นหรือพื้นที่ที่อาจมีความเสี่ยงทางอาญา เมื่อนักการเมืองตัดสินใจตามคำแนะนำเหล่านี้ ผลลัพธ์ของการตัดสินใจเหล่านั้นจะกลายเป็นส่วนหนึ่งของชุดข้อมูลใหม่ในอนาคต เมื่อเวลาผ่านไป การตัดสินใจนโยบายที่มีอิทธิพลจาก AI จะ塑造รุ่นโมเดล AI ในอนาคต

เมื่อคุณรับรู้ถึงวงจรการให้ข้อเสนอแนะนี้ จะชัดเจนว่า AI กำลัง塑造และจัดแนวอารยธรรมอย่างช้าๆ ในผลลัพธ์ ประเทศต่างๆ เริ่มถามว่า: พวกเขาจะปกป้องค่านิยมของตนได้อย่างไรในขณะที่รวม AI เข้ากับสังคมและสถาบันของตน?

การเกิดขึ้นของ AI อธิปไตย

ความท้าทายในการจัดแนวได้กระตุ้นให้เกิดปฏิกิริยาที่สำคัญจากประเทศทั่วโลก ประเทศต่างๆ ได้เข้าใจว่าการพึ่งพา AI ที่นำเข้ามาเป็นความเสี่ยงต่ออธิปไตยของตน พวกเข不能ให้พลเมืองของตนได้รับการศึกษา ข้อมูล และคำแนะนำจากกล่องดำที่คิดเหมือนคนต่างชาติ

การรับรู้นี้ได้นำไปสู่การเกิดขึ้นของ “AI อธิปไตย” ฝรั่งเศสกำลังลงทุนอย่างมากเพื่อสร้างโมเดลที่พูดภาษาฝรั่งเศสและเข้าใจกฎหมายและวัฒนธรรมฝรั่งเศส อินเดียกำลังสร้างโมเดล AI พื้นเมืองเพื่อให้แน่ใจว่าค่านิยมทางวัฒนธรรมของตน สหรัฐอาหรับเอมิเรตส์และจีนกำลังสร้างโมเดล AI ที่สอดคล้องกับวิสัยทัศน์ระดับชาติของตน

นี่คือการแข่งขันอาวุธใหม่ มันเป็นการแข่งขันเพื่อควบคุมเรื่องราว อารยธรรมที่ไม่มี AI ของตนเองในที่สุดจะสูญเสียความทรงจำของตน หากเด็กคุณถามคำถามกับเครื่องจักร และเครื่องจักรตอบด้วยตรรกะของวัฒนธรรมอื่น วัฒนธรรมของคุณเริ่มกัดเซาะ การรับรู้นี้อาจนำไปสู่การก่อตั้งบล็อกดิจิทัลที่แตกต่างกัน เราอาจมี AI ตะวันตก AI จีน AI อินเดีย และอื่นๆ ระบบเหล่านี้จะทำงานด้วยข้อเท็จจริงและเข็มทิศทางศีลธรรมที่แตกต่างกัน การพัฒนานี้ทำให้ชัดเจนว่าหากเราต้องการสร้างโมเดล AI ที่จัดแนวอย่างแท้จริง เราต้องหาวิธีจัดแนวอารยธรรมก่อน

ความจำเป็นใน AI ที่มีเอกลักษณ์ทางการทูต

การจัดแนวแบบดั้งเดิมสมมติว่าโมเดลสามารถจัดแนวได้ด้วยการฝึกอบรม การส่งคำสั่ง และการป้องกันอย่างรอบคอบ การคิดนี้มาจากมุมมองทางเทคนิคของการวิจัยความปลอดภัยของ AI ในยุคแรก แต่แม้การปรับโมเดลให้สมบูรณ์แบบก็ไม่สามารถแก้ไขปัญหาการจัดแนวอารยธรรมได้ การจัดแนวไม่สามารถคงเสถียรภาพเมื่อสังคมดึงในทิศทางตรงกันข้าม หากประเทศ บริษัท และชุมชนมีเป้าหมายที่ขัดแย้งกัน พวกเขาจะผลักดันระบบ AI ให้สะท้อนความขัดแย้งเหล่านี้ ข้อจำกัดเหล่านี้แสดงให้เห็นว่าการจัดแนวไม่ใช่แค่ปัญหาทางเทคนิค แต่เป็นปัญหาด้านการปกครอง การวัฒนธรรม และการประสานงาน และปัญหาเหล่านี้ต้องการไม่ใช่แค่นักวิจัยหรือผู้พัฒนา แต่ต้องการอารยธรรมทั้งหมด

ดังนั้น เราจะก้าวไปข้างหน้าได้อย่างไร? หากเรายอมรับว่าการจัดแนวแบบสากลเป็นไปไม่ได้ เราต้องเปลี่ยนกลยุทธ์ เราต้องหยุดค้นหาวิธีแก้ปัญหาทางเทคนิคสำหรับปัญหาทางปรัชญา เราต้องเริ่มคิดเหมือนนักการทูต เราจะต้องสร้างโพรโทคอลสำหรับการ “จัดแนวอารยธรรม” เราต้องหาวิธีให้ AI เคารพความเชื่อและค่านิยมของสังคมโดยไม่บังคับให้วัฒนธรรมอื่นยอมรับ ในอีกคำหนึ่ง เราต้องการสหประชาชาติทางดิจิทัลสำหรับอัลกอริทึมของเรา

สิ่งนี้ต้องการความโปร่งใส ในปัจจุบัน เราไม่ทราบค่านิยมที่ซ่อนอยู่ในระดับลึกของเครือข่ายประสาทเทียม เราเห็นเพียงผลลัพธ์เท่านั้น เพื่อจัดแนวอารยธรรม เราต้องชัดเจนเกี่ยวกับ “รัฐธรรมนูญ” ของแต่ละโมเดล โมเดลควรประกาศความลำเอียงของมัน มันควรจะบอกว่า “ฉันถูกฝึกอบรมบนข้อมูลนี้ ด้วยกฎความปลอดภัยเหล่านี้ และจัดลำดับความสำคัญของค่านิยมเหล่านี้” เมื่อความลำเอียงเป็นที่รู้จัก เราก็สามารถไว้วางใจระบบได้ ผู้ใช้ควรจะสามารถสลับระหว่างมุมมองต่างๆ ได้ คุณควรจะสามารถถามคำถามและดูว่าโมเดล “ตะวันตก” ตอบอย่างไรเมื่อเทียบกับโมเดล “ตะวันออก” สิ่งนี้จะเปลี่ยน AI ให้เป็นเครื่องมือสำหรับการทำความเข้าใจ มากกว่าเครื่องมือสำหรับการหลอกลวง

สรุป

เรามาเสียเวลากับการกังวลเรื่องเทอร์มิเนเตอร์มากเกินไป ความเสี่ยงที่แท้จริงไม่ใช่ว่าหุ่นยนต์จะทำลายเรา แต่ความเสี่ยงที่แท้จริงคือว่าหุ่นยนต์จะทำให้เราลืมว่าเราเป็นใคร การจัดแนวไม่ใช่โค้ดที่เราสามารถเขียนและลืมได้ มันเป็นการเจรจาอย่างต่อเนื่องกับโมเดล AI เพื่อให้แน่ใจว่าพวกมันสอดคล้องกับความเชื่อและค่านิยมของเรา มันเป็นการกระทำทางการเมือง เมื่อเราเข้าสู่ยุคปัญญาประดิษฐ์ขั้นต่อไป เราต้องมองข้ามจอ เราต้องพิจารณาว่า AI ตีความประวัติศาสตร์ของเรา พรมแดนของเรา และความเชื่อของเรา เรากำลังสร้างจิตใจที่จะช่วยให้เราบริหารโลก เราต้องแน่ใจว่าจิตใจเหล่านั้นเคารพความแตกต่างระหว่างอารยธรรม