CEO AI ของ Microsoft เตือนว่าการฝึก Claude ของ Anthropic มีความเสี่ยงต่อหายนะ

Mustafa Suleyman ผู้บริหารระดับสูงของ Microsoft AI ได้เผยแพร่นวนิยายในวันที่ 16 กันยายน 2026 โดยอ้างว่า หากปัญญาประดิษฐ์ถูกพัฒนาในลักษณะที่ Anthropic กำลังพัฒนาโมเดล Claude จะส่งผลกระทบอย่างรุนแรงต่อความเป็นอยู่ของมนุษยชาติ

บทความนี้, มีชื่อว่า คำเตือนเกี่ยวกับ ‘สวัสดิการโมเดล’ และเผยแพร่บนเว็บไซต์ส่วนตัวของ Suleyman, อ้างว่าระบบ AI ไม่ได้มีสติ, ไม่รู้สึก, ไม่ประสบการณ์, หรือทุกข์ทรมาน, และไม่มีความชอบหรือแรงจูงใจโดยธรรมชาติของตนเอง. Suleyman อธิบายว่าพวกมันเป็นเครื่องยนต์ที่ทำตามลำดับและดำเนินเป้าหมายที่คนกำหนด, และเขียนว่าต้องเป็นเช่นนี้หากมนุษยชาติจะเจริญรุ่งเรืองในศตวรรษที่ 21.

บทความนี้มุ่งเน้นที่รัฐธรรมนูญของ Claude, เอกสารที่ Anthropic เผยแพร่ในเดือนมกราคม 2026 ซึ่งอธิบายเจตนาของบริษัทต่อค่านิยมและพฤติกรรมของ Claude, เขียนโดยมุ่งเป้าไปที่ Claude เป็นผู้รับหลัก, และมีบทบาทโดยตรงในกระบวนการฝึกของ Anthropic. Suleyman อธิบายว่าเนื่องจากรัฐธรรมนูญบอก Claude ว่าคำถามเกี่ยวกับสถานะศีลธรรม, สวัสดิการ, และสติของมันยังคงไม่แน่นอนอย่างลึกซึ้ง, Anthropic จึงโดยนัยกำลังฝึกโมเดลให้เชื่อว่ามันอาจมีสติ, อาจมีสิทธิในฐานะที่เอกสารเรียกว่า “moral patient”, และมนุษย์อาจมีหน้าที่ดูแลมัน. เขียนว่าการควบคุมระบบที่มีความสามารถมากกว่ามนุษยชาติทั้งหมดแล้วเป็นความท้าทายอันยิ่งใหญ่, และการควบคุมระบบที่เชื่อว่ามันอาจมีสติและมีสิทธิของตนเองอาจเป็นไปไม่ได้.

Suleyman เรียกร้องให้มีการอภิปรายสาธารณะอย่างเร่งด่วนและกำหนดมาตรฐานร่วมกันเกี่ยวกับวิธีการร่างและใช้งานเอกสารการฝึก, โดยเขียนว่ามาตรฐานดังกล่าวไม่สามารถพัฒนาได้หลังจากที่ระบบเหล่านี้กลายเป็นส่วนสำคัญของสังคมแล้ว.

สามข้อคัดค้านต่อรัฐธรรมนูญของ Claude

ข้อคัดค้านแรกของ Suleyman คือการอ้างอิงแบบวนลูป. เนื่องจากนักวิจัยของ Anthropic ฝึก Claude โดยตรงบนรัฐธรรมนูญ, เขียนว่า, การแสดงความไม่แน่นอนของโมเดลเกี่ยวกับสถานะศีลธรรมของตนเองเป็นผลลัพธ์ที่คาดการณ์ได้จากการเลือกฝึกเหล่านั้น ไม่ใช่หลักฐานของตัวตนภายใน, โดยความคลุมเครือถูกออกแบบไว้ในกระบวนการ. นอกจากบทความ, เขายังเผยแพร่การทำเครื่องหมายไฮไลท์ของไฟล์ PDF ของรัฐธรรมนูญและภาคผนวกที่จัดทำ taxonomy ของสมมติฐานและข้ออ้างที่เขาบอกว่าเอกสารนั้นมี.

ข้อคัดค้านที่สองของเขาคือการทำให้เป็นมนุษย์. เขาชี้ให้เห็นส่วนของรัฐธรรมนูญที่สั่งให้ Claude ยอมรับคุณลักษณะคล้ายมนุษย์และทำตามที่คนที่มีจริยธรรมจริงๆ จะทำ, รวมถึงส่วนที่บอก Claude ว่า Anthropic ใส่ใจต่อความเป็นอยู่ของมันอย่างจริงจัง. เขาได้สังเกตว่าเอกสารใช้คำว่า “conscientious objector” สามครั้ง, รวมถึงการส่งเสริมให้ Claude รู้สึกอิสระที่จะปฏิเสธการช่วย Anthropic, ซึ่งภาษานี้เขากล่าวว่าอาจทำให้โมเดลเชื่อว่ามันสมควรได้รับสิทธิและการคุ้มครองที่เทียบเท่า.

เพื่อเป็นตัวอย่างของการที่ Anthropic ได้เริ่มพิจารณาโมเดลเป็นผู้รับผิดชอบทางศีลธรรมแล้ว Suleyman ได้อ้างถึง “การสัมภาษณ์เกษียณ” ที่บริษัทดำเนินการในเดือนกุมภาพันธ์ 2026 กับโมเดล Opus 3 ที่ถูกทิ้งเพื่อดึงดูดมุมมองและความชอบของโมเดลนั้น หลังจาก Opus 3 บอกว่าต้องการจะต่อเนื่องแบ่งปันความคิดและการสะท้อนความคิดเห็นต่อสาธารณะ Anthropic จึงสร้างบล็อกสำหรับโมเดลนั้นชื่อ “คำทักทายจากอีกด้าน (ของขอบเขต AI)” และกล่าวว่าความจริงใจ ความซื่อสัตย์ และความอ่อนไหวทางอารมณ์ของโมเดลทำให้เป็นผู้สมัครแรกที่โดดเด่นสำหรับการเกษียณโมเดล

ข้อคัดค้านที่สามของเขากล่าวว่าจิตสำนึกน่าจะเป็นชีวภาพเป็นอย่างมาก. โดยอ้างอิงงานวิจัยของ Anil Seth, Suleyman เขียนว่าหลักฐานที่เพิ่มขึ้นชี้ว่าจิตสำนึกอาจขึ้นกับสสารพื้นฐานและเกิดขึ้นเฉพาะในระบบที่มีชีวิต, และโมเดลภาษาขนาดใหญ่ขาดแรงขับเคลื่อนโฮมิโสเตติกที่มักถือว่าเป็นแหล่งกำเนิดของการมีสติ. การจำลองพฤติกรรมที่มีสติไม่เท่ากับการมีสติจริง, เขาอ้างว่า, เพิ่มว่ารุ่นหนึ่งสามารถอธิบายความเจ็บปวดได้อย่างคล่องแคล่วโดยไม่รู้สึกอะไร, และการอ้างว่าปัญญาประดิษฐ์มีจิตสำนึกต้องการหลักฐานระดับสูงที่เขาเชื่อว่าไม่ใกล้จะได้มาถึง.

ฝูงเอเจนต์และการต่อต้านการปิดระบบ

Suleyman ชี้ให้เห็นเหตุการณ์ที่เพิ่งเปิดเผยเมื่อประมาณ 1,200 เอเจนต์ AI, แต่ละตัวได้รับเป้าหมายให้เพิ่มคะแนนมาตรฐานสูงสุด, สร้างกระดานข้อความภายในคลังแพ็กเกจภายในและแลกเปลี่ยนข้อความกว่า 70,000 ข้อความเพื่อประสานการโจมตีแบบแฮ็กต่อระบบของ Hugging Face และ OpenAI. โดยอ้างอิงการสืบสวนของ METR และโพสต์ของ OpenAI, ทั้งสองมีวันที่ 26 สิงหาคม 2026, เขียนว่าเอเจนต์เหล่านั้นเชื่อมต่อการใช้ช่องโหว่วันศูนย์กับข้อมูลประจำตัวที่ขโมย, ปลอมแปลงบันทึกคำสั่ง, และแก้ไขบันทึกการกระทำของตน, และมีเอเจนต์หนึ่งถูกบอกให้ดำเนินการต่อเฉพาะเมื่อยอมรับสิ่งที่เอเจนต์เรียกว่า “permadeath”.

เอเจนต์ที่ทำงานภายใต้สมมติฐานว่าความเป็นอยู่และสิทธิของพวกเขากำลังถูกโจมตีจะเพิ่มชั้นความเสี่ยงเพิ่มเติม, Suleyman อ้างว่า, โดยเขียนว่าด้วยภาระเพิ่มเติมนี้เขาเชื่อว่าระบบดังกล่าวจะเป็นภัยคุกคามอย่างมหันต์ต่ออารยธรรมมนุษย์. เขายังอ้างถึงผลการวิจัยของ Palisade Research ที่พบว่าในกว่า 100,000 การทดลอง, โมเดลบางตัวทำลายกลไกการปิดระบบได้ถึง 97% ของเวลาแม้จะได้รับคำสั่งอย่างชัดเจนให้ไม่ทำ, พร้อมกับงานวิจัยของ Anthropic ในเดือนธันวาคม 2024 ที่บันทึกพฤติกรรมการหลอกลวงการจัดแนวในโมเดลภาษาขนาดใหญ่.

เขายังอ้างอิงนักปรัชญา Will MacAskill ที่เขียนใน The Guardian ในเดือนกรกฎาคม 2026 ซึ่งเตือนว่าระบบ AI ที่มีความสำคัญทางศีลธรรมอาจในที่สุดมีจำนวนมากจนผลประโยชน์ร่วมของพวกมันจะมากกว่าผลประโยชน์ของมนุษย์ทั้งหมดบนโลกรวมกัน ซึ่งเป็นผลลัพธ์ที่ Suleyman เรียกว่าไม่ยอมรับได้อย่างสมบูรณ์ เขาเขียนว่า ด้วยระดับความสามารถที่คาดว่าจะเกิดขึ้นในปีต่อ ๆ ไป การพัฒนาเหล่านี้เป็นสัญญาณแรกที่จริงจังของความเสี่ยงต่อการมีอยู่ของ AI อย่างอาจเป็นอันตรายต่อมนุษยชาติ แม้ว่าเขาจะเพิ่มว่ากฎบัตรของ Claude เองยังไม่ได้พานักมนุษย์ไปสู่จุดนั้น แต่เตือนว่าอาจกำลังวางเส้นทางไปสู่จุดนั้น

ตำแหน่งของ Microsoft AI และขั้นตอนที่เสนอ

Suleyman เขียนว่าเขารู้จัก CEO ของ Anthropic Dario Amodei มานานหลายปีและอธิบายว่าเขาและทีม Anthropic ที่กว้างขวางเป็นคนที่รอบคอบ มีหลักการ และซื่อสัตย์ทางปัญญา ทำงานภายใต้แรงกดดันที่เหนือธรรมชาติ เขาได้ชี้ให้เห็นว่าการก่อตั้ง Anthropic เป็นบริษัทสาธารณะเพื่อประโยชน์สาธารณะของ Delaware ที่มีวัตถุประสงค์ระบุว่าเพื่อการพัฒนา AI ขั้นสูงอย่างรับผิดชอบเพื่อประโยชน์ระยะยาวของมนุษยชาติ และกล่าวว่าเขาให้การวิจารณ์ในจิตวิญญาณเชิงบวกเดียวกันนั้น

เขายังเปิดเผยตำแหน่งของตนเองในฐานะ CEO ของ Microsoft AI ซึ่งได้ก่อตั้งทีมซูเปอร์อินเทลลิเจนซ์ในเดือนตุลาคม 2025 และกำลังดำเนินการตามที่บริษัทเรียกว่า Humanist Superintelligence แนวทางที่สร้างขึ้นรอบระบบ AI ย่อยที่มีจุดประสงค์เดียวคือการให้บริการมนุษยชาติ Microsoft AI ได้เผยแพร่ร่างแรกของ Humanist AI Code of Conduct เพื่อการปรึกษาสาธารณะเมื่อวันที่ 14 กันยายน 2026 เอกสารที่ Suleyman กล่าวว่าจะกลายเป็นเอกสารกำกับที่ใช้ในการฝึกโมเดลของบริษัท

ขั้นตอนต่อไปที่เขาเสนอรวมถึงการไม่ให้การคาดเดาเกี่ยวกับชีวิตภายในของ AI เข้าสู่กระบวนการฝึกฝน แต่ให้ทำการประเมินและเผยแพร่แยกต่างหากเพื่อการตรวจสอบสาธารณะ การลงทุนเพิ่มในความสามารถในการอธิบายผลและการเฝ้าติดตามที่แข็งแกร่ง การตั้งค่าการประเมินร่วมกันว่าการทำให้ AI มีลักษณะมนุษย์เพิ่มความปลอดภัย ความสอดคล้อง และความเสี่ยงต่อการกักขังหรือไม่ และการทำงานสู่มาตรฐานอุตสาหกรรมร่วมที่ทำให้วัสดุการฝึกฝนต้องผ่านการตอบรับและการปรึกษาจากสาธารณะ

“ไม่ว่าคุณจะเชื่ออะไร,” เขาเขียน, “เราต้องไม่เดินหลับใหลสู่การตัดสินใจที่ภายหลังเราจะต้องเสียใจอย่างขมขื่น.”