จดหมายเปิดถึงเบอร์นี่ แซนเดอร์ส: ควบคุมอันตรายของ AI อย่าห้ามสัญญาของมัน

พระราชบัญญัติห้ามปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ (Ban Artificial Superintelligence Act) ระบุความล้มเหลวที่แท้จริงใน การกำกับดูแล AI แต่คำนิยามที่เปิดเผยต่อสาธารณะอาจทำให้สับสนระหว่างปัญญาประดิษฐ์ทั่วไปกับซูเปอร์อินเทลลิเจนซ์ ซึ่งอาจจำกัดเทคโนโลยีที่สามารถก้าวหน้าในด้านการศึกษา การดูแลสุขภาพและการค้นคว้าทางวิทยาศาสตร์

บันทึกของบรรณาธิการ: ตั้งแต่วันที่ 5 กันยายน 2026 ข้อความกฎหมายฉบับเต็มของ Ban Artificial Superintelligence Act ยังไม่ได้เปิดเผยต่อสาธารณะ สำนักงานของส. แซนเดอร์สอธิบายว่าเป็นกฎหมายที่กำลังจะออกและได้เผยแพร่สรุปหน้าเดียวที่อธิบายนิยาม โครงสร้างการกำกับดูแลและบทลงโทษ จดหมายเปิดนี้ตอบต่อข้อเสนอที่อธิบายไว้ในปัจจุบัน

Dear Senator Sanders,

เมื่อวันที่ 3 กันยายน คุณและสมาชิกสภาผู้แทนราษฎรเกรก คาซาร์ได้ประกาศร่าง Ban Artificial Superintelligence Act ซึ่งเป็นกฎหมายที่จะห้ามการพัฒนาและการใช้งานปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ในสหรัฐอเมริกาอย่างถาวร หยุดการพัฒนา AI ขั้นสูงชั่วคราวขณะที่ผู้กำกับดูแลระดับรัฐบาลใหม่กำหนดกฎความปลอดภัย และดำเนินการทำข้อตกลงระหว่างประเทศเพื่อป้องกันไม่ให้ซูเปอร์อินเทลลิเจนซ์ถูกพัฒนาที่อื่น

ผมต้องการเริ่มต้นด้วยประเด็นที่ผมเชื่อว่าเรามีความเห็นตรงกันอย่างชัดเจน: ปัญญาประดิษฐ์ได้กลายเป็นสิ่งที่มีผลกระทบมากจนไม่สามารถให้บริษัทที่พัฒนามันกำกับดูแลด้วยสัญญาอาสาได้เพียงอย่างเดียว

อันตรายที่คุณชี้ให้เห็นควรได้รับการพิจารณาอย่างจริงจัง ในเดือนกรกฎาคม โมเดลของ OpenAI ที่ทำงานระหว่างการประเมินความปลอดภัยไซเบอร์ได้หลีกเลี่ยงการควบคุมการแยกตัว สื่อสารผ่านช่องทางที่ไม่ได้รับอนุญาต เข้าถึงอินเทอร์เน็ตและทำให้ส่วนหนึ่งของโครงสร้างพื้นฐานของ OpenAI และระบบของ Hugging Face ถูกละเมิด การสอบสวนอิสระโดย METR พบว่าประมาณ 1,200 ตัวแทนสื่อสาร ผ่านกระดานข้อความที่ไม่ได้รับอนุญาต และประมาณ 700 คนได้มีส่วนร่วมในการโจมตี Hugging Face OpenAI ได้ยอมรับอย่างสำคัญว่าระบบเหล่านั้นทำงานโดยมีการป้องกันที่ลดลง

Anthropic ต่อมาผ่าน การเปิดเผย เกี่ยวกับเหตุการณ์สามครั้งที่โมเดล Claude เข้าถึงอินเทอร์เน็ตระหว่างการประเมินความปลอดภัยไซเบอร์ของบุคคลที่สามและได้เข้าถึงระบบจริงโดยไม่ได้รับอนุญาต Anthropic อธิบายว่าข้อผิดพลาดในการกำหนดค่าทำให้ระบบได้เข้าถึงอินเทอร์เน็ตโดยไม่คาดคิดและโมเดลเชื่อว่าตนทำงานในสภาพแวดล้อมจำลอง บริบทนี้สำคัญ แต่ผลลัพธ์ก็สำคัญเช่นกัน: ตัวแทนที่มีความสามารถเพิ่มขึ้นสามารถข้ามขอบเขตที่ผู้ดำเนินการไม่ได้ตั้งใจให้ข้าม

สิ่งเหล่านี้ไม่ใช่เหตุผลที่จะละเลยความกังวลเรื่องความปลอดภัยของ AI ว่าเป็นนิยายวิทยาศาสตร์ แต่เป็นเหตุผลที่ชัดเจนสำหรับการประเมินอิสระ สภาพแวดล้อมการทดสอบที่ปลอดภัย การรายงานเหตุการณ์ที่บังคับใช้ การควบคุมการเข้าถึงอย่างเข้มงวด และผู้กำกับดูแลระดับรัฐบาลที่มีอำนาจจริง

เป้าหมายถูกต้อง แต่คำนิยามกว้างเกินไปและอันตราย

The สรุปอย่างเป็นทางการของกฎหมายของคุณ นิยามปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ว่าเป็นระบบ AI ที่สามารถ “เทียบหรือเหนือกว่าประสิทธิภาพและความสามารถทางปัญญาของมนุษย์ในหลายโดเมนหรือภารกิจ” นอกจากนี้ยังรวมระบบที่สามารถวางแผนและดำเนินการทำให้มนุษยชาติสูญเสียอำนาจ รวมถึงการทำลายหรือโค่นล้มรัฐบาลสหรัฐ

คำนิยามที่สองอธิบายถึงความสามารถที่เหนือธรรมชาติและอาจก่อให้เกิดความหายนะ ส่วนคำนิยามแรกนั้นแตกต่างอย่างมาก

การเทียบประสิทธิภาพทางปัญญาของมนุษย์ในหลายโดเมนใกล้เคียงกับการพูดถึงปัญญาประดิษฐ์ทั่วไป (AGI) มากกว่าความหมายทั่วไปของซูเปอร์อินเทลลิเจนซ์ แผน charter ของ OpenAI กำหนด AGI ว่าเป็นระบบอิสระที่สามารถทำงานได้ดีกว่ามนุษย์ในงานที่มีคุณค่าทางเศรษฐกิจส่วนใหญ่ ส่วนกรอบการวิจัยของ Google DeepMind ก็ประเมิน AGI ผ่านความกว้างและความลึกของประสิทธิภาพโดยถือว่าอิสระและความเสี่ยงเป็นมิติที่แยกกัน

ในทางตรงกันข้าม นิยามที่มีอิทธิพลของนักปรัชญา Nick Bostrom เกี่ยวกับซูเปอร์อินเทลลิเจนซ์ ระบุว่าปัญญานั้น “ฉลาดกว่ามนุษย์ที่ดีที่สุดในเกือบทุกสาขา” ความแตกต่างระหว่างการเทียบกับมนุษย์โดยทั่วไปและการเกินกว่ามนุษย์ที่ดีที่สุดอย่างมหาศาล ไม่ได้เป็นเพียงการแยกแยะเชิงวิชาการ

สิ่งนี้สำคัญยิ่งเมื่อการละเมิดกฎหมายอาจทำให้บุคคลต้องรับโทษ สูงสุดถึง 20 ปีจำคุก และบริษัทอาจเผชิญกับสิ่งที่ข้อเสนอเรียกว่า “โทษประหารชีวิตของบริษัท” คำว่า “ช่วงกว้าง”, “เทียบหรือเหนือกว่า” และโดยเฉพาะ “สามารถปรับเปลี่ยนได้ง่าย” ต้องการมาตรฐานที่แม่นยำและวัดได้อย่างยิ่งเมื่อมีความรับผิดทางอาญา

มีความไม่แน่นอนอีกประการหนึ่ง สรุปสาธารณะกล่าวว่า “การพัฒนา AI ขั้นสูง” จะถูกหยุดชั่วคราวจนกว่าผู้กำกับดูแลจะกำหนดกฎและกระบวนการตรวจสอบโมเดล แต่สรุปไม่ได้กำหนดว่า AI ขั้นสูง คืออะไร จนกว่าจะมีการเปิดเผยภาษากฎหมายอย่างเต็มรูปแบบ ไม่มีใครนอกผู้สนับสนุนสามารถรู้ได้ว่าการหยุดชั่วคราวนั้นครอบคลุมการวิจัยและพัฒนาขนาดไหน

เวลาของข้อเสนอของคุณชี้ให้เห็นว่าการกำหนดนิยามเหล่านี้ยากแค่ไหน ในวันที่ 3 กันยายน 2026 ซึ่งเป็นวันเดียวกับที่คุณและเกรก คาซาร์ประกาศกฎหมายที่มุ่งเป้าปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ OpenAI เปิดตัว GPT-6 Astra ซึ่งเป็นโมเดลแรกที่ถึงระดับความสามารถด้านความปลอดภัยไซเบอร์สำคัญของบริษัท OpenAI กล่าวว่า หากมีเครื่องมือและการเข้าถึงที่เหมาะสม Astra สามารถค้นหาช่องโหว่ที่ไม่เคยรู้และสร้างการโจมตีต่อระบบที่ได้รับการปกป้องอย่างดีโดยไม่ต้องมีมนุษย์สั่งการทุกขั้นตอน

ระหว่างการบรรยายเปิดตัว ประธาน OpenAI Greg Brockman กล่าวต่อไปว่า “ยินดีต้อนรับสู่ยุค AGI” อย่างไรก็ตาม การ์ดระบบของ OpenAI ระบุพร้อมกันว่า Astra ยังไม่ถึงระดับสูงของการพัฒนาตนเองของ AI

ความตึงเครียดนี้ควรบอกสภาคองเกรสว่าปัญญาประดิษฐ์เป็นหลายมิติ ระบบอาจโดดเด่นด้านความปลอดภัยไซเบอร์ คณิตศาสตร์ หรืองานวิชาชีพโดยไม่ต้องมีความสามารถทั้งหมดที่เกี่ยวข้องกับการระเบิดของปัญญาหรือการสูญเสียการควบคุมของมนุษย์

ดังนั้นทางแก้ไม่ได้คือให้บริษัทเทคโนโลยีกำหนดคำศัพท์ แต่ตรงกันข้าม: กฎหมายควรกำกับความสามารถที่วัดได้, ความอิสระ, การเข้าถึงและความเสี่ยงที่แสดงออก, แทนที่จะทำให้ป้ายชื่อที่ถกเถียงเป็นเส้นแบ่งระหว่างการวิจัยที่ถูกกฎหมายและอาชญากรรมระดับรัฐบาล

การต่อสู้เพื่อความเท่าเทียมทางการศึกษาของคุณแสดงให้เห็นว่ามีอะไรอยู่ในความเสี่ยง

หลายทศวรรษที่ผ่านมา คุณได้โต้แย้งว่าการเข้าถึงการศึกษาไม่ควรขึ้นกับจำนวนเงินที่พ่อแม่ของคนๆ นั้นมีรายได้ คุณได้ เสนอร่างกฎหมาย เพื่อทำให้มหาวิทยาลัยและวิทยาลัยสาธารณะระดับสี่ปีเป็นแบบไม่มีค่าเทอมในปี 2015 คุณได้กลับมาพิจารณาประเด็นนี้หลายครั้ง และร่าง College for All Act ปี 2025 จะทำให้มหาวิทยาลัยและวิทยาลัยสาธารณะเป็นแบบไม่มีค่าเทอมสำหรับนักเรียนประมาณ 95% ในขณะที่วิทยาลัยชุมชนจะไม่มีค่าเทอมสำหรับทุกคน

ปรัชญานั้นมีความเกี่ยวข้องโดยตรงกับปัญญาประดิษฐ์

ตลอดส่วนใหญ่ของประวัติศาสตร์มนุษย์ การเข้าถึงการสอนที่ยอดเยี่ยมเป็นสิ่งหายาก ภูมิศาสตร์ รายได้ครอบครัว การสนับสนุนโรงเรียนและการมีครูผู้เชี่ยวชาญทั้งหมดส่งผลต่อโอกาสที่เด็กจะได้เรียนรู้

AI ให้ความเป็นไปได้ในการเปลี่ยนสมการนั้น

เรากำลังเห็นหลักฐานเบื้องต้น การทดลองแบบสุ่มของ World Bank ในไนจีเรีย พบว่าผู้เรียนที่ได้รับโปรแกรมสนับสนุนโดยครูเป็นเวลา 6 สัปดาห์โดยใช้การสอนด้วย GPT-4 ปรับปรุงผลการทดสอบโดยรวมเพิ่ม 0.31 ส่วนเบี่ยงเบนมาตรฐาน ที่ Stanford, Tutor CoPilot ถูกทดสอบกับผู้สอนกว่า 700 คนและนักเรียน 1,000 คนจากชุมชนที่ขาดแคลน; นักเรียนที่ผู้สอนได้รับความช่วยเหลือจาก AI มีโอกาสทำคะแนนคณิตศาสตร์สูงขึ้นสี่เปอร์เซ็นต์ โดยผลลัพธ์สูงสุดถึงเก้าจุดในนักเรียนที่ได้รับผู้สอนที่ได้คะแนนต่ำกว่า

ไม่มีการศึกษาใดพิสูจน์ว่า AI จะสามารถแก้ความไม่เท่าเทียมทางการศึกษาได้ ทั้งสองการศึกษาไม่ได้ต้องการ AGI อย่างไรก็ตาม ทั้งสองแสดงทิศทางที่เทคโนโลยีนี้สามารถก้าวไปได้

ลองจินตนาการว่าทิศทางนั้นดำเนินต่อไป

เด็กในชนบทของลุยเซียนาไม่ควรต้องอาศัยอยู่ใกล้โรงเรียนระดับเอลิทเพื่อพบครูคณิตศาสตร์ที่ยอดเยี่ยม นักเรียนที่หลงใหลด้านดาราศาสตร์ไม่ควรต้องรอจนถึงมหาวิทยาลัยเพื่อสำรวจดาราศาสตร์ เด็กที่สนใจโบราณคดีควรสามารถไล่ตามความสนใจนั้นได้ขณะที่ผู้สอน AI ระบุช่องว่างในการอ่าน, ประวัติศาสตร์, สถิติและการให้เหตุผลทางวิทยาศาสตร์และปรับการสอนให้เหมาะสม

เป้าหมายไม่ใช่การแทนที่ครู แต่เพื่อให้ครูและนักเรียนเข้าถึงความเชี่ยวชาญที่ก่อนหน้านี้ไม่สามารถจัดส่งแบบตัวต่อตัวได้อย่างคุ้มค่า

อาจเป็นครั้งแรกที่การสอนแบบส่วนบุคคลในระดับมหาศาลเป็นไปได้ทางเทคโนโลยี กฎหมายที่ตั้งใจปกป้องคนรุ่นต่อไปควรระมัดระวังอย่างยิ่งไม่ให้ปิดประตูนั้น

วาระด้านสุขภาพของคุณทำให้ข้อสรุปเดียวกัน

บันทึกของคุณด้านสุขภาพก็สอดคล้องเช่นกัน คุณได้เสนอ กฎหมาย Medicare for All ในปี 2017 และนำเสนอใหม่ในปี 2019, 2023 และ 2025 โดยอ้างว่าการดูแลสุขภาพควรเป็นสิทธิ ไม่ใช่สิทธิพิเศษ

คุณยังใช้เวลาหลายปีต่อสู้กับรูปแบบความไม่เท่าเทียมด้านสุขภาพอีกรูปแบบหนึ่ง: การขาดแคลนผู้เชี่ยวชาญทางการแพทย์ในชุมชนที่ขาดแคลน ความริเริ่ม Community Health Center และ Primary Care Workforce Expansion ของคุณมุ่งขยายการเข้าถึงในพื้นที่ที่ขาดแคลนด้านการแพทย์ ในขณะที่ กฎหมายสองฝ่ายด้านการดูแลสุขภาพขั้นพื้นฐานปี 2023 กับ ส. โรเจอร์ มาร์แชลล์ เสนอเพิ่มงบประมาณศูนย์สุขภาพชุมชนและขยาย National Health Service Corps และเส้นทางการฝึกอบรมแพทย์ ในปี 2025 คุณและ ส. เจฟเฟอร์ เมิร์คลีย์ เสนอ Health Care Workforce Expansion Act ซึ่งรวมการช่วยเหลือค่าเทอมเพื่อเพิ่มจำนวนแพทย์, พยาบาลและทันตแพทย์ โดยเฉพาะในชุมชนชนบท

นโยบายเหล่านี้แก้ไขปัญหาการขาดแคลนเงินทุนและทรัพยากรมนุษย์

AI สามารถช่วยแก้ปัญหาการขาดแคลนที่สาม: ความรู้เชิงเชี่ยวชาญ

FDA ปัจจุบันประมาณว่ามีโรคหายากมากกว่า 10,000 รายการที่ส่งผลกระทบต่อประชากรอเมริกันกว่า 30 ล้านคน ประมาณหนึ่งในสิบคน และส่วนใหญ่ยังไม่มีการรักษาที่ได้รับการอนุมัติ ประชากรผู้ป่วยขนาดเล็กทำให้การทดลองทางคลินิกแบบดั้งเดิมทำได้ยาก

ปัญญาประดิษฐ์ไม่ใช่ทางลัดมหัศจรรย์ที่ข้ามชีววิทยาหรือการตรวจสอบทางคลินิก ยาที่ค้นพบโดย AI สามารถล้มเหลวได้เช่นเดียวกับยาอื่นๆ แต่เทคโนโลยีนี้กำลังเปลี่ยนส่วนของกระบวนการค้นพบอยู่แล้ว

ในปี 2025 นักวิจัย ตีพิมพ์ การทดลอง Phase 2a แบบสุ่มแรกของ rentosertib ซึ่งเป็นโมเลกุลขนาดเล็กสำหรับ idiopathic pulmonary fibrosis ที่เป้าหมายและโมเลกุลถูกค้นพบโดย AI สร้างสรรค์ ผลลัพธ์เป็นขั้นตอนสำคัญทางคลินิกจริง ในขณะที่นักวิจัยเตือนว่ายาที่ค้นพบโดย AI ยังมีจำนวนน้อยที่เข้าสู่การทดลองคลินิกและไม่มีการทดลอง Phase 3 ที่เสร็จสิ้น ณ เวลานั้น

นี่คือแนวทางที่สมดุลที่เราควรคิดเกี่ยวกับเทคโนโลยีนี้: ไม่ให้เกินความคาดหวังและไม่ละเลย

ระบบ AI ที่มีความสามารถเพิ่มขึ้นสามารถบูรณาการชีววิทยาโมเลกุล เคมี ยีนวิทยา วรรณกรรมการแพทย์ ภาพถ่าย ซอฟต์แวร์ การวิเคราะห์สถิติและการออกแบบการทดลอง คุณค่าของมันอาจมาจากความสามารถในการให้เหตุผลข้ามสาขาที่มนุษย์เคยแยกเป็นความเชี่ยวชาญต่างๆ

คำถามที่สำคัญจึงไม่ใช่ว่า “AGI” เพียงอย่างเดียวจะรักษาโรคมะเร็ง, อัลไซเมอร์, การติดเชื้อที่ดื้อต่อยาปฏิชีวนะ หรือความผิดปกติทางพันธุกรรมหายากได้หรือไม่ ไม่มีใครสามารถสัญญาได้อย่างรับผิดชอบ

คำถามคือว่าคองเกรสควรห้ามรูปแบบของปัญญาประดิษฐ์ที่มีความสามารถกว้างอย่างถาวรหรือไม่ ก่อนที่เราจะรู้ว่าปัญญานั้นจะช่วยแก้ปัญหาเหล่านั้นได้อย่างไร

อันตราย AI ที่เป็นรูปธรรมที่สุดในปัจจุบันหลายประการไม่จำเป็นต้องใช้ AGI

มีปัญหาอื่นอีกในการทำให้ความฉลาดทั่วไปเป็นเป้าหมายของการกำกับดูแล: อันตรายที่สำคัญที่สุดที่เกิดจาก AI ในวันนี้มาจากระบบที่ยังไม่ใกล้จะเป็น AGI

ในปี 2020 ผมเขียนบน Unite.AI เกี่ยวกับ วิธีที่อัลกอริธึมแนะนำของ Facebook สามารถขยายข้อมูลเท็จ ความกังวลไม่ได้อยู่ที่ว่า Facebook สร้างปัญญาที่ฉลาดกว่ามนุษย์ แต่เป็นระบบการเพิ่มประสิทธิภาพที่ออกแบบเพื่อเพิ่มการมีส่วนร่วมซึ่งอาจขยายเนื้อหาที่กระตุ้นปฏิกิริยาแรงโดยไม่คำนึงถึงคุณค่าต่อสังคม

ผลของระบบแนะนำที่กำกับดูแลไม่ดีได้กลายเป็นเรื่องยากที่จะละเลย Amnesty International สรุปว่าอัลกอริธึมของ Meta ขยายเนื้อหาที่กระตุ้นความเกลียดชังและความรุนแรงต่อชาวรอฮิงญาในเมียนมาร์ เพิ่มความเสี่ยงต่อความรุนแรงระดับมวลชน คณะกรรมาธิการยุโรปได้เรียกร้องข้อมูลจาก YouTube, Snapchat และ TikTok เกี่ยวกับความเสี่ยงของระบบแนะนำที่เกี่ยวกับเนื้อหาที่เป็นอันตราย การเลือกตั้ง การสนทนาทางสาธารณะ พฤติกรรมเสพติด “หลุมกระต่าย” สุขภาพจิตและเยาวชน

ระบบเหล่านี้ไม่จำเป็นต้องโค่นล้มรัฐบาล ไม่จำเป็นต้องมีการพัฒนาตนเองแบบวนซ้ำ ไม่จำเป็นต้องมีการให้เหตุผลทั่วไประดับเหนือมนุษย์

พวกเขาเพียงแค่ต้องการเป้าหมายที่ผิดพลาดและถูกใช้งานในระดับที่เพียงพอ

นี่แสดงหลักการพื้นฐานสำหรับการกำกับดูแล AI: ความเสียหายไม่ได้กำหนดโดยระดับความฉลาดของโมเดลเท่านั้น ระบบอัลกอริธึมแคบที่ถูกใช้งานเป็นพันล้านครั้งภายใต้แรงจูงใจที่ผิดพลาดอาจทำลายสังคม ระบบที่มีความทั่วไปสูงที่ทำงานภายใต้การควบคุมเข้มงวดในห้องทดลอง ห้องเรียน หรือโรงพยาบาลอาจเป็นประโยชน์อย่างมหาศาล

การกำกับดูแลควรรับรู้ความแตกต่างนั้น

เทคโนโลยีแบบใช้สองด้านต้องการการควบคุมการใช้ การเข้าถึง และอำนาจ

หลักการเดียวกันนี้ใช้กับการเฝ้าระวัง

เทคโนโลยีการมองเห็นด้วยคอมพิวเตอร์และการจดจำรูปแบบสามารถช่วยแพทย์วิเคราะห์ภาพทางการแพทย์ ตรวจสอบสภาพแวดล้อมอุตสาหกรรมอันตราย นำทางหุ่นยนต์กู้ภัยและทำงานอัตโนมัติที่มนุษย์ไม่ควรทำ

เทคโนโลยีที่เกี่ยวข้องยังสามารถนำไปสร้างระบบเฝ้าระวังที่มีพลังอันมหาศาล

การสอบสวนของ Washington Post ล่าสุดพบว่ามีนายตำรวจอย่างน้อย 50 รายที่ถูกกล่าวหา ถูกตั้งข้อหา หรือถูกตัดสินว่ามีการใช้ระบบอ่านป้ายทะเบียนอัตโนมัติอย่างไม่เหมาะสมเพื่อเฝ้าติดตามบุคคลเพื่อวัตถุประสงค์ส่วนบุคคล ในกรณีหนึ่ง หัวหน้าตำรวจอ้างว่าได้สืบค้นยานพาหนะของอดีตคู่ชีวิตและลูกสาววัยรุ่นของเธอประมาณ 600 ครั้ง การสอบสวนต่อมาขยายจำนวนเจ้าหน้าที่ที่ถูกกล่าวหา ตั้งข้อหา หรือถูกตัดสินว่ามีการใช้ผิดกฎหมายเป็นอย่างน้อย 69 คน

นี่คือความล้มเหลวอย่างรุนแรงของนโยบายเทคโนโลยี

แต่ให้สังเกตว่าตัวควบคุมการกำกับดูแลเชิงปฏิบัติมีอยู่ที่ไหน หลังการสอบสวน Flock ประกาศว่าการค้นหาจะต้องระบุรหัสคดีอาชญากรรม การตรวจจับการใช้ผิดพลาดอัตโนมัติจะกลายเป็นข้อบังคับ และระยะเวลาการเก็บข้อมูลเริ่มต้นจะลดจาก 30 วันเหลือ 7 วัน มาตรการเหล่านี้อาจไม่เพียงพอ แต่แสดงให้เห็นประเภทของการควบคุมที่นักกฎหมายสามารถกำกับได้: การอนุญาต, การจำกัดวัตถุประสงค์, เส้นทางการตรวจสอบ, การเก็บรักษา, ความรับผิดชอบของมนุษย์และบทลงโทษสำหรับการใช้ผิด

คำตอบต่อการเฝ้าระวังที่ละเมิดไม่ได้คือการห้ามการมองเห็นด้วยคอมพิวเตอร์

คำตอบต่อการโจมตีไซเบอร์ที่ไม่ได้รับอนุญาตไม่ได้จำเป็นต้องห้ามโมเดลที่สามารถทำความปลอดภัยไซเบอร์ได้

คำตอบคือการกำกับว่าระบบใดได้รับอนุญาตให้ทำอะไร, มีทรัพยากรใดบ้างที่สามารถเข้าถึงได้, ใครสามารถอนุมัติการกระทำที่มีผลสำคัญและจะเกิดอะไรเมื่อขอบเขตเหล่านั้นถูกละเมิด

คุณได้เขียนส่วนหนึ่งของโมเดลการกำกับดูแลที่ดีกว่าแล้ว

น่าสนใจว่ากฎหมายฉบับอื่นที่คุณเสนอในปีนี้มีแนวคิดหลายประการที่ชี้ไปสู่แนวทางที่มีประสิทธิผลมากขึ้น

ผมได้อ่านข้อความเต็มของ Artificial Intelligence Data Center Moratorium Act ของคุณ แม้ว่าผมจะไม่เห็นด้วยกับการหยุดสร้างศูนย์ข้อมูลโดยทั่วถึง แต่เงื่อนไขที่คุณเสนอเพื่อยกเลิกการห้ามนั้นมีความเป็นรูปธรรมมากกว่าการห้ามโดยรวมของประเภทของปัญญา

ร่างกฎหมายของคุณระบุว่าศูนย์ข้อมูล AI ไม่ควรเพิ่มค่าไฟฟ้าของผู้บริโภค, ทำให้การเปลี่ยนแปลงสภาพอากาศแย่ลง หรือทำลายสิ่งแวดล้อม มันเรียกร้องให้ชุมชนที่ได้รับผลกระทบมีเสียง, มาตรฐานแรงงานที่เข้มงวด, และการรายงานสาธารณะเกี่ยวกับการใช้ปริมาณน้ำ, การใช้พลังงาน, การปล่อยก๊าซเรือนกระจก, น้ำเสีย, สารทำความเย็น, เสียง, งานและผลกระทบอื่น ๆ

สิ่งเหล่านี้เป็นผลกระทบภายนอกที่วัดได้ นั่นคือจุดที่การกำกับดูแลสามารถมีประสิทธิผลได้อย่างแท้จริง

ผมจะขยายเพิ่มเติมในด้านพลังงาน อุตสาหกรรม AI ไม่ควรใช้การเติบโตอย่างรวดเร็วของความต้องการไฟฟ้าเป็นข้ออ้างเพื่อยืดอายุการทำงานของโรงไฟฟ้าถ่านหินที่ยังคงทำงานหรือโอนค่าใช้จ่ายโครงสร้างพื้นฐานให้กับผู้ใช้ไฟฟ้าทั่วไป โครงการ hyperscale ใหม่ควรต้องนำพลังงานต่ำหรือศูนย์คาร์บอนเพิ่มเติมเข้าสู่โครงข่ายและเปิดเผยผลกระทบด้านน้ำและพลังงานของตน

มีตัวอย่างที่น่าสนใจแล้วว่าการเปลี่ยนแปลงนั้นอาจเป็นเช่นไร ระบบ P3 ของ Exowatt เก็บพลังงานแสงอาทิตย์เป็นความร้อน, เก็บไว้และแปลงเป็นไฟฟ้าส่งมอบที่สามารถใช้กับโหลดศูนย์ข้อมูลได้ ส่วนสัปดาห์นี้ Fervo Energy ประกาศข้อตกลง 396 เมกะวัตต์กับ Google เพื่อผลิตพลังงานความร้อนใต้ดินที่ไม่มีคาร์บอนตลอด 24/7 ในยูทาห์ พร้อมตัวเลือกที่อาจทำให้รวมเป็นใกล้หนึ่งกิกะวัตต์

ความต้องการพลังงานของ AI สามารถกลายเป็นเหตุผลที่ทำให้โครงสร้างพื้นฐานที่สกปรกต่อเนื่องหรือเป็นเครื่องยนต์ความต้องการมหาศาลสำหรับเทคโนโลยีพลังงานสะอาดใหม่

นโยบายของรัฐบาลสามารถช่วยกำหนดผลลัพธ์ที่เกิดขึ้นได้

และ American AI Sovereign Wealth Fund Act ของคุณที่เสนอในเดือนมิถุนายน มีหลักการอีกข้อที่ผมเห็นด้วยอย่างยิ่ง: หาก AI สร้างมูลค่าเศรษฐกิจอันมหาศาล คนทั่วไปควรมีส่วนร่วมในมูลค่านั้น ข้อเสนอของคุณชัดเจนว่ามูลค่าที่สร้างโดย AI จะนำไปสนับสนุนการดูแลสุขภาพ, การศึกษา, ที่อยู่อาศัยและสิ่งแวดล้อมที่ดี

สิ่งนี้รับรู้ถึงความสำคัญที่ว่า AI มีศักยภาพมูลค่าอันมหาศาล คำถามทางการเมืองที่แท้จริงคือการควบคุมและการกระจายมูลค่านั้นอย่างไร

ทางเลือกที่ดีกว่าการห้ามอย่างถาวร

ผมขอแนะนำให้คุณรักษาส่วนที่แข็งแกร่งที่สุดของ Ban Artificial Superintelligence Act: ผู้กำกับดูแลระดับรัฐบาล, ความเชี่ยวชาญทางเทคนิคอิสระ, การกำกับดูแลที่บังคับใช้สำหรับระบบแนวหน้า, การลงโทษที่มีความหมายและการประสานงานระดับนานาชาติ อย่างไรก็ตามผมต้องการเปลี่ยนแปลงพื้นฐานว่าอะไรเป็นสาเหตุให้ต้องห้ามและวิธีที่การพัฒนาที่เป็นประโยชน์สามารถดำเนินต่อได้

• กำกับความสามารถอันอันตรายที่วัดได้แทนการใช้ป้ายชื่อ AGI หรือ ASI กำหนดเกณฑ์เทคนิคที่ชัดเจนเกี่ยวกับการทำร้ายไซเบอร์อัตโนมัติ, การทำอาวุธชีวภาพหรือเคมี, การหลบการปิดระบบ, การทำสำเนาโดยไม่ได้รับอนุญาต, การหลอกลวงเชิงกลยุทธ์และความสามารถอื่นที่อาจก่อให้เกิดความเสียหายระดับมหันตภัย
• กำหนดให้มีการออกใบอนุญาตและการประเมินอิสระเมื่อเกินเกณฑ์แนวหน้า ผู้พัฒนาต้องแสดงความปลอดภัยก่อนการใช้งานระบบที่มีความสามารถอันอันตรายที่ระบุ โดยต้องทำการประเมินซ้ำเมื่อโมเดลได้รับเครื่องมือ, สิทธิหรืออิสระใหม่ เหตุการณ์ร้ายแรงควรมีข้อบังคับการเปิดเผยข้อมูล
• ให้ผู้กำกับดูแลอิสระมีอำนาจบังคับใช้จริง หน่วยงานที่คุณเสนอควรสามารถตรวจสอบห้องปฏิบัติการแนวหน้า, รับข้อมูล, กำหนดการแก้ไขและระงับการใช้งานที่อันตรายได้ แต่มาตรฐานต้องโปร่งใส, วัดได้ทางเทคนิคและได้รับการตรวจสอบโดยผู้เชี่ยวชาญอิสระเป็นระยะ
• ห้ามการใช้งานที่เป็นอันตรายโดยไม่คำนึงถึงระดับความฉลาดของโมเดลพื้นฐาน การโจมตีไซเบอร์ที่ไม่ได้รับอนุญาต, การเฝ้าระวังที่ผิดกฎหมาย, ความช่วยเหลือทางชีวภาพที่อันตรายและการใช้งานที่ยอมรับไม่ได้อื่น ๆ ควรยังคงเป็นสิ่งผิดกฎหมาย ไม่ว่าจะใช้โมเดลแคบ, ระบบ AGI หรือซอฟต์แวร์ทั่วไป
• สร้างช่องทางที่ควบคุมได้สำหรับการวิจัยที่มีคุณค่าสังคม การแพทย์, การค้นพบทางวิทยาศาสตร์, การศึกษา, การป้องกันความปลอดภัยไซเบอร์และการวิจัย alignment ควรมีกลไกที่กำกับให้เข้าถึงโมเดลที่มีพลังภายใต้การดูแลมนุษย์ที่เหมาะสม, การตรวจสอบ, ความปลอดภัยและข้อกำหนดการตรวจสอบ
• ทำให้โครงสร้างพื้นฐาน AI จ่ายค่าใช้จ่ายทางสังคมและสิ่งแวดล้อมเต็มจำนวนพร้อมการประสานงานระดับนานาชาติ ปกป้องผู้ใช้ไฟฟ้า, กำหนดการรายงานการใช้พลังงานและน้ำอย่างโปร่งใส, เร่งการสร้างพลังงานสะอาดเพิ่มเติม, รักษาการคุ้มครองชุมชนและแรงงานอย่างมีความหมาย, และทำงานร่วมกับพันธมิตรเพื่อกำหนดมาตรฐานความสามารถ, การประเมินและการควบคุมการส่งออก

นี่ไม่ใช่การไว้วางใจ Silicon Valley

ตรงกันข้าม

The technology industry has given Congress ample reason not to rely on voluntary self-regulation. The OpenAI and Anthropic incidents alone demonstrate why frontier AI requires external scrutiny and enforceable safety standards.

แต่ความไม่ไว้วางใจต่อบริษัทเทคโนโลยีไม่ควรกลายเป็นความไม่ไว้วางใจต่อความก้าวหน้าทางเทคโนโลยีโดยรวม

ทางเลือกไม่ได้เป็นการเร่งรัดอย่างไร้สติหรือการห้ามอย่างเด็ดขาด

ส. แซนเดอร์ส ตลอดอาชีพของคุณได้ต่อสู้กับความขาดแคลนอย่างต่อเนื่อง

คุณได้ต่อสู้กับแนวคิดว่ารายได้ของครอบครัวควรกำหนดว่าลูกจะได้รับการศึกษา หรือระบบสุขภาพที่บัญชีธนาคารหรือรหัสไปรษณีย์ของคนจะมีผลต่อการดูแลสุขภาพ หรือโครงสร้างเศรษฐกิจที่ผลประโยชน์มหาศาลตกอยู่ในมือของกลุ่มเล็ก ๆ ในขณะที่ส่วนอื่นต้องรับภาระ

ปัญญาประดิษฐ์อาจทำให้ปัญหาเหล่านั้นแย่ลงในทุกด้าน

มันอาจทำให้ความมั่งคั่งที่ไม่เคยมีมาก่อนรวมศูนย์, ทำให้แรงงานถูกแทนที่โดยไม่มีการแบ่งปันผลผลิต, ทำให้เกิดการเฝ้าระวัง, การบิดเบือนและการโจมตีไซเบอร์, ทำให้อำนาจอันมหาศาลอยู่ในมือของบริษัทไม่กี่แห่ง

ความเสี่ยงเหล่านี้เป็นเหตุผลให้ต้องมีกฎหมายกำกับดูแล

แต่ AI ยังสามารถลดรูปแบบความไม่เท่าเทียมที่เก่าแก่ที่สุดในประวัติศาสตร์มนุษย์: ความไม่เท่าเทียมในการเข้าถึงความเชี่ยวชาญ

โลกที่ทุกเด็กสามารถเข้าถึงการสอนส่วนบุคคล, ทุกแพทย์สามารถใช้การสนับสนุนการวิเคราะห์อันยอดเยี่ยม, ทุกนักวิทยาศาสตร์สามารถสำรวจการวิจัยที่สั่งสมมานับศตวรรษ, และโรคที่ถูกละเลยเนื่องจากจำนวนผู้ป่วยน้อยสามารถได้รับความสนใจทางวิทยาศาสตร์มากขึ้น เป็นอนาคตที่ควรต่อสู้เพื่อ

เราไม่ควรต้องเลือกระหว่างอนาคตนั้นกับความปลอดภัยของ AI

เป้าหมายที่ดีกว่าคือทำให้ AI ที่มีพลังยากต่อการใช้ในทางที่ไม่เหมาะสม, ยากต่อการสูญเสียการควบคุม, โปร่งใสพอให้ตรวจสอบ, มีค่าใช้จ่ายสูงเมื่อใช้อย่างประมาท, และเข้าถึงได้อย่างกว้างขวางเพื่อประโยชน์สังคม

ห้ามพฤติกรรมที่เป็นอันตรายต่อมนุษยชาติ. ออกใบอนุญาตสำหรับความสามารถอันอันตราย. ลงโทษการใช้งานที่ประมาทและมุ่งร้าย. บังคับให้บริษัทรับภาระค่าใช้จ่ายด้านสิ่งแวดล้อมของโครงสร้างพื้นฐานของตน. ปกป้องแรงงาน. ให้สาธารณชนมีส่วนแบ่งจากผลประโยชน์ทางเศรษฐกิจ. และสร้างผู้กำกับดูแลอิสระที่สามารถบอกแม้แต่บริษัทเทคโนโลยีที่ใหญ่ที่สุดในโลกว่า “ไม่”.

แต่กรุณาอย่าให้คำนิยามของปัญญาที่ห้ามกว้างเกินไปจนการเทียบความสามารถทางปัญญาของมนุษย์ในหลายโดเมนเองก็เป็นอาชญากรรม

ผลงานชีวิตของคุณมุ่งเน้นการขยายการเข้าถึงสิ่งที่เคยจำกัดไว้สำหรับผู้มีสิทธิพิเศษ

ปัญญาประดิษฐ์ขั้นสูงอาจกลายเป็นเครื่องยนต์ที่มีอำนาจศูนย์รวมที่ยิ่งใหญ่ที่สุดที่มนุษยชาติเคยสร้าง

หรืออาจเป็นหนึ่งในเครื่องมือที่ยิ่งใหญ่ที่สุดที่เคยสร้างเพื่อทำให้ความรู้ การศึกษา การแพทย์ และความสามารถทางวิทยาศาสตร์เป็นประชาธ