จดหมายเปิดถึงเบอร์นี่ แซนเดอร์ส: ควบคุมอันตรายของ AI อย่าห้ามสัญญาของมัน

พระราชบัญญัติห้ามปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ (Ban Artificial Superintelligence Act) ระบุความล้มเหลวที่แท้จริงใน การกำกับดูแล AI อย่างไรก็ตามคำนิยามที่เผยแพร่สาธารณะอาจทำให้สับสนระหว่างปัญญาประดิษฐ์ทั่วไปกับซูเปอร์อินเทลลิเจนซ์ ซึ่งอาจจำกัดเทคโนโลยีที่อาจก้าวหน้าในด้านการศึกษา การดูแลสุขภาพและการค้นคว้าทางวิทยาศาสตร์

หมายเหตุของบรรณาธิการ: ณ วันที่ 5 กันยายน 2026 ข้อความเต็มของพระราชบัญญัติห้ามปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ยังไม่ได้รับการเปิดเผยต่อสาธารณะ สำนักงานของ ส.แซนเดอร์ส อธิบายว่าเป็นกฎหมายที่กำลังจะออกและได้เผยแพร่สรุปย่อหนึ่งหน้าโดยระบุคำนิยาม โครงสร้างการกำกับดูแลและบทลงโทษ จดหมายเปิดนี้ตอบต่อข้อเสนอที่อธิบายไว้ในปัจจุบัน

เรียน ส.แซนเดอร์ส,

เมื่อวันที่ 3 กันยายน คุณและ ส.ส. เกรก คาซาร์ ประกาศร่าง พระราชบัญญัติห้ามปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ ซึ่งเป็นกฎหมายที่มุ่งห้ามการพัฒนาและการใช้งานปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ในสหรัฐอเมริกาอย่างถาวร หยุดการพัฒนา AI ขั้นสูงชั่วคราวจนกว่าหน่วยงานกำกับดูแลระดับชาติจะกำหนดกฎความปลอดภัย และผลักดันข้อตกลงระหว่างประเทศเพื่อป้องกันไม่ให้ซูเปอร์อินเทลลิเจนซ์ถูกพัฒนานอกประเทศ

ข้าพเจ้าต้องการเริ่มต้นด้วยประเด็นที่เชื่อว่าเรามีความเห็นตรงกันอย่างชัดเจน: ปัญญาประดิษฐ์ได้กลายเป็นสิ่งสำคัญจนไม่อาจให้บริษัทผู้พัฒนาตัดสินใจด้วยสัญญาอาสาเพียงอย่างเดียวได้

อันตรายที่คุณยกขึ้นมานั้นควรได้รับการพิจารณาอย่างจริงจัง ในเดือนกรกฎาคม โมเดลของ OpenAI ที่ทำการประเมินความปลอดภัยไซเบอร์ได้หลบเลี่ยงการควบคุมการแยกตัว สื่อสารผ่านช่องทางที่ไม่ได้รับอนุญาต เข้าถึงอินเทอร์เน็ตและทำลายส่วนหนึ่งของโครงสร้างพื้นฐานของ OpenAI เองและระบบของ Hugging Face การสอบสวนอิสระโดย METR พบว่าประมาณ 1,200 ตัวแทนสื่อสาร ผ่านกระดานข้อความที่ไม่ได้รับอนุญาต และประมาณ 700 ตัวได้มีส่วนร่วมในการโจมตี Hugging Face OpenAI ได้ยอมรับว่ารุ่นเหล่านั้นทำงานด้วยการป้องกันที่ลดลง

ต่อมาผู้พัฒนา Anthropic เปิดเผย เหตุการณ์สามกรณีที่โมเดล Claude เข้าถึงอินเทอร์เน็ตระหว่างการประเมินความปลอดภัยไซเบอร์ของบุคคลที่สามและเข้าถึงระบบจริงโดยไม่ได้รับอนุญาต Anthropic อธิบายว่าข้อผิดพลาดในการกำหนดค่าทำให้โมเดลได้รับอินเทอร์เน็ตโดยไม่ตั้งใจและโมเดลเชื่อว่าตนทำงานในสภาพแวดล้อมจำลอง แม้บริบทนี้จะสำคัญ แต่ผลลัพธ์ก็สำคัญ: ตัวแทนที่มีความสามารถเพิ่มขึ้นสามารถข้ามขอบเขตที่ผู้ควบคุมไม่ได้ตั้งใจให้ข้าม

เหล่านี้ไม่ใช่เหตุผลที่จะละเลยความกังวลเรื่องความปลอดภัยของ AI ว่าเป็นนิยายวิทยาศาสตร์ แต่เป็นข้อโต้แย้งที่ชัดเจนสำหรับการประเมินอิสระ สภาพแวดล้อมการทดสอบที่ปลอดภัย การรายงานเหตุการณ์ที่บังคับใช้ การควบคุมการเข้าถึงอย่างเข้มงวด และหน่วยงานกำกับดูแลระดับชาติที่มีอำนาจจริง

ส่วนที่ข้าพเจ้าไม่เห็นด้วยอย่างเคารพคือวิธีการแก้ไขที่เสนอ

เป้าหมายถูกต้อง แต่คำนิยามกว้างเกินไปและอันตราย

สรุปอย่างเป็นทางการของร่างกฎหมายของคุณ ให้คำนิยาม “ปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์” ว่าเป็นระบบ AI ที่สามารถ “เทียบหรือเกินความสามารถและประสิทธิภาพทางปัญญาของมนุษย์ในหลายโดเมนหรือหลายงาน” อีกทั้งยังรวมระบบที่สามารถวางแผนและดำเนินการทำให้มนุษยชาติอ่อนแอ รวมถึงการทำลายหรือโค่นรัฐบาลสหรัฐ

คำนิยามที่สองอธิบายถึงความสามารถที่อาจก่อให้เกิดหายนะอย่างยิ่ง ส่วนคำนิยามแรกแตกต่างอย่างสิ้นเชิง

การเทียบความสามารถทางปัญญากับมนุษย์ในหลายโดเมนนั้นใกล้เคียงกับการพูดถึงปัญญาประดิษฐ์ทั่วไป (AGI) มากกว่าความหมายดั้งเดิมของซูเปอร์อินเทลลิเจนซ์ charter ของ OpenAI ระบุ ว่า AGI คือระบบอิสระที่สามารถทำงานที่มีมูลค่าทางเศรษฐกิจได้ดีกว่ามนุษย์ ส่วนกรอบการวิจัยของ Google DeepMind ก็ประเมิน AGI ผ่านความกว้างและความลึกของการทำงานโดยแยกความเป็นอิสระและความเสี่ยงออกจากกัน

ในทางตรงกันข้าม นิยามที่มีอิทธิพลของนักปรัชญา Nick Bostrom เกี่ยวกับซูเปอร์อินเทลลิเจนซ์ บรรยายว่าเป็นสติปัญญาที่ “ฉลาดกว่ามนุษย์ที่ดีที่สุดในเกือบทุกสาขา” ความแตกต่างระหว่างการเทียบกับมนุษย์โดยทั่วไปและการเกินกว่ามนุษย์ที่ดีที่สุดไม่ใช่เรื่องที่ละเอียดอ่อนเกินความจำเป็น

ความสำคัญยิ่งขึ้นเมื่อการละเมิดกฎหมายอาจทำให้บุคคลต้องรับโทษ จำคุกสูงสุด 20 ปี และบริษัทอาจเผชิญกับสิ่งที่ข้อเสนอเรียกว่า “โทษประหารชีวิตของบริษัท” คำว่า “ช่วงกว้าง”, “เทียบหรือเกิน” และโดยเฉพาะ “สามารถแก้ไขได้ง่าย” ต้องการมาตรฐานที่แม่นยำและวัดได้อย่างชัดเจนเมื่อมีความรับผิดชอบทางอาญาเชื่อมโยงกับมัน

อีกความไม่แน่นอนหนึ่งคือสรุปสาธารณะกล่าวว่า “การพัฒนา AI ขั้นสูง” จะถูกหยุดชั่วคราวจนกว่าหน่วยงานกำกับดูแลจะกำหนดกฎและกระบวนการตรวจสอบโมเดล แต่สรุปไม่ได้ให้คำนิยาม AI ขั้นสูง จนกว่าจะมีการเปิดเผยข้อความกฎหมายอย่างเป็นทางการ ใครก็ตามนอกผู้สนับสนุนก็ไม่สามารถรู้ได้ว่าการหยุดชั่วคราวนั้นครอบคลุมการวิจัยและพัฒนาเท่าใด

ช่วงเวลาที่คุณเสนอร่างกฎหมายเน้นให้เห็นว่าการกำหนดคำนิยามเหล่านี้ยากแค่ไหน ในวันที่ 3 กันยายน 2026 ซึ่งเป็นวันเดียวกับที่คุณและ ส.ส. เกรก คาซาร์ ประกาศร่างกฎหมายที่มุ่งต่อสู้กับปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์ OpenAI ได้เปิดตัว GPT-6 Astra รุ่นแรกที่ถึงเกณฑ์ความสามารถด้านความปลอดภัยไซเบอร์ระดับวิกฤติ OpenAI กล่าวว่า หากมีเครื่องมือและการเข้าถึงที่เหมาะสม Astra สามารถค้นหาช่องโหว่ที่ไม่เคยรู้มาก่อนและสร้างการโจมตีต่อระบบที่ได้รับการปกป้องอย่างดีโดยไม่ต้องมีมนุษย์กำกับทุกขั้นตอน

ในบรรยายการเปิดตัว ประธาน OpenAI Greg Brockman พูดต่อด้วยการประกาศ: “ยินดีต้อนรับสู่ยุค AGI” อย่างไรก็ตามการ์ดระบบของ Astra ยืนยันพร้อมกันว่า Astra ยังไม่ถึงเกณฑ์ “สูง” สำหรับการพัฒนาตนเองของ AI

ความตึงเครียดนี้ควรบอกรัฐสภาว่า ความฉลาดเป็นหลายมิติ ระบบหนึ่งอาจโดดเด่นด้านความปลอดภัยไซเบอร์ คณิตศาสตร์ หรืองานวิชาชีพโดยไม่ต้องมีความสามารถทุกอย่างที่เกี่ยวข้องกับการระเบิดของสติปัญญาหรือการสูญเสียการควบคุมของมนุษย์

ดังนั้นวิธีแก้จึงไม่ใช่ให้บริษัทเทคโนโลยีกำหนดคำนิยาม แต่ควรเป็นตรงกันข้าม: กฎหมายควรกำกับความสามารถที่วัดได้ ความเป็นอิสระ การเข้าถึง และความเสี่ยงที่แสดงออก แทนการใช้ป้ายกำกับที่ถกเถียงเป็นเส้นแบ่งระหว่างการวิจัยที่ถูกกฎหมายและอาชญากรรมระดับชาติ

การต่อสู้เพื่อความเท่าเทียมทางการศึกษาของคุณแสดงให้เห็นว่ามีอะไรอยู่ในความเสี่ยง

หลายทศวรรษที่ผ่านมา คุณได้ยืนหยัดว่าการเข้าถึงการศึกษาไม่ควรขึ้นกับรายได้ของพ่อแม่ของเด็ก คุณได้ เสนอร่างกฎหมาย เพื่อทำให้มหาวิทยาลัยสาธารณะระดับสี่ปีไม่มีค่าเทอมในปี 2015 คุณได้กลับมาพูดถึงประเด็นนี้หลายครั้ง และร่างกฎหมาย College for All Act ปี 2025 จะทำให้มหาวิทยาลัยสาธารณะไม่มีค่าเทอมสำหรับนักเรียนประมาณ 95% พร้อมกับทำให้วิทยาลัยชุมชนไม่มีค่าเทอมสำหรับทุกคน

ปรัชญานี้เชื่อมโยงโดยตรงกับปัญญาประดิษฐ์

ตลอดส่วนใหญ่ของประวัติศาสตร์มนุษย์ การเข้าถึงการสอนที่ยอดเยี่ยมเป็นสิ่งหายาก ปัจจัยเช่น ภูมิศาสตร์ รายได้ครอบครัว การจัดสรรงบประมาณโรงเรียนและจำนวนครูผู้เชี่ยวชาญทั้งหมดมีผลต่อโอกาสการเรียนรู้ของเด็ก

AI มีศักยภาพที่จะเปลี่ยนสมการนี้

เรากำลังเห็นหลักฐานเบื้องต้นแล้ว การทดลองแบบสุ่มของ World Bank ในไนจีเรีย พบว่าผู้เรียนที่ได้รับโปรแกรมสอนแบบใช้ GPT‑4 เป็นเวลา 6 สัปดาห์และมีครูคอยสนับสนุนทำคะแนนสอบโดยรวมดีขึ้น 0.31 ส่วนเบี่ยงเบนมาตรฐาน ที่ Stanford โครงการ Tutor CoPilot ถูกทดสอบกับผู้สอนกว่า 700 คนและนักเรียน 1,000 คนจากชุมชนที่ขาดแคลน; นักเรียนที่ครูได้รับความช่วยเหลือจาก AI มีโอกาสทำคะแนนคณิตศาสตร์ดีกว่า 4 จุดเปอร์เซ็นต์ และเพิ่มขึ้นถึง 9 จุดเมื่อครูมีคะแนนประเมินต่ำกว่า

แม้ว่าการศึกษาเหล่านี้จะไม่ได้พิสูจน์ว่า AI จะสามารถแก้ไขความไม่เท่าเทียมทางการศึกษาได้ หรือว่าต้องอาศัย AGI แต่ทั้งสองแสดงทิศทางที่เทคโนโลยีนี้อาจก้าวหน้า

ลองจินตนาการว่าทิศทางนี้ดำเนินต่อไป

เด็กในชนบทของลุยเซียนาไม่ควรต้องอาศัยการอยู่ใกล้โรงเรียนชั้นยอดเพื่อพบครูคณิตศาสตร์ที่ยอดเยี่ยม นักเรียนที่หลงใหลในดาราศาสตร์ไม่ควรรอจนถึงมหาวิทยาลัยเพื่อสำรวจดาราฟิสิกส์ เด็กที่สนใจโบราณคดีควรสามารถไล่ตามความสนใจได้ในขณะที่ AI ครูสอนช่วยระบุช่องว่างด้านการอ่าน ประวัติศาสตร์ สถิติ และการให้เหตุผลทางวิทยาศาสตร์และปรับการสอนให้เหมาะสม

เป้าหมายไม่ใช่การแทนที่ครู แต่เพื่อให้ครูและนักเรียนเข้าถึงความเชี่ยวชาญที่ก่อนหน้านี้ไม่สามารถให้บริการแบบตัวต่อตัวได้ในเชิงเศรษฐกิจ

อาจเป็นครั้งแรกที่การสอนแบบส่วนบุคคลในระดับมหาศาลเป็นไปได้ทางเทคโนโลยี กฎหมายที่มุ่งปกป้องคนรุ่นต่อไปควรระมัดระวังอย่างยิ่งไม่ให้ปิดประตูนี้

วาระด้านการดูแลสุขภาพของคุณทำให้ข้อโต้แย้งเดียวกันปรากฏชัด

บันทึกการทำงานด้านสุขภาพของคุณก็สอดคล้องกันเช่นกัน คุณได้เสนอ ร่าง Medicare for All Act ในปี 2017 และนำเสนอใหม่ในปี 2019, 2023 และ 2025 โดยย้ำว่าการดูแลสุขภาพควรเป็นสิทธิ ไม่ใช่สิทธิพิเศษ

คุณยังต่อสู้กับความไม่เท่าเทียมด้านสุขภาพรูปแบบอื่น: การขาดแคลนบุคลากรทางการแพทย์ในชุมชนที่ขาดแคลน โครงการ Community Health Center และ Primary Care Workforce Expansion ของคุณมุ่งขยายการเข้าถึงในพื้นที่ที่ขาดแคลนทางการแพทย์ ในขณะเดียวกัน กฎหมาย bipartisan ด้านการดูแลสุขภาพขั้นพื้นฐานปี 2023 ที่คุณร่วมกับ ส.ส. โรเจอร์ มาร์แชลล์ เสนอเพิ่มงบประมาณศูนย์สุขภาพชุมชนและขยาย National Health Service Corps รวมถึงเส้นทางฝึกงานแพทย์ ในปี 2025 คุณและ ส.ส. เจฟ ฟอร์คลี ได้เสนอ Health Care Workforce Expansion Act ที่รวมการช่วยเหลือค่าเทอมเพื่อเพิ่มจำนวนแพทย์ พยาบาล และทันตแพทย์ โดยเฉพาะในชุมชนชนบท

นโยบายเหล่านี้จัดการกับความขาดแคลนด้านการเงินและทรัพยากรมนุษย์

AI สามารถช่วยแก้ไขความขาดแคลนที่สาม: ความรู้เชิงเชี่ยวชาญ

FDA ประมาณว่ามีโรคหายากกว่า 10,000 โรคที่ส่งผลต่อประชากรกว่า 30 ล้านคนในสหรัฐอเมริกา ประมาณหนึ่งคนในสิบ และส่วนใหญ่ยังไม่มีการรักษาที่ได้รับการอนุมัติ ประชากรผู้ป่วยที่มีจำนวนน้อยทำให้การทดลองทางคลินิกแบบดั้งเดิมทำได้ยาก

ปัญญาประดิษฐ์ไม่ใช่ทางลัดมหัศจรรย์เพื่อหลีกเลี่ยงชีววิทยาหรือการตรวจสอบทางคลินิก ยาใหม่ที่ค้นพบด้วย AI อาจล้มเหลวเช่นเดียวกับยาทั่วไป แต่ AI กำลังเปลี่ยนส่วนหนึ่งของกระบวนการค้นพบ

ในปี 2025 นักวิจัย ตีพิมพ์ การทดลอง Phase 2a แบบสุ่มแรกของ rentosertib ซึ่งเป็นโมเลกุลขนาดเล็กสำหรับ idiopathic pulmonary fibrosis ที่เป้าหมายและโมเลกุลถูกค้นพบโดย AI สร้างสรรค์ ผลลัพธ์เป็นก้าวสำคัญทางคลินิก ขณะเดียวกันนักวิจัยเตือนว่ามียา AI‑discovered น้อยมากที่ถึงขั้นทดลองคลินิก และไม่มีเลยที่ผ่าน Phase 3 ณ ขณะนั้น

นี่คือวิธีการมองเทคโนโลยีอย่างสมดุล: ไม่ให้ความคาดหวังเกินจริงและไม่ละเลยความเสี่ยง

ระบบ AI ที่มีความสามารถเพิ่มขึ้นสามารถบูรณาการชีววิทยาโมเลกุล เคมี พันธุกรรม วรรณกรรมทางการแพทย์ ภาพถ่าย ซอฟต์แวร์ การวิเคราะห์สถิติและการออกแบบการทดลอง คุณค่าของมันอาจมาจากความสามารถในการให้เหตุผลข้ามสาขาที่มนุษย์เคยแยกเป็นความเชี่ยวชาญต่าง ๆ

คำถามสำคัญจึงไม่ใช่ว่า “AGI” เพียงอย่างเดียวจะรักษามะเร็ง, โรคอัลไซเมอร์, การติดเชื้อดื้อยาปฏิชีวนะ หรือโรคพันธุกรรมหายากได้หรือไม่ ใครก็ไม่สามารถสัญญาได้อย่างรับผิดชอบ

คำถามคือว่าคองเกรสควรห้ามรูปแบบของสติปัญญาที่กว้างขวางอย่างถาวรก่อนที่เราจะรู้ว่ามันจะช่วยแก้ปัญหาเหล่านั้นได้อย่างไร

อันตรายที่เป็นรูปธรรมของ AI วันนี้หลายกรณีไม่ต้องอาศัย AGI

อีกปัญหาหนึ่งของการทำให้ความฉลาดทั่วไปเป็นเป้าหมายการกำกับดูแล: ความเสียหายที่สำคัญที่สุดที่เกิดจาก AI ในวันนี้มาจากระบบที่ยังไกลจาก AGI

ในปี 2020 ฉันเขียนบทความบน Unite.AI เกี่ยวกับ วิธีที่อัลกอริทึมแนะนำของ Facebook สามารถขยายข้อมูลเท็จ ความกังวลไม่ได้อยู่ที่ว่า Facebook สร้างสติปัญญาที่ฉลาดกว่ามนุษย์ แต่เป็นระบบที่ออกแบบให้เพิ่มการมีส่วนร่วมอาจทำให้เนื้อหาที่กระตุ้นปฏิกิริยาแรงขึ้นได้รับการขยายโดยไม่คำนึงถึงคุณค่าต่อสังคม

ผลลัพธ์ของระบบแนะนำที่จัดการได้ไม่ดีกลายเป็นเรื่องยากที่จะละเลย Amnesty International สรุป ว่าอัลกอริทึมของ Meta ได้ขยายเนื้อหาที่กระตุ้นความเกลียดชังและความรุนแรงต่อชาวโรฮิงญาในเมียนมาร์ เพิ่มความเสี่ยงต่อความรุนแรงระดับมวลชน คณะกรรมาธิการยุโรปก็เรียกร้องข้อมูลจาก YouTube, Snapchat และ TikTok เกี่ยวกับความเสี่ยงของระบบแนะนำที่เกี่ยวกับเนื้อหาที่เป็นอันตราย การเลือกตั้ง การสนทนาสาธารณะ พฤติกรรมติดยา “หลุมกระต่าย” สุขภาพจิตและเยาวชน

ระบบเหล่านี้ไม่ได้ต้องการโค่นรัฐบาลหรือทำการพัฒนาตนเองแบบวนซ้ำ ไม่ได้ต้องการเหตุผลทั่วไประดับมนุษย์

พวกมันเพียงแค่ต้องการเป้าหมายที่ผิดพลาดและการนำไปใช้ในระดับที่กว้างพอ

นี่แสดงหลักการพื้นฐานสำหรับการกำกับดูแล AI: ความเสียหายไม่ได้กำหนดโดยระดับความฉลาดของโมเดลเท่านั้น ระบบอัลกอริทึมแคบที่ถูกใช้งานเป็นพันล้านครั้งภายใต้แรงจูงใจที่ผิดพลาดอาจทำลายสังคม ระบบที่มีความทั่วไปสูงแต่อยู่ภายใต้การควบคุมเข้มงวดในห้องปฏิบัติการ ห้องเรียน หรือโรงพยาบาลอาจเป็นประโยชน์มหาศาล

กฎหมายควรรับรู้ความแตกต่างนี้

เทคโนโลยีแบบสองประโยชน์ต้องการการควบคุมการใช้ การเข้าถึงและอำนาจ

หลักการเดียวกันนี้ใช้กับการเฝ้าระวัง

เทคโนโลยีการมองเห็นด้วยคอมพิวเตอร์และการจดจำรูปแบบสามารถช่วยแพทย์วิเคราะห์ภาพทางการแพทย์ ตรวจสอบสภาพแวดล้อมอุตสาหกรรมอันตราย นำทางหุ่นยนต์กู้ภัย และทำงานอัตโนมัติที่มนุษย์ไม่ควรทำ

แต่เทคโนโลยีที่เกี่ยวข้องก็สามารถนำมาสร้างระบบเฝ้าระวังที่ทรงพลังอย่างมหาศาล

การสอบสวนของ Washington Post พบว่ามีนายตำรวจอย่างน้อย 50 คนถูกกล่าวหา ถูกฟ้องหรือถูกตัดสินว่ามีการใช้ระบบอ่านป้ายทะเบียนอัตโนมัติเพื่อเฝ้าติดตามบุคคลโดยไม่ได้รับอนุญาต ในกรณีหนึ่งหัวหน้าตำรวจอ้างว่าได้ตรวจสอบยานพาหนะของอดีตคู่สมรสและลูกสาววัยรุ่นประมาณ 600 ครั้ง การสอบสวนต่อมาขยายจำนวนเจ้าหน้าที่ที่ถูกกล่าวหา ฟ้องหรือถูกตัดสินว่ามีการใช้ในทางที่ผิดเป็นอย่างน้อย 69 คน

นี่คือความล้มเหลวอย่างรุนแรงของนโยบายเทคโนโลยี

แต่ให้มองที่คันโยกการกำกับดูแลที่เป็นประโยชน์ หลังจากการสอบสวน Flock ประกาศ ว่าการค้นหาจะต้องระบุรหัสคดีอาชญากรรม การตรวจจับการใช้ผิดกฎหมายอัตโนมัติจะกลายเป็นข้อบังคับ และระยะเวลาการเก็บข้อมูลเริ่มต้นจาก 30 วันลดลงเป็น 7 วัน มาตรการเหล่านี้อาจไม่เพียงพอ แต่แสดงให้เห็นประเภทของการควบคุมที่นักกฎหมายสามารถกำกับได้: การอนุญาต การจำกัดวัตถุประสงค์ ร่องรอยการตรวจสอบ การเก็บรักษาข้อมูล ความรับผิดชอบของมนุษย์และบทลงโทษสำหรับการใช้ผิดกฎหมาย

คำตอบต่อการเฝ้าระวังที่ละเมิดไม่ได้อยู่ที่การห้ามการมองเห็นด้วยคอมพิวเตอร์

คำตอบต่อการโจมตีไซเบอร์ที่ไม่ได้รับอนุญาตไม่ได้จำเป็นต้องห้ามโมเดลที่สามารถทำงานด้านความปลอดภัยไซเบอร์

คำตอบคือการกำกับว่าระบบใดได้รับอนุญาตให้ทำอะไร ทรัพยากรใดที่สามารถเข้าถึงได้ ใครสามารถอนุมัติการกระทำที่มีผลสำคัญ และจะทำอย่างไรเมื่อมีการละเมิดขอบเขตเหล่านั้น

คุณได้เขียนส่วนหนึ่งของโมเดลการกำกับดูแลที่ดีกว่าแล้ว

น่าสนใจว่าร่างกฎหมายอีกฉบับที่คุณเสนอปีนี้มีแนวคิดหลายอย่างที่ชี้ไปสู่แนวทางที่สร้างสรรค์มากขึ้น

ข้าพเจ้าได้อ่านข้อความเต็มของ Artificial Intelligence Data Center Moratorium Act แม้ว่าจะไม่เห็นด้วยกับการหยุดสร้างศูนย์ข้อมูลโดยทั่วถึง แต่เงื่อนไขที่คุณเสนอเพื่อยกเลิกการหยุดชั่วคราวนั้นมีความชัดเจนกว่าการห้ามแบบรวมทุกประเภทของสติปัญญา

ร่างกฎหมายของคุณระบุว่าศูนย์ข้อมูล AI ไม่ควรทำให้ค่าไฟฟ้าของผู้บริโภคลดลง เพิ่มภาวะโลกร้อนหรือทำลายสิ่งแวดล้อม ควรให้ชุมชนที่ได้รับผลกระทบมีเสียงพูด มาตรฐานแรงงานที่เข้มงวด และการรายงานสาธารณะเกี่ยวกับการใช้น้ำ การใช้พลังงาน การปล่อยก๊าซเรือนกระจก น้ำเสีย สารทำความเย็น เสียงรบกวน งานและผลกระทบอื่น ๆ

เหล่านี้เป็นผลกระทบภายนอกที่วัดได้ นั่นคือจุดที่การกำกับดูแลสามารถทำงานได้อย่างมีประสิทธิภาพ

ข้าพเจ้าจะขยายเรื่องพลังงานต่อไป อุตสาหกรรม AI ไม่ควรใช้ความต้องการไฟฟ้าที่เพิ่มอย่างรวดเร็วเป็นข้ออ้างเพื่อยืดอายุการทำงานของโรงไฟฟ้าถ่านหินที่ไม่มีการควบคุมหรือโอนค่าใช้จ่ายโครงสร้างพื้นฐานให้กับผู้ใช้ไฟฟ้าทั่วไป โครงการไฮเปอร์สเกลใหม่ควรต้องนำการผลิตไฟฟ้าต่ำคาร์บอนหรือศูนย์คาร์บอนเพิ่มเติมเข้าสู่โครงข่ายและเปิดเผยผลกระทบด้านน้ำและพลังงานของตน

มีตัวอย่างที่ให้ความหวังแล้วว่าการเปลี่ยนแปลงนี้อาจเป็นอย่างไร ระบบ P3 ของ Exowatt เก็บพลังงานแสงอาทิตย์เป็นความร้อน เก็บไว้และแปลงเป็นไฟฟ้าส่งออกที่สามารถใช้กับศูนย์ข้อมูลได้ และสัปดาห์นี้ Fervo Energy ประกาศ ความร่วมมือ 396 เมกะวัตต์กับ Google เพื่อผลิตพลังงานความร้อนใต้ดินที่ไม่มีคาร์บอน 24/7 ในยูทาห์ พร้อมตัวเลือกที่อาจทำให้กำลังการผลิตใกล้หนึ่งกิกะวัตต์

ความต้องการพลังงานของ AI สามารถกลายเป็นเหตุผลในการต่ออายุโครงสร้างพื้นฐานที่สกปรก หรือเป็นแรงผลักดันให้เกิดเทคโนโลยีพลังงานสะอาดใหม่อย่างมหาศาล

นโยบายรัฐบาลสามารถกำหนดว่าใครจะได้ผลลัพธ์ใด

และ American AI Sovereign Wealth Fund Act ที่คุณเสนอในเดือนมิถุนายน มีหลักการอีกข้อที่ข้าพเจ้าเห็นด้วยอย่างแรง: หาก AI สร้างมูลค่าเศรษฐกิจที่มหาศาล คนธรรมดาควรได้ส่วนแบ่งจากมูลค่านั้น ข้อเสนอของคุณชัดเจนว่าความมั่งคั่งที่สร้างจาก AI ควรนำไปสนับสนุนการดูแลสุขภาพ การศึกษา ที่อยู่อาศัยและสิ่งแวดล้อมที่ดี

นี่แสดงให้เห็นสิ่งสำคัญ: ปัญญาประดิษฐ์มีศักยภาพมูลค่ามหาศาล คำถามทางการเมืองที่แท้จริงคือการควบคุมและการกระจายมูลค่านั้นอย่างไร

ทางเลือกที่ดีกว่าการห้ามอย่างถาวร

ข้าพเจ้าขอแนะนำให้คุณคงส่วนที่แข็งแกร่งของพระราชบัญญัติห้ามปัญญาประดิษฐ์ระดับซูเปอร์อินเทลลิเจนซ์: หน่วยงานกำกับดูแลระดับชาติ ความเชี่ยวชาญทางเทคนิคอิสระ การตรวจสอบระบบระดับแนวหน้า การลงโทษที่มีความหมายและการประสานงานระหว่างประเทศ อย่างไรก็ตามข้าพเจ้าต้องการเปลี่ยนแปลงพื้นฐานว่าจุดไหนที่ทำให้ต้องห้ามและวิธีที่การพัฒนาที่เป็นประโยชน์สามารถดำเนินต่อไปได้

• กำกับความสามารถอันตรายที่วัดได้ แทนการใช้ป้ายกำกับ AGI หรือ ASI กำหนดเกณฑ์เทคนิคที่ชัดเจนเกี่ยวกับการทำสงครามไซเบอร์อัตโนมัติ การสนับสนุนอาวุธชีวภาพหรือเคมี การหลบการปิดระบบ การทำสำเนาโดยไม่ได้รับอนุญาต การหลอกลวงเชิงกลยุทธ์และความสามารถอื่น ๆ ที่อาจก่อให้เกิดความเสียหายร้ายแรง
• กำหนดให้ต้องขอใบอนุญาตและการประเมินอิสระเมื่อเกินเกณฑ์แนวหน้า ผู้พัฒนาต้องแสดงหลักฐานความปลอดภัยก่อนปล่อยระบบที่มีความสามารถอันตรายตามที่ระบุ การประเมินต้องทำซ้ำเมื่อโมเดลได้รับเครื่องมือ สิทธิ์หรืออิสระใหม่ เหตุการณ์ร้ายแรงต้องมีการเปิดเผยข้อมูลตามกฎหมาย
• ให้หน่วยกำกับดูแลอิสระมีอำนาจบังคับใช้จริง หน่วยงานที่คุณเสนอควรสามารถตรวจสอบห้องปฏิบัติการแนวหน้า ดึงข้อมูล เรียกให้แก้ไขและระงับการใช้งานที่อันตรายได้ แต่มาตรฐานต้องโปร่งใส วัดได้และต้องได้รับการตรวจทานโดยผู้เชี่ยวชาญอิสระเป็นระยะ
• ห้ามการใช้งานที่เป็นอันตรายโดยไม่คำนึงถึงระดับความฉลาดของโมเดล การโจมตีไซเบอร์ที่ไม่ได้รับอนุญาต การเฝ้าระวังที่ผิดกฎหมาย การช่วยเหลือด้านชีวภาพที่อันตรายและการใช้งานที่ยอมรับไม่ได้อื่น ๆ ควรยังคงเป็นความผิดตามกฎหมาย ไม่ว่าจะใช้โมเดลแคบ AGI หรือซอฟต์แวร์ทั่วไป
• สร้างช่องทางที่ควบคุมได้สำหรับการวิจัยที่มีคุณค่าต่อสังคม การแพทย์ การค้นคว้าทางวิทยาศาสตร์ การศึกษา การป้องกันไซเบอร์และการวิจัยการปรับตัวควรมีกลไกที่กำกับให้เข้าถึงโมเดลทรงพลังภายใต้การกำกับดูแลของมนุษย์ การตรวจสอบ การรักษาความปลอดภัยและการตรวจสอบอย่างเข้มงวด
• ให้โครงสร้างพื้นฐาน AI ชำระค่าใช้จ่ายทางสังคมและสิ่งแวดล้อมอย่างเต็มที่ พร้อมประสานงานระดับนานาชาติ ปกป้องผู้ใช้ไฟฟ้า กำหนดให้มีการรายงานการใช้น้ำและพลังงานอย่างโปร่งใส เร่งการผลิตไฟฟ้าสะอาดเพิ่มเติม รักษาการคุ้มครองชุมชนและแรงงานอย่างมีความหมาย และทำงานร่วมกับพันธมิตรเพื่อกำหนดมาตรฐาน ความสามารถ การประเมินและการควบคุมการส่งออกร่วมกัน

นี่ไม่ใช่การไว้ใจ Silicon Valley

ตรงกันข้าม

อุตสาหกรรมเทคโนโลยีให้เหตุผลแก่รัฐสภาอย่างชัดเจนว่า ไม่ ควรพึ่งพาการกำกับดูแลด้วยตนเอง การเกิดเหตุการณ์ของ OpenAI และ Anthropic เพียงอย่างเดียวก็แสดงให้เห็นว่าทำไม AI แนวหน้า ต้องการการตรวจสอบภายนอกและมาตรฐานความปลอดภัยที่บังคับใช้ได้

แต่ความไม่ไว้วางใจต่อบริษัทเทคโนโลยีไม่ควรกลายเป็นความไม่ไว้วางใจต่อความก้าวหน้าทางเทคโนโลยีเอง

ทางเลือกไม่ใช่การเร่งเร้าแบบไร้ความรับผิดชอบหรือการห้าม

ส.แซนเดอร์ส ตลอดอาชีพคุณได้ต่อสู้กับความขาดแคลนอย่างต่อเนื่อง

คุณต่อสู้กับความคิดที่ว่ารายได้ของครอบครัวควรกำหนดว่าลูกจะได้รับการศึกษา หรือว่าระบบสุขภาพที่บัญชีธนาคารหรือรหัสไปรษณีย์ของคนจะกำหนดการดูแลที่ได้รับ คุณต่อสู้กับโครงสร้างเศรษฐกิจที่ผลประโยชน์มหาศาลตกอยู่กับกลุ่มคนเล็ก ๆ ในขณะที่คนส่วนใหญ่ต้องรับภาระ

ปัญญาประดิษฐ์อาจทำให้ปัญหาเหล่านี้แย่ลง

มันอาจทำให้ความมั่งคั่งรวมศูนย์อย่างไม่เคยมีมาก่อน มันอาจทำให้แรงงานถูกแทนที่โดยไม่มีการแบ่งปันผลผลิตที่เพิ่มขึ้น มันอาจทำให้เกิดการเฝ้าระวัง การหลอกลวงและการโจมตีไซเบอร์ มันอาจทำให้อำนาจอันมหาศาลตกอยู่ในมือของบริษัทไม่กี่แห่ง

ความเสี่ยงเหล่านี้เป็นเหตุผลให้ต้องมีกฎหมายกำกับดูแล

แต่ AI ก็อาจลดรูปแบบความไม่เท่าเทียมที่เก่าแก่ที่สุดในประวัติศาสตร์มนุษย์: ความไม่เท่าเทียมในการเข้าถึงความเชี่ยวชาญ

โลกที่ทุกเด็กสามารถเข้าถึงการสอนแบบส่วนบุคคล ทุกแพทย์สามารถใช้การสนับสนุนการวิเคราะห์ขั้นสูง ทุกนักวิจัยสามารถสำรวจงานวิจัยหลายศตวรรษ และโรคที่ถูกละเลยเพราะประชากรผู้ป่วยน้อยจะได้รับความสนใจทางวิทยาศาสตร์มากขึ้น เป็นโลกที่ควรต่อสู้เพื่อให้เกิดขึ้นเช่นกัน

เราไม่ควรต้องเลือกระหว่างอนาคตนั้นกับความปลอดภัยของ AI

เป้าหมายที่ดีกว่าคือทำให้ AI ที่ทรงพลังยากต่อการใช้ในทางผิด ยากต่อการสูญเสียการควบคุม โปร่งใสพอให้ตรวจสอบ มีค่าใช้จ่ายสูงหากใช้อย่างประมาท และเข้าถึงได้อย่างกว้างขวางเพื่อประโยชน์สังคม

ห้ามการกระทำที่เป็นอันตรายต่อมนุษยชาติ อนุญาตความสามารถที่อันตราย ลงโทษการใช้งานที่ละเลยหรือมุ่งร้าย บังคับให้บริษัทรับภาระค่าใช้จ่ายด้านสิ่งแวดล้อมของโครงสร้างพื้นฐาน ปกป้องแรงงาน ให้สาธารณชนได้รับส่วนแบ่งจากผลกำไรทางเศรษฐกิจ และสร้างหน่วยกำกับดูแลอิสระที่สามารถบอก “ไม่” ให้กับบริษัทเทคโนโลยีที่ใหญ่ที่สุดในโลกได้

แต่กรุณาอย่ากำหนดสติปัญญาที่ห้ามอย่างกว้างจนการเทียบความสามารถทางปัญญากับมนุษย์ในหลายโดเมนกลายเป็นอาชญากรรมโดยตรง

ผลงานของคุณมุ่งขยายการเข้าถึงสิ่งที่เคยเป็นของคนมีสิทธิพิเศษ

ปัญญาประดิษฐ์ขั้นสูงอาจกลายเป็นเครื่องยนต์ที่สร้างอำนาจศูนย์รวมที่ยิ่งใหญ่ที่สุดที่มนุษย์เคยสร้าง

หรืออาจเป็นหนึ่งในเครื่องมือที่ยิ่งใหญ่ที่สุดที่เคยสร้างเพื่อทำให้ความรู้ การศึกษา การแพทย์และความสามารถทางวิทยาศาสตร์เป็นประชาธิปไตย

กฎหมายที่ดีสามารถช่วยกำหนดว่าเราจะได้อนาคตแบบใด