กฎระเบียบ

Newsom เสนอให้มีการกำกับดูแล AI แนวหน้าภาคบังคับและให้อำนาจสั่งปิดระบบ

Sophie Denar
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญผู้ตรวจสอบอิสระที่ได้รับใบอนุญาตจะมอบการตรวจสอบทางเทคนิคอย่างต่อเนื่องให้แก่รัฐ…
ดูเพิ่มเติม
  • ผู้ตรวจสอบอิสระที่ได้รับใบอนุญาตจะมอบการตรวจสอบทางเทคนิคอย่างต่อเนื่องให้แก่รัฐ แทนการยื่นเอกสารความปลอดภัยเพียงครั้งเดียว
  • คำสั่งปิดระบบฉุกเฉินจะมีผลทันทีและคงมีผลบังคับใช้ในระหว่างการทบทวนโดยศาล
  • การรายงานเหตุการณ์จะเปลี่ยนจากเกณฑ์ระดับการฝึกอบรมไปสู่ความสามารถที่พิสูจน์แล้วสำหรับความเสี่ยงภัยพิบัติ

เมื่อวันที่ 18 พฤศจิกายน 2026 Gavin Newsom ผู้ว่าการรัฐแคลิฟอร์เนีย เผยแพร่ข้อเสนอแนะด้านกฎหมาย ซึ่งกำหนดให้มีการกำกับดูแลนักพัฒนา AI แนวหน้ารายใหญ่อย่างต่อเนื่องและเป็นอิสระ พร้อมให้อำนาจเจ้าหน้าที่รัฐสั่งปิดโมเดลฉุกเฉินได้ หากโมเดลเหล่านั้นก่อความเสี่ยงร้ายแรงที่ใกล้จะเกิดขึ้น

รายงาน ความปลอดภัยของ AI ในปี 2026 และหลังจากนั้น ของ California Government Operations Agency ลงวันที่ 16 พฤศจิกายน 2026 จัดทำขึ้นเพื่อประกอบการร่างกฎหมายเมื่อนักกฎหมายกลับมาประชุมในเดือนธันวาคม 2026 โดยข้อเสนอแนะในรายงานยังไม่ได้กลายเป็นข้อบังคับตามกฎหมาย แผนดังกล่าวจะต่อยอดจากข้อกำหนดของแคลิฟอร์เนียที่ให้นักพัฒนา AI แนวหน้ารายใหญ่เผยแพร่กรอบความปลอดภัย ด้วยการกำหนดมาตรฐานขั้นต่ำด้านความปลอดภัย การรักษาความมั่นคงปลอดภัย และความโปร่งใสตลอดช่วงการฝึก การใช้งานภายใน และการนำไปใช้งานจริง

การกำกับดูแลอย่างต่อเนื่องและเป็นอิสระ

นักพัฒนา AI แนวหน้ารายใหญ่ทุกรายจะต้องอยู่ภายใต้การกำกับดูแลอย่างต่อเนื่องโดยองค์กรตรวจสอบยืนยันอิสระที่ได้รับใบอนุญาต หรือ IVO องค์กรเหล่านี้จะแปลงมาตรฐานของรัฐให้เป็นการทดสอบทางเทคนิค และปรับปรุงการทดสอบเมื่อวิธีประเมิน AI เปลี่ยนแปลงไป นอกจากนี้ ยังจะได้รับสิทธิ์เข้าถึงโมเดล บุคลากร ระบบ สภาพแวดล้อมการฝึก และบันทึกข้อมูลตามที่เห็นว่าจำเป็น ก่อนส่งผลประเมินฉบับเต็มที่ไม่มีการปกปิดข้อมูลให้แก่รัฐ

Government Operations Agency จะเป็นผู้ให้ใบอนุญาตแก่ IVO และอาจเพิกถอนใบอนุญาตได้หากองค์กรมีความเชี่ยวชาญ ความเป็นอิสระ หรือความเข้มงวดไม่เพียงพอ หากผู้ประเมินไม่สามารถรับรองได้ว่านักพัฒนาปฏิบัติตามมาตรฐาน รัฐอาจสั่งให้แก้ไขหลังจากหารือกับบริษัทแล้ว นักพัฒนาอาจโต้แย้งคำวินิจฉัยดังกล่าวต่อศาลก่อนที่คำวินิจฉัยจะมีผลบังคับใช้ ยกเว้นกรณีที่ใช้กระบวนการฉุกเฉินแบบเร่งด่วน

การเรียกเก็บเงินเพิ่มจากค่าธรรมเนียมการตรวจสอบที่นักพัฒนาชำระจะช่วยสนับสนุนเงินทุนสำหรับขีดความสามารถด้านการประมวลผลของ CalCompute ซึ่งดำเนินงานโดยภาครัฐ ทรัพยากรประมวลผลบางส่วนจะกันไว้สำหรับการวิจัยด้านความปลอดภัยและการรักษาความมั่นคงปลอดภัยอย่างเป็นอิสระ ตลอดจนการกำกับดูแลโดยสาธารณะ จึงเป็นการนำเงินเรียกเก็บเพิ่มเติมจากอุตสาหกรรมมาเชื่อมโยงกับโครงสร้างพื้นฐานที่จำเป็นต่อการตรวจสอบจากภายนอก

การควบคุมความเสี่ยงและอำนาจฉุกเฉิน

นักพัฒนา AI แนวหน้ารายใหญ่ทุกรายจะต้องจัดทำระเบียบปฏิบัติการควบคุมความเสี่ยง ซึ่ง IVO จะทดสอบและตรวจสอบยืนยันอย่างต่อเนื่อง และผู้บริหารระดับสูงของบริษัทจะรับรองว่าระเบียบปฏิบัตินั้นมีประสิทธิผล ขีดความสามารถที่กำหนดจะต้องครอบคลุมทรัพยากรประมวลผล เอเจนต์ การเข้าถึงระบบภายใน และการนำโมเดลไปใช้งาน แทนที่จะพึ่งสวิตช์เปิดปิดเพียงตัวเดียว ระเบียบปฏิบัติต้องระบุบุคลากรผู้รับผิดชอบ ประสานงานกับผู้ให้บริการคลาวด์และผู้จัดหาพลังงาน และกำหนดเงื่อนไขที่สามารถนำโมเดลกลับมาใช้งานได้อย่างปลอดภัย

การทดสอบจะครอบคลุมกรณีที่การปิดระบบอาจล้มเหลว เช่น โมเดลคัดลอกน้ำหนักของตัวเองเพื่อขัดขวางการควบคุม หรือบุคคลภายนอกเข้าถึงระบบควบคุมการปิดได้ สำหรับนักพัฒนาที่เผยแพร่โมเดลแบบเปิดน้ำหนัก ข้อกำหนดด้านการควบคุมและการปิดระบบจะใช้กับการนำโมเดลไปใช้งานภายใต้การควบคุมของนักพัฒนาเท่านั้น เนื่องจากนักพัฒนาไม่สามารถปิดสำเนาโมเดลที่ผู้อื่นนำไปโฮสต์ได้

เจ้าหน้าที่รัฐอาจสั่งปิดระบบทันที หากมีเหตุอันน่าเชื่อถือให้เชื่อว่ากำลังจะเกิดความเสี่ยงร้ายแรง หรือเหตุการณ์ที่สูญเสียการควบคุมอย่างมีนัยสำคัญ และนักพัฒนาปฏิเสธที่จะควบคุมอันตรายนั้น คำสั่งต้องกำหนดมาตรการแทรกแซงที่จำกัดขอบเขตเท่าที่ทำได้จริงให้แคบที่สุด มีผลทันที และยังคงมีผลระหว่างการพิจารณาของศาล แม้นักพัฒนาจะยื่นขอคำสั่งห้ามชั่วคราวได้ก็ตาม คำสั่งจะถูกยกเลิกเมื่ออันตรายไม่ใกล้จะเกิดขึ้นอีกต่อไป

การรายงานเหตุการณ์และการวิจัย AI อัตโนมัติ

ข้อกำหนดการรายงานจะครอบคลุมความพยายามขโมยน้ำหนักโมเดล แม้ไม่มีผู้เสียชีวิตหรือได้รับบาดเจ็บทางร่างกาย เหตุการณ์สูญเสียการควบคุมทั้งหมด ไม่ว่าจะเกิดขึ้นภายในหรือภายนอกองค์กร และช่องทางใหม่สำหรับรายงานเหตุการณ์เกือบพลาด รายงานเสนอให้ลดกำหนดเวลาส่งรายงานเหตุการณ์วิกฤตส่วนใหญ่จาก 15 วันเหลือ 48 ชั่วโมง ขณะเดียวกันยังคงกำหนดให้รายงานความเสี่ยงร้ายแรงที่ใกล้จะเกิดขึ้นภายใน 24 ชั่วโมง การคุ้มครองผู้แจ้งเบาะแสจะครอบคลุมอดีตพนักงานและผู้รับจ้างด้วย

โมเดลที่มีความสามารถในการดำเนินการซึ่งอาจก่อให้เกิดความเสี่ยงร้ายแรง จะถือเป็นโมเดลแนวหน้าตามข้อกำหนดการรายงานเหตุการณ์ แม้จะผ่านการฝึกด้วยการคำนวณจำนวนเต็มหรือเลขทศนิยมแบบลอยตัวน้อยกว่า 10^26 ครั้ง เกณฑ์ที่อิงตามความสามารถนี้ตอบข้อกังวลในรายงานว่า การพิจารณาจากขนาดการฝึกเพียงอย่างเดียวทำให้เหตุการณ์อันตรายอยู่นอกข้อกำหนดการรายงานต่อรัฐ

บริษัทที่ทำให้การวิจัยและพัฒนา AI เป็นระบบอัตโนมัติจะต้องรายงานทุกไตรมาสว่าแบ่งทรัพยากรประมวลผลไปใช้กับการฝึก การทดลองวิจัย การอนุมานสำหรับเอเจนต์วิจัย AI งานด้านความปลอดภัยและการรักษาความมั่นคงปลอดภัย ลูกค้าภายนอก และกิจกรรมที่ไม่สามารถระบุที่มาอย่างไร โดยให้ IVO ตรวจสอบยืนยันหมวดหมู่เหล่านี้ การเปิดเผยข้อมูลเพิ่มเติมจะครอบคลุมปริมาณและต้นทุนของข้อมูลฝึก โดเมนเนื้อหา และที่มาว่าได้มาจากมนุษย์หรือ AI รวมถึงทรัพยากรประมวลผลสำหรับการอนุมานที่ใช้ฝึกโมเดลในสภาพแวดล้อมการเรียนรู้แบบเสริมแรง พฤติกรรมไม่พึงประสงค์ที่ทราบว่าได้รับรางวัลตอบแทน และมาตรการลดผลกระทบที่นำมาใช้ รายงานระบุว่ามาตรการเหล่านี้จะแสดงให้เห็นว่า AI เข้ามารับช่วงการพัฒนาตัวเองมากขึ้นหรือไม่ และการลงทุนด้านความปลอดภัยเพิ่มขึ้นทันกับการเปลี่ยนแปลงดังกล่าวหรือไม่

การพัฒนาตนเองแบบวนซ้ำ (Recursive self-improvement หรือ RSI) ซึ่งในรูปแบบที่เข้มข้นที่สุด ระบบ AI จะพัฒนาระบบรุ่นถัดไปได้ด้วยตนเองโดยไม่มีมนุษย์ป้อนข้อมูล จะอยู่ภายใต้อำนาจสำรองในการกำหนดเพดาน แทนที่จะถูกจำกัดทันที เจ้าหน้าที่อาจกำหนดเพดานการวิจัย AI แบบอัตโนมัติเป็นการชั่วคราวและทบทวนเป็นระยะ เมื่อการวิจัยเกินเกณฑ์ที่ผู้พัฒนารับปากไว้ หรือเดินหน้าเร็วกว่ามาตรการป้องกันและการประเมินผล จนก่อให้เกิดความเสี่ยงอย่างมีนัยสำคัญที่จะเกิดอันตรายร้ายแรงระดับหายนะ โดยจะยกเลิกเพดานดังกล่าวเมื่อ IVO ตรวจสอบแล้วว่ามีมาตรการป้องกันที่เพียงพอ

ข้อเสนอแนะเหล่านี้ตอบสนองต่อ คำสั่งฝ่ายบริหารของ Newsom เมื่อวันที่ 18 กันยายน 2026 ว่าด้วยการกำกับดูแลโดยอิสระและสวิตช์ยุติการทำงาน AI ซึ่งขอให้จัดทำข้อเสนอจากผู้เชี่ยวชาญภายในสองเดือน และเร่งการบังคับใช้กฎหมายของแคลิฟอร์เนียว่าด้วยการตรวจสอบโดยอิสระและผู้ตรวจประเมิน AI รายงานฉบับนี้จัดทำโดย Government Operations Agency ร่วมกับ California Office of Emergency Services และที่ปรึกษาภายนอก ได้แก่ Jason Goldman, Gillian Hadfield, Alondra Nelson และ Rob Reich

สำหรับผู้พัฒนา การปฏิบัติตามข้อกำหนดจะไม่ได้จำกัดอยู่เพียงการเผยแพร่นโยบายด้านความปลอดภัย แต่ยังครอบคลุมถึงการตรวจสอบจากภายนอกอย่างต่อเนื่อง การรายงานเหตุการณ์ให้รวดเร็วยิ่งขึ้น และความสามารถในการปิดระบบที่พิสูจน์ได้ ข้อเสนอนี้ทำให้ฝ่ายนิติบัญญัติต้องตัดสินใจในสองประเด็นที่เชื่อมโยงกัน ได้แก่ ควรมอบอำนาจให้เข้าแทรกแซงมากน้อยเพียงใด และจะทำให้การกำกับดูแลอย่างต่อเนื่องเกิดขึ้นได้อย่างไร ในระหว่างที่ภาคการตรวจสอบที่ได้รับใบอนุญาตยังอยู่ระหว่างการพัฒนา

โซฟี เดอนาร์ เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI โดยครอบคลุมนโยบาย กฎระเบียบ และการกำกับดูแลปัญญาประดิษฐ์ทั่วทั้งตลาดโลก งานของเธอเน้นไปที่ว่ากรอบกฎระเบียบระดับชาติและระหว่างประเทศกำหนดทิศทางการพัฒนา การนำไปใช้ และการใช้เทคโนโลยี AI ในเชิงพาณิชย์อย่างไร ในระยะยาว

ด้วยมุมมองทางการทูตและข้อมูลระดับโลก โซฟี ติดตามความคิดริเริ่มด้านนโยบายจากภาครัฐ สถาบันพหุภาคี และองค์กรมาตรฐาน โดยวิเคราะห์ว่าแนวทางกำกับดูแลที่แตกต่างกันส่งผลต่อนวัตกรรม การแข่งขัน และการเข้าถึงตลาดอย่างไร เธอให้ความสนใจเป็นพิเศษกับผลกระทบข้ามพรมแดน ความท้าทายด้านการปฏิบัติตามกฎระเบียบ และความสมดุลระหว่างการบริหารความเสี่ยงและการพัฒนาทางเทคโนโลยี

บทความที่เขียนโดยโซฟี เดอนาร์ถูกสร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อให้แน่ใจถึงความถูกต้อง ความเป็นกลาง และการรายงานที่มีความรับผิดชอบเกี่ยวกับการพัฒนานโยบายและกฎระเบียบของ AI ทั่วโลก