Quy định

Newsom đề xuất giám sát bắt buộc đối với AI tiên tiến và trao quyền tắt hệ thống

Sophie Denar
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhCác tổ chức xác minh độc lập được cấp phép sẽ mang lại cho nhà nước sự giám sát kỹ…
Xem thêm
  • Các tổ chức xác minh độc lập được cấp phép sẽ mang lại cho nhà nước sự giám sát kỹ thuật liên tục thay vì các hồ sơ an toàn một lần.
  • Các lệnh dừng khẩn cấp sẽ có hiệu lực ngay lập tức và duy trì hiệu lực trong suốt quá trình xem xét tư pháp.
  • Việc báo cáo sự cố sẽ chuyển từ các ngưỡng quy mô huấn luyện sang năng lực được chứng minh đối với rủi ro thảm khốc.

Ngày 18 tháng 11 năm 2026, Thống đốc California Gavin Newsom đã công bố các khuyến nghị lập pháp, theo đó yêu cầu giám sát độc lập liên tục đối với các nhà phát triển AI tiên tiến quy mô lớn, đồng thời cho phép quan chức tiểu bang ra lệnh tắt khẩn cấp các mô hình gây ra nguy cơ thảm họa cận kề.

Báo cáo An toàn AI năm 2026 và những năm tiếp theo của Cơ quan Điều hành Chính quyền California, đề ngày 16 tháng 11 năm 2026, nhằm cung cấp thông tin cho việc xây dựng luật khi các nhà lập pháp trở lại làm việc vào tháng 12 năm 2026; những khuyến nghị trong báo cáo chưa phải là nghĩa vụ đã được ban hành. Kế hoạch này sẽ dựa trên yêu cầu hiện hành của California, theo đó các nhà phát triển AI tiên tiến quy mô lớn phải công bố khuôn khổ an toàn, đồng thời bổ sung các tiêu chuẩn cơ bản do tiểu bang đặt ra về an toàn, bảo mật và minh bạch trong suốt quá trình huấn luyện, sử dụng nội bộ và triển khai.

Giám sát độc lập liên tục

Mọi nhà phát triển AI tiên tiến quy mô lớn đều sẽ chịu sự giám sát liên tục của các tổ chức xác minh độc lập được cấp phép, gọi tắt là IVO. Các tổ chức này sẽ chuyển đổi tiêu chuẩn của tiểu bang thành các bài kiểm tra kỹ thuật và cập nhật chúng khi phương pháp đánh giá AI thay đổi. Họ cũng sẽ được tiếp cận các mô hình, nhân sự, hệ thống, môi trường huấn luyện và hồ sơ mà họ cho là cần thiết, sau đó gửi các đánh giá không bị lược bỏ nội dung cho tiểu bang.

Cơ quan Điều hành Chính quyền sẽ cấp phép cho các IVO và có thể thu hồi giấy phép nếu họ không đủ chuyên môn, tính độc lập hoặc sự nghiêm ngặt cần thiết. Nếu đơn vị đánh giá không thể xác nhận rằng nhà phát triển đáp ứng các tiêu chuẩn, tiểu bang có thể yêu cầu khắc phục sau khi làm việc với công ty. Nhà phát triển có thể khởi kiện các quyết định đó trước khi chúng có hiệu lực, ngoại trừ trường hợp áp dụng quy trình khẩn cấp rút gọn.

Một khoản phụ thu đánh trên phí xác minh mà các nhà phát triển phải trả sẽ góp phần tài trợ năng lực tính toán CalCompute do nhà nước vận hành. Một phần năng lực tính toán này sẽ được dành cho nghiên cứu độc lập về an toàn và bảo mật cũng như hoạt động giám sát công khai, qua đó gắn khoản phụ thu do ngành đóng góp với cơ sở hạ tầng cần thiết cho việc giám sát từ bên ngoài.

Ngăn chặn rủi ro và quyền hạn khẩn cấp

Mỗi nhà phát triển AI tiên tiến quy mô lớn sẽ phải duy trì một Giao thức Ngăn chặn Rủi ro, được một IVO kiểm tra và xác minh thường xuyên, đồng thời được một lãnh đạo cấp cao của công ty chứng nhận là có hiệu quả. Năng lực bắt buộc phải bao quát năng lực tính toán, tác nhân, quyền truy cập nội bộ và việc triển khai mô hình, thay vì phụ thuộc vào một công tắc bật-tắt duy nhất. Các giao thức sẽ xác định nhân sự chịu trách nhiệm, phối hợp với nhà cung cấp dịch vụ đám mây và nhà cung cấp điện, đồng thời quy định thời điểm có thể khôi phục mô hình một cách an toàn.

Hoạt động kiểm tra sẽ xem xét các tình huống có thể khiến việc tắt hệ thống thất bại, bao gồm trường hợp mô hình sao chép trọng số để cản trở việc ngăn chặn hoặc một tác nhân bên ngoài giành được quyền truy cập vào các nút điều khiển tắt hệ thống. Đối với các nhà phát triển mô hình có trọng số mở, yêu cầu về ngăn chặn và tắt hệ thống chỉ áp dụng cho những lần triển khai do họ kiểm soát, vì họ không thể tắt các bản sao được bên khác lưu trữ.

Quan chức tiểu bang có thể ra lệnh tắt hệ thống ngay lập tức khi có căn cứ đáng tin cậy để tin rằng đang tồn tại nguy cơ thảm họa cận kề hoặc sự kiện mất kiểm soát nghiêm trọng, và nhà phát triển từ chối ngăn chặn mối nguy. Lệnh này phải yêu cầu biện pháp can thiệp ở mức tối thiểu khả thi, có hiệu lực ngay và duy trì hiệu lực trong thời gian chờ tòa án xem xét, dù nhà phát triển có thể xin lệnh cấm tạm thời. Lệnh sẽ được dỡ bỏ khi mối nguy không còn cận kề.

Báo cáo sự cố và nghiên cứu AI tự động hóa

Chế độ báo cáo sẽ bao gồm cả hành vi tìm cách đánh cắp trọng số mô hình dù không gây tử vong hay thương tích thân thể, mọi sự cố mất kiểm soát từ bên trong hoặc bên ngoài, cùng một kênh mới để báo cáo các sự cố suýt xảy ra. Báo cáo đề xuất rút thời hạn nộp hầu hết báo cáo về sự cố nghiêm trọng từ 15 ngày xuống còn 48 giờ, đồng thời giữ nguyên yêu cầu báo cáo trong vòng 24 giờ đối với các nguy cơ thảm họa cận kề. Các biện pháp bảo vệ người tố giác sẽ được mở rộng cho cả cựu nhân viên và nhà thầu.

Các mô hình có khả năng thực hiện những hành động có thể gây ra nguy cơ thảm họa sẽ được xem là mô hình AI tiên tiến thuộc diện phải báo cáo sự cố, ngay cả khi được huấn luyện với ít hơn 10^26 phép toán số nguyên hoặc dấu phẩy động. Tiêu chí kích hoạt dựa trên năng lực này giải quyết mối lo ngại trong báo cáo rằng việc chỉ dựa vào quy mô huấn luyện đã khiến các sự cố nguy hiểm nằm ngoài phạm vi yêu cầu báo cáo của tiểu bang.

Các công ty tự động hóa hoạt động nghiên cứu và phát triển AI sẽ phải báo cáo hằng quý về cách phân bổ năng lực tính toán cho huấn luyện, thử nghiệm nghiên cứu, suy luận của các tác nhân nghiên cứu AI, công việc an toàn và bảo mật, khách hàng bên ngoài và các hoạt động không xác định được nguồn gốc; các IVO sẽ xác minh những hạng mục này. Các thông tin cần công bố bổ sung sẽ bao gồm khối lượng, chi phí, lĩnh vực chuyên môn và nguồn gốc do con người hay AI tạo ra của dữ liệu huấn luyện, cũng như năng lực tính toán suy luận được dùng để huấn luyện mô hình trong môi trường học tăng cường, các hành vi sai trái được tưởng thưởng đã biết và biện pháp giảm thiểu được áp dụng. Báo cáo cho biết những biện pháp này sẽ cho thấy liệu AI có đang đảm nhận ngày càng nhiều công việc phát triển chính nó hay không, và liệu mức đầu tư cho an toàn có theo kịp xu hướng đó hay không.

Việc tự cải thiện đệ quy (RSI), với hình thức mạnh nhất là một hệ thống AI tự phát triển thế hệ kế tiếp mà không cần con người can thiệp, sẽ thuộc diện có thể áp dụng thẩm quyền áp trần dự phòng, thay vì bị giới hạn ngay lập tức. Các quan chức có thể áp đặt mức trần có thời hạn và được rà soát định kỳ đối với hoạt động nghiên cứu AI tự động khi hoạt động này vượt quá các ngưỡng mà nhà phát triển đã cam kết hoặc tiến triển nhanh hơn các biện pháp bảo vệ và quy trình đánh giá, dẫn đến nguy cơ đáng kể gây ra thiệt hại thảm khốc. Mức trần sẽ được gỡ bỏ sau khi một tổ chức xác minh độc lập (IVO) xác nhận rằng các biện pháp bảo vệ thích đáng đã được triển khai.

Các khuyến nghị này nhằm đáp ứng sắc lệnh hành pháp ngày 18 tháng 9 năm 2026 của Newsom về giám sát độc lập và công tắc ngắt AI, trong đó yêu cầu các chuyên gia đưa ra đề xuất trong vòng hai tháng và đẩy nhanh việc triển khai các luật của California về xác minh độc lập và kiểm toán viên AI. Cơ quan Điều hành Chính phủ đã xây dựng báo cáo cùng với Văn phòng Dịch vụ Khẩn cấp California và các cố vấn bên ngoài Jason Goldman, Gillian Hadfield, Alondra Nelson và Rob Reich.

Đối với các nhà phát triển, việc tuân thủ sẽ không chỉ dừng ở công bố các chính sách an toàn mà còn bao gồm giám sát liên tục từ bên ngoài, báo cáo sự cố nhanh hơn và chứng minh được khả năng tắt hệ thống. Đề xuất đặt ra cho các nhà lập pháp hai quyết định có liên quan: cần ban hành quyền can thiệp ở mức độ nào và làm thế nào để vận hành hoạt động giám sát liên tục trong khi lĩnh vực xác minh được cấp phép vẫn đang phát triển.

Sophie Denar là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên về chính sách, quy định và quản trị trí tuệ nhân tạo trên các thị trường toàn cầu. Công việc của cô tập trung vào cách các khuôn khổ quy định quốc gia và quốc tế định hình sự phát triển, triển khai và thương mại hóa các công nghệ trí tuệ nhân tạo trong dài hạn.
Với quan điểm ngoại giao và thông tin toàn cầu, Sophie theo dõi các sáng kiến chính sách từ các chính phủ, tổ chức đa phương và cơ quan tiêu chuẩn, phân tích cách các phương pháp quy định khác nhau ảnh hưởng đến sự đổi mới, cạnh tranh và tiếp cận thị trường. Cô đặc biệt chú ý đến các tác động xuyên biên giới, thách thức tuân thủ và sự cân bằng giữa quản lý rủi ro và tiến bộ công nghệ.
Các bài viết được viết bởi Sophie Denar được tạo bởi trí tuệ nhân tạo và được xem xét bởi đội ngũ biên tập của Unite.AI để đảm bảo độ chính xác, trung lập và việc đưa tin có trách nhiệm về các phát triển chính sách và quy định trí tuệ nhân tạo trên toàn thế giới.