Quy định
Fathom kêu gọi nhanh chóng triển khai kế hoạch giám sát AI của California

Điểm chínhFathom muốn California bắt buộc các nhà phát triển AI tiên phong thực hiện đánh giá rủi…
Xem thêm
- Fathom muốn California bắt buộc các nhà phát triển AI tiên phong thực hiện đánh giá rủi ro thảm khốc độc lập thay vì dựa vào các đánh giá tự nguyện.
- Bang sẽ cấp phép và giám sát các đơn vị đánh giá đồng thời xác định các kết quả an toàn trong luật và cho phép các IVO cập nhật phương pháp kiểm thử kỹ thuật.
- Fathom đề xuất triển khai dần các yêu cầu bắt buộc khi năng lực của đơn vị đánh giá tăng lên để công việc được đảm bảo thu hút vốn và nhân tài.
Nhóm quản trị AI Fathom cho biết vào ngày 18 tháng 11 năm 2026 rằng lộ trình mới về AI tiên phong của Thống đốc Gavin Newsom phản ánh nhiều khuyến nghị của nhóm, đồng thời kêu gọi California nhanh chóng triển khai các cuộc đánh giá độc lập bắt buộc đối với những rủi ro thảm khốc.
Fathom đã xây dựng và vận động áp dụng mô hình tổ chức xác minh độc lập (IVO), theo đó các đơn vị đánh giá bên ngoài thẩm định rủi ro của mô hình và hệ thống AI. Andrew Freedman, CEO kiêm đồng sáng lập, mô tả báo cáo là một kế hoạch cụ thể nhằm đưa hoạt động giám sát độc lập vào thực tiễn và kêu gọi hành động với “tốc độ nhanh nhất có thể một cách thận trọng”. Ông nêu các vấn đề còn bỏ ngỏ gồm luật hóa, xây dựng quy định, thẩm quyền giữa tiểu bang và liên bang, hậu cần, thời gian và chi phí; đồng thời cho biết Fathom sẽ gây sức ép để chính quyền tiểu bang và liên bang bảo đảm tính minh bạch, bắt buộc đo lường rủi ro thông qua IVO và thực thi các biện pháp bảo vệ bằng quyền lực nhà nước.
Báo cáo của Cơ quan Điều hành Chính phủ California (GovOps), đề ngày 16 tháng 11 năm 2026 và được công bố rộng rãi vào ngày 18 tháng 11, khuyến nghị sửa đổi luật thay vì tự áp đặt các yêu cầu. Gói đề xuất rộng hơn của báo cáo bao gồm các tiêu chuẩn cơ sở, thẩm quyền tắt khẩn cấp và khả năng đặt giới hạn đối với quá trình tự cải tiến đệ quy, đồng thời phát triển dựa trên khuôn khổ IVO của SB 813 và danh bạ kiểm toán viên AI theo AB 1405.
Những điểm trong lộ trình phản ánh mô hình của Fathom
Khuyến nghị trọng tâm về giám sát sẽ yêu cầu mọi nhà phát triển AI tiên phong quy mô lớn phải trải qua các đợt đánh giá thường xuyên do IVO được cấp phép thực hiện, thay thế cách tiếp cận tự nguyện hiện nay đối với các nhà phát triển này. GovOps sẽ cấp phép và giám sát liên tục các đơn vị đánh giá, đồng thời có quyền thu hồi giấy phép nếu họ không đáp ứng yêu cầu về chuyên môn, tính độc lập hoặc sự nghiêm ngặt. IVO sẽ nộp các bản đánh giá chưa qua biên tập cho tiểu bang; sau khi trao đổi với nhà phát triển, tiểu bang sẽ quyết định liệu có cần áp dụng biện pháp khắc phục hay không.
Fathom cho biết báo cáo nhất quán với bản ghi nhớ triển khai ngày 30 tháng 10 năm 2026 của mình, cả về phân định trách nhiệm lẫn tiêu chí pháp lý. California sẽ quy định bằng luật các kết quả an toàn được chấp nhận, còn IVO sẽ xây dựng và cập nhật các phương pháp kỹ thuật cùng phép thử dùng để đánh giá mức độ tuân thủ. Tiêu chuẩn được đề xuất đặt ra câu hỏi liệu một mô hình AI tiên phong có “khả năng không làm tăng rủi ro gây tổn hại thảm khốc vượt quá mức sẽ tồn tại nếu không có mô hình đó” hay không, đồng thời xem xét liệu lợi ích dự kiến của mô hình có lớn hơn rủi ro còn lại hay không. Thiết kế này nhằm cho phép các phương pháp thử nghiệm thay đổi theo sự phát triển của công nghệ, đồng thời vẫn bảo đảm kết quả mà luật của tiểu bang quy định.
Tự cải tiến đệ quy (RSI), tức thời điểm quá trình phát triển AI tự động có thể tự duy trì, là một lĩnh vực khác có sự tương đồng. Báo cáo sẽ giao cho IVO trách nhiệm ban đầu là xác minh các chỉ số nghiên cứu và phát triển AI tự động, cũng như đánh giá những rủi ro ngày càng tăng. Bản ghi nhớ của Fathom còn đề xuất giám sát việc sử dụng nội bộ lẫn bên ngoài; các ngưỡng năng lực được đăng ký trước sẽ kích hoạt nghĩa vụ thông báo cho tiểu bang và tạm dừng mở rộng quy mô nội bộ cho đến khi đánh giá lại.
Thiết kế triển khai của Fathom
Bản ghi nhớ đề xuất triển khai từng yêu cầu theo từng giai đoạn, ngay khi GovOps xác định rằng các đơn vị đánh giá được chỉ định có đủ năng lực và chuyên môn trong lĩnh vực rủi ro liên quan. Bản ghi nhớ lập luận rằng kỳ vọng đáng tin cậy về việc công việc đánh giá sẽ trở thành bắt buộc sẽ thu hút nguồn vốn và nhân lực cần thiết để mở rộng hoạt động xác minh độc lập, thay vì chờ thị trường trưởng thành ở mọi lĩnh vực rủi ro.
Ban đầu, tiểu bang sẽ chỉ định một IVO từ danh sách đã được xác định trước, còn nhà phát triển sẽ thanh toán trực tiếp theo thời gian làm việc và chi phí vật tư, căn cứ vào mức giá do tiểu bang đối chiếu chuẩn. Ở các giai đoạn sau, khi danh sách đơn vị đánh giá mở rộng, nhà phát triển sẽ có thêm quyền lựa chọn; tuy nhiên, tiểu bang vẫn giữ quyền phủ quyết lựa chọn, yêu cầu luân phiên, giới hạn mức độ tập trung, chỉ định thêm người đánh giá và thu hồi chứng nhận của các đơn vị thiếu sự nghiêm ngặt hoặc tính độc lập. Khoản thanh toán sẽ không phụ thuộc vào kết quả đánh giá.
Các đơn vị đánh giá làm việc trực tiếp sẽ được tiếp cận liên tục với hồ sơ, nhân sự và hệ thống cần thiết, bao gồm cả việc hiện diện trực tiếp tại những thời điểm ra quyết định đã xác định; việc này được bảo đảm bằng các biện pháp bảo vệ theo luật về bảo mật và chống trả đũa. Tiểu bang sẽ tiếp tục chịu trách nhiệm thực thi: Tổng chưởng lý có thể yêu cầu lệnh cấm và khoản phạt dân sự, trong khi IVO sẽ đưa ra kết luận, quy định biện pháp khắc phục và chuyển cấp các rủi ro sắp xảy ra, thay vì tự mình yêu cầu lệnh cấm hoặc đưa ra kết luận có hiệu lực thi hành ngay.
Giờ đây, trách nhiệm thực tiễn thuộc về Cơ quan Lập pháp và GovOps: chuyển các khuyến nghị thành nghĩa vụ có tính ràng buộc, đồng thời phát triển đủ số lượng đơn vị đánh giá được cấp phép và duy trì năng lực thực thi đáng tin cậy của tiểu bang. Thiết kế của Fathom khiến các bước này phụ thuộc lẫn nhau, bởi mỗi yêu cầu đều cần có chuyên môn phù hợp, còn kết luận của IVO phải được tiểu bang hành động thì mới có thể dẫn đến những hệ quả cưỡng chế.












