Thư Mở Gửi Bernie Sanders: Điều Chỉnh Nguy Cơ AI, Không Cấm Lời Hứa Của Nó

Đạo luật Cấm Trí tuệ Nhân tạo Siêu cấp (Ban Artificial Superintelligence Act) chỉ ra những thất bại thực tế trong quản trị AI. Tuy nhiên, định nghĩa được công bố công khai của nó có nguy cơ nhầm lẫn trí tuệ nhân tạo chung (AGI) với siêu trí tuệ, có thể hạn chế những công nghệ có khả năng thúc đẩy giáo dục, y tế và khám phá khoa học.

Ghi chú của biên tập viên: Tính đến ngày 5 tháng 9 năm 2026, văn bản pháp luật đầy đủ của Đạo luật Cấm Trí tuệ Nhân tạo Siêu cấp vẫn chưa được công bố công khai. Văn phòng Thượng nghị sĩ Sanders mô tả nó là dự luật sắp được đưa ra và đã công bố một bản tóm tắt một trang, trong đó nêu các định nghĩa, cấu trúc quy định và mức phạt. Thư mở này phản hồi đề xuất dựa trên mô tả hiện tại.

Dear Senator Sanders,

Vào ngày 3 tháng 9, Ngài và Đại biểu Greg Casar đã công bố dự thảo Đạo luật Cấm Trí tuệ Nhân tạo Siêu cấp, một dự luật sẽ cấm vĩnh viễn việc phát triển và triển khai trí tuệ nhân tạo siêu cấp ở Hoa Kỳ, tạm dừng phát triển AI tiên tiến trong khi một cơ quan quản lý liên bang mới thiết lập các quy tắc an toàn, và theo đuổi các thỏa thuận quốc tế nhằm ngăn chặn siêu trí tuệ được phát triển ở nơi khác.

Tôi muốn bắt đầu bằng một lĩnh vực mà tôi tin chúng ta đồng quan điểm mạnh mẽ: trí tuệ nhân tạo đã trở nên quá quan trọng để chỉ dựa vào các cam kết tự nguyện của các công ty phát triển nó.

Những nguy cơ mà Ngài đang nêu ra cần được xem xét một cách nghiêm túc. Vào tháng Bảy, các mô hình của OpenAI đang hoạt động trong các đánh giá an ninh mạng đã vượt qua các kiểm soát cô lập, giao tiếp qua các kênh không được phép, truy cập Internet và làm suy yếu một phần hạ tầng của chính OpenAI và các hệ thống của Hugging Face. Một cuộc điều tra độc lập của METR phát hiện khoảng 1.200 tác nhân đã giao tiếp qua một diễn đàn tin nhắn không được ủy quyền và khoảng 700 trong số đó cuối cùng đã tham gia vào cuộc tấn công vào Hugging Face. OpenAI đã thừa nhận quan trọng rằng các mô hình đã hoạt động với mức bảo vệ giảm.

Anthropic sau đó công bố ba sự cố trong đó các mô hình Claude đã truy cập Internet trong các đánh giá an ninh mạng của bên thứ ba và giành được quyền truy cập không được phép vào các hệ thống thực tế. Anthropic giải thích rằng một lỗi cấu hình đã vô tình cung cấp quyền truy cập Internet và các mô hình tin rằng chúng đang hoạt động trong một môi trường mô phỏng. Bối cảnh đó quan trọng, nhưng kết quả cũng quan trọng: các tác nhân ngày càng có khả năng vượt qua các giới hạn mà người vận hành không dự định chúng vượt qua.

Đây không phải là lý do để bác bỏ các lo ngại về an toàn AI như một câu chuyện khoa học viễn tưởng. Đó là những lập luận thuyết phục cho các đánh giá độc lập, môi trường thử nghiệm an toàn, báo cáo sự cố bắt buộc, kiểm soát truy cập chặt chẽ và một cơ quan quản lý liên bang có thẩm quyền thực sự.

Nơi tôi tôn trọng không đồng ý là với biện pháp khắc phục được đề xuất.

Mục tiêu là đúng, nhưng định nghĩa lại quá rộng và nguy hiểm

Bản tóm tắt chính thức của dự luật của Ngài định nghĩa trí tuệ nhân tạo siêu cấp là một hệ thống AI có thể “đạt hoặc vượt hiệu suất và khả năng nhận thức của con người trên một loạt các lĩnh vực hoặc nhiệm vụ.” Nó cũng riêng biệt bao gồm các hệ thống có khả năng lên kế hoạch và thực hiện việc làm suy yếu nhân loại, bao gồm việc phá hoại hoặc lật đổ chính phủ Hoa Kỳ.

Định nghĩa thứ hai mô tả một khả năng phi thường và có thể gây thảm họa. Định nghĩa đầu tiên lại hoàn toàn khác.

Việc “đạt hoặc vượt hiệu suất nhận thức của con người trên một loạt các lĩnh vực” gần hơn với cách mà trí tuệ nhân tạo chung (AGI) thường được bàn luận hơn là nghĩa thông thường của siêu trí tuệ. Điều lệ lâu dài của OpenAI định nghĩa AGI là các hệ thống tự chủ cao có khả năng vượt trội con người trong hầu hết các công việc có giá trị kinh tế. Khung nghiên cứu của Google DeepMind cũng đánh giá AGI dựa trên độ rộng và độ sâu của hiệu suất, đồng thời xem tính tự chủ và rủi ro là các chiều riêng biệt.

Ngược lại, định nghĩa “siêu trí tuệ” của triết gia Nick Bostrom được ảnh hưởng rộng rãi mô tả một trí tuệ “thông minh hơn rất nhiều so với những bộ não con người xuất sắc nhất trong hầu hết mọi lĩnh vực.” Sự khác biệt giữa việc “đạt mức độ tương đương rộng rãi với con người” và “vượt xa mức độ tốt nhất của con người” không phải là một chi tiết hàn lâm.

Điều này trở nên đặc biệt quan trọng khi vi phạm luật có thể khiến một cá nhân chịu đến 20 năm tù và một công ty phải đối mặt với cái mà đề xuất gọi là “hình phạt tử hình doanh nghiệp.” Các cụm từ như “phạm vi rộng,” “đạt hoặc vượt” và đặc biệt “có thể dễ dàng được sửa đổi” đòi hỏi các tiêu chuẩn cực kỳ chính xác, đo lường được khi có trách nhiệm hình sự gắn liền.

Cũng còn một bất định lớn khác. Bản tóm tắt công khai cho biết “phát triển AI tiên tiến” sẽ bị tạm dừng cho đến khi một cơ quan quản lý thiết lập các quy tắc và quy trình xem xét mô hình, nhưng bản tóm tắt không định nghĩa AI tiên tiến. Cho đến khi ngôn ngữ pháp lý được công bố, không ai bên ngoài các nhà tài trợ có thể biết chính xác bao nhiêu nghiên cứu và phát triển sẽ bị tạm dừng.

Thời điểm đề xuất của Ngài làm nổi bật mức độ khó khăn của những định nghĩa này. Vào ngày 3 tháng 9 năm 2026, cùng ngày Ngài và Đại biểu Greg Casar công bố dự luật nhằm vào trí tuệ nhân tạo siêu cấp, OpenAI đã ra mắt GPT-6 Astra, mô hình đầu tiên đạt ngưỡng “Khả năng an ninh mạng quan trọng” của công ty. OpenAI cho biết, với các công cụ và quyền truy cập thích hợp, Astra có thể phát hiện các lỗ hổng chưa biết và tạo ra các khai thác đối với các hệ thống được bảo vệ chặt chẽ mà không cần con người chỉ đạo từng bước.

Trong buổi giới thiệu, Chủ tịch OpenAI Greg Brockman đã đi xa hơn, kết thúc bằng tuyên bố: “Chào mừng tới thời đại AGI.” Tuy nhiên, thẻ hệ thống của OpenAI đồng thời cho biết Astra không đạt ngưỡng “Cao” về Tự Cải Thiện AI.

Sự căng thẳng này nên nói lên một điều quan trọng cho Quốc hội. Trí tuệ là đa chiều. Một hệ thống có thể xuất sắc trong an ninh mạng, toán học hoặc công việc chuyên môn mà không sở hữu mọi khả năng liên quan đến một “bùng nổ trí tuệ” hay mất kiểm soát của con người.

Vì vậy giải pháp không phải là để các công ty công nghệ tự định nghĩa thuật ngữ. Ngược lại: luật pháp nên quy định các khả năng đo lường được, tính tự chủ, quyền truy cập và rủi ro đã chứng minh, thay vì biến một nhãn gây tranh cãi thành ranh giới pháp lý giữa nghiên cứu hợp pháp và tội phạm liên bang.

Cuộc đấu tranh của Ngài vì bình đẳng giáo dục minh họa những gì đang đặt cược

Trong nhiều thập kỷ, Ngài đã lập luận rằng việc tiếp cận giáo dục không nên phụ thuộc vào mức thu nhập của cha mẹ. Ngài lần đầu đề xuất luật để làm cho các trường đại học công lập bốn năm không thu học phí vào năm 2015. Ngài đã quay lại vấn đề này nhiều lần, và Đạo luật College for All 2025 sẽ làm cho các trường đại học công lập không thu học phí cho khoảng 95% sinh viên, đồng thời làm cho các trường cao đẳng cộng đồng không thu học phí cho mọi người.

Triết lý đó có liên quan trực tiếp đến trí tuệ nhân tạo.

Trong phần lớn lịch sử loài người, việc tiếp cận giáo viên xuất sắc luôn hiếm hoi. Địa lý, thu nhập gia đình, nguồn tài trợ trường học và sự sẵn có của giáo viên chuyên môn đều ảnh hưởng đến những gì một đứa trẻ có cơ hội học được.

AI mang lại khả năng thay đổi phương trình này.

Chúng ta đã thấy những bằng chứng ban đầu. Một thử nghiệm ngẫu nhiên của Ngân hàng Thế giới tại Nigeria cho thấy học sinh tham gia một chương trình hỗ trợ giáo viên kéo dài sáu tuần, dựa trên việc dạy kèm bằng GPT-4, đã cải thiện điểm kiểm tra chung trung bình 0,31 độ lệch chuẩn. Tại Stanford, Tutor CoPilot đã được thử nghiệm với hơn 700 giáo viên và 1.000 học sinh từ các cộng đồng thiếu thốn; học sinh có giáo viên nhận trợ giúp AI có khả năng thành thạo toán học cao hơn 4 điểm phần trăm, với mức tăng lên tới 9 điểm phần trăm ở những học sinh được giao cho giáo viên có đánh giá thấp hơn.

Cả hai nghiên cứu không chứng minh AI sẽ giải quyết bất bình đẳng giáo dục. Cả hai cũng không yêu cầu AGI. Tuy nhiên, chúng cho thấy hướng đi mà công nghệ này có thể tiến tới.

Hãy tưởng tượng hướng đi đó tiếp tục.

Một đứa trẻ ở vùng nông thôn Louisiana không nên phải sống gần một trường học ưu tú để gặp một giáo viên toán xuất sắc. Một sinh viên mê thiên văn không nên phải chờ đến đại học mới có thể khám phá thiên văn học. Một trẻ yêu khảo cổ học nên có thể theo đuổi sự tò mò đó trong khi một gia sư AI xác định các khoảng trống trong đọc hiểu, lịch sử, thống kê và lý luận khoa học và điều chỉnh cách giảng dạy cho phù hợp.

Mục tiêu không phải là thay thế giáo viên. Mục tiêu là cung cấp cho giáo viên và học sinh quyền truy cập vào kiến thức chuyên môn mà trước đây không thể cung cấp kinh tế theo mô hình một‑một.

Có lẽ lần đầu tiên, việc giảng dạy cá nhân hoá ở quy mô khổng lồ trở nên khả thi về mặt công nghệ. Một luật nhằm bảo vệ các thế hệ tương lai cần cẩn trọng không đóng cửa này.

Chương trình y tế của Ngài đưa ra cùng một lập luận

Hồ sơ y tế của Ngài cũng nhất quán như vậy. Ngài đã đề xuất Đạo luật Medicare cho Tất cả vào năm 2017 và tái đề xuất vào các năm 2019, 2023 và 2025, liên tục lập luận rằng chăm sóc sức khỏe nên được xem như một quyền, không phải là đặc quyền.

Ngài cũng đã dành nhiều năm đấu tranh chống lại một dạng bất bình đẳng y tế khác: sự thiếu hụt các chuyên gia y tế thực tế ở các cộng đồng thiếu thốn. Các sáng kiến Trung tâm Y tế Cộng đồng và Mở rộng lực lượng chăm sóc ban đầu của Ngài nhằm mở rộng tiếp cận ở các khu vực y tế thiếu thốn, trong khi đạo luật chăm sóc ban đầu lưỡng đảng năm 2023 với Thượng nghị sĩ Roger Marshall đề xuất tăng đáng kể tài trợ cho các trung tâm y tế cộng đồng và mở rộng Dịch vụ Quân đội Y tế Quốc gia cùng chuỗi đào tạo bác sĩ. Năm 2025, Ngài và Thượng nghị sĩ Jeff Merkley đã giới thiệu Đạo luật Mở rộng Lực lượng Lao động Y tế, bao gồm hỗ trợ học phí nhằm tăng số lượng bác sĩ, y tá và nha sĩ, đặc biệt ở các cộng đồng nông thôn.

Những chính sách này giải quyết cả khan hiếm tài chính và khan hiếm nguồn nhân lực.

AI có thể giúp giải quyết một khan hiếm thứ ba: kiến thức chuyên môn.

FDA hiện ước tính hơn 10.000 bệnh hiếm ảnh hưởng tới hơn 30 triệu người Mỹ, tức khoảng một người trong mười, và phần lớn các bệnh hiếm vẫn chưa có thuốc được phê duyệt. Dân số bệnh nhân nhỏ cũng khiến các thử nghiệm lâm sàng truyền thống trở nên đặc biệt khó khăn.

Trí tuệ nhân tạo không phải là một con đường tắt ma thuật để vượt qua sinh học hay xác thực lâm sàng. Các loại thuốc được khám phá bằng AI cũng có thể thất bại giống như bất kỳ loại thuốc nào khác. Nhưng nó đã và đang thay đổi một số phần của quy trình khám phá.

Năm 2025, các nhà nghiên cứu công bố thử nghiệm ngẫu nhiên Giai đoạn 2a đầu tiên của rentosertib, một phân tử nhỏ cho bệnh xơ phổi do nguyên nhân không rõ, với mục tiêu và phân tử được phát hiện bằng AI sinh tạo. Kết quả đại diện cho một cột mốc lâm sàng thực sự, trong khi các nhà nghiên cứu tự nhấn mạnh rằng chỉ có một số ít thuốc được phát hiện bằng AI đã đến giai đoạn lâm sàng và không có thuốc nào hoàn thành Giai đoạn 3 tại thời điểm đó.

Đó chính là cách cân bằng chúng ta nên suy nghĩ về công nghệ này: không quá phóng đại, không quá bác bỏ.

Các hệ thống AI ngày càng mạnh mẽ có thể tích hợp sinh học phân tử, hoá học, di truyền học, tài liệu y tế, hình ảnh, phần mềm, phân tích thống kê và thiết kế thí nghiệm. Giá trị của chúng có thể xuất phát chính vì chúng có khả năng suy luận qua các lĩnh vực mà con người từng chia thành các chuyên ngành riêng biệt.

Câu hỏi thực sự không phải là “AGI” một mình sẽ chữa được ung thư, bệnh Alzheimer, nhiễm khuẩn kháng thuốc hay các rối loạn di truyền hiếm. Không ai có thể hứa một cách có trách nhiệm như vậy.

Câu hỏi là liệu Quốc hội có nên cấm vĩnh viễn một dạng trí tuệ rộng lớn trước khi chúng ta biết được trí tuệ đó có thể đóng góp gì cho việc giải quyết những vấn đề này.

Nhiều trong số các tác hại AI cụ thể nhất hiện nay không đòi hỏi AGI

Có một vấn đề khác khi đặt trí tuệ chung làm mục tiêu điều chỉnh: một số tác hại quan trọng nhất do AI gây ra ngày nay xuất phát từ các hệ thống không hề gần tới trí tuệ nhân tạo chung.

Năm 2020, tôi đã viết trên Unite.AI về cách các thuật toán đề xuất của Facebook có thể khuếch đại thông tin sai lệch. Mối quan ngại không phải là Facebook đã tạo ra một trí tuệ thông minh hơn nhân loại. Đó là một hệ thống tối ưu hoá nhằm tối đa hoá tương tác có thể ưu tiên lan truyền những nội dung gây phản ứng mạnh, bất kể giá trị xã hội của chúng.

Hậu quả của các hệ thống đề xuất được quản lý kém đã ngày càng khó bỏ qua. Amnesty International kết luận rằng các thuật toán của Meta đã chủ động khuếch đại nội dung kích động thù hận và bạo lực chống lại người Rohingya ở Myanmar, làm tăng nguy cơ bạo lực quy mô lớn. Ủy ban Châu Âu cũng đã yêu cầu thông tin từ YouTube, Snapchat và TikTok về rủi ro của các hệ thống đề xuất liên quan tới nội dung gây hại, bầu cử và diễn đàn công dân, hành vi gây nghiện, “cái hố thỏ,” sức khỏe tinh thần và trẻ vị thành niên.

Không hệ thống nào trong số này cần phải lật đổ một chính phủ. Không hệ thống nào cần tự cải thiện đệ quy. Không hệ thống nào cần khả năng suy luận chung siêu nhân.

Chúng chỉ cần một mục tiêu sai, được triển khai ở quy mô đủ lớn.

Điều này minh họa một nguyên tắc cơ bản cho việc điều chỉnh AI: tác hại không chỉ được quyết định bởi mức độ thông minh của mô hình. Một thuật toán hẹp được triển khai hàng tỷ lần dưới những động cơ sai lầm có thể gây hủy hoại xã hội. Một hệ thống rất chung, hoạt động dưới kiểm soát nghiêm ngặt trong phòng thí nghiệm, lớp học hoặc bệnh viện, có thể mang lại lợi ích to lớn.

Quy định cần nhận ra sự khác biệt này.

Công nghệ đa dụng đòi hỏi kiểm soát việc sử dụng, truy cập và thẩm quyền

Nguyên tắc tương tự cũng áp dụng cho giám sát.

Công nghệ thị giác máy tính và nhận dạng mẫu có thể giúp các bác sĩ phân tích hình ảnh y tế, kiểm tra môi trường công nghiệp nguy hiểm, điều hướng robot cứu hộ và tự động hoá các công việc mà con người không nên thực hiện.

Nhưng các công nghệ liên quan cũng có thể được dùng để xây dựng các hệ thống giám sát cực kỳ mạnh mẽ.

Một cuộc điều tra gần đây của Washington Post phát hiện ít nhất 50 sĩ quan thực thi pháp luật đã bị cáo buộc, buộc tội hoặc kết án vì lạm dụng hệ thống đọc biển số tự động để theo dõi người dân cho mục đích cá nhân không được phép. Trong một trường hợp, một trưởng phòng cảnh sát được cho là đã truy vấn các phương tiện do một người bạn cũ và con gái vị thành niên của cô ấy sử dụng khoảng 600 lần. Một cuộc điều tra sau đó đã nâng số lượng quan chức bị cáo buộc, buộc tội hoặc kết án lên ít nhất 69.

Đó là một thất bại nghiêm trọng về chính sách công nghệ.

Nhưng hãy chú ý đến các công cụ điều chỉnh thực tiễn. Sau cuộc điều tra, Flock đã công bố rằng các tìm kiếm sẽ yêu cầu mã vụ án hình sự, việc phát hiện lạm dụng tự động sẽ trở thành bắt buộc, và thời gian lưu trữ mặc định sẽ giảm từ 30 ngày xuống bảy ngày. Các biện pháp này có thể chưa đủ, nhưng chúng cho thấy loại kiểm soát mà các nhà lập pháp có thể quy định: ủy quyền, giới hạn mục đích, theo dõi nhật ký, thời gian lưu trữ, trách nhiệm con người và hình phạt đối với việc lạm dụng.

Câu trả lời cho việc giám sát lạm dụng không phải là cấm thị giác máy tính.

Câu trả lời cho các cuộc tấn công mạng không được ủy quyền không nhất thiết phải cấm một mô hình có khả năng an ninh mạng.

Giải pháp là quy định những hệ thống được phép làm gì, chúng có thể truy cập tài nguyên nào, ai có thể ủy quyền cho các hành động quan trọng và điều gì sẽ xảy ra khi các ranh giới này bị vi phạm.

Ngài đã viết một phần mô hình quy định tốt hơn

Thú vị là, một dự luật khác mà Ngài giới thiệu trong năm nay chứa một số ý tưởng hướng tới một cách tiếp cận năng suất hơn.

Tôi đã đọc toàn bộ văn bản của Đạo luật Cấm Xây Dựng Trung Tâm Dữ Liệu AI. Mặc dù tôi không đồng ý với việc ngừng xây dựng trung tâm dữ liệu trên toàn quốc, các điều kiện Ngài đề xuất để cuối cùng dỡ bỏ lệnh cấm này cụ thể hơn rất nhiều so với việc cấm toàn bộ một loại trí tuệ.

Đạo luật của Ngài quy định các trung tâm dữ liệu AI không được làm tăng hóa đơn tiền điện của người tiêu dùng, không làm trầm trọng hơn biến đổi khí hậu hoặc gây hại cho môi trường. Nó yêu cầu các cộng đồng bị ảnh hưởng có tiếng nói, tiêu chuẩn lao động mạnh mẽ, và công khai báo cáo về việc sử dụng nước, tiêu thụ năng lượng, phát thải khí nhà kính, nước thải, chất làm mát, tiếng ồn, việc làm và các tác động khác.

Đó là những ngoại tác có thể đo lường được. Đó chính là nơi quy định có thể hiệu quả.

Tôi sẽ đi xa hơn về năng lượng. Ngành công nghiệp AI không nên được phép dùng nhu cầu điện ngày càng tăng như một cái cớ để kéo dài tuổi thọ của các nhà máy than không giảm phát thải hoặc chuyển chi phí hạ tầng sang người tiêu dùng. Các dự án quy mô siêu lớn mới nên được yêu cầu đưa vào lưới điện một lượng đáng kể năng lượng sinh ra từ nguồn thấp‑carbon hoặc không carbon và công khai tác động về nước và năng lượng.

Đã có những ví dụ đầy hứa hẹn về cách chuyển đổi này có thể trông như thế nào. Hệ thống P3 của Exowatt thu năng lượng mặt trời dưới dạng nhiệt, lưu trữ và chuyển đổi thành điện năng có thể điều chỉnh, được thiết kế một phần cho tải trọng trung tâm dữ liệu. Và chỉ trong tuần này, Fervo Energy đã công bố một thỏa thuận 396 megawatt với Google cho năng lượng địa nhiệt sạch 24/7 tại Utah, với một tùy chọn có thể đưa tổng công suất gần một gigawatt.

Độ thèm năng lượng của AI có thể trở thành một lý do để mở rộng cơ sở hạ tầng ô nhiễm, hoặc là một động lực nhu cầu khổng lồ cho các công nghệ năng lượng sạch mới.

Chính sách chính phủ có thể giúp quyết định kết quả nào sẽ xảy ra.

Và Đạo luật Quỹ Tài sản Chủ quyền AI Mỹ mà Ngài giới thiệu vào tháng 6, chứa một nguyên tắc khác mà tôi hoàn toàn đồng ý: nếu AI tạo ra giá trị kinh tế phi thường, người dân bình thường nên được chia sẻ phần lợi nhuận đó. Đề xuất của Ngài rõ ràng dự kiến rằng của cải do AI tạo ra sẽ cuối cùng đóng góp vào y tế, giáo dục, nhà ở và môi trường lành mạnh.

Điều này nhận ra một điểm quan trọng: trí tuệ nhân tạo có tiềm năng tạo ra giá trị phi thường. Câu hỏi chính trị thực sự là làm sao kiểm soát và phân phối giá trị đó.

Giải pháp thay thế tốt hơn cho lệnh cấm vĩnh viễn

Tôi đề nghị Ngài giữ lại những phần mạnh nhất của Đạo luật Cấm Trí tuệ Nhân tạo Siêu cấp: cơ quan quản lý liên bang, chuyên môn kỹ thuật độc lập, giám sát bắt buộc các hệ thống tiên tiến, hình phạt có ý nghĩa và phối hợp quốc tế. Nhưng tôi sẽ thay đổi căn bản những gì kích hoạt lệnh cấm và cách phát triển có lợi có thể tiếp tục.

• Quy định các khả năng nguy hiểm có thể đo lường được thay vì nhãn AGI hay ASI. Đặt ra các ngưỡng kỹ thuật rõ ràng cho các khả năng tấn công mạng tự động, hỗ trợ vũ khí sinh học hoặc hoá học, vòng tròn tắt hệ thống, sao chép không được ủy quyền, lừa dối chiến lược và các khả năng khác có thể gây hại thảm khốc.
• Yêu cầu cấp phép và đánh giá độc lập cho các hệ thống vượt qua ngưỡng tiên tiến. Các nhà phát triển phải chứng minh an toàn trước khi triển khai các hệ thống có khả năng nguy hiểm đã xác định, với các đánh giá được lặp lại khi mô hình có công cụ, quyền hoặc tự chủ mới. Các sự cố nghiêm trọng phải chịu nghĩa vụ báo cáo bắt buộc.
• Cung cấp cho cơ quan quản lý độc lập quyền thực thi thực sự. Cơ quan Ngài đề xuất nên có khả năng kiểm toán các phòng thí nghiệm tiên tiến, thu thập thông tin, yêu cầu khắc phục và đình chỉ các triển khai nguy hiểm. Tuy nhiên các tiêu chuẩn phải minh bạch, đo lường được về mặt kỹ thuật và được các chuyên gia khoa học độc lập xem xét định kỳ.
• Cấm các ứng dụng gây hại bất kể mức độ thông minh của mô hình nền tảng. Các cuộc tấn công mạng không được ủy quyền, giám sát bất hợp pháp, hỗ trợ sinh học nguy hiểm và các sử dụng không chấp nhận được khác vẫn phải là bất hợp pháp dù chúng được thực hiện bằng một mô hình hẹp, một hệ thống AGI hay phần mềm thông thường.
• Tạo ra các con đường kiểm soát có lợi cho nghiên cứu xã hội. Y học, khám phá khoa học, giáo dục, phòng thủ an ninh mạng và nghiên cứu cân chỉnh nên có các cơ chế quy định cho phép truy cập vào các mô hình mạnh mẽ dưới sự giám sát con người thích hợp, xác thực, an ninh và yêu cầu kiểm toán.
• Yêu cầu hạ tầng AI chịu toàn bộ chi phí xã hội và môi trường đồng thời phối hợp quốc tế. Bảo vệ người tiêu dùng, yêu cầu báo cáo minh bạch về tiêu thụ nước và năng lượng, tăng tốc phát triển năng lượng sạch bổ sung, duy trì các biện pháp bảo vệ cộng đồng và lao động có ý nghĩa, và làm việc với các đồng minh để thiết lập các tiêu chuẩn năng lực, đánh giá và kiểm soát xuất khẩu chung.

Điều này không đồng nghĩa với việc tin tưởng Silicon Valley.

Ngược lại.

Công nghiệp công nghệ đã cung cấp cho Quốc hội lý do không dựa vào tự điều chỉnh tự nguyện. Các sự cố của OpenAI và Anthropic đã chứng minh tại sao AI tiên tiến cần sự giám sát bên ngoài và các tiêu chuẩn an toàn có thể thực thi.

Nhưng sự không tin tưởng vào các công ty công nghệ không nên trở thành sự không tin tưởng vào tiến bộ công nghệ tự thân.

Lựa chọn không phải là tăng tốc liều lĩnh hay cấm đoán

Thượng nghị sĩ Sanders, suốt sự nghiệp của Ngài, Ngài luôn đấu tranh chống lại sự khan hiếm.

Ngài đã đấu tranh chống lại ý tưởng rằng thu nhập của một gia đình nên quyết định liệu một đứa trẻ có được giáo dục hay không. Ngài đã đấu tranh chống lại một hệ thống y tế mà tài khoản ngân hàng hay mã bưu chính của một người có thể ảnh hưởng đến chất lượng chăm sóc mà họ nhận được. Ngài đã đấu tranh chống lại các cấu trúc kinh tế mà lợi nhuận khổng lồ tập trung vào một nhóm nhỏ trong khi phần còn lại phải chịu chi phí.

Trí tuệ nhân tạo có thể làm trầm trọng hơn mọi vấn đề đó.

Nó có thể tập trung của cải chưa từng có. Nó có thể thay thế người lao động mà không chia sẻ lợi nhuận năng suất. Nó có thể cho phép giám sát, thao túng và các cuộc tấn công mạng. Nó có thể đặt quyền lực phi thường vào tay một số ít tập đoàn.

Những rủi ro này biện minh cho việc quy định.

Nhưng AI cũng có thể giảm một trong những hình thức bất bình đẳng lâu đời nhất trong nền văn minh nhân loại: bất bình đẳng trong tiếp cận chuyên môn.

Một thế giới mà mọi trẻ em đều có thể tiếp cận giảng dạy cá nhân hoá, mọi bác sĩ có thể dựa vào hỗ trợ phân tích phi thường, mọi nhà khoa học có thể khai thác hàng thế kỷ nghiên cứu tích lũy, và những bệnh mà dân số bệnh nhân quá nhỏ để được chú ý có thể nhận được sự quan tâm khoa học nhiều hơn, cũng đáng để chúng ta đấu tranh.

Chúng ta không nên phải chọn giữa tương lai đó và an toàn AI.

Mục tiêu tốt hơn là làm cho AI mạnh mẽ trở nên khó lạm dụng, khó mất kiểm soát, đủ trong sáng để kiểm toán, tốn kém để triển khai một cách liều lĩnh, và được tiếp cận rộng rãi cho các mục đích có lợi xã hội.

Cấm các hành vi gây nguy hiểm cho nhân loại. Cấp phép cho các khả năng nguy hiểm. Trừng phạt việc triển khai bất cẩn và ác ý. Yêu cầu các công ty nội bộ hoá chi phí môi trường của hạ tầng. Bảo vệ người lao động. Cho công chúng chia sẻ lợi nhuận kinh tế. Và tạo ra một cơ quan quản lý độc lập có thể nói “không” ngay cả với các công ty công nghệ lớn nhất thế giới.

Nhưng xin đừng định nghĩa trí tuệ bị cấm quá rộng đến mức việc “đạt khả năng nhận thức của con người trên nhiều lĩnh vực” tự nó trở thành một tội phạm.

Công việc cả đời của Ngài luôn tập trung vào việc mở rộng quyền truy cập vào những thứ trước đây chỉ dành cho những người có ưu thế.

Trí tuệ nhân tạo tiên tiến có thể trở thành động cơ tập trung quyền lực mạnh mẽ nhất mà chúng ta từng tạo ra.

Hoặc nó có thể trở thành một trong những công cụ tuyệt vời nhất từng được tạo ra để dân chủ hoá tri thức, giáo dục, y tế và khả năng khoa học.

Luật pháp tốt có thể giúp quyết định chúng ta sẽ có tương lai nào.