Ý nghĩa của Dự luật Quyền về Trí tuệ Nhân tạo của Nhà Trắng đối với Mỹ và Thế giới

Văn phòng Khoa học và Công nghệ của Nhà Trắng (OSTP) gần đây đã phát hành một bản trắng gọi là “Bản thiết kế cho Dự luật Quyền về Trí tuệ Nhân tạo: Làm cho các Hệ thống Tự động Hoạt động vì Người dân Mỹ”. Khung khổ này được phát hành một năm sau khi OSTP tuyên bố khởi động một quá trình để phát triển “một dự luật về quyền cho một thế giới được hỗ trợ bởi trí tuệ nhân tạo”.

Lời mở đầu trong dự luật này minh họa rõ ràng rằng Nhà Trắng hiểu được các mối đe dọa sắp tới đối với xã hội mà trí tuệ nhân tạo gây ra. Đây là những gì được nêu trong lời mở đầu:

“Trong số những thách thức lớn đối với nền dân chủ ngày nay là việc sử dụng công nghệ, dữ liệu và hệ thống tự động theo những cách đe dọa đến quyền của công chúng Mỹ. Quá thường, những công cụ này được sử dụng để hạn chế cơ hội và ngăn chặn việc tiếp cận các nguồn lực hoặc dịch vụ quan trọng. Những vấn đề này đã được ghi chép lại. Tại Mỹ và trên toàn thế giới, các hệ thống được cho là giúp chăm sóc bệnh nhân đã chứng minh là không an toàn, không hiệu quả hoặc bị thiên vị. Các thuật toán được sử dụng trong việc tuyển dụng và quyết định tín dụng đã được phát hiện phản ánh và tái tạo ra những bất bình đẳng không mong muốn hoặc nhúng các thiên vị và phân biệt đối xử có hại mới. Việc thu thập dữ liệu không kiểm soát trên các phương tiện truyền thông xã hội đã được sử dụng để đe dọa cơ hội của mọi người, xâm phạm quyền riêng tư của họ hoặc theo dõi hoạt động của họ một cách rộng rãi – thường mà không có kiến thức hoặc đồng ý của họ.”

Điều mà Dự luật Quyền này và khung khổ nó đề xuất sẽ có ý nghĩa cho tương lai của trí tuệ nhân tạo vẫn còn phải được xem. Điều chúng ta biết là những phát triển mới đang xuất hiện với tốc độ tăng trưởng theo cấp số nhân. Những gì từng được coi là không thể, dịch ngôn ngữ tức thời bây giờ là một thực tế, và đồng thời chúng ta có một cuộc cách mạng trong việc hiểu ngôn ngữ tự nhiên (NLU) được dẫn dắt bởi OpenAI và nền tảng nổi tiếng của họ GPT-3.

Kể từ đó, chúng ta đã chứng kiến sự tạo ra hình ảnh tức thời thông qua một kỹ thuật gọi là Stable Diffusion có thể sớm trở thành một sản phẩm tiêu dùng chính thống. Về bản chất, với công nghệ này, người dùng có thể chỉ cần nhập bất kỳ truy vấn nào họ có thể tưởng tượng, và như魔法, trí tuệ nhân tạo sẽ tạo ra một hình ảnh phù hợp với truy vấn đó.

Khi tính đến sự tăng trưởng theo cấp số nhân và Luật về Sự quay trở lại Tăng tốc, sẽ có một thời điểm khi trí tuệ nhân tạo đã chiếm lĩnh mọi khía cạnh của cuộc sống hàng ngày. Những cá nhân và công ty biết điều này và tận dụng sự thay đổi này sẽ có lợi. Thật không may, một phần lớn của xã hội có thể trở thành nạn nhân của cả những hậu quả không mong muốn và cố ý của trí tuệ nhân tạo.

Dự luật Quyền về Trí tuệ Nhân tạo được thiết kế để hỗ trợ việc phát triển các chính sách và thực tiễn bảo vệ quyền dân sự và thúc đẩy các giá trị dân chủ trong việc xây dựng, triển khai và quản lý các hệ thống tự động. Cách thức dự luật này so sánh với cách tiếp cận của Trung Quốc vẫn còn phải được xem, nhưng đây là một dự luật về quyền có tiềm năng thay đổi cảnh quan trí tuệ nhân tạo, và nó có khả năng được các đồng minh như Úc, Canada và EU áp dụng.

Được nói rằng, Dự luật Quyền về Trí tuệ Nhân tạo không có tính ràng buộc và không cấu thành chính sách của chính phủ Mỹ. Nó không thay thế, sửa đổi hoặc chỉ đạo việc giải thích bất kỳ luật, quy định, chính sách hoặc công cụ quốc tế hiện có. Điều này có nghĩa là nó sẽ phụ thuộc vào các doanh nghiệp và chính phủ tuân thủ các chính sách được nêu trong bản trắng này.

Dự luật này đã xác định năm nguyên tắc nên hướng dẫn thiết kế, sử dụng và triển khai các hệ thống tự động để bảo vệ công chúng Mỹ trong thời đại trí tuệ nhân tạo, dưới đây chúng ta sẽ phác thảo 5 nguyên tắc này:

1. Hệ thống An toàn và Hiệu quả

Có một mối nguy hiểm rõ ràng và hiện tại đối với xã hội từ các hệ thống trí tuệ nhân tạo lạm dụng, đặc biệt là những hệ thống dựa trên học sâu. Điều này được cố gắng giải quyết bằng các nguyên tắc sau:

“Bạn nên được bảo vệ khỏi các hệ thống không an toàn hoặc không hiệu quả. Các hệ thống tự động nên được phát triển với sự tham vấn từ các cộng đồng đa dạng, các bên liên quan và chuyên gia trong lĩnh vực để xác định các mối quan ngại, rủi ro và tác động tiềm năng của hệ thống. Các hệ thống nên trải qua thử nghiệm trước khi triển khai, xác định rủi ro và giảm thiểu, và giám sát liên tục để chứng minh rằng chúng an toàn và hiệu quả dựa trên mục đích sử dụng dự kiến, giảm thiểu kết quả không an toàn bao gồm cả những kết quả ngoài mục đích sử dụng, và tuân thủ các tiêu chuẩn cụ thể của lĩnh vực. Kết quả của những biện pháp bảo vệ này nên bao gồm khả năng không triển khai hệ thống hoặc loại bỏ hệ thống khỏi sử dụng. Các hệ thống tự động không nên được thiết kế với ý định hoặc khả năng dự kiến hợp lý để gây nguy hiểm cho sự an toàn của bạn hoặc sự an toàn của cộng đồng của bạn. Chúng nên được thiết kế để chủ động bảo vệ bạn khỏi những tác hại phát sinh từ việc sử dụng không dự kiến hoặc tác động của các hệ thống tự động. Bạn nên được bảo vệ khỏi việc sử dụng dữ liệu không phù hợp hoặc không liên quan trong thiết kế, phát triển và triển khai các hệ thống tự động, và khỏi tác hại tổng hợp của việc tái sử dụng dữ liệu. Đánh giá và báo cáo độc lập xác nhận rằng hệ thống là an toàn và hiệu quả, bao gồm cả việc báo cáo các bước được thực hiện để giảm thiểu các tác hại tiềm ẩn, nên được thực hiện và kết quả được công bố công khai bất cứ khi nào có thể.”

2. Bảo vệ Phân biệt đối xử Thuật toán

Những chính sách này giải quyết một số vấn đề quan trọng khi các doanh nghiệp lạm dụng các cá nhân.

Một vấn đề phổ biến khi tuyển dụng nhân viên sử dụng hệ thống trí tuệ nhân tạo là hệ thống học sâu thường đào tạo trên dữ liệu thiên vị để đạt được kết luận tuyển dụng. Điều này cơ bản có nghĩa là các thực tiễn tuyển dụng kém trong quá khứ sẽ dẫn đến phân biệt đối xử về giới tính hoặc chủng tộc bởi một đại lý tuyển dụng. Một nghiên cứu cho thấy khó khăn khi cố gắng loại bỏ giới tính khỏi dữ liệu đào tạo.

Một vấn đề cốt lõi khác với dữ liệu thiên vị bởi các chính phủ là nguy cơ bị bắt oan, hoặc thậm chí các thuật toán dự đoán tội phạm cung cấp các câu dài hơn cho các nhóm thiểu số.

“Bạn không nên đối mặt với sự phân biệt đối xử bởi các thuật toán và các hệ thống nên được sử dụng và thiết kế một cách công bằng. Phân biệt đối xử thuật toán xảy ra khi các hệ thống tự động góp phần vào việc đối xử khác biệt không hợp lý hoặc tác động bất lợi đối với mọi người dựa trên chủng tộc, màu da, dân tộc, giới tính (bao gồm cả thai sản, sinh con và các điều kiện y tế liên quan, bản dạng giới, tình trạng liên giới tính và khuynh hướng tính dục) tôn giáo, tuổi tác, quốc gia, khuyết tật, tình trạng cựu chiến binh, thông tin di truyền hoặc bất kỳ phân loại nào khác được pháp luật bảo vệ. Tùy thuộc vào tình huống cụ thể, chẳng hạn như phân biệt đối xử thuật toán có thể vi phạm các bảo vệ pháp lý. Các nhà thiết kế, nhà phát triển và người triển khai các hệ thống tự động nên thực hiện các biện pháp chủ động và liên tục để bảo vệ các cá nhân và cộng đồng khỏi phân biệt đối xử thuật toán và sử dụng, thiết kế các hệ thống một cách công bằng. Sự bảo vệ này nên bao gồm các đánh giá công bằng chủ động như một phần của thiết kế hệ thống, sử dụng dữ liệu đại diện và bảo vệ chống lại các đại diện cho các đặc điểm dân số, đảm bảo khả năng tiếp cận cho người khuyết tật trong thiết kế và phát triển, thử nghiệm và giảm thiểu sự chênh lệch trước và sau khi triển khai, và giám sát tổ chức rõ ràng. Đánh giá và báo cáo bằng ngôn ngữ đơn giản, bao gồm cả kết quả thử nghiệm chênh lệch và thông tin giảm thiểu, nên được thực hiện và công bố công khai bất cứ khi nào có thể để xác nhận những bảo vệ này.”

3. Quyền Riêng tư về Dữ liệu

Nguyên tắc quyền riêng tư về dữ liệu này là nguyên tắc có khả năng ảnh hưởng đến phân khúc dân số lớn nhất. Half đầu tiên của nguyên tắc này dường như quan tâm đến việc thu thập dữ liệu, đặc biệt là với dữ liệu thu thập qua internet, một vấn đề đã biết đặc biệt là đối với các nền tảng truyền thông xã hội. Dữ liệu này sau đó có thể được sử dụng để bán quảng cáo, hoặc thậm chí tồi tệ hơn để thao túng dư luận và ảnh hưởng đến các cuộc bầu cử.

“Bạn nên được bảo vệ khỏi các hành vi lạm dụng dữ liệu thông qua các biện pháp bảo vệ được tích hợp sẵn và bạn nên có quyền kiểm soát cách dữ liệu về bạn được sử dụng. Bạn nên được bảo vệ khỏi các vi phạm quyền riêng tư thông qua các lựa chọn thiết kế đảm bảo rằng các biện pháp bảo vệ này được bao gồm theo mặc định, bao gồm việc đảm bảo rằng việc thu thập dữ liệu phù hợp với các kỳ vọng hợp lý, và chỉ dữ liệu nghiêm ngặt cần thiết cho ngữ cảnh cụ thể được thu thập. Các nhà thiết kế, nhà phát triển và người triển khai các hệ thống tự động nên tìm kiếm sự đồng ý của bạn và tôn trọng các quyết định của bạn liên quan đến việc thu thập, sử dụng, truy cập, chuyển giao và xóa dữ liệu của bạn theo những cách phù hợp và ở mức độ lớn nhất có thể; khi không thể, các biện pháp bảo vệ quyền riêng tư thay thế nên được sử dụng. Các hệ thống không nên sử dụng các quyết định thiết kế và trải nghiệm người dùng che giấu sự lựa chọn của người dùng hoặc gây gánh nặng cho người dùng với các mặc định xâm phạm quyền riêng tư. Sự đồng ý chỉ nên được sử dụng để biện minh cho việc thu thập dữ liệu trong các trường hợp mà nó có thể được đưa ra một cách phù hợp và có ý nghĩa; bất kỳ yêu cầu đồng ý nào nên ngắn gọn, dễ hiểu bằng ngôn ngữ đơn giản và cung cấp cho bạn quyền kiểm soát việc thu thập dữ liệu và ngữ cảnh sử dụng cụ thể; các thực tiễn thông báo và lựa chọn hiện tại cho các sử dụng rộng rãi dữ liệu nên được thay đổi.”

Nửa sau của Nguyên tắc Quyền Riêng tư về Dữ liệu dường như quan tâm đến việc giám sát từ cả chính phủ và doanh nghiệp.

Hiện tại, các doanh nghiệp có thể theo dõi và gián điệp nhân viên, trong một số trường hợp có thể là để cải thiện an toàn nơi làm việc, trong đại dịch COVID-19 là để thực thi việc đeo khẩu trang, hầu hết thời gian chỉ đơn giản là để theo dõi cách thời gian tại nơi làm việc được sử dụng. Trong nhiều trường hợp này, nhân viên cảm thấy như họ đang bị theo dõi và kiểm soát quá mức.

“Các biện pháp bảo vệ và hạn chế được tăng cường cho dữ liệu và suy luận liên quan đến các lĩnh vực nhạy cảm, bao gồm sức khỏe, công việc, giáo dục, tư pháp hình sự và tài chính, và cho dữ liệu liên quan đến trẻ em nên đặt bạn lên hàng đầu. Trong các lĩnh vực nhạy cảm, dữ liệu và suy luận của bạn chỉ nên được sử dụng cho các chức năng cần thiết, và bạn nên được bảo vệ bởi các đánh giá đạo đức và các lệnh cấm sử dụng. Bạn và cộng đồng của bạn nên được miễn khỏi việc giám sát không kiểm soát; các công nghệ giám sát nên phải tuân theo sự giám sát tăng cao bao gồm ít nhất việc đánh giá trước khi triển khai về các tác hại tiềm năng và giới hạn phạm vi để bảo vệ quyền riêng tư và tự do dân sự. Giám sát và theo dõi liên tục không nên được sử dụng trong giáo dục, công việc, nhà ở hoặc trong các ngữ cảnh khác nơi việc sử dụng các công nghệ giám sát này có khả năng hạn chế quyền, cơ hội hoặc tiếp cận. Bất cứ khi nào có thể, bạn nên có quyền truy cập vào báo cáo xác nhận rằng các quyết định dữ liệu của bạn đã được tôn trọng và cung cấp đánh giá về tác động tiềm năng của các công nghệ giám sát đối với quyền, cơ hội hoặc tiếp cận của bạn.”

Nên lưu ý rằng trí tuệ nhân tạo có thể được sử dụng vì lợi ích để bảo vệ quyền riêng tư của mọi người.

4. Thông báo và Giải thích

Điều này nên là lời kêu gọi hành động cho các doanh nghiệp để triển khai một Hội đồng Tư vấn Đạo đức Trí tuệ Nhân tạo, cũng như thúc đẩy sự phát triển của trí tuệ nhân tạo có thể giải thích. Trí tuệ nhân tạo có thể giải thích là cần thiết trong trường hợp một mô hình trí tuệ nhân tạo mắc lỗi, việc hiểu cách thức hoạt động của trí tuệ nhân tạo cho phép chẩn đoán dễ dàng một vấn đề.

Trí tuệ nhân tạo có thể giải thích cũng sẽ cho phép chia sẻ thông tin minh bạch về cách dữ liệu được sử dụng và tại sao một quyết định được đưa ra bởi trí tuệ nhân tạo. Không có trí tuệ nhân tạo có thể giải thích, sẽ không thể tuân thủ các chính sách này do vấn đề hộp đen của học sâu.

Các doanh nghiệp tập trung vào việc cải thiện những hệ thống này cũng sẽ nhận được lợi ích tích cực từ việc hiểu rõ các sắc thái và phức tạp đằng sau lý do tại sao một thuật toán học sâu đưa ra một quyết định cụ thể.

“Bạn nên biết rằng một hệ thống tự động đang được sử dụng và hiểu cách và tại sao nó góp phần vào các kết quả ảnh hưởng đến bạn. Các nhà thiết kế, nhà phát triển và người triển khai các hệ thống tự động nên cung cấp tài liệu bằng ngôn ngữ đơn giản, bao gồm cả mô tả rõ ràng về chức năng của toàn bộ hệ thống và vai trò của tự động hóa, thông báo rằng các hệ thống như vậy đang được sử dụng, cá nhân hoặc tổ chức chịu trách nhiệm về hệ thống, và giải thích về các kết quả rõ ràng, kịp thời và có thể tiếp cận. Thông báo như vậy nên được cập nhật và những người bị ảnh hưởng bởi hệ thống nên được thông báo về các thay đổi quan trọng trong trường hợp sử dụng hoặc chức năng chính. Bạn nên biết cách và tại sao một kết quả ảnh hưởng đến bạn được xác định bởi một hệ thống tự động, bao gồm cả khi hệ thống tự động không phải là đầu vào duy nhất xác định kết quả. Các hệ thống tự động nên cung cấp các giải thích có giá trị về mặt kỹ thuật, có ý nghĩa và hữu ích cho bạn và cho bất kỳ người vận hành nào hoặc những người khác cần hiểu hệ thống, và được hiệu chỉnh dựa trên mức độ rủi ro dựa trên nội dung. Báo cáo bao gồm thông tin tóm tắt về các hệ thống tự động bằng ngôn ngữ đơn giản và đánh giá về độ rõ ràng và chất lượng của thông báo và giải thích nên được công bố công khai bất cứ khi nào có thể.”

5. Sự Thay thế, Xem xét và Dự phòng của Con người

Không giống như hầu hết các nguyên tắc trên, nguyên tắc này áp dụng nhất cho các thực thể chính phủ hoặc các tổ chức tư nhân hoạt động thay mặt cho chính phủ.

Ngay cả với một hội đồng đạo đức trí tuệ nhân tạo và trí tuệ nhân tạo có thể giải thích, điều quan trọng là phải dựa vào việc xem xét của con người khi mạng sống bị đe dọa. Luôn có tiềm năng cho lỗi, và việc có một người xem xét một trường hợp khi được yêu cầu có thể tránh được một kịch bản như trí tuệ nhân tạo gửi sai người đến tù.

Hệ thống tư pháp và hình sự có nhiều khả năng gây ra tổn hại không thể khắc phục cho các thành viên bị thiệt thòi của xã hội và nên đặc biệt chú ý đến nguyên tắc này.

“Bạn nên có thể chọn không tham gia, khi phù hợp, và có quyền truy cập vào một người có thể nhanh chóng xem xét và giải quyết các vấn đề bạn gặp phải. Bạn nên có thể chọn không tham gia từ các hệ thống tự động để ủng hộ một giải pháp thay thế của con người, khi phù hợp. Sự phù hợp nên được xác định dựa trên các kỳ vọng hợp lý trong một ngữ cảnh nhất định và tập trung vào việc đảm bảo khả năng tiếp cận rộng rãi và bảo vệ công chúng khỏi những tác động có hại đặc biệt. Trong một số trường hợp, một người hoặc một giải pháp thay thế khác có thể được yêu cầu bởi luật. Bạn nên có quyền truy cập vào việc xem xét và giải quyết của con người kịp thời nếu bất kỳ hệ thống tự động nào thất bại, nó tạo ra một lỗi, hoặc bạn muốn kháng cáo hoặc tranh chấp tác động của nó đối với bạn. Việc xem xét và giải quyết của con người nên có thể tiếp cận, công bằng, hiệu quả, được duy trì, đi kèm với đào tạo phù hợp cho bất kỳ ai tương tác với hệ thống, và không nên gây ra gánh nặng không hợp lý cho công chúng. Các hệ thống tự động có mục đích sử dụng trong các lĩnh vực nhạy cảm, bao gồm cả hệ thống tư pháp, việc làm, giáo dục và sức khỏe, nên được điều chỉnh cho mục đích, cung cấp quyền truy cập có ý nghĩa vào việc giám sát, bao gồm cả việc đào tạo cho bất kỳ ai tương tác với hệ thống, và tích hợp việc xem xét của con người cho các quyết định bất lợi hoặc có rủi ro cao. Báo cáo bao gồm mô tả về các quy trình quản lý của con người và đánh giá về tính kịp thời, khả năng tiếp cận, kết quả và hiệu quả của chúng nên được công bố công khai bất cứ khi nào có thể.”

Tóm tắt

OSTP nên được ghi nhận vì đã cố gắng giới thiệu một khung khổ bắc cầu giữa các giao thức an toàn cần thiết cho xã hội, mà không giới thiệu các chính sách hà khắc có thể cản trở tiến bộ trong việc phát triển học máy.

Sau khi các nguyên tắc được phác thảo, dự luật tiếp tục bằng cách cung cấp một người bạn đồng hành kỹ thuật cho các vấn đề được thảo luận cũng như thông tin chi tiết về từng nguyên tắc và cách tốt nhất để thực hiện các nguyên tắc này.

Các chủ doanh nghiệp thông minh và các doanh nghiệp nên chú ý đến việc nghiên cứu dự luật này, vì nó chỉ có thể có lợi khi thực hiện các chính sách này càng sớm càng tốt.

Trí tuệ nhân tạo có thể giải thích sẽ tiếp tục thống trị về tầm quan trọng, như có thể thấy từ trích dẫn này từ dự luật.

“Trong toàn bộ chính phủ liên bang, các cơ quan đang tiến hành và hỗ trợ nghiên cứu về các hệ thống trí tuệ nhân tạo có thể giải thích. NIST đang tiến hành nghiên cứu cơ bản về khả năng giải thích của các hệ thống trí tuệ nhân tạo. Một nhóm nghiên cứu đa ngành đang phát triển các phương pháp đo lường và các phương pháp hay nhất để hỗ trợ việc thực hiện các nguyên tắc cốt lõi của trí tuệ nhân tạo có thể giải thích. Cơ quan Nghiên cứu Dự án Tiên tiến Quốc phòng có một chương trình về Trí tuệ Nhân tạo có thể Giải thích nhằm tạo ra một bộ các kỹ thuật học máy sản xuất ra các mô hình có thể giải thích hơn, đồng thời duy trì mức độ hiệu suất học tập cao (độ chính xác dự đoán), và cho phép người dùng hiểu, tin tưởng và quản lý một cách hiệu quả sự ra đời của các đối tác thông minh nhân tạo. Chương trình về Công bằng trong Trí tuệ Nhân tạo của Quỹ Khoa học Quốc gia cũng bao gồm một sự quan tâm cụ thể đến các nền tảng nghiên cứu cho trí tuệ nhân tạo có thể giải thích.”

Điều không nên bỏ qua là cuối cùng, các nguyên tắc được nêu trong đây sẽ trở thành tiêu chuẩn mới.