AI 101
Responsible AI là gì? Nguyên tắc, Thử thách và Lợi ích
Trí tuệ nhân tạo có trách nhiệm (RAI) đề cập đến việc thiết kế và triển khai các hệ thống trí tuệ nhân tạo minh bạch, không thiên vị, có trách nhiệm và tuân theo các hướng dẫn đạo đức. Khi các hệ thống trí tuệ nhân tạo trở nên mạnh mẽ và phổ biến hơn, việc đảm bảo chúng được phát triển một cách có trách nhiệm và tuân theo các hướng dẫn an toàn và đạo đức là rất quan trọng.
Sức khỏe, Vận tải, Quản lý mạng và Giám sát là các ứng dụng trí tuệ nhân tạo quan trọng về an toàn, nơi sự cố của hệ thống có thể gây ra hậu quả nghiêm trọng. Các công ty lớn nhận thức được rằng RAI là rất quan trọng để giảm thiểu rủi ro công nghệ. Tuy nhiên, theo một báo cáo của MIT Sloan/BCG bao gồm 1093 người trả lời, 54% các công ty thiếu chuyên môn và nhân tài về Trí tuệ nhân tạo có trách nhiệm.
Mặc dù các nhà lãnh đạo tư tưởng và tổ chức đã phát triển các nguyên tắc cho trí tuệ nhân tạo có trách nhiệm, việc đảm bảo sự phát triển có trách nhiệm của các hệ thống trí tuệ nhân tạo vẫn còn nhiều thách thức. Hãy cùng khám phá ý tưởng này một cách chi tiết:
5 Nguyên tắc cho Trí tuệ nhân tạo có trách nhiệm
1. Công bằng
Các nhà công nghệ nên thiết kế các quy trình để các hệ thống trí tuệ nhân tạo đối xử với tất cả các cá nhân và nhóm một cách công bằng mà không có thiên vị. Do đó, công bằng là yêu cầu chính trong các ứng dụng quyết định rủi ro cao.
Công bằng được định nghĩa là:
“Khảo sát tác động đối với các nhóm dân số khác nhau và chọn một trong số các định nghĩa toán học về công bằng nhóm sẽ thỏa mãn đủ tập hợp các yêu cầu pháp lý, văn hóa và đạo đức mong muốn.”
2. Trách nhiệm
Trách nhiệm có nghĩa là các cá nhân và tổ chức phát triển và triển khai các hệ thống trí tuệ nhân tạo nên chịu trách nhiệm về các quyết định và hành động của họ. Đội ngũ triển khai các hệ thống trí tuệ nhân tạo nên đảm bảo rằng hệ thống trí tuệ nhân tạo của họ là minh bạch, giải thích được, có thể kiểm toán và không gây hại cho xã hội.
Trách nhiệm bao gồm bảy thành phần:
- Context (mục đích mà trách nhiệm được yêu cầu)
- Range (chủ đề của trách nhiệm)
- Agent (ai là người chịu trách nhiệm?)
- Forum (đối với người nào mà bên chịu trách nhiệm phải báo cáo)
- Standards (tiêu chí cho trách nhiệm)
- Process (phương pháp trách nhiệm)
- Implications (hậu quả của trách nhiệm)
3. Minh bạch
Minh bạch có nghĩa là lý do đằng sau việc ra quyết định trong các hệ thống trí tuệ nhân tạo là rõ ràng và có thể hiểu được. Các hệ thống trí tuệ nhân tạo minh bạch là có thể giải thích được.
Theo Danh sách đánh giá về Trí tuệ nhân tạo đáng tin cậy (ALTAI), minh bạch có ba yếu tố chính:
- Traceability (dữ liệu, các bước tiền xử lý và mô hình là có thể truy cập)
- Explainability (lý do đằng sau việc ra quyết định/làm dự đoán là rõ ràng)
- Open Communication (về giới hạn của hệ thống trí tuệ nhân tạo)
4. Quyền riêng tư
Quyền riêng tư là một trong những nguyên tắc chính của trí tuệ nhân tạo có trách nhiệm. Nó đề cập đến việc bảo vệ thông tin cá nhân. Nguyên tắc này đảm bảo rằng thông tin cá nhân của người dân được thu thập và xử lý với sự đồng ý và được giữ an toàn khỏi những kẻ xấu.
Như đã chứng minh gần đây, có một trường hợp của Clearview, một công ty tạo ra các mô hình nhận dạng khuôn mặt cho các cơ quan thực thi pháp luật và các trường đại học. Các cơ quan giám sát dữ liệu của Anh đã phạt Clearview AI 7,5 triệu bảng vì thu thập hình ảnh của cư dân Anh từ các phương tiện truyền thông xã hội mà không có sự đồng ý để tạo một cơ sở dữ liệu 20 tỷ hình ảnh.
5. An ninh
An ninh có nghĩa là đảm bảo rằng các hệ thống trí tuệ nhân tạo là an toàn và không gây ra mối đe dọa cho xã hội. Một ví dụ về mối đe dọa an ninh trí tuệ nhân tạo là các cuộc tấn công đối thủ. Những cuộc tấn công độc hại này trick các mô hình học máy vào việc đưa ra các quyết định sai lầm. Bảo vệ các hệ thống trí tuệ nhân tạo khỏi các cuộc tấn công mạng là rất quan trọng để có trí tuệ nhân tạo có trách nhiệm.
4 Thử thách và Rủi ro chính của Trí tuệ nhân tạo có trách nhiệm
1. Thiên vị
Các thiên vị của con người liên quan đến tuổi tác, giới tính, quốc tịch và chủng tộc có thể ảnh hưởng đến việc thu thập dữ liệu, có thể dẫn đến các mô hình trí tuệ nhân tạo thiên vị. Một nghiên cứu của Bộ Thương mại Hoa Kỳ đã phát hiện ra rằng trí tuệ nhân tạo nhận dạng khuôn mặt sai nhận diện người da màu. Do đó, việc sử dụng trí tuệ nhân tạo cho nhận dạng khuôn mặt trong thực thi pháp luật có thể dẫn đến việc bắt giữ sai. Ngoài ra, việc tạo ra các mô hình trí tuệ nhân tạo công bằng là một thách thức vì có 21 tham số khác nhau để định nghĩa chúng. Vì vậy, có một sự đánh đổi; việc thỏa mãn một tham số trí tuệ nhân tạo công bằng có nghĩa là phải hy sinh một tham số khác.
2. Giải thích được
Giải thích được là một thách thức quan trọng trong việc phát triển trí tuệ nhân tạo có trách nhiệm. Nó đề cập đến việc hiểu làm thế nào mô hình học máy đã đạt được một kết luận cụ thể.
Các mạng nơ-ron sâu thiếu giải thích được vì chúng hoạt động như các hộp đen với nhiều lớp nơ-ron ẩn, khiến cho việc hiểu quá trình ra quyết định trở nên khó khăn. Điều này có thể là một thách thức trong việc ra quyết định quan trọng như y tế, tài chính, v.v.
Hơn nữa, việc chính thức hóa giải thích được trong các mô hình học máy là một thách thức vì nó là chủ quan và riêng biệt theo lĩnh vực.
3. Quản trị
Quản trị đề cập đến một tập hợp các quy tắc, chính sách và thủ tục giám sát việc phát triển và triển khai các hệ thống trí tuệ nhân tạo. Gần đây, đã có những tiến bộ đáng kể trong lĩnh vực quản trị trí tuệ nhân tạo, với các tổ chức trình bày các khuôn khổ và hướng dẫn đạo đức.
Các hướng dẫn đạo đức cho trí tuệ nhân tạo đáng tin cậy của EU, Khuôn khổ đạo đức trí tuệ nhân tạo của Úc và Nguyên tắc trí tuệ nhân tạo của OECD là những ví dụ về các khuôn khổ quản trị trí tuệ nhân tạo.
Tuy nhiên, sự tiến bộ nhanh chóng của trí tuệ nhân tạo trong những năm gần đây có thể vượt qua các khuôn khổ quản trị trí tuệ nhân tạo này. Để đạt được điều này, cần có một khuôn khổ đánh giá công bằng, giải thích được và đạo đức của các hệ thống trí tuệ nhân tạo.
4. Quản lý
Khi các hệ thống trí tuệ nhân tạo trở nên phổ biến hơn, cần có quản lý để xem xét các giá trị đạo đức và xã hội. Việc phát triển quản lý mà không kìm hãm sự đổi mới của trí tuệ nhân tạo là một thách thức quan trọng trong trí tuệ nhân tạo có trách nhiệm.
Ngay cả với Quy định bảo vệ dữ liệu chung (GDPR), Đạo luật bảo vệ quyền riêng tư của người tiêu dùng California (CCPA) và Luật bảo vệ thông tin cá nhân (PIPL) là các cơ quan quản lý, các nhà nghiên cứu trí tuệ nhân tạo đã phát hiện ra rằng 97% trang web của EU không tuân thủ các yêu cầu pháp lý của khuôn khổ GDPR.
Hơn nữa, các nhà lập pháp phải đối mặt với một thách thức đáng kể trong việc đạt được sự đồng thuận về định nghĩa trí tuệ nhân tạo bao gồm cả các hệ thống trí tuệ nhân tạo cổ điển và các ứng dụng trí tuệ nhân tạo mới nhất.
3 Lợi ích chính của Trí tuệ nhân tạo có trách nhiệm
1. Giảm thiên vị
Trí tuệ nhân tạo có trách nhiệm giảm thiên vị trong các quá trình ra quyết định, xây dựng niềm tin vào các hệ thống trí tuệ nhân tạo. Việc giảm thiên vị trong các hệ thống trí tuệ nhân tạo có thể cung cấp một hệ thống y tế công bằng và giảm thiên vị trong các dịch vụ tài chính dựa trên trí tuệ nhân tạo, v.v.
2. Tăng cường minh bạch
Trí tuệ nhân tạo có trách nhiệm làm cho các ứng dụng trí tuệ nhân tạo minh bạch, xây dựng niềm tin vào các hệ thống trí tuệ nhân tạo. Các hệ thống trí tuệ nhân tạo minh bạch giảm thiểu rủi ro sai sót và lạm dụng. Việc tăng cường minh bạch làm cho việc kiểm toán các hệ thống trí tuệ nhân tạo trở nên dễ dàng hơn, giành được niềm tin của các bên liên quan và có thể dẫn đến các hệ thống trí tuệ nhân tạo có trách nhiệm.
3. An ninh tốt hơn
Các ứng dụng trí tuệ nhân tạo an toàn đảm bảo quyền riêng tư của dữ liệu, sản xuất đầu ra đáng tin cậy và không gây hại, và an toàn khỏi các cuộc tấn công mạng.
Các công ty công nghệ như Microsoft và Google, những người đang ở vị trí hàng đầu trong việc phát triển các hệ thống trí tuệ nhân tạo, đã phát triển các nguyên tắc trí tuệ nhân tạo có trách nhiệm. Trí tuệ nhân tạo có trách nhiệm đảm bảo rằng sự đổi mới trong trí tuệ nhân tạo không gây hại cho các cá nhân và xã hội.
Các nhà lãnh đạo tư tưởng, các nhà nghiên cứu, các tổ chức và các cơ quan quản lý nên liên tục xem xét lại các tài liệu về trí tuệ nhân tạo có trách nhiệm để đảm bảo một tương lai an toàn cho sự đổi mới trí tuệ nhân tạo.
Để biết thêm nội dung liên quan đến trí tuệ nhân tạo, hãy truy cập unite.ai.
