5 Cột trụ Cơ bản để Đảm bảo Trách nhiệm của Trí tuệ Nhân tạo

Chúng ta đang chứng kiến sự tăng trưởng vượt bậc trong các hệ thống AI/ML để xử lý lượng dữ liệu khổng lồ được tạo ra trong nền kinh tế số mới. Tuy nhiên, cùng với sự tăng trưởng này, cần phải xem xét nghiêm túc các tác động đạo đức và pháp lý của AI.

Khi chúng ta giao phó ngày càng nhiều nhiệm vụ phức tạp và quan trọng cho các hệ thống AI, chẳng hạn như phê duyệt khoản vay tự động, chúng ta phải tuyệt đối chắc chắn rằng các hệ thống này là có trách nhiệm và đáng tin cậy. Giảm thiểu sự thiên vị trong AI đã trở thành một lĩnh vực tập trung lớn cho nhiều nhà nghiên cứu và có những tác động đạo đức khổng lồ, cũng như mức độ tự chủ mà chúng ta trao cho các hệ thống này.

Khái niệm về Trí tuệ Nhân tạo Có trách nhiệm là một khuôn khổ quan trọng có thể giúp xây dựng niềm tin vào các triển khai AI của bạn. Có năm cột trụ cơ bản cho Trí tuệ Nhân tạo Có trách nhiệm. Bài viết này sẽ khám phá những điều này để giúp bạn xây dựng các hệ thống tốt hơn.

1. Tính tái tạo

Có một câu nói cũ trong thế giới phát triển phần mềm rằng: “hey, nó hoạt động trên máy của tôi” Trong ML và AI, câu nói này có thể được điều chỉnh để trở thành: “hey, nó hoạt động trên tập dữ liệu của tôi.” Điều này có nghĩa là các mô hình học máy thường có thể trở thành một hộp đen. Nhiều tập dữ liệu đào tạo có thể có những thiên vị vốn có như thiên vị lấy mẫu hoặc thiên vị xác nhận, điều này làm giảm độ chính xác của sản phẩm cuối cùng.

Để giúp các hệ thống AI/ML trở nên tái tạo hơn, và do đó chính xác và đáng tin cậy, bước đầu tiên là tiêu chuẩn hóa đường ống MLOps. Ngay cả những nhà khoa học dữ liệu thông minh nhất cũng có những công nghệ và thư viện yêu thích của họ, điều này có nghĩa là kỹ thuật tính năng và các mô hình kết quả không đồng nhất từ người này sang người khác. Bằng cách sử dụng các công cụ như MLflow, bạn có thể tiêu chuẩn hóa đường ống MLOps và giảm những khác biệt này.

Một cách khác để giúp các hệ thống AI/ML trở nên tái tạo hơn là thông qua việc sử dụng những gì được gọi là “tập dữ liệu vàng.” Đây là những tập dữ liệu đại diện thực sự hoạt động như các bài kiểm tra và xác nhận của các mô hình mới trước khi chúng được phát hành cho sản xuất.

2. Minh bạch

Như đã nói trước đó, nhiều mô hình ML, đặc biệt là mạng nơ-ron, là những hộp đen. Để làm cho chúng trở nên có trách nhiệm hơn, chúng ta cần làm cho chúng trở nên giải thích được hơn. Đối với các hệ thống đơn giản như cây quyết định, rất dễ hiểu cách và tại sao hệ thống đưa ra một quyết định nhất định, nhưng khi độ chính xác và độ phức tạp của một hệ thống AI tăng lên, khả năng giải thích của nó thường giảm xuống.

Có một lĩnh vực nghiên cứu mới gọi là “giải thích” đang cố gắng mang lại sự minh bạch thậm chí cho các hệ thống AI phức tạp như mạng nơ-ron và học sâu. Những mô hình này sử dụng các mô hình proxy để sao chép hiệu suất của một mạng nơ-ron, nhưng chúng cũng cố gắng cung cấp những giải thích hợp lệ về những tính năng quan trọng.

Tất cả điều này dẫn đến sự công bằng; bạn muốn biết tại sao một quyết định nhất định được đưa ra và đảm bảo rằng quyết định này là công bằng. Bạn cũng muốn đảm bảo rằng các tính năng không phù hợp không được xem xét để thiên vị không xâm nhập vào mô hình của bạn.

3. Trách nhiệm

Có lẽ khía cạnh quan trọng nhất của Trí tuệ Nhân tạo Có trách nhiệm là trách nhiệm. Có rất nhiều cuộc thảo luận về chủ đề này, thậm chí trong lĩnh vực chính phủ, vì nó liên quan đến những chính sách sẽ thúc đẩy kết quả AI. Cách tiếp cận dựa trên chính sách này xác định giai đoạn nào con người nên tham gia vào.

Trách nhiệm đòi hỏi phải có các giám sát và chỉ số mạnh mẽ để giúp các nhà hoạch định chính sách và kiểm soát các hệ thống AI/ML. Trách nhiệm thực sự gắn kết tính tái tạo và minh bạch, nhưng nó cần sự giám sát hiệu quả dưới dạng các ủy ban đạo đức AI. Những ủy ban này có thể xử lý các quyết định chính sách, quyết định những gì quan trọng để đo lường và thực hiện các đánh giá công bằng.

4. An ninh

An ninh AI tập trung vào tính bí mật và toàn vẹn của dữ liệu. Khi các hệ thống đang xử lý dữ liệu, bạn muốn chúng ở trong một môi trường an toàn. Bạn muốn dữ liệu được mã hóa cả khi đang nghỉ ngơi trong cơ sở dữ liệu của bạn và cũng khi nó đang được gọi qua đường ống, nhưng vẫn có những lỗ hổng khi nó đang được đưa vào một mô hình học máy dưới dạng văn bản thuần túy. Các công nghệ như mã hóa đồng hình giúp giải quyết vấn đề này bằng cách cho phép đào tạo học máy xảy ra trong một môi trường mã hóa.

Một khía cạnh khác là an ninh của chính mô hình. Ví dụ, các cuộc tấn công đảo ngược mô hình cho phép các hacker học được dữ liệu đào tạo đã được sử dụng để xây dựng mô hình. Ngoài ra, còn có các cuộc tấn công đầu độc mô hình, chúng chèn dữ liệu xấu vào mô hình trong khi nó đang được đào tạo và hoàn toàn làm hỏng hiệu suất của nó. Kiểm tra mô hình của bạn đối với các cuộc tấn công đối thủ như vậy có thể giữ cho nó an toàn và bảo mật.

5. Quyền riêng tư

Google và OpenMined là hai tổ chức đã ưu tiên quyền riêng tư AI gần đây, và OpenMined đã tổ chức một hội nghị gần đây về chủ đề này. Với các quy định mới như GDPR và CCPA, và có thể nhiều hơn nữa trong tương lai, quyền riêng tư sẽ đóng vai trò trung tâm trong cách chúng ta đào tạo các mô hình học máy.

Một cách để đảm bảo rằng bạn đang xử lý dữ liệu của khách hàng một cách nhận thức về quyền riêng tư là sử dụng học liên kết. Phương pháp học máy phân tán này đào tạo các mô hình khác nhau tại địa phương, sau đó tổng hợp từng mô hình trong một trung tâm tập trung trong khi giữ dữ liệu an toàn, bảo mật và riêng tư. Một phương pháp khác là giới thiệu nhiễu thống kê để các giá trị cá nhân của khách hàng không bị tiết lộ. Điều này giúp bạn làm việc với tổng hợp để dữ liệu cá nhân của một cá nhân vẫn còn nguyên vẹn và không có sẵn cho thuật toán.

Giữ Trí tuệ Nhân tạo Có trách nhiệm

 Cuối cùng, giữ Trí tuệ Nhân tạo có trách nhiệm là trách nhiệm của mỗi tổ chức đang thiết kế các hệ thống AI/ML. Bằng cách theo đuổi có chủ ý các công nghệ trong từng khía cạnh của Trí tuệ Nhân tạo có trách nhiệm, bạn không chỉ có thể tận dụng sức mạnh của trí tuệ nhân tạo, mà còn làm như vậy theo cách đáng tin cậy và thẳng thắn sẽ làm yên tâm tổ chức, khách hàng và các cơ quan quản lý của bạn.