Làm thế nào trí tuệ nhân tạo giải thích được tăng cường độ tin cậy và đáng tin cậy

Khi trí tuệ nhân tạo (AI) đang được phổ biến trên các doanh nghiệp, nó đang dần được tích hợp vào cấu trúc của sự tồn tại của chúng ta. Một khía cạnh quan trọng của sự phổ biến này là người dùng cuối phải có thể hiểu hoàn toàn quá trình và cơ chế mà AI sử dụng để đạt được kết luận hoặc cách nó hoạt động để cung cấp kết quả mong muốn. Như con người, chúng ta có một nhu cầu sâu sắc để khám phá “tại sao” và “như thế nào” của bất kỳ hiện tượng nào, điều này đã đẩy nhanh tiến bộ công nghệ của chúng ta. Trong bối cảnh AI, sự hiểu biết này được gọi là “giải thích”.

Tại sao giải thích là nhu cầu của giờ?

Hầu hết chúng ta tiếp cận AI như một “hộp đen”, nơi chúng ta chỉ có kiến thức về đầu vào và đầu ra, nhưng ở đâu đó các quá trình được sử dụng bị mất trên chúng ta. Vấn đề này được tăng cường bởi thực tế là các thuật toán cung cấp năng lượng cho hầu hết các hình thức AI, chẳng hạn như hệ thống dự đoán dựa trên học sâu phức tạp và Xử lý Ngôn ngữ Tự nhiên (NLP) là rất trừu tượng ngay cả với những người thực hành thành công nhất.

Tin cậy và Minh bạch: Để người dùng tin tưởng vào các dự đoán của AI, nó phải có một số mức độ giải thích. Ví dụ, nếu một bác sĩ phải đề xuất một phương pháp điều trị dựa trên dự đoán của AI, họ cần phải tự tin vào dự đoán. Một ngân hàng phải có sự tự tin đầy đủ trong việc quyết định từ chối hoặc chấp thuận một khoản vay và phải có thể chứng minh điều đó cho tất cả các bên liên quan. Một AI được sử dụng để sàng lọc và tuyển dụng phải chứng minh rằng các cơ chế cơ bản là công bằng và công bằng với tất cả các nhóm ứng viên.

Làm cho AI trở nên con người hơn và tăng cường việc áp dụng: Trong báo cáo The state of AI in 2020 của McKinsey, chúng ta biết rằng một nhà sản xuất sử dụng các mô hình cực kỳ minh bạch để được chấp nhận từ công nhân nhà máy, những người cần tin tưởng vào các phán quyết được đưa ra bởi AI về sự an toàn của họ. Để áp dụng AI nhanh chóng, việc có được sự đồng ý của các bên liên quan là chướng ngại vật chính để mở rộng từ các giải pháp điểm đơn giản sang cấp độ doanh nghiệp và nhận được lợi ích tối đa từ khoản đầu tư. Điều này được giảm nhẹ rất nhiều nếu hiệu suất là giải thích được cho khán giả lớn hơn. Về mặt kinh doanh, giải thích tăng cường trải nghiệm người dùng tổng thể và tăng cường sự hài lòng của khách hàng. Theo findings của một cuộc khảo sát của IBM Institute for Business Value, 68% các giám đốc điều hành hàng đầu tin rằng khách hàng sẽ yêu cầu nhiều giải thích hơn từ AI trong ba năm tới.

Phát hiện偏见 và cải thiện hiệu suất mô hình: Một nhà phát triển cần biết cách cải thiện hiệu suất của mô hình và cách gỡ lỗi và tinh chỉnh nó. Một khuôn khổ giải thích rõ ràng là một trong những công cụ quan trọng nhất để thực hiện phân tích toàn diện cần thiết.

Đapatkan thông tin chi tiết sắc nét và toàn diện: Một cái nhìn 360 độ hoàn chỉnh là cần thiết để hiểu hoàn toàn các đơn thuốc được đưa ra bởi AI. Ví dụ, nếu AI được sử dụng để đưa ra quyết định đầu tư, người ta cũng cần biết lý do đằng sau nó, để chuyển kiến thức này sang các lĩnh vực khác và cũng hiểu được các điểm yếu của việc đưa ra quyết định đó. Sự hiểu biết sâu sắc về cách AI hoạt động cũng sẽ cho phép người ra quyết định khám phá các trường hợp sử dụng mới.

Quy định và Trách nhiệm: Một số quy định như GDPR đang yêu cầu quyền giải thích, để giải quyết các vấn đề về trách nhiệm phát sinh từ quá trình ra quyết định tự động. Trong các hệ thống như xe tự hành, nếu điều gì đó đi sai dẫn đến mất mạng và tài sản, kiến thức thích hợp về nguyên nhân gốc rễ là cần thiết, điều này sẽ khó xác định trong một hệ thống hộp đen.

Làm thế nào AI có thể trở nên giải thích được hơn?

Hệ thống trí tuệ nhân tạo giải thích (XAI) được phát triển bằng các kỹ thuật khác nhau tập trung vào việc giải thích mô hình như một整 thể hoặc giải thích lý do đằng sau từng dự đoán riêng lẻ thông qua sự hỗ trợ của một số thuật toán.

Hầu hết các kỹ thuật giải thích đều dựa vào:

• Phân chia mô hình thành các thành phần riêng lẻ
• Visual hóa dự đoán của mô hình (ví dụ, nếu một mô hình phân loại một chiếc xe là một thương hiệu nhất định, nó sẽ突出 phần nào gây ra việc đó)
• Khai thác giải thích (sử dụng kỹ thuật học máy để tìm dữ liệu liên quan giải thích dự đoán của một thuật toán AI).

Trong một kỹ thuật gọi là mô hình proxy, một mô hình đơn giản và dễ hiểu hơn như một cây quyết định được sử dụng để đại diện gần đúng cho mô hình AI phức tạp hơn. Những giải thích đơn giản này cung cấp một ý tưởng công bằng về mô hình ở mức cao nhưng đôi khi có thể che giấu một số sắc thái.

Một cách tiếp cận khác được gọi là “giải thích bằng thiết kế” Phương pháp này đặt ra các hạn chế trong thiết kế và đào tạo mạng AI theo một cách mới, nhằm xây dựng toàn bộ mạng từ các phần nhỏ và đơn giản hơn. Điều này liên quan đến sự đánh đổi giữa mức độ chính xác với khả năng giải thích và hạn chế một số cách tiếp cận từ bộ công cụ của nhà khoa học dữ liệu. Nó cũng có thể đòi hỏi tính toán cao.

Đào tạo và kiểm tra AI cũng có thể sử dụng các kỹ thuật xác minh dữ liệu trung lập như mô hình giải thích cục bộ (LIME) và Shapley Additive exPlanations (SHAP), và những kỹ thuật này nên được điều chỉnh để đạt được độ chính xác cao thông qua việc sử dụng F-score, độ chính xác và các chỉ số khác. Và, tất nhiên, tất cả các kết quả nên được theo dõi và xác minh bằng nhiều loại dữ liệu. Sử dụng LIME, ví dụ, các tổ chức có thể tạo ra các mô hình tạm thời mô phỏng dự đoán của các thuật toán không minh bạch như học máy. Những mô hình LIME này sau đó có thể tạo ra nhiều biến thể dựa trên một tập dữ liệu nhất định và đầu ra tương ứng, có thể được sử dụng để đào tạo các mô hình đơn giản và dễ hiểu hơn cùng với danh sách đầy đủ các giải thích cho từng quyết định và / hoặc dự đoán. Khung SHAP, có nền tảng từ lý thuyết trò chơi và cụ thể là lý thuyết trò chơi hợp tác, là một mô hình kết hợp phân bổ tín dụng tối ưu với giải thích cục bộ bằng cách sử dụng giá trị Shapley ban đầu từ lý thuyết trò chơi và các giá trị con của nó.

Các hoạt động có nguyên tắc

Tuy nhiên, ở mức chiến lược, các khuôn khổ độ tin cậy AI nên bao gồm một tập hợp các nguyên tắc rộng lớn nhằm đảm bảo kết quả phù hợp cả khi triển khai ban đầu và theo thời gian khi các mô hình phát triển trong sự hiện diện của các tình huống thay đổi. ít nhất, những khuôn khổ này nên bao gồm những điều như:

• Phát hiện偏见 – tất cả các tập dữ liệu nên được loại bỏ các thuộc tính偏见 và phân biệt đối xử và sau đó được cấp trọng lượng và quyền hạn phù hợp khi áp dụng cho mô hình đào tạo;
• Sự tham gia của con người – các nhà vận hành nên có thể điều tra và giải thích đầu ra thuật toán tại mọi thời điểm, đặc biệt là khi các mô hình được sử dụng cho thực thi pháp luật và bảo tồn các quyền tự do dân sự;
• Giải thích – tất cả các dự đoán phải có thể chịu được sự kiểm tra, điều này tự nhiên đòi hỏi một mức độ minh bạch cao để cho phép các quan sát viên bên ngoài đánh giá các quá trình và tiêu chí được sử dụng để tạo ra kết quả;
• Khả năng tái tạo – các mô hình AI đáng tin cậy phải nhất quán trong các dự đoán của chúng và phải thể hiện mức độ ổn định cao khi gặp dữ liệu mới.

Nhưng XAI không nên chỉ được coi là một phương tiện để cải thiện lợi nhuận, mà để đưa ra trách nhiệm để đảm bảo rằng các tổ chức có thể giải thích và chứng minh tác động của các sáng tạo của họ đối với xã hội như một整 thể.