AI có thể giải thích bằng cách sử dụng các công thức Boolean biểu cảm

Sự bùng nổ của trí tuệ nhân tạo (AI) và các ứng dụng học máy đang thâm nhập vào hầu hết mọi ngành công nghiệp và mọi lĩnh vực của cuộc sống.

Nhưng sự phát triển của nó không đến mà không có sự trớ trêu. Mặc dù AI tồn tại để đơn giản hóa và/hoặc tăng tốc quá trình ra quyết định hoặc quy trình làm việc, nhưng phương pháp để làm như vậy thường cực kỳ phức tạp. Thật vậy, một số thuật toán học máy “hộp đen” rất phức tạp và nhiều mặt đến mức chúng có thể thách thức lời giải thích đơn giản, ngay cả bởi các nhà khoa học máy tính đã tạo ra chúng.

Điều đó có thể khá rắc rối khi một số trường hợp sử dụng nhất định – chẳng hạn như trong lĩnh vực tài chính và y tế – được xác định bởi các phương pháp hay nhất trong ngành hoặc quy định của chính phủ yêu cầu giải thích minh bạch về hoạt động bên trong của các giải pháp AI. Và nếu các ứng dụng này không đủ biểu cảm để đáp ứng các yêu cầu về khả năng giải thích, thì chúng có thể trở nên vô dụng bất kể hiệu quả tổng thể của chúng.

Để giải quyết câu hỏi hóc búa này, nhóm của chúng tôi tại Trung tâm Công nghệ Ứng dụng Fidelity (FCAT) — phối hợp với Phòng thí nghiệm giải pháp lượng tử Amazon — đã đề xuất và triển khai một mô hình máy học có thể hiểu được cho Trí tuệ nhân tạo có thể giải thích (XAI) dựa trên các công thức Boolean biểu cảm. Cách tiếp cận như vậy có thể bao gồm bất kỳ toán tử nào có thể được áp dụng cho một hoặc nhiều biến Boolean, do đó mang lại tính biểu cảm cao hơn so với các cách tiếp cận dựa trên cây và dựa trên quy tắc cứng nhắc hơn.

Bạn có thể đọc bài báo đầy đủ đây để biết chi tiết toàn diện về dự án này.

Giả thuyết của chúng tôi là do các mô hình — chẳng hạn như cây quyết định — có thể trở nên sâu sắc và khó diễn giải, nên nhu cầu tìm một quy tắc biểu cảm với độ phức tạp thấp nhưng độ chính xác cao là một vấn đề tối ưu hóa nan giải cần được giải quyết. Hơn nữa, bằng cách đơn giản hóa mô hình thông qua phương pháp XAI nâng cao này, chúng tôi có thể đạt được các lợi ích bổ sung, chẳng hạn như phơi bày những thành kiến ​​quan trọng trong bối cảnh sử dụng ML có đạo đức và có trách nhiệm; đồng thời giúp cho việc bảo trì và cải tiến mô hình trở nên dễ dàng hơn.

Chúng tôi đã đề xuất một cách tiếp cận dựa trên các công thức Boolean biểu cảm vì chúng xác định các quy tắc có độ phức tạp có thể điều chỉnh (hoặc khả năng diễn giải) theo đó dữ liệu đầu vào đang được phân loại. Một công thức như vậy có thể bao gồm bất kỳ toán tử nào có thể được áp dụng cho một hoặc nhiều biến Boolean (chẳng hạn như And hoặc AtLeast), do đó mang lại khả năng biểu đạt cao hơn so với các phương pháp dựa trên cây và dựa trên quy tắc cứng nhắc hơn.

Trong vấn đề này, chúng ta có hai mục tiêu cạnh tranh nhau: tối đa hóa hiệu suất của thuật toán, đồng thời giảm thiểu độ phức tạp của thuật toán. Do đó, thay vì sử dụng cách tiếp cận điển hình là áp dụng một trong hai phương pháp tối ưu hóa – kết hợp nhiều mục tiêu thành một hoặc hạn chế một trong các mục tiêu – chúng tôi đã chọn đưa cả hai vào công thức của mình. Khi làm như vậy và không làm mất đi tính tổng quát, chúng tôi chủ yếu sử dụng độ chính xác cân bằng làm thước đo hiệu suất tổng thể của mình.

Ngoài ra, bằng cách bao gồm các nhà khai thác như AtLeast, chúng tôi đã được thúc đẩy bởi ý tưởng giải quyết nhu cầu về danh sách kiểm tra dễ hiểu, chẳng hạn như danh sách các triệu chứng y tế biểu thị một tình trạng cụ thể. Có thể hình dung rằng một quyết định sẽ được đưa ra bằng cách sử dụng danh sách kiểm tra các triệu chứng như vậy theo cách mà theo đó sẽ có một số lượng tối thiểu để chẩn đoán dương tính. Tương tự, trong lĩnh vực tài chính, một ngân hàng có thể quyết định có cấp tín dụng cho khách hàng hay không dựa trên sự hiện diện của một số yếu tố nhất định từ một danh sách lớn hơn.

Chúng tôi đã triển khai thành công mô hình XAI của mình và so sánh nó trên một số bộ dữ liệu công khai về tín dụng, hành vi của khách hàng và tình trạng y tế. Chúng tôi thấy rằng mô hình của chúng tôi nói chung là cạnh tranh với các lựa chọn thay thế nổi tiếng khác. Chúng tôi cũng nhận thấy rằng mô hình XAI của chúng tôi có khả năng được hỗ trợ bởi các thiết bị lượng tử hoặc phần cứng có mục đích đặc biệt để giải nhanh Quy trình tuyến tính số nguyên (ILP) hoặc Tối ưu hóa nhị phân không giới hạn bậc hai (QUBO). Việc bổ sung các bộ giải QUBO làm giảm số lần lặp lại – do đó dẫn đến tăng tốc bằng cách đề xuất nhanh các bước di chuyển không cục bộ.

Như đã lưu ý, các mô hình AI có thể giải thích bằng cách sử dụng công thức Boolean có thể có nhiều ứng dụng trong lĩnh vực chăm sóc sức khỏe và tài chính của Fidelity (chẳng hạn như chấm điểm tín dụng hoặc để đánh giá lý do tại sao một số khách hàng có thể chọn một sản phẩm trong khi những khách hàng khác thì không). Bằng cách tạo ra các quy tắc có thể hiểu được này, chúng tôi có thể đạt được mức độ hiểu biết cao hơn có thể dẫn đến những cải tiến trong tương lai trong quá trình phát triển hoặc sàng lọc sản phẩm, cũng như tối ưu hóa các chiến dịch tiếp thị.

Dựa trên những phát hiện của chúng tôi, chúng tôi đã xác định rằng Trí tuệ nhân tạo có thể giải thích bằng cách sử dụng các công thức Boolean biểu cảm vừa phù hợp vừa mong muốn đối với những trường hợp sử dụng yêu cầu khả năng giải thích thêm. Ngoài ra, khi điện toán lượng tử tiếp tục phát triển, chúng tôi thấy trước cơ hội đạt được tốc độ tiềm năng bằng cách sử dụng nó và các bộ tăng tốc phần cứng có mục đích đặc biệt khác.

Công việc trong tương lai có thể tập trung vào việc áp dụng các bộ phân loại này cho các bộ dữ liệu khác, giới thiệu các toán tử mới hoặc áp dụng các khái niệm này cho các trường hợp sử dụng khác.