Trí tuệ nhân tạo giải thích được bằng công thức Boolean biểu đạt

Vụ nổ trong trí tuệ nhân tạo (AI) và các ứng dụng học máy đang thâm nhập vào gần như mọi ngành và khía cạnh của cuộc sống.

Nhưng sự tăng trưởng của nó không đến mà không có sự mỉa mai. Trong khi AI tồn tại để đơn giản hóa và/hoặc tăng tốc ra quyết định hoặc quy trình làm việc, phương pháp để làm như vậy thường rất phức tạp. Thật vậy, một số thuật toán học máy “hộp đen” rất phức tạp và đa diện đến mức chúng có thể chống lại sự giải thích đơn giản, thậm chí bởi các nhà khoa học máy tính đã tạo ra chúng.

Điều đó có thể rất vấn đề khi một số trường hợp sử dụng – như trong lĩnh vực tài chính và y tế – được định nghĩa bởi các phương pháp hay nhất của ngành hoặc quy định của chính phủ yêu cầu giải thích minh bạch về hoạt động của các giải pháp AI. Và nếu các ứng dụng này không đủ biểu đạt để đáp ứng các yêu cầu giải thích, chúng có thể trở nên vô dụng bất kể hiệu quả tổng thể của chúng.

Để giải quyết nghịch cảnh này, nhóm của chúng tôi tại Trung tâm Công nghệ Ứng dụng Fidelity (FCAT) — hợp tác với Amazon Quantum Solutions Lab — đã đề xuất và thực hiện một mô hình học máy giải thích được cho Trí tuệ nhân tạo giải thích được (XAI) dựa trên công thức Boolean biểu đạt. Phương pháp này có thể bao gồm bất kỳ toán tử nào có thể được áp dụng cho một hoặc nhiều biến Boolean, do đó cung cấp khả năng biểu đạt cao hơn so với các phương pháp dựa trên quy tắc và cây quyết định cứng nhắc hơn.

Bạn có thể đọc bài báo đầy đủ tại đây để biết chi tiết về dự án này.

Giả thuyết của chúng tôi là vì các mô hình – như cây quyết định – có thể trở nên sâu và khó giải thích, việc tìm kiếm một quy tắc biểu đạt với độ phức tạp thấp nhưng độ chính xác cao là một vấn đề tối ưu hóa không thể giải quyết được. Hơn nữa, bằng cách đơn giản hóa mô hình thông qua phương pháp XAI tiên tiến này, chúng tôi có thể đạt được các lợi ích bổ sung, chẳng hạn như lộ diện các thiên vị quan trọng trong bối cảnh sử dụng ML một cách đạo đức và có trách nhiệm; đồng thời cũng làm cho việc bảo trì và cải tiến mô hình trở nên dễ dàng hơn.

Chúng tôi đề xuất một phương pháp dựa trên công thức Boolean biểu đạt vì chúng định nghĩa các quy tắc với độ phức tạp (hoặc khả năng giải thích) có thể điều chỉnh theo dữ liệu đầu vào được phân loại. Một công thức như vậy có thể bao gồm bất kỳ toán tử nào có thể được áp dụng cho một hoặc nhiều biến Boolean (như And hoặc AtLeast), do đó cung cấp khả năng biểu đạt cao hơn so với các phương pháp dựa trên quy tắc và cây quyết định cứng nhắc hơn.

Trong vấn đề này, chúng tôi có hai mục tiêu cạnh tranh: tối đa hóa hiệu suất của thuật toán, trong khi tối thiểu hóa độ phức tạp của nó. Do đó, thay vì áp dụng phương pháp điển hình là áp dụng một trong hai phương pháp tối ưu hóa – kết hợp nhiều mục tiêu vào một hoặc hạn chế một trong các mục tiêu – chúng tôi chọn bao gồm cả hai trong công thức của mình. Bằng cách làm như vậy, và không mất tính tổng quát, chúng tôi chủ yếu sử dụng độ chính xác cân bằng làm chỉ số hiệu suất chung của chúng tôi.

Cũng như, bằng cách bao gồm các toán tử như AtLeast, chúng tôi đã được thúc đẩy bởi ý tưởng giải quyết nhu cầu về các danh sách kiểm tra rất giải thích được, chẳng hạn như một danh sách các triệu chứng y tế chỉ ra một tình trạng cụ thể. Điều đó có thể tưởng tượng được rằng một quyết định sẽ được đưa ra bằng cách sử dụng danh sách kiểm tra các triệu chứng theo cách mà một số tối thiểu phải có mặt để chẩn đoán dương tính. Tương tự, trong lĩnh vực tài chính, một ngân hàng có thể quyết định是否 cấp tín dụng cho khách hàng dựa trên sự hiện diện của một số yếu tố từ một danh sách lớn hơn.

Chúng tôi đã thực hiện thành công mô hình XAI của mình và đánh giá nó trên một số tập dữ liệu công khai về tín dụng, hành vi khách hàng và tình trạng y tế. Chúng tôi đã tìm thấy rằng mô hình của chúng tôi nói chung là cạnh tranh với các phương pháp thay thế nổi tiếng khác. Chúng tôi cũng tìm thấy rằng mô hình XAI của chúng tôi có thể được cung cấp bởi phần cứng chuyên dụng hoặc thiết bị lượng tử để giải quyết nhanh các vấn đề lập trình tuyến tính nguyên (ILP) hoặc tối ưu hóa nhị phân không ràng buộc (QUBO). Việc bổ sung các giải pháp QUBO giảm số lần lặp – dẫn đến việc tăng tốc bằng cách đề xuất nhanh các chuyển động không cục bộ.

Como đã lưu ý, các mô hình AI giải thích được sử dụng công thức Boolean có thể có nhiều ứng dụng trong lĩnh vực y tế và lĩnh vực tài chính của Fidelity (chẳng hạn như đánh giá tín dụng hoặc đánh giá lý do tại sao một số khách hàng có thể đã chọn một sản phẩm trong khi những người khác không). Bằng cách tạo ra các quy tắc giải thích được này, chúng tôi có thể đạt được mức độ hiểu biết cao hơn có thể dẫn đến cải tiến trong tương lai về phát triển sản phẩm hoặc tinh chỉnh, cũng như tối ưu hóa các chiến dịch tiếp thị.

Dựa trên các phát hiện của chúng tôi, chúng tôi đã xác định rằng Trí tuệ nhân tạo giải thích được bằng công thức Boolean biểu đạt là phù hợp và mong muốn cho các trường hợp sử dụng yêu cầu giải thích thêm. Hơn nữa, khi tính toán lượng tử tiếp tục phát triển, chúng tôi dự đoán cơ hội để đạt được tốc độ tăng tiềm năng bằng cách sử dụng nó và các phần cứng tăng tốc chuyên dụng khác.

Công việc trong tương lai có thể tập trung vào việc áp dụng các phân loại này vào các tập dữ liệu khác, giới thiệu các toán tử mới, hoặc áp dụng các khái niệm này vào các trường hợp sử dụng khác.