Giới thiệu các mức độ minh bạch mới với Trí tuệ nhân tạo – Lãnh đạo tư tưởng

By Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, at Infosys.

Vào ngày 9 tháng 1 năm 2020, Tổ chức Y tế Thế giới đã thông báo cho công chúng về sự bùng phát của Coronavirus ở Trung Quốc. Ba ngày trước đó, Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh Hoa Kỳ đã đưa tin về sự bùng phát này. Nhưng một nền tảng giám sát sức khỏe của Canada đã đánh bại cả hai, gửi thông báo về sự bùng phát đến khách hàng của mình từ ngày 31 tháng 12 năm 2019! Nền tảng này, BlueDot sử dụng các thuật toán được thúc đẩy bởi trí tuệ nhân tạo để tìm kiếm các báo cáo tin tức bằng ngôn ngữ nước ngoài, mạng lưới bệnh của động vật và thực vật, và các tuyên bố chính thức để đưa ra cảnh báo sớm cho khách hàng về các khu vực nguy hiểm như Wuhan.

Trong những năm qua, trí tuệ nhân tạo đã trở thành nguồn chính của sự chuyển đổi, phá vỡ và lợi thế cạnh tranh trong nền kinh tế đang thay đổi nhanh chóng ngày nay. Từ theo dõi dịch bệnh đến quốc phòng, chăm sóc sức khỏe, phương tiện tự động và mọi thứ ở giữa, trí tuệ nhân tạo đang được áp dụng rộng rãi. PwC dự đoán rằng trí tuệ nhân tạo có thể đóng góp lên đến 15,7 nghìn tỷ đô la cho nền kinh tế toàn cầu vào năm 2030, với tốc độ tăng trưởng hiện tại.

Tuy nhiên, với tất cả hy vọng mà trí tuệ nhân tạo mang lại, nó vẫn còn những câu hỏi chưa được trả lời về tính minh bạch và độ tin cậy. Việc hiểu, dự đoán và tin tưởng vào khả năng ra quyết định của các hệ thống trí tuệ nhân tạo là rất quan trọng, đặc biệt là trong các lĩnh vực quan trọng đến sự sống, cái chết và sức khỏe cá nhân.

Vào vùng không biết

Khi các hệ thống lý luận tự động đầu tiên được giới thiệu để hỗ trợ ra quyết định, chúng dựa trên các quy tắc được tạo thủ công. Mặc dù điều này làm cho nó dễ dàng giải thích cũng như sửa đổi hành vi của chúng, nhưng chúng không thể mở rộng. Các mô hình dựa trên học máy đã được giới thiệu để giải quyết nhu cầu sau; chúng không cần sự can thiệp của con người và có thể được đào tạo từ dữ liệu – càng nhiều càng tốt. Mặc dù các mô hình học sâu có khả năng mô hình hóa và phạm vi áp dụng không thể vượt qua, nhưng thực tế là các mô hình này là những hộp đen phần lớn, đặt ra những câu hỏi đáng lo ngại về tính xác thực, độ tin cậy và thiên vị trong bối cảnh sử dụng rộng rãi của chúng.

Hiện tại không có cơ chế trực tiếp để theo dõi lý lẽ được sử dụng ngầm bởi các mô hình học sâu. Với các mô hình học máy có tính chất hộp đen, loại giải thích chính là giải thích hậu kỳ, ngụ ý rằng các giải thích được suy ra từ bản chất và thuộc tính của đầu ra được tạo ra bởi mô hình. Các nỗ lực đầu tiên để trích xuất quy tắc từ mạng nơ-ron (như học sâu được gọi trước đây) không được theo đuổi hiện nay vì các mạng đã trở nên quá lớn và đa dạng để trích xuất quy tắc có thể thực hiện được. Do đó, có một nhu cầu cấp thiết để giới thiệu khả năng giải thích và minh bạch vào chính cấu trúc của mô hình trí tuệ nhân tạo.

Thoát khỏi đêm, bước vào ánh sáng

Lo lắng này đã tạo ra nhu cầu về tính minh bạch trong học máy, điều này đã dẫn đến sự phát triển của trí tuệ nhân tạo có thể giải thích, hoặc XAI. Nó nhằm giải quyết các vấn đề chính cản trở khả năng tin tưởng hoàn toàn vào việc ra quyết định của trí tuệ nhân tạo – bao gồm cả thiên vị và minh bạch. Lĩnh vực trí tuệ nhân tạo mới này mang lại trách nhiệm để đảm bảo rằng trí tuệ nhân tạo mang lại lợi ích cho xã hội với kết quả tốt hơn cho tất cả các bên liên quan.

XAI sẽ rất quan trọng trong việc giúp giảm thiểu thiên vị vốn có trong các hệ thống và thuật toán trí tuệ nhân tạo, những thứ được lập trình bởi con người có nền tảng và kinh nghiệm vô tình dẫn đến sự phát triển của các hệ thống trí tuệ nhân tạo thể hiện thiên vị. Các thiên vị không mong muốn như phân biệt đối xử với một quốc gia hoặc dân tộc cụ thể có thể xâm nhập vì hệ thống thêm giá trị vào nó dựa trên dữ liệu thực. Để minh họa, nó có thể được tìm thấy rằng những người thường xuyên vỡ nợ thường đến từ một nền tảng dân tộc cụ thể, tuy nhiên, việc thực hiện bất kỳ chính sách hạn chế nào dựa trên điều này có thể đi ngược lại với các hành động công bằng. Dữ liệu sai cũng là một nguyên nhân của thiên vị. Ví dụ, nếu một máy quét nhận diện khuôn mặt không chính xác 5% của thời gian do màu da của người hoặc ánh sáng chiếu vào khuôn mặt, nó có thể đưa ra thiên vị. Cuối cùng, nếu mẫu dữ liệu của bạn không phải là đại diện thực sự của toàn bộ dân số, thiên vị là không thể tránh khỏi.

XAI nhằm giải quyết cách các quyết định hộp đen của các hệ thống trí tuệ nhân tạo được đưa ra. Nó kiểm tra và cố gắng hiểu các bước và mô hình tham gia vào việc ra quyết định. Nó trả lời các câu hỏi quan trọng như: Tại sao hệ thống trí tuệ nhân tạo đưa ra một dự đoán hoặc quyết định cụ thể? Tại sao hệ thống trí tuệ nhân tạo không làm điều gì khác? Khi nào hệ thống trí tuệ nhân tạo thành công hoặc thất bại? Khi nào các hệ thống trí tuệ nhân tạo đưa ra đủ niềm tin vào quyết định mà bạn có thể tin tưởng, và làm thế nào hệ thống trí tuệ nhân tạo có thể sửa lỗi?

Trí tuệ nhân tạo có thể giải thích, dự đoán và theo dõi

Một cách để đạt được khả năng giải thích trong các hệ thống trí tuệ nhân tạo là sử dụng các thuật toán học máy vốn có thể giải thích. Ví dụ, các hình thức học máy đơn giản hơn như cây quyết định, phân loại Bayesian và các thuật toán khác có một số lượng nhất định về khả năng theo dõi và minh bạch trong việc ra quyết định. Chúng có thể cung cấp khả năng hiển thị cần thiết cho các hệ thống trí tuệ nhân tạo quan trọng mà không phải hy sinh quá nhiều hiệu suất hoặc độ chính xác.

Nhận thấy nhu cầu cung cấp khả năng giải thích cho học sâu và các phương pháp thuật toán phức tạp hơn, Cơ quan Nghiên cứu Dự án Tiên tiến Quốc phòng Hoa Kỳ (DARPA) đang theo đuổi các nỗ lực để sản xuất các giải pháp trí tuệ nhân tạo có thể giải thích thông qua một số sáng kiến nghiên cứu được tài trợ. DARPA mô tả khả năng giải thích trí tuệ nhân tạo trong ba phần bao gồm: độ chính xác của dự đoán, có nghĩa là các mô hình sẽ giải thích cách kết luận được đưa ra để cải thiện việc ra quyết định trong tương lai; hiểu và tin tưởng quyết định từ người dùng và vận hành của con người, cũng như kiểm tra và khả năng theo dõi các hành động được thực hiện bởi các hệ thống trí tuệ nhân tạo.

Khả năng theo dõi sẽ trao quyền cho con người để tham gia vào vòng quyết định của trí tuệ nhân tạo và có khả năng dừng hoặc kiểm soát nhiệm vụ của nó bất cứ khi nào cần. Một hệ thống trí tuệ nhân tạo không chỉ được kỳ vọng thực hiện một nhiệm vụ cụ thể hoặc áp đặt quyết định, mà còn cung cấp một báo cáo minh bạch về lý do tại sao nó đưa ra quyết định cụ thể với lý do hỗ trợ.

Tiêu chuẩn hóa các thuật toán hoặc thậm chí các phương pháp XAI hiện không thể thực hiện được, nhưng có thể tiêu chuẩn hóa các mức độ minh bạch / mức độ giải thích. Các tổ chức tiêu chuẩn đang cố gắng đạt được sự hiểu biết chung, tiêu chuẩn về các mức độ minh bạch này để促 tiến giao tiếp giữa người dùng cuối và nhà cung cấp công nghệ.

Khi các chính phủ, tổ chức, doanh nghiệp và công chúng nói chung phụ thuộc vào các hệ thống dựa trên trí tuệ nhân tạo, việc giành được niềm tin của họ thông qua sự minh bạch rõ ràng hơn về quá trình ra quyết định sẽ trở nên cơ bản. Việc ra mắt hội nghị toàn cầu đầu tiên dành riêng cho XAI, Hội nghị Quốc tế về Trí tuệ nhân tạo: Hội thảo về Trí tuệ nhân tạo có thể giải thích, là bằng chứng thêm rằng thời đại của XAI đã đến.