Giới thiệu các mức độ minh bạch mới với Trí tuệ nhân tạo – Các nhà lãnh đạo tư tưởng

By Balakrishna D R, Phó Chủ tịch cấp cao, Trưởng bộ phận Dịch vụ – Năng lượng, Truyền thông, Dịch vụ và Dịch vụ Tự động hóa, tại Infosys.

Vào ngày 9 tháng 1 năm 2020, Tổ chức Y tế Thế giới đã thông báo cho công chúng về sự bùng phát của virus Corona ở Trung Quốc. Ba ngày trước đó, Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh Hoa Kỳ đã đưa tin về sự bùng phát này. Nhưng một nền tảng giám sát sức khỏe của Canada đã đánh bại cả hai, gửi thông báo về sự bùng phát đến khách hàng của họ từ ngày 31 tháng 12 năm 2019! Nền tảng này, BlueDot sử dụng các thuật toán được驱 động bởi trí tuệ nhân tạo để tìm kiếm các báo cáo tin tức bằng ngôn ngữ nước ngoài, mạng lưới bệnh của động vật và thực vật, cũng như các tuyên bố chính thức để đưa ra cảnh báo sớm cho khách hàng của mình về các khu vực nguy hiểm như Wuhan.

Trong những năm qua, trí tuệ nhân tạo đã trở thành nguồn chính của sự chuyển đổi, phá vỡ và lợi thế cạnh tranh trong nền kinh tế đang thay đổi nhanh chóng ngày nay. Từ việc theo dõi dịch bệnh đến quốc phòng, chăm sóc sức khỏe, phương tiện tự hành và mọi thứ khác, trí tuệ nhân tạo đang được áp dụng rộng rãi. PwC dự đoán rằng trí tuệ nhân tạo có thể đóng góp lên đến 15,7 nghìn tỷ đô la cho nền kinh tế toàn cầu vào năm 2030, với tốc độ tăng trưởng hiện tại.

Mặc dù trí tuệ nhân tạo mang lại nhiều hy vọng, nhưng nó vẫn còn những câu hỏi chưa được trả lời về tính minh bạch và độ tin cậy. Việc hiểu, dự đoán và tin tưởng vào khả năng ra quyết định của các hệ thống trí tuệ nhân tạo là rất quan trọng, đặc biệt là trong các lĩnh vực quan trọng đến sự sống, cái chết và sức khỏe cá nhân.

Vào vùng không biết

Khi các hệ thống lý luận tự động đầu tiên được giới thiệu để hỗ trợ ra quyết định, chúng dựa trên các quy tắc được tạo thủ công. Mặc dù điều này làm cho chúng dễ dàng giải thích cũng như sửa đổi hành vi của chúng, nhưng chúng không thể mở rộng quy mô. Các mô hình học máy đã xuất hiện để đáp ứng nhu cầu này; chúng không cần sự can thiệp của con người và có thể được đào tạo từ dữ liệu – càng nhiều càng tốt. Mặc dù các mô hình học sâu có khả năng mô hình hóa và phạm vi áp dụng rộng lớn, nhưng thực tế là các mô hình này là những hộp đen phần lớn, đã đặt ra những câu hỏi令人 lo ngại về tính xác thực, độ tin cậy và thiên vị trong bối cảnh sử dụng rộng rãi của chúng.

Hiện tại không có cơ chế trực tiếp để theo dõi lý lẽ được sử dụng bởi các mô hình học sâu. Với các mô hình học máy có tính chất hộp đen, loại giải thích chính được biết đến là giải thích hậu kỳ, nghĩa là các giải thích được suy ra từ tính chất và thuộc tính của đầu ra được tạo ra bởi mô hình. Các nỗ lực đầu tiên để trích xuất quy tắc từ mạng nơ-ron (như học sâu được biết đến trước đây) không được theo đuổi hiện nay vì các mạng đã trở nên quá lớn và đa dạng để trích xuất quy tắc một cách hiệu quả. Do đó, có một nhu cầu cấp thiết để đưa tính giải thích và minh bạch vào chính cấu trúc của mô hình trí tuệ nhân tạo.

Ra khỏi đêm, vào ánh sáng

Lo lắng này đã tạo ra nhu cầu về tính minh bạch trong học máy, điều này đã dẫn đến sự phát triển của trí tuệ nhân tạo giải thích được, hoặc XAI. Nó nhằm giải quyết các vấn đề chính cản trở khả năng tin tưởng hoàn toàn vào việc ra quyết định của trí tuệ nhân tạo – bao gồm cả thiên vị và tính minh bạch. Lĩnh vực trí tuệ nhân tạo mới này mang lại trách nhiệm giải trình để đảm bảo rằng trí tuệ nhân tạo mang lại lợi ích cho xã hội với kết quả tốt hơn cho tất cả các bên liên quan.

XAI sẽ rất quan trọng trong việc giúp giảm thiểu thiên vị vốn có trong các hệ thống và thuật toán trí tuệ nhân tạo, những thứ được lập trình bởi con người có背景 và kinh nghiệm không cố ý dẫn đến sự phát triển của các hệ thống trí tuệ nhân tạo thể hiện thiên vị. Các thiên vị không mong muốn như phân biệt đối xử với một quốc tịch hoặc dân tộc cụ thể có thể xâm nhập vì hệ thống thêm giá trị vào nó dựa trên dữ liệu thực. Để minh họa, có thể thấy rằng những người thường xuyên vỡ nợ thường đến từ một nền tảng dân tộc cụ thể, tuy nhiên, việc thực hiện bất kỳ chính sách hạn chế nào dựa trên điều này có thể đi ngược lại với các thực hành công bằng. Dữ liệu sai cũng là một nguyên nhân gây ra thiên vị. Ví dụ, nếu một máy quét nhận dạng khuôn mặt không chính xác 5% của thời gian do màu da của người hoặc ánh sáng chiếu lên khuôn mặt, nó có thể mang lại thiên vị. Cuối cùng, nếu dữ liệu mẫu của bạn không phải là đại diện thực sự của toàn bộ dân số, thiên vị là không thể tránh khỏi.

XAI nhằm giải quyết cách các quyết định hộp đen của các hệ thống trí tuệ nhân tạo được đưa ra. Nó kiểm tra và cố gắng hiểu các bước và mô hình liên quan đến việc ra quyết định. Nó trả lời các câu hỏi quan trọng như: Tại sao hệ thống trí tuệ nhân tạo đưa ra một dự đoán hoặc quyết định cụ thể? Tại sao hệ thống trí tuệ nhân tạo không làm điều gì khác? Khi nào hệ thống trí tuệ nhân tạo thành công hoặc thất bại? Khi nào các hệ thống trí tuệ nhân tạo cung cấp đủ sự tự tin vào quyết định mà bạn có thể tin tưởng, và làm thế nào hệ thống trí tuệ nhân tạo có thể sửa lỗi?

Trí tuệ nhân tạo giải thích được, dự đoán được và có thể theo dõi được

Một cách để đạt được tính giải thích trong các hệ thống trí tuệ nhân tạo là sử dụng các thuật toán học máy vốn có tính giải thích. Ví dụ, các hình thức học máy đơn giản hơn như cây quyết định, phân loại Bayesian và các thuật toán khác có một số lượng nhất định về tính theo dõi và minh bạch trong việc ra quyết định của chúng. Chúng có thể cung cấp khả năng hiển thị cần thiết cho các hệ thống trí tuệ nhân tạo quan trọng mà không phải hy sinh quá nhiều hiệu suất hoặc độ chính xác.

Để nhận thấy nhu cầu cung cấp tính giải thích cho học sâu và các phương pháp thuật toán phức tạp hơn, Cơ quan Nghiên cứu Dự án Quốc phòng Tiên tiến của Hoa Kỳ (DARPA) đang theo đuổi các nỗ lực để sản xuất các giải pháp trí tuệ nhân tạo giải thích được thông qua một số sáng kiến nghiên cứu được tài trợ. DARPA mô tả tính giải thích của trí tuệ nhân tạo trong ba phần, bao gồm độ chính xác của dự đoán, có nghĩa là các mô hình sẽ giải thích cách kết luận được đưa ra để cải thiện việc ra quyết định trong tương lai; hiểu biết và tin tưởng vào quyết định từ người dùng và vận hành con người, cũng như kiểm tra và theo dõi các hành động được thực hiện bởi các hệ thống trí tuệ nhân tạo.

Tính theo dõi sẽ trao quyền cho con người để tham gia vào vòng quyết định của trí tuệ nhân tạo và có khả năng ngừng hoặc kiểm soát các nhiệm vụ của nó bất cứ khi nào cần. Một hệ thống trí tuệ nhân tạo không chỉ được dự kiến sẽ thực hiện một nhiệm vụ cụ thể hoặc đưa ra quyết định, mà còn cung cấp một báo cáo minh bạch về lý do tại sao nó đưa ra quyết định cụ thể với lý do hỗ trợ.

Hiện tại, việc tiêu chuẩn hóa các thuật toán hoặc thậm chí các phương pháp XAI không phải là khả thi, nhưng có thể tiêu chuẩn hóa các mức độ minh bạch / mức độ giải thích. Các tổ chức tiêu chuẩn hóa đang cố gắng đạt được sự hiểu biết chung, tiêu chuẩn về các mức độ minh bạch này để促进 giao tiếp giữa người dùng cuối và nhà cung cấp công nghệ.

Khi các chính phủ, tổ chức, doanh nghiệp và công chúng nói chung ngày càng phụ thuộc vào các hệ thống dựa trên trí tuệ nhân tạo, việc giành được sự tin tưởng của họ thông qua tính minh bạch rõ ràng hơn trong quá trình ra quyết định sẽ là điều cơ bản. Việc ra mắt hội nghị toàn cầu đầu tiên dành riêng cho XAI, Hội nghị Quốc tế chung về Trí tuệ nhân tạo: Hội thảo về Trí tuệ nhân tạo Giải thích được, là bằng chứng进一步 rằng thời đại của XAI đã đến.