Google Tạo Chương Trình Trí Tuệ Nhân Tạo Giải Thích Mới Để Cải Thiện Minh Bạch và Khả Năng Gỡ Rối

Mới đây, Google (GOOGL ) đã công bố việc tạo ra một nền tảng đám mây mới nhằm giúp hiểu rõ hơn về cách một chương trình trí tuệ nhân tạo đưa ra quyết định, làm cho việc gỡ rối chương trình trở nên dễ dàng hơn và cải thiện minh bạch. Theo báo cáo của The Register, nền tảng đám mây này được gọi là Trí Tuệ Nhân Tạo Giải Thích, và nó đánh dấu một nỗ lực lớn của Google để đầu tư vào khả năng giải thích của trí tuệ nhân tạo.

Mạng nơ-ron nhân tạo được sử dụng trong nhiều, có thể là hầu hết, các hệ thống trí tuệ nhân tạo lớn được sử dụng trên thế giới ngày nay. Các mạng nơ-ron chạy các ứng dụng trí tuệ nhân tạo lớn có thể cực kỳ phức tạp và lớn, và khi độ phức tạp của hệ thống tăng lên, nó trở nên khó hơn và khó hơn để hiểu tại sao một quyết định cụ thể đã được đưa ra bởi hệ thống. Như Google giải thích trong bài viết trắng của họ, khi các hệ thống trí tuệ nhân tạo trở nên mạnh mẽ hơn, chúng cũng trở nên phức tạp hơn và do đó khó hơn để gỡ rối. Minh bạch cũng bị mất khi điều này xảy ra, điều này có nghĩa là các thuật toán bị thiên vị có thể khó được nhận biết và giải quyết.

Thực tế là lý do đằng sau hành vi của các hệ thống phức tạp rất khó giải thích thường có những hậu quả nghiêm trọng. Ngoài việc làm cho việc chống lại sự thiên vị của trí tuệ nhân tạo trở nên khó khăn, nó cũng có thể làm cho việc phân biệt giữa các mối tương quan giả và các mối tương quan thực sự quan trọng và thú vị trở nên cực kỳ khó khăn.

Nhiều công ty và nhóm nghiên cứu đang khám phá cách giải quyết vấn đề “hộp đen” của trí tuệ nhân tạo và tạo ra một hệ thống có thể giải thích đầy đủ tại sao các quyết định cụ thể đã được đưa ra bởi một trí tuệ nhân tạo. Nền tảng Trí Tuệ Nhân Tạo Giải Thích của Google đại diện cho nỗ lực của riêng họ để giải quyết thách thức này. Trí Tuệ Nhân Tạo Giải Thích bao gồm ba công cụ khác nhau. Công cụ đầu tiên là một hệ thống mô tả các tính năng đã được chọn bởi một trí tuệ nhân tạo và cũng hiển thị một điểm số thuộc tính đại diện cho mức độ ảnh hưởng của một tính năng cụ thể đến dự đoán cuối cùng. Báo cáo của Google về công cụ này đưa ra một ví dụ về việc dự đoán thời gian dài của một chuyến đi xe đạp dựa trên các biến như lượng mưa, nhiệt độ hiện tại, ngày trong tuần và thời gian bắt đầu. Sau khi mạng lưới đưa ra quyết định, phản hồi được cung cấp để hiển thị các tính năng nào có tác động lớn nhất đến dự đoán.

Làm thế nào công cụ này cung cấp phản hồi như vậy trong trường hợp dữ liệu hình ảnh? Trong trường hợp này, công cụ tạo ra một lớp phủ để突出 các khu vực của hình ảnh có trọng số nặng nhất đối với quyết định được đưa ra.

Công cụ khác trong bộ công cụ là công cụ “What-If”, hiển thị các biến động tiềm năng trong hiệu suất của mô hình khi các thuộc tính riêng lẻ được điều chỉnh. Cuối cùng, công cụ cuối cùng có thể được thiết lập để cung cấp kết quả mẫu cho các reviewer con người trên một lịch trình nhất quán.

Dr. Andrew Moore, nhà khoa học trưởng của Google về trí tuệ nhân tạo và học máy, đã mô tả nguồn cảm hứng cho dự án. Moore giải thích rằng khoảng năm năm trước, cộng đồng học thuật bắt đầu lo ngại về các sản phẩm phụ có hại của việc sử dụng trí tuệ nhân tạo và Google muốn đảm bảo rằng các hệ thống của họ chỉ được sử dụng theo các cách đạo đức. Moore mô tả một sự kiện mà công ty đang cố gắng thiết kế một chương trình tầm nhìn máy tính để cảnh báo công nhân xây dựng nếu ai đó không mặc mũ bảo hiểm, nhưng họ lo ngại rằng việc giám sát có thể được thực hiện quá mức và trở nên phi nhân hóa. Moore nói rằng có một lý do tương tự mà Google quyết định không phát hành một API nhận dạng khuôn mặt chung, vì công ty muốn có nhiều quyền kiểm soát hơn về cách công nghệ của họ được sử dụng và đảm bảo rằng nó chỉ được sử dụng theo các cách đạo đức.

Moore cũng nhấn mạnh tại sao việc giải thích quyết định của trí tuệ nhân tạo lại quan trọng:

“Nếu bạn có một hệ thống quan trọng về an toàn hoặc một điều quan trọng về mặt xã hội có thể có những hậu quả không mong muốn nếu bạn nghĩ rằng mô hình của bạn đã mắc lỗi, bạn phải có thể chẩn đoán nó. Chúng tôi muốn giải thích cẩn thận những gì giải thích có thể và không thể làm. Nó không phải là một phương thuốc万能.”