Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo Nhằm Đảm Bảo An Toàn Cho Các Thuật Toán Trí Tuệ Nhân Tạo

Bất kỳ hệ thống nào đủ lớn sẽ có lỗi, và một phần của việc sửa lỗi là có một cơ sở dữ liệu về chúng để phân tích tác động và nguyên nhân tiềm năng. Giống như FDA duy trì một cơ sở dữ liệu cho các phản ứng thuốc bất lợi, hoặc Hội đồng An toàn Giao thông Quốc gia duy trì một cơ sở dữ liệu cho các tai nạn hàng không, Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo là một cơ sở dữ liệu được thiết kế để lập danh mục các lỗi của hệ thống trí tuệ nhân tạo và giúp các nhà nghiên cứu trí tuệ nhân tạo thiết kế các phương pháp mới để tránh các lỗi này. Các nhà tạo ra Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo (AIID) hy vọng rằng nó sẽ giúp các công ty trí tuệ nhân tạo phát triển các hệ thống trí tuệ nhân tạo an toàn hơn, đạo đức hơn.

Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo Là Gì?

Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo là sản phẩm của tổ chức Partnership on AI (PAI). PAI ban đầu được thành lập vào năm 2016 bởi các thành viên của các nhóm nghiên cứu trí tuệ nhân tạo tại các công ty công nghệ lớn như Facebook, Apple, Amazon, Google, IBM và Microsoft. Kể từ đó, tổ chức đã tuyển dụng thành viên từ nhiều tổ chức khác, bao gồm các tổ chức phi lợi nhuận. Vào năm 2018, PAI đã bắt đầu tạo ra một tiêu chuẩn phân loại nhất quán cho các lỗi trí tuệ nhân tạo. Tuy nhiên, không có bộ sưu tập các sự cố trí tuệ nhân tạo để dựa vào phân loại này. Vì lý do này, PAI đã tạo ra Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo.

Theo TechTalks, định dạng của Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo được thông tin bởi cấu trúc của cơ sở dữ liệu tai nạn hàng không được duy trì bởi Hội đồng An toàn Giao thông Quốc gia. Kể từ khi các báo cáo bắt đầu được thu thập vào năm 1996, hệ thống hàng không thương mại đã quản lý để tăng cường an toàn cho ngành hàng không bằng cách lưu trữ và phân tích các sự cố. Hy vọng là một kho lưu trữ tương tự của các sự cố trí tuệ nhân tạo có thể làm cho các hệ thống trí tuệ nhân tạo an toàn hơn, đạo đức hơn và đáng tin cậy hơn. Cơ Sở Dữ Liệu Sự Cố Trí Tuệ Nhân Tạo cũng lấy cảm hứng từ Cơ Sở Dữ Liệu Khả Năng Và Tiếp Cận, là một kho lưu trữ của các lỗi phần mềm đáng chú ý trải rộng trên nhiều ngành công nghiệp và lĩnh vực khác nhau.

Sean McGregor là nhà tư vấn kỹ thuật chính tại IBM cho Watson AI XPRIZE. McGregor cũng chịu trách nhiệm giám sát việc phát triển cơ sở dữ liệu thực tế của AIID. McGregor giải thích rằng mục tiêu cuối cùng của AIID là ngăn chặn các hệ thống trí tuệ nhân tạo gây ra tổn hại, hoặc ít nhất giảm thiểu mức độ nghiêm trọng của các sự cố bất lợi. Như McGregor lưu ý, các hệ thống học máy là phức tạp và khó dự đoán hơn nhiều so với các hệ thống phần mềm truyền thống, và do đó, chúng không thể được kiểm tra theo cách giống như các phần mềm khác. Các hệ thống học máy có thể thay đổi hành vi theo cách không mong đợi. McGregor lưu ý rằng khả năng của các hệ thống học sâu để học có thể có nghĩa là “lỗi là có nhiều khả năng, phức tạp và nguy hiểm hơn” khi chúng đi vào một thế giới không có cấu trúc.

Hơn 1.000 Sự Cố Liên Quan Đến Trí Tuệ Nhân Tạo Đã Được Lưu Thống Kê

Kể từ khi AIID được tạo ra, đã có hơn 1.000 sự cố liên quan đến trí tuệ nhân tạo được lưu vào cơ sở dữ liệu. Trong số tất cả các sự cố trong cơ sở dữ liệu, các vấn đề liên quan đến công bằng trí tuệ nhân tạo là loại sự cố bất lợi phổ biến nhất. Nhiều sự cố công bằng này liên quan đến việc sử dụng các thuật toán nhận dạng khuôn mặt bởi các cơ quan chính phủ. McGregor cũng lưu ý rằng có một số lượng ngày càng tăng các sự cố liên quan đến robot được thêm vào cơ sở dữ liệu.

Các khách truy cập vào cơ sở dữ liệu có thể thực hiện các truy vấn, tìm kiếm cơ sở dữ liệu cho các sự cố dựa trên các tiêu chí như từ khóa, ID sự cố, nguồn hoặc tác giả. Ví dụ, chạy một tìm kiếm cho “Deepfake” trả về 7 báo cáo, trong khi tìm kiếm cho “robot” trả về 158 báo cáo.

Một cơ sở dữ liệu tập trung cho các sự cố của trí tuệ nhân tạo có thể giúp các nhà nghiên cứu, kỹ sư và nhà đạo đức giám sát việc phát triển và triển khai các hệ thống trí tuệ nhân tạo. Các nhà quản lý sản phẩm tại các công ty công nghệ có thể sử dụng AIID để xem nếu có bất kỳ vấn đề tiềm năng nào trước khi sử dụng các hệ thống khuyến nghị trí tuệ nhân tạo, hoặc một kỹ sư trí tuệ nhân tạo có thể có được ý tưởng về các偏见 tiềm năng cần được sửa chữa khi tạo ứng dụng trí tuệ nhân tạo. Tương tự, các sĩ quan rủi ro có thể sử dụng cơ sở dữ liệu để xác định các tác động tiêu cực tiềm ẩn liên quan đến một mô hình trí tuệ nhân tạo, cho phép họ lập kế hoạch và phát triển các biện pháp để giảm thiểu các tác hại tiềm ẩn.

Cấu trúc cơ bản của AIID được thiết kế để linh hoạt, vì điều này cho phép tạo ra các công cụ mới để truy vấn cơ sở dữ liệu và trích xuất các thông tin có ý nghĩa. Tổ chức Partnership on AI và McGregor sẽ hợp tác để thiết kế một phân loại linh hoạt có thể được sử dụng để phân loại tất cả các dạng sự cố trí tuệ nhân tạo. Đội ngũ hy vọng rằng một khi phân loại linh hoạt đã được tạo ra, nó có thể được kết hợp với một hệ thống tự động sẽ tự động lưu các sự cố trí tuệ nhân tạo.

“Cộng đồng trí tuệ nhân tạo đã bắt đầu chia sẻ hồ sơ sự cố với nhau để khuyến khích thay đổi sản phẩm, quy trình và chương trình nghiên cứu,” McGregor giải thích qua TechTalks. “Trang web đã được phát hành công khai vào tháng 11, vì vậy chúng tôi chỉ mới bắt đầu nhận ra lợi ích của hệ thống.”