Cơ Sở Dữ Liệu Sự Cố Của Trí Tuệ Nhân Tạo Nhằm Làm Cho Thuật Toán Trí Tuệ Nhân Tạo An Toàn Hơn

Bất kỳ hệ thống nào đủ lớn sẽ có lỗi, và một phần của việc sửa lỗi này là có một cơ sở dữ liệu về chúng mà có thể được phân tích để đánh giá tác động và nguyên nhân tiềm năng. Giống như FDA duy trì một cơ sở dữ liệu về phản ứng thuốc bất lợi, hoặc Hội đồng An toàn Giao thông Vận tải Quốc gia duy trì một cơ sở dữ liệu về tai nạn hàng không, Cơ Sở Dữ Liệu Sự Cố Của Trí Tuệ Nhân Tạo là một cơ sở dữ liệu được thiết kế để lập danh mục các sự cố của hệ thống trí tuệ nhân tạo và giúp các nhà nghiên cứu trí tuệ nhân tạo phát triển các phương pháp mới để tránh các sự cố này. Các nhà tạo ra Cơ Sở Dữ Liệu Sự Cố Của Trí Tuệ Nhân Tạo (AIID) hy vọng rằng nó sẽ giúp các công ty trí tuệ nhân tạo phát triển trí tuệ nhân tạo an toàn hơn, đạo đức hơn.

Cơ Sở Dữ Liệu Sự Cố Của Trí Tuệ Nhân Tạo Là Gì?

AIID là sản phẩm của tổ chức Đối Tác Về Trí Tuệ Nhân Tạo (PAI). PAI ban đầu được thành lập vào năm 2016 bởi các thành viên của các nhóm nghiên cứu trí tuệ nhân tạo tại các công ty công nghệ lớn như Facebook (META ), Apple (AAPL ), Amazon (AMZN ), Google (GOOGL ), IBM và Microsoft. Kể từ đó, tổ chức đã tuyển dụng thành viên từ nhiều tổ chức khác, bao gồm cả các tổ chức phi lợi nhuận. Vào năm 2018, PAI đã bắt đầu tạo ra một tiêu chuẩn phân loại nhất quán cho các sự cố của trí tuệ nhân tạo. Tuy nhiên, không có bộ sưu tập các sự cố của trí tuệ nhân tạo để dựa vào đó. Vì lý do này, PAI đã tạo ra AIID.

Theo TechTalks, định dạng của AIID được thông báo bởi cấu trúc của cơ sở dữ liệu tai nạn hàng không được duy trì bởi Hội đồng An toàn Giao thông Vận tải Quốc gia. Kể từ khi các báo cáo bắt đầu được thu thập vào năm 1996, hệ thống hàng không thương mại đã quản lý để tăng cường an toàn của ngành hàng không bằng cách lưu trữ và phân tích các sự cố. Hy vọng là một kho lưu trữ tương tự của các sự cố của trí tuệ nhân tạo có thể làm cho các hệ thống trí tuệ nhân tạo an toàn hơn, đạo đức hơn và đáng tin cậy hơn. AIID cũng đã lấy cảm hứng từ Cơ Sở Dữ Liệu Khai Thác Và Tiếp Cận, là một kho lưu trữ của các sự cố phần mềm đáng chú ý mà bao gồm nhiều ngành công nghiệp và lĩnh vực khác nhau.

Sean McGregor là nhà tư vấn kỹ thuật hàng đầu tại IBM cho Watson AI XPRIZE. McGregor cũng chịu trách nhiệm giám sát việc phát triển cơ sở dữ liệu thực tế của AIID. McGregor giải thích rằng mục tiêu cuối cùng của AIID là ngăn chặn các hệ thống trí tuệ nhân tạo gây ra tổn hại, hoặc ít nhất giảm thiểu mức độ nghiêm trọng của các sự cố bất lợi. Như McGregor đã lưu ý, các hệ thống học máy là phức tạp và khó dự đoán hơn so với các hệ thống phần mềm truyền thống, và do đó, chúng không thể được kiểm tra theo cùng một cách như các phần mềm khác. Các hệ thống học máy có thể thay đổi hành vi của chúng theo những cách không mong muốn. McGregor lưu ý rằng khả năng của các hệ thống học sâu để học có thể có nghĩa là “lỗi là có nhiều khả năng, phức tạp và nguy hiểm hơn” khi chúng đi vào một thế giới không có cấu trúc.

Hơn 1.000 Sự Cố Liên Quan Đến Trí Tuệ Nhân Tạo Đã Được Lưu Vào Cơ Sở Dữ Liệu

Kể từ khi AIID được tạo ra, đã có hơn 1.000 sự cố liên quan đến trí tuệ nhân tạo được lưu vào cơ sở dữ liệu. Trong số tất cả các sự cố trong cơ sở dữ liệu, các vấn đề liên quan đến công bằng của trí tuệ nhân tạo là loại sự cố bất lợi phổ biến nhất. Nhiều sự cố công bằng này liên quan đến việc sử dụng các thuật toán nhận dạng khuôn mặt bởi các cơ quan chính phủ. McGregor cũng lưu ý rằng có một số lượng ngày càng tăng các sự cố liên quan đến robot được thêm vào cơ sở dữ liệu.

Khách truy cập vào cơ sở dữ liệu có thể thực hiện các truy vấn, tìm kiếm cơ sở dữ liệu cho các sự cố dựa trên các tiêu chí như từ khóa, mã sự cố, nguồn hoặc tác giả. Ví dụ, chạy một tìm kiếm cho “Deepfake” trả về 7 báo cáo, trong khi tìm kiếm cho “robot” trả về 158 báo cáo.

Một cơ sở dữ liệu tập trung về các sự cố của trí tuệ nhân tạo có thể giúp các nhà nghiên cứu, kỹ sư và nhà đạo đức giám sát việc phát triển và triển khai các hệ thống trí tuệ nhân tạo. Các nhà quản lý sản phẩm tại các công ty công nghệ có thể sử dụng AIID để xem nếu có bất kỳ vấn đề tiềm năng nào trước khi sử dụng các hệ thống khuyến nghị trí tuệ nhân tạo, hoặc một kỹ sư trí tuệ nhân tạo có thể có được ý tưởng về các偏见 tiềm năng cần được sửa chữa khi tạo ra ứng dụng trí tuệ nhân tạo. Tương tự, các sĩ quan rủi ro có thể sử dụng cơ sở dữ liệu để xác định các tác động tiêu cực tiềm năng liên quan đến một mô hình trí tuệ nhân tạo, cho phép họ lên kế hoạch và phát triển các biện pháp để giảm thiểu các tác hại tiềm năng.

Cấu trúc cơ bản của AIID được thiết kế để linh hoạt, vì điều này cho phép tạo ra các công cụ mới để truy vấn cơ sở dữ liệu và trích xuất các thông tin có ý nghĩa. Đối Tác Về Trí Tuệ Nhân Tạo và McGregor sẽ hợp tác để phát triển một phân loại học linh hoạt có thể được sử dụng để phân loại các hình thức khác nhau của các sự cố của trí tuệ nhân tạo. Đội ngũ hy vọng rằng một khi phân loại học linh hoạt đã được tạo ra, nó có thể được kết hợp với một hệ thống tự động sẽ tự động lưu các sự cố của trí tuệ nhân tạo.

“Cộng đồng trí tuệ nhân tạo đã bắt đầu chia sẻ hồ sơ sự cố với nhau để thúc đẩy thay đổi trong sản phẩm, quy trình và chương trình nghiên cứu của họ,” McGregor giải thích qua TechTalks. “Trang web đã được phát hành công khai vào tháng 11, vì vậy chúng tôi mới chỉ bắt đầu nhận ra được lợi ích của hệ thống.”