Các nhà nghiên cứu phát triển công cụ “DeepTrust” để giúp tăng độ tin cậy của Trí tuệ nhân tạo

An toàn và độ tin cậy của trí tuệ nhân tạo (AI) là một trong những khía cạnh quan trọng nhất của công nghệ này. Nó liên tục được cải thiện và nghiên cứu bởi các chuyên gia hàng đầu trong các lĩnh vực khác nhau, và nó sẽ rất quan trọng cho việc triển khai đầy đủ AI trong xã hội.

Một số công việc mới đang được thực hiện tại Đại học Nam California, nơi các nhà nghiên cứu tại USC Viterbi Engineering đã phát triển một công cụ mới có khả năng tạo ra các chỉ số tự động để xác định liệu các thuật toán AI có đáng tin cậy trong dữ liệu và dự đoán của chúng hay không.

Nghiên cứu này đã được công bố trên Frontiers in Artificial Intelligence, với tiêu đề “Có hy vọng sau tất cả: Quantifying Opinion và Trustworthiness trong Neural Networks”. Các tác giả của bài báo bao gồm Mingxi Cheng, Shahin Nazarian và Paul Bogdan của Nhóm Hệ thống Vật lý-Kỹ thuật tại USC.

Độ tin cậy của Neural Networks

Một trong những nhiệm vụ quan trọng nhất trong lĩnh vực này là giúp các mạng nơ-ron tạo ra dự đoán có thể được tin cậy. Trong nhiều trường hợp, đây là điều ngăn cản việc áp dụng đầy đủ công nghệ dựa trên AI.

Ví dụ, xe tự lái cần phải hoạt động độc lập và đưa ra quyết định chính xác trên chế độ tự động. Chúng cần phải có khả năng đưa ra quyết định cực kỳ nhanh chóng, trong khi giải mã và nhận dạng các vật thể trên đường. Điều này rất quan trọng, đặc biệt trong các tình huống mà công nghệ cần phải phân biệt giữa một cái gờ giảm tốc, một vật thể khác hoặc một sinh vật sống.

Các tình huống khác bao gồm xe tự lái quyết định phải làm gì khi một xe khác đối mặt với nó, và quyết định phức tạp nhất là nếu xe tự lái cần phải quyết định giữa việc va chạm với cái nó nhận thức là một xe khác, một vật thể hoặc một sinh vật sống.

Tất cả điều này có nghĩa là chúng ta đang đặt một lượng tin cậy cực lớn vào khả năng của phần mềm xe tự lái để đưa ra quyết định chính xác trong vài phần nghìn giây. Nó trở nên thậm chí còn khó khăn hơn khi có thông tin mâu thuẫn từ các cảm biến khác nhau, chẳng hạn như tầm nhìn máy tính từ camera và Lidar.

Tác giả chính Minxi Cheng đã quyết định thực hiện dự án này sau khi suy nghĩ, “Ngay cả con người cũng có thể do dự trong某些 tình huống ra quyết định. Trong các trường hợp có thông tin mâu thuẫn, tại sao máy móc không thể cho chúng ta biết khi chúng không biết?”

DeepTrust

Công cụ được tạo ra bởi các nhà nghiên cứu được gọi là DeepTrust, và nó có khả năng lượng hóa mức độ không chắc chắn, theo Paul Bogdan, một giáo sư liên kết tại Khoa Kỹ thuật Điện và Máy tính Ming Hsieh.

Đội ngũ đã dành gần hai năm để phát triển DeepTrust, chủ yếu sử dụng logic chủ quan để đánh giá các mạng nơ-ron. Trong một ví dụ về công cụ hoạt động, nó đã có thể xem xét các cuộc thăm dò bầu cử tổng thống năm 2016 và dự đoán rằng có một biên độ lỗi lớn hơn cho việc Hillary Clinton thắng.

Công cụ DeepTrust cũng giúp dễ dàng kiểm tra độ tin cậy của các thuật toán AI thường được đào tạo trên hàng triệu điểm dữ liệu. Cách khác để làm điều này là kiểm tra độc lập từng điểm dữ liệu để kiểm tra độ chính xác, điều này là một nhiệm vụ cực kỳ tốn thời gian.

Theo các nhà nghiên cứu, kiến trúc của các hệ thống mạng nơ-ron này là chính xác hơn, và độ chính xác và tin cậy có thể được tối ưu hóa đồng thời.

“Theo kiến thức của chúng tôi, không có mô hình lượng hóa tin cậy hoặc công cụ cho học sâu, trí tuệ nhân tạo và học máy. Đây là cách tiếp cận đầu tiên và mở ra các hướng nghiên cứu mới,” Bogdan nói.

Bogdan cũng tin rằng DeepTrust có thể giúp thúc đẩy AI tiến về phía trước đến mức nó trở nên “nhận thức và thích nghi”.