Những Giả Định Thông Thường Về Sự Cố Máy Học Có Thể Sai

Mạng nơ-ron sâu là một trong những khía cạnh cơ bản nhất của trí tuệ nhân tạo (AI), vì chúng được sử dụng để xử lý hình ảnh và dữ liệu thông qua mô hình toán học. Chúng chịu trách nhiệm cho một số tiến bộ lớn nhất trong lĩnh vực này, nhưng chúng cũng bị lỗi ở nhiều cách khác nhau. Những lỗi này có thể có tác động từ nhỏ đến không tồn tại, chẳng hạn như sự nhận dạng sai đơn giản, đến một tác động lớn và nguy hiểm hơn, chẳng hạn như sự cố của xe tự lái.

Nghiên cứu mới từ Đại học Houston cho thấy rằng những giả định thông thường của chúng ta về những lỗi này có thể sai, điều này có thể giúp đánh giá độ tin cậy của mạng lưới trong tương lai.

Bài báo này được xuất bản trên Nature Machine Intelligence vào tháng 11.

“Ví Dụ Phản Đối”

Máy học và các loại AI khác là rất quan trọng trong nhiều lĩnh vực và nhiệm vụ, chẳng hạn như hệ thống ngân hàng và an ninh mạng. Theo Cameron Buckner, giáo sư phụ tá triết học tại UH, phải có sự hiểu biết về những lỗi do “ví dụ phản đối” gây ra. Những ví dụ phản đối xảy ra khi một hệ thống mạng nơ-ron sâu đánh giá sai hình ảnh và dữ liệu khác khi nó gặp thông tin ngoài đầu vào được sử dụng để phát triển mạng lưới.

Các ví dụ phản đối là hiếm vì nhiều lần chúng được tạo ra hoặc phát hiện bởi một mạng lưới máy học khác.

“Một số trong những sự kiện phản đối này có thể là hiện tượng, và chúng ta cần biết rõ hơn về chúng để biết được độ tin cậy của mạng lưới”, Buckner viết.

Buckner cho rằng sự cố có thể được gây ra bởi sự tương tác giữa các mẫu thực sự và những gì mạng lưới cố gắng xử lý, nghĩa là nó không phải là một sai lầm hoàn toàn.

Mẫu Là Hiện Tượng

“Hiểu được ý nghĩa của các ví dụ phản đối đòi hỏi phải khám phá một khả năng thứ ba: rằng ít nhất một số mẫu này là hiện tượng”, Buckner nói. “Do đó, hiện tại có cả chi phí và nguy cơ khi loại bỏ những mẫu này và sử dụng chúng một cách vô tư.”

Mặc dù không phải lúc nào cũng vậy, nhưng hành vi cố ý gây hại là rủi ro cao nhất liên quan đến những sự kiện phản đối gây ra sự cố máy học.

“Điều đó có nghĩa là những tác nhân độc hại có thể lừa dối các hệ thống dựa trên mạng lưới đáng tin cậy”, Buckner nói. “Điều đó có ứng dụng an ninh.”

Điều này có thể là những kẻ tấn công xâm nhập vào hệ thống an ninh dựa trên công nghệ nhận dạng khuôn mặt, hoặc những biển báo giao thông bị nhãn mác sai để làm cho xe tự lái bị nhầm lẫn.

Nghiên cứu trước đây đã chỉ ra rằng một số ví dụ phản đối là xảy ra tự nhiên, khi một hệ thống máy học đánh giá sai dữ liệu thông qua một tương tác không dự kiến, khác với lỗi trong dữ liệu. Những ví dụ này là hiếm, và cách duy nhất để phát hiện chúng hiện tại là thông qua AI.

Tuy nhiên, Buckner cho rằng các nhà nghiên cứu cần phải suy nghĩ lại cách họ giải quyết những bất thường.

Các bất thường, hoặc hiện tượng, được Buckner giải thích thông qua một phép ẩn dụ về một tia sáng trên một bức ảnh, không phải do một khiếm khuyết trong ống kính máy ảnh mà là do sự tương tác của ánh sáng với máy ảnh.

Nếu một người biết cách giải thích tia sáng, thông tin quan trọng như vị trí của mặt trời có thể được trích xuất. Vì vậy, Buckner nghĩ rằng có thể trích xuất thông tin có giá trị tương tự từ những sự kiện bất lợi trong máy học gây ra bởi hiện tượng.

Buckner cũng cho rằng tất cả những điều này không có nghĩa là học sâu không hợp lệ.

“Một số trong những sự kiện phản đối này có thể là hiện tượng”, anh nói. “Chúng ta cần biết những hiện tượng này là gì để biết được độ tin cậy của mạng lưới.”