Nghiên cứu chỉ ra rằng các mô hình AI không khớp với xử lý thị giác của con người

Một nghiên cứu mới từ Đại học York cho thấy rằng các mạng nơ-ron sâu (DCNNs) không khớp với xử lý thị giác của con người bằng cách sử dụng nhận thức hình dạng cấu hình. Theo Giáo sư James Elder, đồng tác giả của nghiên cứu, điều này có thể có những tác động nguy hiểm và nghiêm trọng trong thế giới thực cho các ứng dụng AI.

Nghiên cứu mới có tiêu đề “Các mô hình học sâu không bắt được bản chất cấu hình của nhận thức hình dạng của con người” đã được công bố trên tạp chí Cell Press iScience.

Đây là một nghiên cứu hợp tác giữa Elder, người giữ ghế nghiên cứu của York về Thị giác Con người và Máy tính, cũng như vị trí Đồng Giám đốc của Trung tâm AI & Xã hội của York, và Giáo sư Nicholas Baker, người là giáo sư tâm lý học trợ lý và cựu nghiên cứu sinh sau tiến sĩ VISTA tại York.

Khích thích Thị giác Mới “Frankensteins”

Đội ngũ nghiên cứu đã sử dụng các khích thích thị giác mới được gọi là “Frankensteins”, giúp họ khám phá cách cả não bộ con người và DCNNs xử lý các thuộc tính đối tượng cấu hình, toàn diện.

“Frankensteins chỉ đơn giản là các đối tượng đã được tháo rời và lắp lại sai cách,” Elder nói. “Kết quả là chúng có tất cả các tính năng cục bộ đúng, nhưng ở những vị trí sai.”

Nghiên cứu cho thấy rằng DCNNs không bị nhầm lẫn bởi Frankensteins như hệ thống thị giác của con người. Điều này tiết lộ sự không nhạy cảm với các thuộc tính đối tượng cấu hình.

“Kết quả của chúng tôi giải thích tại sao các mô hình AI sâu không hoạt động trong certain điều kiện và chỉ ra nhu cầu xem xét các nhiệm vụ ngoài nhận dạng đối tượng để hiểu xử lý thị giác trong não,” Elder tiếp tục. “Những mô hình sâu này có xu hướng tìm ‘lối tắt’ khi giải quyết các nhiệm vụ nhận dạng phức tạp. Mặc dù những lối tắt này có thể hoạt động trong nhiều trường hợp, nhưng chúng có thể nguy hiểm trong một số ứng dụng AI thực tế mà chúng đang làm việc với các đối tác ngành và chính phủ.”

Hình ảnh: Đại học York

Tác động Thực tế

Elder nói rằng một trong những ứng dụng này là hệ thống an toàn video giao thông.

“Các đối tượng trong một cảnh giao thông bận rộn – xe cộ, xe đạp và người đi bộ – che khuất lẫn nhau và đến mắt của người lái xe như một hỗn hợp các mảnh ghép không liên kết,” anh nói. “Não cần phải nhóm các mảnh ghép này lại với nhau để xác định đúng loại và vị trí của các đối tượng. Một hệ thống AI cho giám sát an toàn giao thông chỉ có thể nhận thức được các mảnh ghép riêng lẻ sẽ thất bại trong nhiệm vụ này, có thể hiểu lầm rủi ro đối với người dùng đường bộ dễ bị tổn thương.”

Các nhà nghiên cứu cũng cho biết rằng việc sửa đổi đào tạo và kiến trúc nhằm làm cho mạng lưới trở nên giống não bộ hơn không đạt được xử lý cấu hình. Không có mạng lưới nào có thể dự đoán chính xác các phán đoán đối tượng của con người từ thử nghiệm đến thử nghiệm.

“Chúng tôi suy đoán rằng để khớp với độ nhạy cấu hình của con người, mạng lưới phải được đào tạo để giải quyết một loạt các nhiệm vụ đối tượng rộng hơn ngoài nhận dạng loại,” Elder kết luận