Đội nghiên cứu MIT thiết kế mạng lưới AI để chống lại các ví dụ đối lập

Một nhóm nghiên cứu từ MIT đã phát triển một thuật toán học sâu nhằm giúp các hệ thống AI đối phó với các “ví dụ đối lập”, những ví dụ có thể khiến AI đưa ra dự đoán sai và thực hiện các hành động sai. Thuật toán được thiết kế bởi nhóm MIT có thể giúp các hệ thống AI duy trì độ chính xác và tránh đưa ra quyết định sai khi đối mặt với các điểm dữ liệu gây nhầm lẫn.

Các hệ thống AI phân tích các tính năng đầu vào của một sự kiện để quyết định cách phản ứng với sự kiện đó. Một hệ thống AI chịu trách nhiệm điều khiển xe tự hành phải lấy dữ liệu từ camera của xe và quyết định hành động dựa trên dữ liệu chứa trong các hình ảnh đó. Tuy nhiên, có khả năng dữ liệu hình ảnh được phân tích bởi AI không phải là đại diện chính xác của thế giới thực. Một lỗi trong hệ thống camera có thể thay đổi một số pixel, dẫn đến AI đưa ra kết luận sai về hành động phù hợp.

“Đầu vào đối lập” giống như ảo giác quang học đối với hệ thống AI. Đó là các đầu vào gây nhầm lẫn cho AI theo một cách nào đó. Đầu vào đối lập có thể được tạo ra với mục đích cụ thể là gây ra sai lầm cho AI, bằng cách đại diện dữ liệu theo cách khiến AI tin rằng nội dung của một ví dụ là một thứ khác. Ví dụ, có thể tạo ra một ví dụ đối lập cho hệ thống tầm nhìn máy tính bằng cách thực hiện các thay đổi nhỏ đối với hình ảnh mèo, khiến AI phân loại sai hình ảnh thành màn hình máy tính. Nhóm nghiên cứu MIT đã thiết kế một thuật toán để giúp bảo vệ chống lại các ví dụ đối lập bằng cách cho phép mô hình duy trì một mức độ “hoài nghi” về các đầu vào nó nhận được.

Các nhà nghiên cứu MIT gọi phương pháp của họ là “Tính bền vững đối lập được chứng nhận cho Học tăng cường sâu”, hoặc CARRL. CARRL bao gồm một mạng lưới học tăng cường và một mạng nơ-ron truyền thống kết hợp lại. Học tăng cường sử dụng khái niệm “phần thưởng” để đào tạo mô hình, đưa cho mô hình phần thưởng tỷ lệ với mức độ gần mà nó đạt được mục tiêu. Mô hình học tăng cường được sử dụng để đào tạo một Deep Q-Network, hoặc DQN. DQNs hoạt động như các mạng nơ-ron truyền thống, nhưng chúng cũng liên kết các giá trị đầu vào với mức độ phần thưởng, tương tự như các hệ thống học tăng cường.

CARRL hoạt động bằng cách mô hình hóa một loạt các giá trị đầu vào khác nhau.

Giả sử AI đang cố gắng theo dõi vị trí của một chấm trong một hình ảnh lớn hơn, AI sẽ xem xét rằng vị trí của chấm có thể là kết quả của ảnh hưởng đối lập và xem xét các khu vực mà chấm có thể ở thay thế. Sau đó, mạng lưới đưa ra quyết định dựa trên kịch bản tồi tệ nhất cho vị trí của chấm, chọn hành động sẽ tạo ra phần thưởng cao nhất trong kịch bản tồi tệ nhất đó.

Phương pháp thông thường để bảo vệ chống lại các ví dụ đối lập liên quan đến việc chạy các phiên bản thay đổi稍 của hình ảnh đầu vào qua mạng lưới AI để xem liệu quyết định luôn được đưa ra. Nếu các thay đổi đối với hình ảnh không ảnh hưởng đáng kể đến kết quả, thì có khả năng mạng lưới chống lại các ví dụ đối lập. Tuy nhiên, đây không phải là chiến lược khả thi cho các tình huống mà quyết định nhanh chóng cần được đưa ra, vì những phương pháp này tốn thời gian và tốn kém về mặt tính toán. Vì lý do này, nhóm MIT đã thiết kế một mạng lưới nơ-ron có thể đưa ra quyết định dựa trên giả định tồi tệ nhất, có khả năng hoạt động trong các tình huống mà an toàn là quan trọng.

Các nhà nghiên cứu MIT đã thử nghiệm thuật toán của họ bằng cách cho AI chơi một trò chơi Pong. Họ đã thêm các ví dụ đối lập bằng cách cung cấp cho AI các trường hợp mà bóng được hiển thị稍 thấp hơn trên màn hình so với thực tế. Khi ảnh hưởng của các ví dụ đối lập tăng lên, các kỹ thuật sửa chữa tiêu chuẩn bắt đầu thất bại trong khi CARRL có thể giành được nhiều trò chơi hơn so với sự比较. CARRL cũng được thử nghiệm trên một nhiệm vụ tránh va chạm. Nhiệm vụ này diễn ra trong một môi trường ảo nơi hai tác nhân khác nhau cố gắng đổi vị trí mà không va chạm với nhau. Nhóm nghiên cứu đã thay đổi nhận thức của tác nhân đầu tiên về tác nhân thứ hai và CARRL đã có thể điều khiển thành công tác nhân đầu tiên tránh tác nhân thứ hai, ngay cả trong điều kiện không chắc chắn cao, mặc dù có đến một điểm mà CARRL trở nên quá thận trọng và kết thúc bằng việc tránh đích đến hoàn toàn.

Dù sao, Michael Everett, thành viên nghiên cứu sau tiến sĩ tại Bộ phận Hàng không và Vũ trụ của MIT, người đứng đầu nghiên cứu, giải thích rằng nghiên cứu có thể có ý nghĩa đối với khả năng của robot trong việc xử lý các tình huống không thể đoán trước. Như Everett đã giải thích qua MIT News:

“Con người có thể là đối lập, như đứng trước mặt robot để chặn cảm biến của nó, hoặc tương tác với chúng, không nhất thiết với ý định tốt nhất,” Everett nói. “Làm thế nào một robot có thể nghĩ về tất cả những việc mà con người có thể thử làm, và cố gắng tránh chúng? Loại mô hình đối lập nào mà chúng tôi muốn bảo vệ? Đó là điều mà chúng tôi đang nghĩ về cách thực hiện.”