Nghiên cứu mới tiết lộ những điểm yếu ẩn trong Trí tuệ nhân tạo

Trong cảnh quan đang thay đổi nhanh chóng của Trí tuệ nhân tạo, lời hứa hẹn về những thay đổi chuyển đổi đang lan rộng trên nhiều lĩnh vực, từ những triển vọng cách mạng của xe tự hành thay đổi giao thông vận tải đến việc sử dụng Trí tuệ nhân tạo tinh vi trong việc giải thích hình ảnh y tế phức tạp. Sự tiến bộ của công nghệ Trí tuệ nhân tạo đã không gì khác hơn là một cuộc phục hưng kỹ thuật số, báo trước một tương lai đầy những khả năng và tiến bộ.

Tuy nhiên, một nghiên cứu gần đây đã làm sáng tỏ một khía cạnh令人 quan ngại mà thường bị bỏ qua: sự dễ bị tấn công của các hệ thống Trí tuệ nhân tạo bởi các cuộc tấn công đối thủ có chủ đích. Việc này đặt câu hỏi về độ bền của các ứng dụng Trí tuệ nhân tạo trong các lĩnh vực quan trọng và nhấn mạnh nhu cầu hiểu rõ hơn về những điểm yếu này.

Khái niệm về các cuộc tấn công đối thủ

Các cuộc tấn công đối thủ trong lĩnh vực Trí tuệ nhân tạo là một loại mối đe dọa mạng nơi các kẻ tấn công cố ý thao túng dữ liệu đầu vào của một hệ thống Trí tuệ nhân tạo để lừa nó đưa ra các quyết định hoặc phân loại sai. Các cuộc tấn công này khai thác những điểm yếu vốn có trong cách các thuật toán Trí tuệ nhân tạo xử lý và giải thích dữ liệu.

Ví dụ, hãy xem xét một xe tự hành dựa trên Trí tuệ nhân tạo để nhận diện biển báo giao thông. Một cuộc tấn công đối thủ có thể đơn giản như đặt một nhãn dán đặc biệt lên biển dừng, khiến Trí tuệ nhân tạo hiểu sai nó, có thể dẫn đến những hậu quả thảm khốc. Tương tự, trong lĩnh vực y tế, một kẻ tấn công có thể thay đổi tinh vi dữ liệu được đưa vào một hệ thống Trí tuệ nhân tạo phân tích hình ảnh X-quang, dẫn đến chẩn đoán sai. Những ví dụ này nhấn mạnh tính chất quan trọng của những điểm yếu này, đặc biệt là trong các ứng dụng nơi an toàn và tính mạng con người đang bị đe dọa.

Phát hiện đáng lo ngại của nghiên cứu

Nghiên cứu, được đồng tác giả bởi Tianfu Wu, giáo sư phụ tá về kỹ thuật điện và máy tính tại Đại học North Carolina, đã đi sâu vào sự phổ biến của những điểm yếu dễ bị tấn công này, tiết lộ rằng chúng phổ biến hơn nhiều so với những gì từng được tin tưởng. Phát hiện này đặc biệt đáng lo ngại khi xem xét việc tích hợp ngày càng tăng của Trí tuệ nhân tạo vào các công nghệ quan trọng và hàng ngày.

Wu nhấn mạnh mức độ nghiêm trọng của tình huống này, tuyên bố, “Các kẻ tấn công có thể lợi dụng những điểm yếu này để buộc Trí tuệ nhân tạo giải thích dữ liệu theo bất kỳ cách nào họ muốn. Điều này vô cùng quan trọng vì nếu một hệ thống Trí tuệ nhân tạo không vững chắc trước những loại tấn công này, bạn không muốn đưa hệ thống vào sử dụng thực tế — đặc biệt là cho các ứng dụng có thể ảnh hưởng đến tính mạng con người.”

QuadAttacK: Công cụ để lộ điểm yếu

Để đáp lại những phát hiện này, Wu và nhóm của ông đã phát triển QuadAttacK, một phần mềm tiên phong được thiết kế để kiểm tra hệ thống mạng nơ-ron sâu về các điểm yếu dễ bị tấn công. QuadAttacK hoạt động bằng cách quan sát phản ứng của một hệ thống Trí tuệ nhân tạo đối với dữ liệu sạch và học cách nó đưa ra quyết định. Sau đó, nó thao túng dữ liệu để kiểm tra sự dễ bị tấn công của Trí tuệ nhân tạo.

Wu giải thích, “QuadAttacK quan sát những hoạt động này và học cách Trí tuệ nhân tạo đưa ra quyết định liên quan đến dữ liệu. Điều này cho phép QuadAttacK xác định cách dữ liệu có thể được thao túng để lừa Trí tuệ nhân tạo.”

Trong thử nghiệm chứng minh khái niệm, QuadAttacK đã được sử dụng để đánh giá bốn mạng nơ-ron rộng rãi được sử dụng. Kết quả thật đáng ngạc nhiên.

“Chúng tôi đã ngạc nhiên khi phát hiện rằng tất cả bốn mạng này đều rất dễ bị tấn công,” Wu nói, nhấn mạnh một vấn đề quan trọng trong lĩnh vực Trí tuệ nhân tạo.

Những phát hiện này служ như một lời cảnh báo cho cộng đồng nghiên cứu Trí tuệ nhân tạo và các ngành công nghiệp phụ thuộc vào công nghệ Trí tuệ nhân tạo. Những điểm yếu được tiết lộ không chỉ gây rủi ro cho các ứng dụng hiện tại mà còn làm suy yếu triển vọng triển khai hệ thống Trí tuệ nhân tạo trong các lĩnh vực nhạy cảm trong tương lai.

Lời kêu gọi hành động cho cộng đồng Trí tuệ nhân tạo

Sự sẵn có công khai của QuadAttacK đánh dấu một bước quan trọng hướng tới các nỗ lực nghiên cứu và phát triển rộng rãi hơn trong việc bảo mật hệ thống Trí tuệ nhân tạo. Bằng cách làm cho công cụ này có sẵn, Wu và nhóm của ông đã cung cấp một tài nguyên quý giá cho các nhà nghiên cứu và nhà phát triển để xác định và giải quyết các điểm yếu trong hệ thống Trí tuệ nhân tạo của họ.

Nghiên cứu và công cụ QuadAttacK của nhóm nghiên cứu đang được trình bày tại Hội nghị về Xử lý Thông tin Neural (NeurIPS 2023). Tác giả chính của bài báo là Thomas Paniagua, một sinh viên tiến sĩ tại NC State, cùng với đồng tác giả Ryan Grainger, cũng là một sinh viên tiến sĩ tại trường đại học. Việc trình bày này không chỉ là một bài tập học thuật mà còn là một lời kêu gọi hành động cho cộng đồng Trí tuệ nhân tạo toàn cầu để ưu tiên bảo mật trong việc phát triển Trí tuệ nhân tạo.

Khi chúng ta đứng tại ngã tư của sự đổi mới Trí tuệ nhân tạo và bảo mật, công việc của Wu và các cộng sự của ông cung cấp cả một câu chuyện cảnh báo và một bản đồ đường đi cho một tương lai nơi Trí tuệ nhân tạo có thể vừa mạnh mẽ vừa an toàn. Hành trình phía trước phức tạp nhưng thiết yếu cho việc tích hợp bền vững Trí tuệ nhân tạo vào cấu trúc của xã hội kỹ thuật số của chúng ta.

Đội ngũ đã làm cho QuadAttacK có sẵn công khai. Bạn có thể tìm thấy nó tại đây: https://thomaspaniagua.github.io/quadattack_web/