Nhóm nghiên cứu phát triển phương pháp so sánh mạng nơ-ron

Một nhóm nghiên cứu tại Phòng thí nghiệm Quốc gia Los Alamos đã phát triển một phương pháp mới để so sánh mạng nơ-ron. Theo nhóm, phương pháp mới này nhìn vào “hộp đen” của trí tuệ nhân tạo (AI) và giúp họ hiểu hành vi của mạng nơ-ron. Mạng nơ-ron, được sử dụng để nhận dạng mẫu trong tập dữ liệu, được sử dụng trong nhiều ứng dụng như hệ thống nhận dạng khuôn mặt và xe tự hành.

Nhóm đã trình bày bài báo của họ, “Nếu Bạn Đã Đào Tạo Một Mạng Nơ-Ron, Bạn Đã Đào Tạo Tất Cả: Độ Tương Đồng Giữa Các Kiến Trúc Tăng Theo Độ Vững Chắc,” tại Hội nghị về Sự Không Chắc Chắn trong Trí Tuệ Nhân Tạo.

Haydn Jones là một nhà nghiên cứu trong nhóm Nghiên cứu Tiên Tiến về Hệ Thống An Ninh Mạng tại Los Alamos và là tác giả chính của bài báo nghiên cứu.

Hiểu Rõ Hơn Về Mạng Nơ-Ron

“Cộng đồng nghiên cứu trí tuệ nhân tạo không nhất thiết có hiểu biết đầy đủ về những gì mạng nơ-ron đang làm; chúng cho chúng ta kết quả tốt, nhưng chúng ta không biết làm thế nào hoặc tại sao,” Jones nói. “Phương pháp mới của chúng tôi làm tốt hơn việc so sánh mạng nơ-ron, đây là một bước quan trọng để hiểu rõ hơn về toán học đằng sau AI.

Nghiên cứu mới này cũng sẽ đóng vai trò giúp các chuyên gia hiểu hành vi của mạng nơ-ron vững chắc.

Mặc dù mạng nơ-ron có hiệu suất cao, nhưng chúng cũng rất dễ vỡ. Những thay đổi nhỏ trong điều kiện, chẳng hạn như một biển dừng bị che khuất một phần đang được xử lý bởi xe tự hành, có thể khiến mạng nơ-ron nhận dạng sai biển dừng. Điều này có nghĩa là xe có thể không dừng lại, điều này có thể gây nguy hiểm.

Huấn Luyện Đối Kháng Mạng Nơ-Ron

Các nhà nghiên cứu đã tìm cách cải thiện các loại mạng nơ-ron này bằng cách xem xét cách cải thiện độ vững chắc của mạng. Một trong những phương pháp bao gồm “tấn công” mạng trong quá trình đào tạo, nơi các nhà nghiên cứu cố ý giới thiệu những sai sót trong khi đào tạo AI để bỏ qua chúng. Quá trình này, được gọi là huấn luyện đối kháng, làm cho mạng khó bị đánh lừa hơn.

Nhóm đã áp dụng thước đo mới của sự tương đồng mạng vào mạng nơ-ron được huấn luyện đối kháng. Họ đã ngạc nhiên khi phát hiện ra rằng huấn luyện đối kháng khiến mạng nơ-ron trong lĩnh vực thị giác máy tính hội tụ đến các biểu diễn dữ liệu tương tự, bất kể kiến trúc mạng, khi độ lớn của cuộc tấn công tăng lên.

“Chúng tôi đã tìm thấy rằng khi chúng tôi đào tạo mạng nơ-ron để có khả năng chống lại các cuộc tấn công đối kháng, chúng bắt đầu làm cùng một việc,” Jones nói.

Đây không phải là lần đầu tiên các chuyên gia tìm cách tìm kiến trúc hoàn hảo cho mạng nơ-ron. Tuy nhiên, những phát hiện mới cho thấy rằng việc giới thiệu huấn luyện đối kháng đã thu hẹp đáng kể khoảng cách, điều này có nghĩa là cộng đồng nghiên cứu trí tuệ nhân tạo có thể không cần phải khám phá quá nhiều kiến trúc mới vì bây giờ chúng ta biết rằng huấn luyện đối kháng khiến các kiến trúc đa dạng hội tụ đến các giải pháp tương tự.

“Bằng cách tìm thấy rằng mạng nơ-ron vững chắc tương tự nhau, chúng tôi đang làm cho nó dễ dàng hơn để hiểu cách AI vững chắc có thể thực sự hoạt động,” Jones nói. “Chúng tôi thậm chí có thể đang tiết lộ những gợi ý về cách nhận thức xảy ra ở con người và động vật khác.”