Nhóm Phát Triển Phương Pháp So Sánh Mạng Nơ-Ron

Một nhóm nghiên cứu tại Phòng thí nghiệm Quốc gia Los Alamos đã phát triển một phương pháp mới để so sánh mạng nơ-ron. Theo nhóm, phương pháp mới này nhìn vào “hộp đen” của trí tuệ nhân tạo (AI) và giúp họ hiểu hành vi của mạng nơ-ron. Mạng nơ-ron, được sử dụng để nhận dạng mẫu trong tập dữ liệu, được sử dụng trong nhiều ứng dụng như hệ thống nhận dạng khuôn mặt và xe tự hành.

Nhóm đã trình bày bài báo của họ, “Nếu Bạn Đã Đào Tạo Một Mạng Nơ-Ron, Bạn Đã Đào Tạo Tất Cả: Tương Đồng Giữa Kiến Trúc Tăng Cường Với Tính Robust,” tại Hội nghị về Sự Không Chắc Chắn trong Trí Tuệ Nhân Tạo.

Haydn Jones là một nhà nghiên cứu trong nhóm Nghiên cứu Tiên Tiến về Hệ Thống An Ninh Mạng tại Los Alamos và là tác giả chính của bài báo nghiên cứu.

Hiểu Rõ Hơn Về Mạng Nơ-Ron

“Cộng đồng nghiên cứu trí tuệ nhân tạo không nhất thiết có hiểu biết đầy đủ về những gì mạng nơ-ron đang làm; chúng cho chúng ta kết quả tốt, nhưng chúng ta không biết làm thế nào hoặc tại sao,” Jones nói. “Phương pháp mới của chúng tôi làm tốt hơn việc so sánh mạng nơ-ron, đây là một bước quan trọng để hiểu rõ hơn về toán học đằng sau AI.

Nghiên cứu mới này cũng sẽ đóng vai trò giúp các chuyên gia hiểu hành vi của mạng nơ-ron robust.

Mặc dù mạng nơ-ron có hiệu suất cao, nhưng chúng cũng rất dễ vỡ. Những thay đổi nhỏ trong điều kiện, chẳng hạn như một biển dừng bị che khuất đang được xử lý bởi xe tự hành, có thể khiến mạng nơ-ron nhận dạng sai biển dừng. Điều này có nghĩa là nó có thể không bao giờ dừng lại, điều này có thể gây nguy hiểm.

Đào Tạo Adversarial Mạng Nơ-Ron

Các nhà nghiên cứu đã tìm cách cải thiện các loại mạng nơ-ron này bằng cách xem xét cách cải thiện độ robust của mạng. Một trong những phương pháp bao gồm “tấn công” mạng trong quá trình đào tạo, nơi các nhà nghiên cứu cố ý giới thiệu những sai sót trong khi đào tạo AI để bỏ qua chúng. Quá trình này, được gọi là đào tạo adversarial, làm cho mạng khó bị đánh lừa hơn.

Nhóm đã áp dụng metric mới của sự tương đồng mạng vào mạng nơ-ron được đào tạo adversarial. Họ đã ngạc nhiên khi phát hiện ra rằng đào tạo adversarial khiến mạng nơ-ron trong lĩnh vực thị giác máy tính hội tụ đến các biểu diễn dữ liệu tương tự, bất kể kiến trúc mạng, khi độ lớn của cuộc tấn công tăng lên.

“Chúng tôi đã tìm thấy rằng khi chúng tôi đào tạo mạng nơ-ron để robust chống lại các cuộc tấn công adversarial, chúng bắt đầu làm cùng một việc,” Jones nói.

Đây không phải là lần đầu tiên các chuyên gia tìm cách tìm kiến trúc hoàn hảo cho mạng nơ-ron. Tuy nhiên, những phát hiện mới cho thấy rằng việc giới thiệu đào tạo adversarial đã đóng một khoảng cách đáng kể, điều này có nghĩa là cộng đồng nghiên cứu trí tuệ nhân tạo có thể không cần phải khám phá quá nhiều kiến trúc mới vì bây giờ chúng ta biết rằng đào tạo adversarial khiến các kiến trúc đa dạng hội tụ đến các giải pháp tương tự.

“Bằng cách tìm thấy rằng mạng nơ-ron robust tương tự nhau, chúng tôi đang làm cho nó dễ dàng hơn để hiểu cách AI robust có thể thực sự hoạt động,” Jones nói. “Chúng tôi thậm chí có thể đang tiết lộ những gợi ý về cách nhận thức xảy ra ở con người và động vật khác.”