Các chuyên gia vượt qua chướng ngại vật lớn trong công nghệ AI bằng cơ chế não bộ

Một nhóm chuyên gia trí tuệ nhân tạo (AI) từ các tổ chức khác nhau đã vượt qua một “chướng ngại vật lớn, lâu dài đối với việc tăng cường khả năng của AI.” Nhóm nghiên cứu này đã tìm kiếm nguồn cảm hứng từ não bộ con người, điều mà nhiều phát triển AI thường làm. Cụ thể, nhóm tập trung vào cơ chế nhớ của não bộ con người được gọi là “phát lại” (replay).

Gido van de Ven là tác giả đầu tiên và là nhà nghiên cứu sau tiến sĩ. Ông được tham gia bởi nhà điều tra chính Andreas Tolias tại Baylor, cũng như Hava Siegelmann tại UMass Amherst.

Nghiên cứu này đã được công bố trên Nature Communications.

Phương pháp mới

Theo các nhà nghiên cứu, họ đã đưa ra một phương pháp mới giúp bảo vệ hiệu quả các mạng nơ-ron sâu khỏi “quên lãng thảm khốc” (catastrophic forgetting). Khi một mạng nơ-ron học hỏi điều gì đó mới, nó có thể quên đi những gì đã học trước đó.

Chướng ngại vật này là điều ngăn cản nhiều tiến bộ AI từ việc diễn ra.

“Một giải pháp sẽ là lưu trữ các ví dụ đã gặp trước đó và xem lại chúng khi học điều gì đó mới. Mặc dù ‘phát lại’ hoặc ‘luyện tập’ như vậy giải quyết được quên lãng thảm khốc, nhưng việc huấn luyện lại tất cả các nhiệm vụ đã học trước đó là rất không hiệu quả và số lượng dữ liệu cần lưu trữ sẽ trở nên không thể quản lý nhanh chóng,” các nhà nghiên cứu viết.

Não bộ con người

Các nhà nghiên cứu đã tìm kiếm nguồn cảm hứng từ não bộ con người, vì nó có thể xây dựng thông tin mà không quên đi, điều mà các mạng nơ-ron AI không thể làm được. Phát triển hiện tại được xây dựng trên công việc trước đó của các nhà nghiên cứu, bao gồm các phát hiện về một cơ chế trong não được cho là chịu trách nhiệm ngăn chặn việc quên đi ký ức. Cơ chế này là sự phát lại của các mẫu hoạt động nơ-ron.

Theo Siegelmann, sự phát triển lớn đến từ “nhận ra rằng phát lại trong não không lưu trữ dữ liệu,” mà “não tạo ra các biểu diễn của ký ức ở mức cao, trừu tượng hơn mà không cần tạo ra ký ức chi tiết.”

Siegelmann đã sử dụng thông tin này và tham gia cùng các đồng nghiệp của mình để phát triển một phát lại giống não với trí tuệ nhân tạo, nơi không có dữ liệu được lưu trữ. Giống như não bộ con người, mạng nơ-ron nhân tạo lấy những gì nó đã thấy trước đó để tạo ra các biểu diễn ở mức cao.

Phương pháp này rất hiệu quả, với chỉ một vài biểu diễn được phát lại đã dẫn đến việc nhớ lại các ký ức cũ trong khi học hỏi những điều mới. Phát lại tạo ra là hiệu quả trong việc ngăn chặn quên lãng thảm khốc, và một trong những lợi ích chính là nó cho phép hệ thống khái quát hóa từ một tình huống này sang tình huống khác.

Theo van de Ven, “Nếu mạng nơ-ron của chúng tôi với phát lại tạo ra trước tiên học cách phân biệt mèo và chó, và sau đó phân biệt gấu và cáo, nó cũng sẽ phân biệt mèo và cáo mà không cần được đào tạo cụ thể để làm như vậy. Và đáng chú ý, hệ thống càng học hỏi, nó càng trở nên tốt hơn trong việc học hỏi các nhiệm vụ mới.”

“Chúng tôi đề xuất một biến thể mới, lấy cảm hứng từ não, của phát lại trong đó các biểu diễn nội bộ hoặc ẩn được phát lại, được tạo ra bởi các kết nối phản hồi được điều chỉnh theo ngữ cảnh của mạng nơ-ron,” nhóm nghiên cứu viết. “Phương pháp của chúng tôi đạt được hiệu suất tốt nhất trong các chuẩn mực học tập liên tục thách thức mà không cần lưu trữ dữ liệu, và nó cung cấp một mô hình mới cho phát lại trừu tượng trong não.”

“Phương pháp của chúng tôi đưa ra một số dự đoán thú vị về cách phát lại có thể đóng góp vào việc củng cố ký ức trong não,” Van de Ven tiếp tục. “Chúng tôi đang chạy một thí nghiệm để kiểm tra một số dự đoán này.”