Trí tuệ nhân tạo
Hệ Thống Mới Có Thể Mang AI Đến Thiết Bị Đeo, Thiết Bị Gia Dụng
Một nhóm nghiên cứu tại MIT đang làm việc trên việc đưa các mạng nơ-ron sâu đến các bộ điều khiển micro. Sự tiến bộ này có nghĩa là trí tuệ nhân tạo (AI) có thể được thực hiện vào các con chip máy tính nhỏ trong các thiết bị y tế đeo, thiết bị gia dụng và 250 tỷ đối tượng khác tạo nên “internet của vạn vật” (IoT). IoT là một mạng lưới các đối tượng vật lý được nhúng với các cảm biến, phần mềm và các công nghệ khác, giúp kết nối và trao đổi dữ liệu với các thiết bị và hệ thống khác.
Nghiên cứu này sẽ được trình bày tại Hội nghị về Xử lý Thông tin Nơ-ron ở tháng 12. Tác giả chính của nghiên cứu là Ji Lin, một sinh viên tiến sĩ trong phòng thí nghiệm của Song Han tại Bộ phận Điện và Khoa học Máy tính của MIT. Các đồng tác giả bao gồm Han và Yujun Lin của MIT, Wei-Ming Chen của MIT và Đại học Quốc gia Đài Loan, và John Cohn và Chuan Gan của Phòng thí nghiệm MIT-IBM Watson.
Hệ Thống MCUNet
Hệ thống này được gọi là MCUNet, và nó thiết kế các mạng nơ-ron compact có khả năng tốc độ và độ chính xác cực cao trên các thiết bị IoT, ngay cả với bộ nhớ và năng lực xử lý hạn chế. Hệ thống này có thể tiết kiệm năng lượng hơn và tăng cường bảo mật dữ liệu.
Đội ngũ đã phát triển hệ thống “học sâu nhỏ” bằng cách kết hợp hai thành phần – hoạt động của các mạng nơ-ron và các bộ điều khiển micro. Thành phần đầu tiên là TinyEngine, một động cơ giao diện hoạt động như một hệ điều hành bằng cách chỉ đạo quản lý tài nguyên. TinyEngine được tối ưu hóa để chạy một cấu trúc mạng nơ-ron cụ thể được chọn bởi TinyNAS, đây là thành phần khác. TinyNAS là một thuật toán tìm kiếm kiến trúc nơ-ron.
Lin đã phát triển TinyNAS vì sự khó khăn trong việc áp dụng các kỹ thuật tìm kiếm kiến trúc nơ-ron hiện có vào các bộ điều khiển micro nhỏ. Các kỹ thuật hiện có cuối cùng sẽ tìm ra cấu trúc mạng nơ-ron chính xác và tiết kiệm chi phí nhất sau khi bắt đầu với nhiều cấu trúc có thể có dựa trên một mẫu định nghĩa trước.
“Nó có thể hoạt động khá tốt cho các GPU hoặc điện thoại thông minh,” Lin nói. “Nhưng nó đã khó để áp dụng trực tiếp các kỹ thuật này vào các bộ điều khiển micro nhỏ, vì chúng quá nhỏ.”
TinyNAS có thể tạo ra các mạng nơ-ron có kích thước tùy chỉnh.
“Chúng tôi có rất nhiều bộ điều khiển micro đến với các khả năng năng lượng khác nhau và các kích thước bộ nhớ khác nhau,” Lin nói. “Vì vậy, chúng tôi đã phát triển thuật toán [TinyNAS] để tối ưu hóa không gian tìm kiếm cho các bộ điều khiển micro khác nhau.”
Bởi vì TinyNAS có thể được tùy chỉnh, nó có thể tạo ra các mạng nơ-ron compact tốt nhất có thể cho các bộ điều khiển micro.
“Sau đó, chúng tôi cung cấp mô hình cuối cùng, hiệu quả cho bộ điều khiển micro,” Lin tiếp tục.
Một giao diện động cơ sạch và mỏng là cần thiết cho một bộ điều khiển micro để chạy mạng nơ-ron nhỏ. Nhiều giao diện động cơ có các lệnh cho các nhiệm vụ hiếm khi chạy, điều này có thể cản trở một bộ điều khiển micro.
“Nó không có bộ nhớ ngoài, và nó không có đĩa,” Han nói. “Mọi thứ được đặt cùng nhau chỉ là một megabyte flash, vì vậy chúng tôi phải quản lý cẩn thận tài nguyên nhỏ như vậy.”
TinyEngine tạo ra mã cần thiết để chạy mạng nơ-ron tùy chỉnh được phát triển bởi TinyNAS. Thời gian biên dịch được cắt giảm bằng cách loại bỏ mã không cần thiết.
“Chúng tôi chỉ giữ những gì chúng tôi cần,” Han nói. “Và vì chúng tôi đã thiết kế mạng nơ-ron, chúng tôi biết chính xác những gì chúng tôi cần. Đó là lợi thế của mã hệ thống-algorithm.”
Các thử nghiệm đã chứng minh rằng mã nhị phân được biên dịch bởi TinyEngine nhỏ hơn 1,9 đến năm lần so với các động cơ bộ điều khiển micro tương tự, bao gồm cả những động cơ từ Google và ARM. Sử dụng bộ nhớ đỉnh cũng được cắt giảm gần một nửa.
Khả Năng Của MCUNet
Các thử nghiệm đầu tiên cho MCUNet tập trung vào phân loại hình ảnh. Cơ sở dữ liệu ImageNet được sử dụng để đào tạo hệ thống với các hình ảnh được gắn nhãn, và khả năng của nó sau đó được thử nghiệm trên các hình ảnh mới.
Khi MCUNet được thử nghiệm trên một bộ điều khiển micro thương mại, nó đã phân loại thành công 70,7 phần trăm các hình ảnh mới. Điều này tốt hơn nhiều so với mạng nơ-ron và động cơ nhiễu tốt nhất trước đó, đạt độ chính xác 54 phần trăm.
“Thậm chí một sự cải thiện 1 phần trăm được coi là đáng kể,” Lin nói. “Vì vậy, đây là một bước nhảy vĩ đại cho các thiết lập bộ điều khiển micro.”
Theo Kurt Keutzer, một nhà khoa học máy tính tại Đại học California tại Berkeley, điều này “mở rộng biên giới thiết kế mạng nơ-ron sâu thậm chí còn xa hơn vào lĩnh vực tính toán của các bộ điều khiển micro tiết kiệm năng lượng nhỏ.” MCUNet có thể “mang lại khả năng thị giác máy tính thông minh đến thậm chí các thiết bị gia dụng đơn giản nhất, hoặc cho phép các cảm biến chuyển động thông minh hơn.”
MCUNet cũng tăng cường bảo mật dữ liệu.
“Một lợi thế chính là bảo tồn quyền riêng tư,” Han nói. “Bạn không cần phải truyền dữ liệu đến đám mây.”
Bằng cách phân tích dữ liệu cục bộ, có ít khả năng thông tin cá nhân bị xâm phạm.
Ngoài ra, MCUNet có thể phân tích và cung cấp thông tin về thông tin như đọc nhịp tim, huyết áp và mức oxy, mang lại học sâu đến các thiết bị IoT trong xe và các địa điểm khác với truy cập internet hạn chế, và giảm dấu chân carbon bằng cách chỉ sử dụng một phần nhỏ của năng lượng cần thiết cho các mạng nơ-ron lớn.
