Trí tuệ nhân tạo
TinyML: Ứng dụng, hạn chế và cách sử dụng trong thiết bị IoT & Edge
Trong những năm gần đây, Trí tuệ nhân tạo (AI) và Machine Learning (ML) đã chứng kiến sự gia tăng nhanh chóng về mức độ phổ biến và ứng dụng, không chỉ trong ngành mà còn trong giới học thuật. Tuy nhiên, các mô hình ML và AI ngày nay có một hạn chế lớn: chúng đòi hỏi sức mạnh tính toán và xử lý rất lớn để đạt được kết quả và độ chính xác như mong muốn. Điều này thường hạn chế việc sử dụng chúng ở những thiết bị có khả năng cao với sức mạnh tính toán đáng kể.
Nhưng với những tiến bộ đạt được trong công nghệ hệ thống nhúng và sự phát triển đáng kể trong ngành Internet of Things, người ta mong muốn kết hợp việc sử dụng các kỹ thuật và khái niệm ML vào một hệ thống nhúng có giới hạn tài nguyên cho trí thông minh phổ biến. Mong muốn sử dụng các khái niệm ML vào các hệ thống nhúng và IoT là động lực chính đằng sau sự phát triển của TinyML, một kỹ thuật ML nhúng cho phép các mô hình & ứng dụng ML trên nhiều thiết bị giá rẻ, hạn chế về tài nguyên và hạn chế về tài nguyên.
Tuy nhiên, việc triển khai ML trên các thiết bị hạn chế về tài nguyên không hề đơn giản vì việc triển khai mô hình ML trên các thiết bị có khả năng tính toán thấp đặt ra những thách thức riêng về tối ưu hóa, khả năng xử lý, độ tin cậy, bảo trì mô hình, v.v.
Trong bài viết này, chúng ta sẽ tìm hiểu sâu hơn về mô hình TinyML và tìm hiểu thêm về nền tảng của nó, các công cụ hỗ trợ TinyML và các ứng dụng của TinyML sử dụng các công nghệ tiên tiến. Vì vậy, hãy bắt đầu.
Giới thiệu về TinyML: Tại sao Thế giới cần TinyML
Internet of Things hay thiết bị IoT nhằm mục đích tận dụng điện toán biên, một mô hình điện toán đề cập đến một loạt thiết bị và mạng gần người dùng để cho phép xử lý dữ liệu liền mạch và theo thời gian thực từ hàng triệu cảm biến và thiết bị được kết nối với nhau. Một trong những lợi thế chính của thiết bị IoT là chúng yêu cầu khả năng tính toán và xử lý thấp vì chúng có thể triển khai ở biên mạng và do đó chúng có dung lượng bộ nhớ thấp.
Hơn nữa, các thiết bị IoT phụ thuộc rất nhiều vào các nền tảng biên để thu thập và sau đó truyền dữ liệu khi các thiết bị biên này thu thập dữ liệu cảm biến, sau đó truyền chúng đến một vị trí gần đó hoặc nền tảng đám mây để xử lý. Công nghệ điện toán biên lưu trữ và thực hiện tính toán trên dữ liệu, đồng thời cung cấp cơ sở hạ tầng cần thiết để hỗ trợ tính toán phân tán.
Việc triển khai điện toán biên trong các thiết bị IoT cung cấp
- Bảo mật hiệu quả, quyền riêng tư và độ tin cậy cho người dùng cuối.
- Độ trễ thấp hơn.
- Tính sẵn sàng cao hơn và đáp ứng thông lượng cho các ứng dụng và dịch vụ.
Hơn nữa, vì các thiết bị biên có thể triển khai kỹ thuật cộng tác giữa các cảm biến và đám mây nên việc xử lý dữ liệu có thể được tiến hành ở biên mạng thay vì được tiến hành trên nền tảng đám mây. Điều này có thể dẫn đến việc quản lý dữ liệu hiệu quả, tính bền vững của dữ liệu, phân phối hiệu quả và bộ nhớ đệm nội dung. Ngoài ra, để triển khai IoT trong các ứng dụng xử lý tương tác H2M hoặc Con người với Máy và điện toán biên chăm sóc sức khỏe hiện đại cung cấp một cách để cải thiện đáng kể các dịch vụ mạng.
Nghiên cứu gần đây trong lĩnh vực điện toán biên IoT đã chứng minh tiềm năng triển khai các kỹ thuật Machine Learning trong một số trường hợp sử dụng IoT. Tuy nhiên, vấn đề lớn là các mô hình học máy truyền thống thường yêu cầu sức mạnh tính toán & xử lý mạnh mẽ cũng như dung lượng bộ nhớ cao làm hạn chế việc triển khai mô hình ML trong các thiết bị & ứng dụng IoT.
Hơn nữa, công nghệ điện toán biên ngày nay thiếu khả năng truyền tải cao và tiết kiệm điện năng hiệu quả dẫn đến các hệ thống không đồng nhất, đây là lý do chính đằng sau yêu cầu về cơ sở hạ tầng hài hòa và toàn diện, chủ yếu để cập nhật, đào tạo và triển khai các mô hình ML. Kiến trúc được thiết kế cho các thiết bị nhúng đặt ra một thách thức khác vì những kiến trúc này phụ thuộc vào các yêu cầu phần cứng và phần mềm khác nhau tùy theo từng thiết bị. Đó là lý do chính khiến việc xây dựng kiến trúc ML tiêu chuẩn cho mạng IoT trở nên khó khăn.
Ngoài ra, trong kịch bản hiện tại, dữ liệu do các thiết bị khác nhau tạo ra sẽ được gửi đến nền tảng đám mây để xử lý do tính chất tính toán chuyên sâu của việc triển khai mạng. Hơn nữa, các mô hình ML thường phụ thuộc vào Deep Learning, Deep Neural Networks, Mạch tích hợp dành riêng cho ứng dụng (ASIC) và Bộ xử lý đồ họa (GPU) để xử lý dữ liệu và chúng thường có yêu cầu về năng lượng và bộ nhớ cao hơn. Triển khai các mô hình ML chính thức trên các thiết bị IoT không phải là một giải pháp khả thi vì thiếu khả năng tính toán & xử lý rõ ràng cũng như các giải pháp lưu trữ hạn chế.
Nhu cầu thu nhỏ các thiết bị nhúng tiêu thụ điện năng thấp cùng với việc tối ưu hóa các mô hình ML để giúp chúng tiết kiệm năng lượng và bộ nhớ hơn đã mở đường cho TinyML nhằm mục đích triển khai các mô hình & thực tiễn ML trên các thiết bị & khung IoT biên. TinyML cho phép xử lý tín hiệu trên các thiết bị IoT và cung cấp trí thông minh nhúng, do đó loại bỏ nhu cầu chuyển dữ liệu sang nền tảng đám mây để xử lý. Việc triển khai thành công TinyML trên các thiết bị IoT cuối cùng có thể giúp tăng cường quyền riêng tư và hiệu quả đồng thời giảm chi phí vận hành. Ngoài ra, điều khiến TinyML trở nên hấp dẫn hơn là trong trường hợp kết nối không đầy đủ, nó có thể cung cấp các phân tích tại chỗ.
TinyML: Giới thiệu và Tổng quan
TinyML là một công cụ máy học có khả năng thực hiện phân tích trên thiết bị cho các phương thức cảm biến khác nhau như âm thanh, hình ảnh và giọng nói. Các mô hình Ml được xây dựng trên công cụ TinyML có yêu cầu về điện năng, bộ nhớ và tính toán thấp khiến chúng phù hợp với mạng nhúng và các thiết bị hoạt động bằng nguồn pin. Ngoài ra, các yêu cầu thấp của TinyML khiến nó trở nên lý tưởng để triển khai các mô hình ML trên khung IoT.
Trong kịch bản hiện tại, các hệ thống ML dựa trên đám mây phải đối mặt với một số khó khăn bao gồm các vấn đề về bảo mật và quyền riêng tư, mức tiêu thụ điện năng cao, độ tin cậy và độ trễ, đó là lý do tại sao các mô hình trên nền tảng phần cứng-phần mềm được cài đặt sẵn. Các cảm biến thu thập dữ liệu mô phỏng thế giới vật lý và sau đó được xử lý bằng CPU hoặc MPU (Bộ vi xử lý). MPU đáp ứng nhu cầu hỗ trợ phân tích ML được kích hoạt bởi kiến trúc và mạng ML nhận biết biên. Kiến trúc Edge ML giao tiếp với đám mây ML để truyền dữ liệu và việc triển khai TinyML có thể mang lại sự tiến bộ đáng kể cho công nghệ.
Có thể nói rằng TinyML là sự kết hợp giữa phần mềm, phần cứng và thuật toán hoạt động đồng bộ với nhau để mang lại hiệu suất mong muốn. Điện toán tương tự hoặc bộ nhớ có thể được yêu cầu để cung cấp trải nghiệm học tập tốt hơn và hiệu quả hơn cho các thiết bị phần cứng và IoT không hỗ trợ bộ tăng tốc phần cứng. Về phần mềm, các ứng dụng được xây dựng bằng TinyML có thể được triển khai và triển khai trên các nền tảng như Linux hoặc Linux nhúng cũng như trên phần mềm hỗ trợ đám mây. Cuối cùng, các ứng dụng & hệ thống được xây dựng trên thuật toán TinyML phải có sự hỗ trợ của các thuật toán mới cần mô hình có kích thước bộ nhớ thấp để tránh mức tiêu thụ bộ nhớ cao.
Tóm lại, các ứng dụng được xây dựng bằng công cụ TinyML phải tối ưu hóa các nguyên tắc và phương pháp ML cùng với việc thiết kế phần mềm một cách gọn nhẹ, với sự có mặt của dữ liệu chất lượng cao. Dữ liệu này sau đó phải được flash qua các tệp nhị phân được tạo bằng cách sử dụng các mô hình được đào tạo trên các máy có công suất và khả năng tính toán lớn hơn nhiều.
Ngoài ra, các hệ thống và ứng dụng chạy trên công cụ TinyML phải cung cấp độ chính xác cao khi hoạt động trong điều kiện hạn chế chặt chẽ hơn vì cần có phần mềm nhỏ gọn để tiêu thụ điện năng nhỏ hỗ trợ các hàm TinyML. Hơn nữa, các ứng dụng hoặc mô-đun TinyML có thể phụ thuộc vào nguồn pin để hỗ trợ hoạt động của nó trên các hệ thống nhúng biên.
Như đã nói, các ứng dụng TinyML có hai yêu cầu cơ bản
- Khả năng mở rộng quy mô hàng tỷ hệ thống nhúng giá rẻ.
- Lưu mã trên RAM thiết bị có dung lượng dưới vài KB.
Các ứng dụng của TinyML sử dụng công nghệ tiên tiến
Một trong những lý do chính khiến TinyML trở thành chủ đề nóng trong ngành AI & ML là vì các ứng dụng tiềm năng của nó bao gồm các ứng dụng dựa trên thị giác và giọng nói, chẩn đoán sức khỏe, nén và phân loại mẫu dữ liệu, giao diện điều khiển não, tính toán biên, hiện tượng học, tự -lái xe ô tô, và nhiều hơn nữa.
Ứng dụng dựa trên giọng nói
Giao tiếp bằng lời nói
Thông thường, các ứng dụng dựa trên giọng nói dựa trên các phương thức liên lạc thông thường trong đó tất cả dữ liệu đều quan trọng và được truyền đi. Tuy nhiên, trong những năm gần đây, giao tiếp ngữ nghĩa đã nổi lên như một giải pháp thay thế cho giao tiếp thông thường vì trong giao tiếp ngữ nghĩa, chỉ có ý nghĩa hoặc bối cảnh của dữ liệu được truyền đi. Giao tiếp ngữ nghĩa có thể được triển khai trên các ứng dụng dựa trên giọng nói bằng các phương pháp TinyML.
Một số ứng dụng phổ biến nhất trong ngành truyền thông giọng nói hiện nay là phát hiện giọng nói, nhận dạng giọng nói, học trực tuyến, giảng dạy trực tuyến và giao tiếp có mục tiêu. Các ứng dụng này thường có mức tiêu thụ điện năng cao hơn và chúng cũng có yêu cầu cao về dữ liệu trên thiết bị chủ. Để khắc phục những yêu cầu này, thư viện TinySpeech mới đã được giới thiệu cho phép các nhà phát triển xây dựng kiến trúc tính toán thấp sử dụng mạng tích chập sâu để xây dựng cơ sở lưu trữ thấp.
Để sử dụng TinyML để cải thiện giọng nói, trước tiên các nhà phát triển phải giải quyết việc định cỡ mô hình nâng cao giọng nói vì mô hình này có các hạn chế và hạn chế về phần cứng. Để giải quyết vấn đề này, việc cắt tỉa có cấu trúc và lượng tử hóa số nguyên cho mô hình nâng cao giọng nói của RNN hoặc Mạng thần kinh tái phát đã được triển khai. Kết quả cho thấy kích thước của mô hình giảm gần 12 lần trong khi các hoạt động giảm gần 3 lần. Ngoài ra, điều quan trọng là tài nguyên phải được sử dụng hiệu quả, đặc biệt khi được triển khai trên các ứng dụng có hạn chế về tài nguyên thực thi các ứng dụng nhận dạng giọng nói.
Do đó, để phân vùng quy trình, một phương pháp đồng thiết kế đã được đề xuất cho các ứng dụng nhận dạng giọng nói và giọng nói dựa trên TinyML. Các nhà phát triển đã sử dụng thao tác cửa sổ để phân vùng phần mềm và phần cứng theo cách xử lý trước dữ liệu giọng nói thô. Phương pháp này có vẻ hiệu quả vì kết quả cho thấy mức tiêu thụ năng lượng trên phần cứng đã giảm. Cuối cùng, cũng có khả năng triển khai phân vùng được tối ưu hóa giữa đồng thiết kế phần mềm và phần cứng để có hiệu suất tốt hơn trong tương lai gần.
Hơn nữa, nghiên cứu gần đây đã đề xuất sử dụng bộ chuyển đổi dựa trên điện thoại cho các hệ thống nhận dạng giọng nói và đề xuất này nhằm mục đích thay thế bộ dự đoán LSTM bằng lớp Conv1D để giảm nhu cầu tính toán trên các thiết bị biên. Khi được triển khai, đề xuất này đã mang lại kết quả tích cực vì Phân tích giá trị số ít hoặc SVD đã nén mô hình thành công trong khi việc sử dụng giải mã dựa trên Bộ chuyển đổi trạng thái hữu hạn có trọng số hoặc WFST mang lại sự linh hoạt hơn trong xu hướng cải tiến mô hình.
Rất nhiều ứng dụng nổi bật về nhận dạng giọng nói như trợ lý ảo hoặc trợ lý giọng nói, chú thích trực tiếp và lệnh thoại sử dụng kỹ thuật ML để hoạt động. Các trợ lý giọng nói phổ biến hiện nay như Siri và Google Assistant sẽ ping nền tảng đám mây mỗi khi họ nhận được một số dữ liệu và điều này tạo ra những lo ngại đáng kể liên quan đến quyền riêng tư và bảo mật dữ liệu. TinyML là một giải pháp khả thi cho vấn đề này vì nó nhằm mục đích thực hiện nhận dạng giọng nói trên thiết bị và loại bỏ nhu cầu di chuyển dữ liệu sang nền tảng đám mây. Một trong những cách để đạt được khả năng nhận dạng giọng nói trên thiết bị là sử dụng Bộ chuyển đổi Tiny, một mô hình nhận dạng giọng nói sử dụng lớp Khối bộ nhớ tuần tự DFSMN hoặc Deep Feed-Forward kết hợp với một lớp Conv1D thay vì các lớp LSTM để giảm yêu cầu tính toán và các tham số mạng.
Trợ thính
Mất thính lực là mối lo ngại lớn về sức khỏe trên toàn cầu và khả năng nghe âm thanh của con người thường yếu đi khi có tuổi và đây là vấn đề lớn ở các quốc gia có dân số già bao gồm Trung Quốc, Nhật Bản và Hàn Quốc. Các thiết bị trợ thính hiện nay hoạt động theo nguyên tắc đơn giản là khuếch đại tất cả âm thanh đầu vào từ xung quanh khiến người dùng khó phân biệt hoặc phân biệt giữa âm thanh mong muốn, đặc biệt là trong môi trường ồn ào.
TinyML có thể là giải pháp khả thi cho vấn đề này vì việc sử dụng mô hình TinyLSTM sử dụng thuật toán nhận dạng giọng nói cho thiết bị trợ thính có thể giúp người dùng phân biệt giữa các âm thanh khác nhau.
Ứng dụng dựa trên tầm nhìn
TinyML có tiềm năng đóng một vai trò quan trọng trong việc xử lý thị giác máy tính dựa trên các bộ dữ liệu vì để có kết quả đầu ra nhanh hơn, các bộ dữ liệu này cần được xử lý trên chính nền tảng biên. Để đạt được điều này, mô hình TinyML gặp phải những thách thức thực tế gặp phải khi đào tạo mô hình bằng bảng vi điều khiển OpenMV H7. Các nhà phát triển cũng đề xuất một kiến trúc để phát hiện Ngôn ngữ ký hiệu của Mỹ với sự trợ giúp của bộ vi điều khiển ARM Cortex M7 chỉ hoạt động với 496KB RAM đệm khung.
Việc triển khai TinyML cho ứng dụng dựa trên thị giác máy tính trên nền tảng biên yêu cầu các nhà phát triển phải vượt qua thách thức lớn của CNN hoặc Mạng thần kinh chuyển đổi với lỗi khái quát hóa cao cũng như độ chính xác đào tạo và kiểm tra cao. Tuy nhiên, việc triển khai không khái quát hóa một cách hiệu quả đối với hình ảnh trong các trường hợp sử dụng mới cũng như nền có nhiễu. Khi các nhà phát triển sử dụng phương pháp tăng cường nội suy, mô hình trả về điểm chính xác trên 98% đối với dữ liệu thử nghiệm và khoảng 75% về tổng quát.
Hơn nữa, người ta nhận thấy rằng khi các nhà phát triển sử dụng phương pháp tăng cường nội suy, độ chính xác của mô hình trong quá trình lượng tử hóa đã giảm xuống, nhưng đồng thời, tốc độ suy luận của mô hình và khả năng khái quát hóa phân loại cũng tăng lên. Các nhà phát triển cũng đề xuất một phương pháp để tăng cường hơn nữa độ chính xác của việc đào tạo mô hình khái quát hóa trên dữ liệu thu được từ nhiều nguồn khác nhau và kiểm tra hiệu suất để khám phá khả năng triển khai nó trên các nền tảng biên như đồng hồ thông minh di động.
Hơn nữa, các nghiên cứu bổ sung về CNN chỉ ra rằng có thể triển khai và đạt được kết quả mong muốn với kiến trúc CNN trên các thiết bị có nguồn lực hạn chế. Gần đây, các nhà phát triển đã có thể phát triển một khuôn khổ để phát hiện khẩu trang y tế trên bộ vi điều khiển ARM Cortex M7 với nguồn lực hạn chế bằng cách sử dụng TensorFlow lite với dung lượng bộ nhớ tối thiểu. Lượng tử hóa sau kích thước mô hình là khoảng 138 KB trong khi tốc độ nhiễu trên bảng mục tiêu là khoảng 30 FPS.
Một ứng dụng khác của TinyML dành cho ứng dụng dựa trên thị giác máy tính là triển khai một thiết bị nhận dạng cử chỉ có thể được kẹp vào gậy để giúp những người khiếm thị điều hướng trong cuộc sống hàng ngày của họ một cách dễ dàng. Để thiết kế nó, các nhà phát triển đã sử dụng tập dữ liệu cử chỉ và sử dụng tập dữ liệu đó để huấn luyện mô hình ProtoNN bằng thuật toán phân loại. Kết quả thu được từ quá trình thiết lập là chính xác, thiết kế có chi phí thấp và mang lại kết quả khả quan.
Một ứng dụng quan trọng khác của TinyML là trong ngành công nghiệp xe tự lái và xe tự lái do thiếu tài nguyên và khả năng tính toán tích hợp. Để giải quyết vấn đề này, các nhà phát triển đã giới thiệu một phương pháp học vòng kín được xây dựng trên mô hình TinyCNN đề xuất mô hình dự đoán trực tuyến để ghi lại hình ảnh trong thời gian chạy. Vấn đề chính mà các nhà phát triển gặp phải khi triển khai TinyML cho xe tự lái là mô hình quyết định được đào tạo để hoạt động trên dữ liệu ngoại tuyến có thể không hoạt động tốt như nhau khi xử lý dữ liệu trực tuyến. Để tối đa hóa hoàn toàn các ứng dụng của ô tô tự hành và ô tô tự lái, lý tưởng nhất là mô hình này phải có khả năng thích ứng với dữ liệu thời gian thực.
Phân loại và nén mẫu dữ liệu
Một trong những thách thức lớn nhất của khung TinyML hiện tại là tạo điều kiện cho nó thích ứng với dữ liệu đào tạo trực tuyến. Để giải quyết vấn đề, các nhà phát triển đã đề xuất một phương pháp được gọi là TinyOL hoặc TinyML Online Learning để cho phép đào tạo với phương pháp học trực tuyến gia tăng trên các đơn vị vi điều khiển, từ đó cho phép mô hình cập nhật trên các thiết bị biên IoT. Việc triển khai đã đạt được bằng cách sử dụng ngôn ngữ lập trình C++ và một lớp bổ sung đã được thêm vào kiến trúc TinyOL.
Hơn nữa, các nhà phát triển cũng thực hiện mã hóa tự động bảng cảm biến Arduino Nano 33 BLE và mô hình được đào tạo có thể phân loại các mẫu dữ liệu mới. Hơn nữa, công việc phát triển bao gồm thiết kế các thuật toán hiệu quả và tối ưu hóa hơn cho mạng lưới thần kinh để hỗ trợ các mẫu đào tạo thiết bị trực tuyến.
Nghiên cứu về TinyOL và TinyML đã chỉ ra rằng số lượng lớp kích hoạt là một vấn đề lớn đối với các thiết bị biên IoT có tài nguyên hạn chế. Để giải quyết vấn đề này, các nhà phát triển đã giới thiệu mô hình TinyTL hoặc Tiny Transfer Learning mới để giúp việc sử dụng bộ nhớ trên các thiết bị biên IoT hiệu quả hơn nhiều và tránh sử dụng các lớp trung gian cho mục đích kích hoạt. Ngoài ra, các nhà phát triển cũng giới thiệu một mô-đun thiên vị hoàn toàn mới được gọi là “mô-đun dư lite” để tối đa hóa khả năng thích ứng và tất nhiên là cho phép người trích xuất đối tượng khám phá các bản đồ đối tượng còn sót lại.
Khi so sánh với tinh chỉnh toàn mạng, kết quả nghiêng về kiến trúc TinyTL vì kết quả cho thấy TinyTL giảm chi phí bộ nhớ khoảng 6.5 lần với độ chính xác bị mất ở mức vừa phải. Khi lớp cuối cùng được tinh chỉnh, TinyML đã cải thiện độ chính xác thêm 34% với mức độ mất độ chính xác vừa phải.
Hơn nữa, nghiên cứu về nén dữ liệu đã chỉ ra rằng thuật toán nén dữ liệu phải quản lý dữ liệu được thu thập trên thiết bị di động và để đạt được điều tương tự, các nhà phát triển đã đề xuất TAC hoặc Máy nén dị thường nhỏ. TAC có thể hoạt động tốt hơn SDT hoặc các thuật toán Xu hướng cửa xoay và DCT hoặc Biến đổi Cosine rời rạc. Ngoài ra, thuật toán TAC còn vượt trội hơn cả thuật toán SDT và DCT khi đạt được tốc độ nén tối đa trên 98% và có tỷ lệ tín hiệu trên nhiễu cao nhất trong số ba thuật toán.
Chẩn đoán sức khỏe
Đại dịch toàn cầu Covid-19 đã mở ra những cơ hội mới cho việc triển khai TinyML vì giờ đây đây là phương pháp thiết yếu để liên tục phát hiện các triệu chứng hô hấp liên quan đến ho và cảm lạnh. Để đảm bảo việc giám sát không bị gián đoạn, các nhà phát triển đã đề xuất mô hình CNN Tiny RespNet hoạt động trên cài đặt đa mô hình và mô hình được triển khai trên Xilinx Artix-7 100t FPGA cho phép thiết bị xử lý thông tin song song, có hiệu suất cao, và tiêu thụ điện năng thấp. Ngoài ra, mô hình TinyResp cũng lấy lời nói của bệnh nhân, bản ghi âm và thông tin nhân khẩu học làm đầu vào để phân loại và các triệu chứng liên quan đến ho của bệnh nhân được phân loại bằng ba bộ dữ liệu riêng biệt.
Hơn nữa, các nhà phát triển cũng đã đề xuất một mô hình có khả năng chạy tính toán deep learning trên các thiết bị biên, mô hình TinyML có tên TinyDL. Mô hình TinyDL có thể được triển khai trên các thiết bị biên như đồng hồ thông minh và thiết bị đeo để chẩn đoán sức khỏe, đồng thời có khả năng thực hiện phân tích hiệu suất để giảm băng thông, độ trễ và mức tiêu thụ năng lượng. Để đạt được việc triển khai TinyDL trên các thiết bị cầm tay, một mô hình LSTM đã được thiết kế và đào tạo dành riêng cho thiết bị đeo được và nó được cung cấp dữ liệu thu thập được làm đầu vào. Mô hình này có điểm chính xác khoảng 75 đến 80% và nó cũng có thể hoạt động với dữ liệu bên ngoài thiết bị. Những mô hình chạy trên các thiết bị biên này cho thấy tiềm năng giải quyết những thách thức hiện tại mà các thiết bị IoT phải đối mặt.
Cuối cùng, các nhà phát triển cũng đã đề xuất một ứng dụng khác để theo dõi sức khỏe của người cao tuổi bằng cách ước tính và phân tích tư thế cơ thể của họ. Mô hình sử dụng khung bất khả tri trên thiết bị cho phép mô hình kích hoạt xác thực và thúc đẩy nhanh chóng để thực hiện các điều chỉnh. Mô hình này đã triển khai các thuật toán phát hiện tư thế cơ thể kết hợp với các điểm mốc trên khuôn mặt để phát hiện các tư thế cơ thể theo không gian và thời gian trong thời gian thực.
Máy tính cạnh
Một trong những ứng dụng chính của TinyML là trong lĩnh vực điện toán biên vì với sự gia tăng việc sử dụng thiết bị IoT để kết nối các thiết bị trên toàn thế giới, việc thiết lập các thiết bị biên là điều cần thiết vì nó sẽ giúp giảm tải cho các kiến trúc đám mây . Các thiết bị biên này sẽ có các trung tâm dữ liệu riêng lẻ cho phép chúng thực hiện tính toán cấp cao trên chính thiết bị đó thay vì dựa vào kiến trúc đám mây. Do đó, nó sẽ giúp giảm sự phụ thuộc vào đám mây, giảm độ trễ, tăng cường bảo mật và quyền riêng tư của người dùng, đồng thời giảm băng thông.
Các thiết bị biên sử dụng thuật toán TinyML sẽ giúp giải quyết các hạn chế hiện tại liên quan đến yêu cầu về nguồn điện, điện toán và bộ nhớ, vấn đề này sẽ được thảo luận trong hình ảnh bên dưới.
Hơn nữa, TinyML cũng có thể tăng cường việc sử dụng và ứng dụng Máy bay không người lái hoặc UAV bằng cách giải quyết những hạn chế hiện tại mà các máy này gặp phải. Việc sử dụng TinyML có thể cho phép các nhà phát triển triển khai một thiết bị tiết kiệm năng lượng với độ trễ thấp và khả năng tính toán cao có thể hoạt động như bộ điều khiển cho các UAV này.
Giao diện não-máy tính hoặc BCI
TinyML có những ứng dụng quan trọng trong ngành chăm sóc sức khỏe và nó có thể mang lại lợi ích cao trong các lĩnh vực khác nhau bao gồm phát hiện ung thư và khối u, dự đoán sức khỏe bằng tín hiệu ECG & EEG và trí tuệ cảm xúc. Việc sử dụng TinyML có thể cho phép Kích thích não sâu thích ứng hoặc aDBS thích ứng thành công với các thích ứng lâm sàng. Việc sử dụng TinyMl cũng có thể cho phép aDBS xác định các dấu hiệu sinh học liên quan đến bệnh tật và các triệu chứng của chúng bằng cách sử dụng các bản ghi xâm lấn của tín hiệu não.
Hơn nữa, ngành chăm sóc sức khỏe thường bao gồm việc thu thập một lượng lớn dữ liệu của bệnh nhân và dữ liệu này sau đó cần được xử lý để đưa ra các giải pháp cụ thể nhằm điều trị bệnh nhân trong giai đoạn đầu của bệnh. Do đó, điều quan trọng là phải xây dựng một hệ thống không chỉ có hiệu quả cao mà còn có tính bảo mật cao. Khi chúng tôi kết hợp ứng dụng IoT với mô hình TinyML, một lĩnh vực mới sẽ ra đời có tên là H-IoT hoặc Internet of Things chăm sóc sức khỏe và các ứng dụng chính của H-IoT là chẩn đoán, giám sát, hậu cần, kiểm soát lây lan và hệ thống hỗ trợ. Nếu chúng ta muốn phát triển các thiết bị có khả năng phát hiện và phân tích sức khỏe bệnh nhân từ xa, thì điều cần thiết là phải phát triển một hệ thống có khả năng tiếp cận toàn cầu và độ trễ thấp.
Xe tự hành
Cuối cùng, TinyML có thể có các ứng dụng rộng rãi trong ngành xe tự hành vì những phương tiện này có thể được sử dụng theo nhiều cách khác nhau, bao gồm theo dõi con người, mục đích quân sự và có các ứng dụng công nghiệp. Những phương tiện này có yêu cầu cơ bản là có thể xác định đối tượng một cách hiệu quả khi đối tượng đang được tìm kiếm.
Tính đến thời điểm hiện tại, xe tự hành & lái xe tự động là một nhiệm vụ khá phức tạp, đặc biệt là khi phát triển các loại xe cỡ nhỏ hoặc cỡ nhỏ. Những phát triển gần đây đã cho thấy tiềm năng cải thiện ứng dụng lái xe tự động cho xe mini bằng cách sử dụng kiến trúc CNN và triển khai mô hình trên GAP8 MCI.
Những thách thức
TinyML là một khái niệm tương đối mới hơn trong ngành AI & ML và mặc dù đã có nhiều tiến bộ nhưng nó vẫn không hiệu quả như chúng ta cần để triển khai hàng loạt cho các thiết bị biên & IoT.
Thách thức lớn nhất mà các thiết bị TinyML hiện phải đối mặt là mức tiêu thụ điện năng của các thiết bị này. Lý tưởng nhất là các thiết bị nhúng và IoT dự kiến sẽ có thời lượng pin kéo dài hơn 10 năm. Ví dụ: trong điều kiện lý tưởng, một thiết bị IoT chạy bằng pin 2Ah được cho là có tuổi thọ pin trên 10 năm với mức tiêu thụ điện năng của thiết bị là khoảng 12. uMột. Tuy nhiên, ở trạng thái nhất định, kiến trúc IoT có cảm biến nhiệt độ, bộ MCU và mô-đun WiFi, mức tiêu thụ hiện tại ở mức khoảng 176.4 mA và với mức tiêu thụ năng lượng này, pin sẽ chỉ tồn tại trong khoảng 11 giờ. trong số 10 năm tuổi thọ pin cần thiết.
Ràng buộc tài nguyên
Để duy trì tính nhất quán của thuật toán, điều quan trọng là phải duy trì nguồn điện sẵn có và trong tình huống hiện tại, nguồn điện có hạn đối với các thiết bị TinyML là một thách thức nghiêm trọng. Hơn nữa, hạn chế về bộ nhớ cũng là một thách thức đáng kể vì việc triển khai các mô hình thường đòi hỏi lượng bộ nhớ lớn để hoạt động hiệu quả và chính xác.
Ràng buộc phần cứng
Những hạn chế về phần cứng khiến việc triển khai các thuật toán TinyML trên quy mô rộng trở nên khó khăn do tính không đồng nhất của các thiết bị phần cứng. Có hàng nghìn thiết bị, mỗi thiết bị có yêu cầu và thông số kỹ thuật phần cứng riêng và do đó, thuật toán TinyML hiện cần được điều chỉnh cho từng thiết bị riêng lẻ, điều này khiến việc triển khai hàng loạt trở thành một vấn đề lớn.
Ràng buộc tập dữ liệu
Một trong những vấn đề chính với các mô hình TinyML là chúng không hỗ trợ các tập dữ liệu hiện có. Đây là một thách thức đối với tất cả các thiết bị biên khi chúng thu thập dữ liệu bằng cảm biến bên ngoài và những thiết bị này thường có những hạn chế về nguồn điện và năng lượng. Do đó, các bộ dữ liệu hiện có không thể được sử dụng để huấn luyện các mô hình TinyML một cách hiệu quả.
Kết luận:
Sự phát triển của các kỹ thuật ML đã gây ra một cuộc cách mạng & sự thay đổi quan điểm trong hệ sinh thái IoT. Việc tích hợp các mô hình ML trong các thiết bị IoT sẽ cho phép các thiết bị biên này tự đưa ra quyết định thông minh mà không cần bất kỳ sự can thiệp nào từ bên ngoài của con người. Tuy nhiên, thông thường, các mô hình ML thường có yêu cầu về năng lượng, bộ nhớ và tính toán cao khiến chúng thống nhất để triển khai trên các thiết bị biên thường bị hạn chế về tài nguyên.
Do đó, một nhánh mới trong AI được dành riêng cho việc sử dụng ML cho các thiết bị IoT và nó được gọi là TinyML. TinyML là một khung ML cho phép ngay cả những thiết bị bị hạn chế về tài nguyên khai thác sức mạnh của AI & ML để đảm bảo độ chính xác, trí thông minh và hiệu quả cao hơn.
Trong bài viết này, chúng ta đã nói về việc triển khai các mô hình TinyML trên các thiết bị IoT có giới hạn tài nguyên và việc triển khai này yêu cầu đào tạo các mô hình, triển khai các mô hình trên phần cứng và thực hiện các kỹ thuật lượng tử hóa. Tuy nhiên, với phạm vi hiện tại, các mô hình ML sẵn sàng được triển khai trên IoT và các thiết bị biên có một số điểm phức tạp và hạn chế, bao gồm các vấn đề về tương thích phần cứng và khung.
