人工智能
新系统可以将人工智能引入可穿戴设备、家用电器
麻省理工学院的一个研究团队正在致力于将深度学习神经网络引入微控制器。 这一进步意味着人工智能 (AI) 可以应用到可穿戴医疗设备、家用电器以及构成“物联网”(IoT) 的其他 250 亿个物体中的微型计算机芯片中。 物联网是嵌入传感器、软件和其他技术的物理对象网络，有助于与其他设备和系统连接和交换数据。
研究 定于 XNUMX 月在神经信息处理系统会议上发表。 该研究的主要作者是吉林，博士。 麻省理工学院电气工程与计算机科学系宋瀚实验室的学生。 共同作者包括麻省理工学院的 Han 和 Yujun Lin、麻省理工学院和台湾国立大学的陈伟明，以及麻省理工学院-IBM 沃森实验室的 John Cohn 和 Chuan Gan。
单片机网络系统
该系统称为 MCUNet，它设计了紧凑的神经网络，即使内存和处理能力有限，也能够在物联网设备上实现极高的速度和准确性。 该系统可以更加节能并增强数据安全性。
该团队通过结合两个组件——神经网络和微控制器的操作——开发了“微型深度学习”系统。 第一个组件是 TinyEngine，它是一个接口引擎，通过指导资源管理充当操作系统。 TinyEngine 经过优化，可运行 TinyNAS（另一个组件）选择的特定神经网络结构。 TinyNAS 是一种神经架构搜索算法。
Lin 开发了 TinyNAS，因为将现有的神经架构搜索技术应用到微型微控制器上存在困难。 这些现有技术基于预定义的模板从许多可能的网络结构开始，最终找到最准确和最具成本效益的网络结构。
“它非常适合 GPU 或智能手机，”Lin 说。 “但是很难将这些技术直接应用于微型微控制器，因为它们太小了。”
TinyNAS 可以创建自定义大小的网络。
“我们有很多微控制器，它们具有不同的功率容量和不同的内存大小，”林说。 “因此我们开发了算法 [TinyNAS] 来优化不同微控制器的搜索空间。”
由于 TinyNAS 可以定制，因此它可以为微控制器生成尽可能最佳的紧凑型神经网络。
“然后我们向微控制器提供最终的高效模型，”Lin 继续说道。
微控制器需要一个干净、纤薄的接口引擎来运行微型神经网络。 许多接口引擎都有很少运行的任务的指令，这可能会阻碍微控制器。
“它没有片外存储器，也没有磁盘，”Han 说。 “所有东西放在一起都只有一兆字节的闪存，所以我们必须非常小心地管理这么小的资源。”
TinyEngine 生成运行 TinyNAS 开发的定制神经网络所需的代码。 通过丢弃无用代码来减少编译时间。
“我们只保留我们需要的东西，”韩说。 “自从我们设计了神经网络以来，我们就确切地知道我们需要什么。 这就是系统算法协同设计的优势。”
测试表明，TinyEngine 编译的二进制代码比类似的微控制器引擎（包括来自 Google 和 ARM 的引擎）小 1.9 到 XNUMX 倍。 峰值内存使用量也减少了近一半。
MCUNet的能力
MCUNet 的第一个测试围绕图像分类展开。 ImageNet 数据库用于使用标记图像来训练系统，然后在新图像上测试其能力。
当 MCUNet 在商用微控制器上进行测试时，它成功地对 70.7% 的新颖图像进行了分类。 这远远优于之前最好的神经网络和干扰引擎配对，准确率达到 54%。
“即使是 1% 的改进也被认为是显着的，”林说。 “所以这对于微控制器设置来说是一个巨大的飞跃。”
加州大学伯克利分校计算机科学家 Kurt Keutzer 表示，这“将深度神经网络设计的前沿进一步扩展到小型节能微控制器的计算领域。” MCUNet 可以“为最简单的厨房电器带来智能计算机视觉功能，或者启用更智能的运动传感器。”
MCUNet还增强了数据安全性。
“一个关键优势是保护隐私，”韩说。 “你不需要将数据传输到云端。”
通过在本地分析数据，个人信息被泄露的可能性较小。
除此之外，MCUNet 还可以分析并深入了解心跳、血压和血氧水平读数等信息，为车辆和其他互联网访问受限的地方的物联网设备带来深度学习，并仅使用一小部分数据来减少碳足迹。大型神经网络所需的能量。
