新型人工神经元设备可能大大降低神经计算的能量需求

圣地亚哥大学的研究人员开发了一种新型人工神经元设备，可以以当前CMOS基于硬件的100到1000倍以下的能量和面积运行神经计算。

最近的报告于3月18日在论文中发表，在Nature Nanotechnology.

为了生成连接层人工神经元中的一个输入，需要应用一个称为非线性激活函数的数学计算。然而，这个应用需要大量的计算能力和电路，因为需要在内存和外部处理器之间传输数据。

UC San Diego的研究人员开发了一种新的纳米级设备，可以更高效地执行此激活函数。

Duygu Kuzum是UC San Diego Jacobs School of Engineering的电气和计算机工程教授。

“神经网络计算在硬件上变得越来越低效，因为神经网络模型变得越来越大和复杂，”Kuzum说。“我们开发了一个单个纳米级人工神经元设备，以非常面积和能量高效的方式在硬件上实现这些计算。”

该研究由Kuzum和博士生Shangheon Oh领导，他们与UC San Diego物理教授Ivan Schuller合作，后者领导了一个DOE Energy Frontier Research Center。该中心参与开发能量高效人工神经网络的硬件实现。

新设备

新开发的设备依赖于一个整流线性单元，这是神经网络训练中使用的最常见的激活函数之一。它需要可以逐渐改变电阻的硬件，这就是工程师们的目标。该设备可以在小量热量的情况下从绝缘状态逐渐切换到导电状态。

这种称为Mott转变的切换发生在一层极薄的二氧化钒上面，有一根由钛和金制成的纳米线加热器。二氧化钒层在纳米线中流过电流时会逐渐加热，从而导致绝缘到导电的缓慢和受控的切换。

Oh是该研究的第一作者。

“这种设备架构非常有趣和创新，”Oh说。“在这种情况下，我们通过纳米线对材料进行加热并诱导非常渐进的电阻变化。”

实现设备

为了实现，团队制造了一个激活设备阵列和一个突触设备阵列，然后将两个阵列集成到一个自定义打印电路板上。它们然后被连接在一起，形成了一个硬件版本的神经网络。

该网络用于处理图像边缘检测，识别图像中的物体轮廓和边缘。集成的硬件系统展示了其执行各种深度神经网络中重要的卷积运算的能力。

“现在，这是一个概念证明，”Kuzum说。“这是一个小系统，我们只堆叠了一个突触层和一个激活层。通过堆叠更多这样的层，可以为不同的应用创建更复杂的系统。”