微芯片的进步使我们更接近边缘人工智能计算

普林斯顿大学的研究人员开发了联合设计的硬件和软件，以进一步提高专用人工智能（AI）系统的速度和效率。

纳文·维尔马（Naveen Verma）是普林斯顿大学电气和计算机工程教授，他领导了这项研究团队。

“软件是使新硬件成为可能的关键部分，”维尔马说。“希望设计师可以继续使用相同的软件系统，并且它可以工作得更快、更高效。”

研究人员开发的系统减少了对电力的需求和需要与远程服务器交换的数据量。有了这一点，AI应用程序（如无人机的飞行软件）可以在计算基础设施的边缘运行。

维尔马也是普林斯顿大学凯勒创新工程教育中心的主任。

“为了使人工智能能够应用于我们周围的实时和个人过程，我们需要通过将计算本身移至边缘来解决延迟和隐私问题，”维尔马说。“这需要同时具备能效和性能。”

新芯片设计

普林斯顿大学的团队两年前开发了一种新型芯片设计，旨在提高神经网络的性能。该芯片可以比市场上的其他微芯片性能提高几十到几百倍。

“芯片的主要缺点是它使用了一种非常不寻常和破坏性的架构，”维尔马在2018年说。“这需要与我们今天拥有和使用的大量基础设施和设计方法相协调。”

芯片在接下来的两年中不断被改进，一种软件系统被创建以允许AI系统高效地利用新技术。想法是新的芯片可以使系统在硬件和软件执行方面具有可扩展性。

“它可以在所有这些网络中编程，”维尔马说。“网络可以非常大，也可以非常小。”

最好的计算场景是计算发生在技术本身，而不是在远程网络计算机中。然而，这需要大量的电力和内存存储，这使得设计这样的系统变得困难。

为了克服这些限制，研究人员设计了一种芯片，可以在同一区域进行计算和存储数据，这被称为内存计算。这种技术可以减少与专用内存交换信息所需的能量和时间。

为了避免模拟操作（需要用于内存计算且对损坏敏感），团队在芯片设计中使用了电容器而不是晶体管。电容器不受电压变化的影响，更为精确。

尽管模拟系统存在各种挑战，但它们在用于神经网络等应用时具有许多优势。研究人员现在正在尝试将这两种类型的系统结合起来，因为数字系统是中心，而依赖于模拟芯片的神经网络可以运行快速和高效的专用操作。