マイクロチップの進歩がAIエッジコンピューティングに近づかせた

プリンストン大学の研究者は、専用の人工知能（AI）システムの速度と効率をさらに高めるために、共同設計されたハードウェアとソフトウェアを開発しました。

ナヴィーン・ヴァーマは、プリンストン大学の電気・コンピューター工学の教授であり、研究チームを率いています。

「ソフトウェアは、新しいハードウェアを可能にするための重要な部分です」とヴァーマは述べました。「設計者が同じソフトウェアシステムを使用し続け、ただし10倍の速度と効率で動作することを希望します」

研究者が開発したシステムは、電力の要求とリモートサーバーから交換されるデータの量を削減します。これにより、ドローンの操縦ソフトウェアなどのAIアプリケーションは、コンピューティングインフラストラクチャーのエッジで実行できます。

ヴァーマは、大学のケラー・センター・フォー・イノベーション・イン・エンジニアリング・エデュケーションのディレクターでもあります。

「私たちが周囲のリアルタイムで個人的なプロセスにAIをアクセス可能にするには、遅延とプライバシーに対処するために、計算自体をエッジに移動する必要があります」とヴァーマは述べました。「そして、それにはエネルギー効率とパフォーマンスの両方が必要です」

新しいチップデザイン

プリンストン大学のチームは2年前に新しいチップデザインを開発し、それはニューラルネットワークのパフォーマンスを向上させることを目的としていました。このチップは、市場にある他のマイクロチップよりも10倍から100倍高速で動作することができました。

「このチップの最大の欠点は、非常に珍しいそして破壊的なアーキテクチャを使用していることです」とヴァーマは2018年に述べました。「それを今日使用している大量のインフラストラクチャや設計方法と調和させる必要があります」

このチップは、次の2年間で継続的に改良され、AIシステムが新しいテクノロジーを効率的に利用できるソフトウェアシステムが開発されました。アイデアは、新しいチップがハードウェアとソフトウェアの実行をスケーラブルにすることができるというものでした。

「これは、すべてのネットワークでプログラム可能です」とヴァーマは述べました。「ネットワークは非常に大きく、非常に小さくすることができます」

最適な計算シナリオは、リモートネットワークコンピューターではなく、テクノロジー自体で計算が行われることです。しかし、これには大量の電力とメモリストレージが必要になり、システムを設計することが困難になります。

これらの制限を克服するために、研究者は、計算とデータを同じ領域で実行するチップを設計しました。これは、インメモリコンピューティングと呼ばれます。この技術は、専用のメモリと情報を交換するために必要なエネルギーと時間を削減します。

インメモリコンピューティングにはアナログ操作が必要ですが、アナログ操作は電圧の変化に敏感です。したがって、チームはトランジスターではなく、チップ設計でコンデンサを使用しました。コンデンサは電圧の変化の影響を受けないため、より正確です。

アナログシステムを使用する場合のさまざまな課題にもかかわらず、アナログシステムにはニューラルネットワークなどのアプリケーションで多くの利点があります。研究者は現在、デジタルシステムとアナログシステムの両方を組み合わせようとしています。デジタルシステムは中心的な役割を果たしますが、アナログチップを使用するニューラルネットワークは、高速で効率的な特殊な操作を実行できます。