新しい人工ニューロン デバイスは、ニューラル コンピューティングのエネルギー要件を大幅に削減する可能性がある

サンディエゴ大学の研究者は、現在のCMOSベースのハードウェアよりも100〜1000倍少ないエネルギーと面積でニューラル計算を実行できる新しい人工ニューロンデバイスを開発しました。

最近の報告は、論文に掲載され、2021年3月18日にネイチャー ナノテクノロジーに公開されました。

ニューラルネットワークの接続層の1つに入力するために、非線形活性化関数と呼ばれる数学的計算を適用する必要があります。しかし、この適用には、メモリと外部プロセッサ間でデータを転送する必要性により、多くのコンピュータの電力と回路が必要です。

UCサンディエゴの研究者は、この活性化関数を実行するための新しいナノメートルサイズのデバイスを開発しました。

デュグ・クズムは、UCサンディエゴのジェイコブス工学部の電気・コンピュータ工学の教授です。

「ハードウェアでのニューラルネットワーク計算は、ニューラルネットワークモデルが大きく複雑になるにつれて、ますます非効率的になる」とクズムは述べました。「私たちは、非常に面積効率とエネルギー効率の高い方法でハードウェアでこれらの計算を実行する単一のナノスケール人工ニューロンデバイスを開発しました。」

この研究は、クズムと博士課程の学生であるシャン・ヒョン・オによって共同で行われ、UCサンディエゴの物理学教授であるイヴァン・シュラーと共同しました。シュラーは、エネルギー効率の高い人工ニューラルネットワークのハードウェア実装を開発するDOEエネルギー先端研究センターを率いています。

新しいデバイス

新しく開発されたデバイスは、ニューラルネットワークトレーニングで使用される最も一般的な活性化関数の1つである整流線形ユニットに依存しています。これには、抵抗の逐次的な変化が可能なハードウェアが必要であり、これがエンジニアが目指したものです。デバイスは、わずかな熱量で絶縁状態から導電状態に遷移できます。

バナジウム酸化物の非常に薄い層で発生するモット遷移と呼ばれるこの遷移は、上部にチタンと金のナノワイヤヒーターが配置されています。ナノワイヤーに電流が流れると、バナジウム酸化物層がゆっくり加熱され、ゆっくり制御された抵抗変化が発生します。

オは、この研究の第一著者です。

「このデバイスアーキテクチャは非常に面白いと考えられます」とオは述べました。「この場合、材料の上に配置されたナノワイヤーに電流を流して加熱し、非常にゆっくりした抵抗変化を誘発します。」

デバイスの実装

実装のために、チームは活性化デバイスの配列とシナプス デバイスの配列を製造し、2つをカスタム印刷回路基板に統合しました。次に、接続してハードウェア版のニューラルネットワークを作成しました。

ネットワークは、画像を処理してエッジ検出を行い、画像内のオブジェクトの輪郭とエッジを特定しました。統合ハードウェア システムは、さまざまな深層ニューラル ネットワークで重要な畳み込み演算を実行する能力を実証しました。

「現在、これは概念実証です」とクズムは述べました。「これは、1つのシナプス層と1つの活性化層のみを積み重ねた小さなシステムです。これらをさらに積み重ねることで、さまざまなアプリケーション用のより複雑なシステムを作成できます。」