新しい人工ニューロンデバイスはニューラル計算に必要なエネルギーを大幅に削減できる可能性がある

サンディエゴ大学の研究者らは、現在の CMOS ベースのハードウェアに比べて 100 ～ 1000 倍少ないエネルギーと面積でニューラル計算を実行できる新しい人工ニューロン デバイスを開発しました。

最近のレポートは、 紙 18月XNUMX日に 自然のナノテクノロジー。

ニューラル ネットワーク内の人工ニューロンの接続層の XNUMX つに対する入力を生成するには、非線形活性化関数と呼ばれる数学的計算を適用する必要があります。 ただし、このアプリケーションはメモリと外部プロセッサ間でデータを転送する必要があるため、多くのコンピュータ能力と回路を必要とします。

カリフォルニア大学サンディエゴ校の研究者らは、この活性化機能をより効率的に実行できる新しいナノメートルサイズのデバイスを開発した。

Duygu Kuzum は、カリフォルニア大学サンディエゴ・ジェイコブス工学部の電気工学およびコンピューター工学の教授です。 

「ニューラル ネットワーク モデルが大きく複雑になるにつれて、ハードウェアでのニューラル ネットワークの計算はますます非効率になります」とクズム氏は言います。 「私たちは、これらの計算を非常に面積効率とエネルギー効率の高い方法でハードウェアに実装する、単一のナノスケール人工ニューロン デバイスを開発しました。」

この研究はクズム氏と博士課程の学生シャンホン・オー氏の両氏が主導し、DOEエネルギーフロンティア研究センターを率いるカリフォルニア大学サンディエゴ校の物理学教授イヴァン・シュラー氏と共同研究した。このセンターは、エネルギー効率の高い人工ニューラル ネットワークのハードウェア実装の開発に取り組んでいます。 

新しいデバイス

新しく開発されたデバイスは、ニューラル ネットワークのトレーニングで使用される最も一般的な活性化関数の XNUMX つである修正線形ユニットに依存しています。 抵抗が徐々に変化するハードウェアが必要ですが、それがエンジニアの目標でした。 このデバイスは、少量の熱で絶縁状態から伝導状態に徐々に切り替わります。

モット転移と呼ばれるこのスイッチは、二酸化バナジウムの極めて薄い層で発生し、この層の上にはチタンと金でできたナノワイヤ ヒーターがあります。 電流がナノワイヤを流れると、二酸化バナジウム層がゆっくりと加熱され、これにより絶縁体から導電体へのゆっくりとした制御された切り替えが引き起こされます。

オーはこの研究の最初の著者です。

「このデバイス アーキテクチャは非常に興味深く、革新的です」と Oh 氏は言います。 「この場合、材料上のナノワイヤに電流を流して材料を加熱し、非常に緩やかな抵抗変化を引き起こします。」

デバイスの実装

実装のために、チームは活性化デバイスのアレイとシナプスデバイスのアレイを製造し、その後カスタムのプリント基板上に XNUMX つを統合しました。 その後、それらが相互に接続され、ニューラル ネットワークのハードウェア バージョンが完成しました。

このネットワークは、エッジ検出を通じて画像を処理し、画像内のオブジェクトの輪郭とエッジを識別するために使用されました。 統合ハードウェア システムは、さまざまなタイプのディープ ニューラル ネットワークにとって重要な畳み込み演算を実行する能力を実証しました。 

「現時点では、これは概念実証です」とクズム氏は語った。 「これは、XNUMX つのシナプス層と XNUMX つの活性化層だけを積み重ねた小さなシステムです。 これらをさらに積み重ねることで、さまざまなアプリケーション向けに、より複雑なシステムを作成できます。」