研究者がメモリスタを使用してよりエネルギー効率の高いニューラルネットワークを作成

人工知能の魅力のない側面の1つは、多くの場合、多くの処理能力が必要であり、したがって大きなエネルギー消費を伴うことです。UCLの研究者による最近の研究では、AIのエネルギー効率を向上させる方法が見つかりました。

ニューラルネットワークと機械学習は強力なツールですが、最も印象的な人工知能の業績は通常、大きなエネルギー消費を伴います。例えば、OpenAIがロボットの手でルービックキューブを操作することを学習させたとき、その業績には約2.8ギガワット時の電力が必要でした。

TechExploreによると、UCLの研究者は、新しい方法で人工ニューラルネットワークを生成しました。この新しい方法では、メモリスタを使用してネットワークを生成し、従来のアプローチで生成されたネットワークよりも約1000倍のエネルギー効率が高いです。メモリスタは、最後に流れた電気の量を思い出すことができるデバイスであり、電源を切断した後もそのメモリ状態を保持します。つまり、デバイスが電源を失った場合でも、その状態を思い出すことができます。メモリスタは約50年前に最初に提案されましたが、2008年までに実際のメモリスタが作成されませんでした。

メモリスタは、時々「ニューロモルフィック」コンピューティングデバイスまたは「脳にインスパイアされた」デバイスと呼ばれます。メモリスタは、脳が情報を処理して記憶を作成するために使用するビルディングブロックに似ています。メモリスタは、ほとんどの現代のコンピューターシステムよりも非常に効率的です。これらのメモリスタデバイスは、コンデンサと抵抗器の両方の特性を持ち、過去10年間でさまざまなメモリーデバイスで製造および使用されてきました。UCLの研究チームは、研究がAIシステムの作成に役立つことを期待しています。

メモリスタは、従来のニューラルネットワークよりもエネルギー効率が高いですが、通常、正確性が低いです。しかし、UCLの研究者は、メモリスタの正確性を向上させる方法を見つけました。研究者は、多くのメモリスタを使用することで、それらを複数のサブグループに分割し、計算を平均化することができることを発見しました。計算の平均化により、サブグループの欠陥が相殺され、より関連するパターンが見つかります。

アドナン・メホニック博士とドヴィダス・ヨクサス博士（両者ともUCL電子電気工学）および共同研究者は、この平均化アプローチをさまざまなメモリスタタイプでテストし、テクニックがすべてのテストされたメモリスタで精度を向上させたことを発見しました。精度の向上は、テストされたすべてのグループに適用され、メモリスタが作成された材料の種類に関係なく適用されました。

TechExploreによる引用によると、アドナン・メホニック博士は次のように述べています。

「私たちは、デバイスレベルのものではなく、システムレベルの動作を改善するより汎用的なアプローチがあるかもしれないと考え、そして私たちはそれを見つけたと思います。私たちのアプローチは、メモリスタの場合、複数の頭が1つの頭よりも優れていることを示しています。ニューラルネットワークを1つの大きなネットワークではなく、複数の小さなネットワークに分割することで、全体的な精度が向上しました。」

研究チームは、コンピューターサイエンスのテクニックをメモリスタに適用し、計算の平均化などの一般的なエラーアボイドテクニックを使用してメモリスタニューラルネットワークの精度を向上させることに興奮していました。共同研究者のトニー・ケニヨン教授（UCL電子電気工学）は、メモリスタが「エネルギーに優しいエッジコンピューティングデバイスとIoTデバイスの作成において主導的な役割を果たす可能性がある」と考えています。

メモリスタは、従来のニューラルネットワークモデルよりもエネルギー効率が高いだけでなく、携帯可能なデバイスに簡単に含めることができます。これは、近い将来、より多くのデータが作成され、送信されるため、特に重要になります。メモリスタは、エネルギー消費を大幅に削減しながら、大量のデータを転送することを可能にすることができます。