新しいシステムがウェアラブルデバイスや家電製品にAIをもたらす

MITの研究者チームは、マイクロコントローラーにディープラーニングニューラルネットワークを搭載することに取り組んでいます。この進歩により、人工知能（AI）が、ウェアラブル医療デバイス、家電製品、そして「インターネット・オブ・シングズ」（IoT）を構成する250億個のオブジェクトの中にある小型コンピューターチップに実装される可能性があります。IoTは、センサー、ソフトウェア、他の技術が組み込まれた物理オブジェクトのネットワークであり、他のデバイスやシステムとデータを交換して接続するのに役立ちます。

この研究は、12月のNeural Information Processing Systems会議で発表される予定です。研究の第一著者は、MIT電気工学・コンピューターサイエンス学部のSong Hanの研究室で博士課程を修了しているJi Linです。共著者には、MITのHanとYujun Lin、ウェイミング・チェン（MITおよび国立台湾大学）、ジョン・コーンとチュアン・ガン（MIT-IBMワトソン研究所）が含まれます。

MCUNetシステム

このシステムはMCUNetと呼ばれ、IoTデバイスで極めて高速かつ高精度なコンパクトなニューラルネットワークを設計します。さらに、このシステムはよりエネルギー効率が高く、データのセキュリティも向上します。

チームは、「tiny deep learning」と呼ばれるシステムを開発しました。これは、2つのコンポーネント、つまりニューラルネットワークの動作とマイクロコントローラーを組み合わせたものです。最初のコンポーネントは、TinyEngineと呼ばれるインターフェイスエンジンで、リソース管理を指示するオペレーティングシステムの役割を果たします。TinyEngineは、TinyNASによって選択された特定のニューラルネットワーク構造を実行するように最適化されています。TinyNASは、ニューラルアーキテクチャ検索アルゴリズムです。

Linは、既存のニューラルアーキテクチャ検索手法を小型マイクロコントローラーに適用するのが難しいことを理由に、TinyNASを開発しました。これらの既存の手法は、事前に定義されたテンプレートに基づいて多数の可能なネットワーク構造から始めて、最も正確でコスト効率の高いネットワーク構造を見つけます。

「これは、GPUやスマートフォンではうまく機能します」とLinは述べています。「しかし、これらの手法を直接、小型マイクロコントローラーに適用するのは難しいです。なぜなら、それらはあまりにも小さくて、リソースが限られているからです。」

TinyNASは、カスタムサイズのネットワークを作成できます。

「さまざまな電力容量とメモリサイズのマイクロコントローラーが存在します」とLinは述べています。「したがって、さまざまなマイクロコントローラーに対して検索空間を最適化するためのアルゴリズム[TinyNAS]を開発しました。」

TinyNASがカスタマイズ可能であるため、マイクロコントローラー用の最もコンパクトなニューラルネットワークを生成できます。

「次に、最終的な効率的なモデルをマイクロコントローラーに提供します」とLinは続けています。

マイクロコントローラーがtinyニューラルネットワークを実行するには、クリーンでスリムなインターフェイスエンジンが必要です。多くのインターフェイスエンジンには、まれに実行されるタスクのための命令がありますが、これらはマイクロコントローラーのパフォーマンスを低下させる可能性があります。

「オフチップメモリもディスクもありません」とHanは述べています。「すべてをまとめると、たった1メガバイトのフラッシュしかないので、非常に小さなリソースを慎重に管理する必要があります。」

TinyEngineは、TinyNASによって開発されたカスタマイズされたニューラルネットワークを実行するために必要なコードを生成します。コンパイル時間は、不要なコードを削除することで短縮されます。

「必要なものだけを保持します」とHanは述べています。「そして、私たちがニューラルネットワークを設計したので、必要なものが何であるかを正確に知っています。これが、システムとアルゴリズムの共同設計の利点です。」

テストでは、TinyEngineのコンパイル済みバイナリコードは、GoogleやARMなどの他のマイクロコントローラーエンジンと比較して1.9倍から5倍小さくなり、ピークメモリ使用量もほぼ半分に削減されました。

MCUNetの能力

MCUNetの最初のテストは、画像分類を中心に行われました。ImageNetデータベースを使用してシステムを訓練し、未知の画像でその能力をテストしました。

商用マイクロコントローラーでテストしたMCUNetは、70.7パーセントの未知の画像を正しく分類しました。これは、以前のベストなニューラルネットワークと干渉エンジンのペアよりもはるかに優れており、54パーセントの精度でした。

「1パーセントの改善でも重大なものとみなされます」とLinは述べています。「したがって、これはマイクロコントローラー設定における大きな飛躍です。」

カリフォルニア大学バークレー校のコンピューター科学者であるKurt Keutzerによると、これは「ディープニューラルネットワーク設計の最前線を、小型エネルギー効率の良いマイクロコントローラーの計算ドメインにさらに拡大します」。MCUNetは、「最もシンプルなキッチン家電にも、インテリジェントなコンピュータービジョン機能をもたらす可能性があります。さらに、よりインテリジェントなモーションセンサーを可能にします。」

MCUNetはまた、データのセキュリティを向上させます。

「主な利点は、プライバシーを保護することです」とHanは述べています。「クラウドにデータを送信する必要はありません。」

ローカルでデータを分析することで、個人情報が漏洩する可能性は低くなります。

さらに、MCUNetは、心拍数、血圧、酸素レベル読み取りなどの情報を分析して洞察を提供し、インターネットアクセスが制限されている車両や他の場所にあるIoTデバイスにディープラーニングをもたらし、また大きなニューラルネットワークに必要なエネルギーの小さな部分だけを使用することで、カーボンフットプリントを削減できます。