ソートリーダー

tinyMLのエッジでのコンピュータビジョンの実現における役割 – 思想リーダー

mm
Unite.AI を Google の優先ソースに追加

著者:デイビス・ソーヤー、Deeplite共同創設者兼チーフプロダクトオフィサーDeeplite

コンピュータビジョンには、日常生活を改善するための大きな潜在性があり、多くの応用と用途があります。例えば、

  • スマートドアベルは、家のセキュリティを助け、ポーチパイレーツや家屋侵入を防ぐのに役立ちます。I.H.S. Markitによる調査(SecurityInfoWatchに掲載)によると、世界中の監視カメラの数は2021年に10億台に達することが予想されています。アメリカだけで、カメラの数は8500万台に達することが予想されています。
  • 駐車場では、AIを搭載したカメラが空き駐車スペースと占有駐車スペースを自動で追跡し、利用者に空きスペースを知らせます。
  • ダッシュボードカメラがトラックに装着され、速度制限標識を読み取り、トラックの速度を動的に減速させ、安全性を向上させています。
  • そして、接続カメラ付きドローンが遠隔地や到達困難な地域を監視し、画像を処理し、リアルタイムで決定を下しています。

これらのすべてのアプリケーションは、AIとマシンラーニング(ML)によって駆動されるインテリジェントなビデオ分析を使用して、ビデオを監視し、知恵を用いて決定を下し、行動をします。

コンピュータビジョンはエッジでより多くのリソースが必要

しかし、多くのAI駆動アプリケーションと同様に、コンピュータビジョンは複雑な分析と決定を下すために、計算能力、メモリ、エネルギーの一時的な増加が必要です。これは、データセンターで多くのコンピュータパワーがある場合には問題ありませんが、AIをエッジに移行することを妨げる可能性があります。具体的には、企業のデータセンターから遠く離れた場所に配置され、小さなバッテリーで動作する小さなデバイスには、新しいタイプのAIが必要です。このAIは、従来のアプローチよりも小さく、高速で、「軽量」でなければなりません。また、既存のデバイスには、新しいAI + ML(コンピュータビジョン)機能が追加される必要があります。

新しい進歩がディープニューラルネットワークを促進

今日、新しいAIの進歩により、ディープニューラルネットワーク(DNN)がより高速で、小さく、エネルギー効率が良くなり、クラウドとデータセンターからエッジデバイスやバッテリー駆動のセンサーへのAIの移行を促進しています。AIモデルトレーニングに関しては、驚くべき炭素足跡が文書化され、議論されてきました(例:1つのAI言語モデルのトレーニングは、5台の車のライフタイムに相当するCO2を排出)。しかし、AIモデルの推論の環境への影響を理解し、どのようにしてその足跡を減らすかを理解する必要があります。これは、モデルの最適化がDNNの経済的および環境コストを大幅に削減することで大きな利点をもたらす可能性がある領域です。

TinyMLが小さなデバイスでのAIを可能にする

そのような進歩の1つは、tinyMLです。これは、小さなバッテリー駆動のデバイスが高度なMLを使用してコンピュータビジョンや他の認識タスクを実行できるようにするための強力な新しいトレンドです。tinyMLは、クラウドのエッジでリソースが制約された小さなデバイスでMLの推論を実行することを容易にし、エッジアプリケーションをユーザーに近づけるのに役立ちます。

例えば、NVIDIA A100のようなサーバーGPUには40GB以上の利用可能なメモリがあり、コンピュータビジョンや自然言語処理のような複雑なAIを実行するのに適しています。ただし、エッジデバイスやtinyMLの場合、一般的なマイクロコントローラ(MCU)には256KBのオンチップメモリしかありません。これは、クラウドの100,000倍以上少ないメモリです。また、データセンターやクラウドとは異なり、エッジデバイスのハードウェアはフィールドで簡単に更新できないため、利用可能なハードウェアにAIを「適合」させる必要があります。これは、開発者が何ヶ月も何年も試行錯誤しながら達成する必要があります。tinyML、特に自動化された機械学習(AutoML)が、実世界でAIを採用するための障壁を打ち破る上で重要な役割を果たす可能性があります。

tinyMLの影響は拡大しています。10,000人以上のメンバーを擁するtinyML Foundationは、エッジでの超低消費電力のマシンラーニングソリューションの開発と展開を支援するためのエコシステムを拡大しています。Foundationは、ハードウェア、ソフトウェア、機械学習、データサイエンス、システムエンジニア、デザイナー、製品、ビジネスマンなどのグローバルコミュニティを結集しています。

機会の世界

全体として、エッジでAIとMLをより多くのコンピュータビジョンに基づいたリアルワールドアプリケーションに導入する上で、tinyMLが重要な役割を果たす可能性があります。これにより、さまざまな製品、サービス、業界の個人や企業が新しいAIのフロンティアに突破するのを助け、幅広い利益をもたらすことができます。

デービス・ソーヤーは、カナダのテクノロジー起業家で、スタートアップとAI業界の経験を持つ。 Deepliteでは、製品の方向性と商業化戦略を推進している。Deeplite以前は、免疫腫瘍学、製造、石油・ガス生産のアップストリームにおいて、医薬品の安全性のための統計モデルを開発していた。