ソートリーダー
エッジでのコンピューター ビジョンの実現における tinyML の役割 – 思想的リーダー
著者: Davis Sawyer、共同創設者兼最高製品責任者 ディープライト
コンピューター ビジョンには、私たちの日常生活を改善する大きな可能性があり、その応用例や用途は数多くあります。いくつかの例を次に示します。
- スマートドアベル ホームセキュリティとして、「ポーチの海賊」や侵入を防ぎます。 IHS Markit の調査によると (SecurityInfoWatch で公開されました）世界中の監視カメラの数は、2021 年には 85 億台に達すると予想されています。米国だけでも、カメラの数は XNUMX 万台に達すると予想されています。
- In 駐車場, AI 対応のカメラは、空いている駐車スペースと占有されている駐車スペースの追跡を自動化し、空きスペースがどこにあるかを消費者に知らせます。
- ドライブレコーダー トラックでは現在、制限速度標識を読み取り、安全性を向上させるためにトラックの速度を動的に下げています。
- カメラが接続されたドローン 遠隔地やアクセスが困難なエリアを監視しており、画像を処理してリアルタイムで意思決定を行うことができます。
これらのアプリケーションはすべて、AI と機械学習 (ML) によって駆動されるインテリジェントなビデオ分析を使用して、ビデオを視聴し、インテリジェンスを使用して意思決定を行い、アクションを実行します。
コンピューター ビジョンにはエッジでより多くのリソースが必要です
ただし、多くの AI 駆動アプリケーションと同様、コンピューター ビジョンは、複雑な分析を行って意思決定を行うために、大量の計算能力、メモリ、エネルギーを必要とします。 これは、大量のコンピューター能力を備えたデータセンターでは問題ありませんが、AI のエッジへの移行を妨げる可能性があります。 具体的には、企業のデータセンターから遠く離れた場所にあり、小型バッテリーで動作する小型デバイスには、従来のアプローチよりも小型、高速、「軽量」な新種の AI が必要です。 また、既存のデバイスは、存続可能で競争力を維持するために、新しい AI + ML (コンピューター ビジョン) 機能でアップグレードする必要があります。
新たな進歩によりディープ ニューラル ネットワークが強化される
現在、AI の新たな進歩により、ディープ ニューラル ネットワーク (DNN) の高速化、小型化、エネルギー効率の向上が図られ、クラウドやデータセンターからエッジ デバイスやバッテリー駆動のセンサーへの AI の移行が促進されています。 AI モデルのトレーニングに関しては、驚異的な二酸化炭素排出量が文書化され、議論されています (つまり、XNUMX つの AI 言語モデルのトレーニング 車の生涯にわたって2台分のCO5を排出する）。 ただし、環境にどのような影響を与えるかを理解する必要があります。 AIモデルの推論 このフットプリントを減らす方法と方法について説明します。 ここで、モデルの最適化が DNN の経済的および環境的コストの削減を通じて多大なメリットをもたらす可能性があります。
TinyML は小型デバイスで AI を実現します
そのような進歩の XNUMX つは、 tinyML、バッテリー駆動の小型デバイスが高度な ML を使用して、コンピューター ビジョンやその他の認識タスクを実行できるようにする強力な新しいトレンドです。 これにより、通常はクラウドのエッジにある、リソースに制約のある小型デバイスでの ML 推論が容易になり、エッジ アプリケーションをユーザーに近づけることが可能になります。
たとえば、NVIDIA A100 のようなサーバー GPU には 40 GB 以上の使用可能なメモリがあり、コンピューター ビジョンや自然言語処理などの複雑な AI の実行に適しています。ただし、エッジ デバイスと tinyML について話すとき、一般的なマイクロコントローラー (MCU) のオンチップ メモリはわずか 256 KB であり、これはクラウドのメモリの 100,000 分の XNUMX 以上です。さらに、データセンターやクラウドとは異なり、エッジデバイスのハードウェアは現場で簡単に更新できません。これは、利用可能なハードウェアに AI を「適合」させる必要があることを意味しており、開発者がこれを達成するには、数か月から数年かかる試行錯誤が必要になる場合があります。ここで、tinyML、特に自動機械学習 (AutoML とも呼ばれる) が、現実世界で AI を導入する際の障壁を打ち破る上で重要な役割を果たすことができます。
tinyML の影響力は拡大しています。10,000 人を超えるメンバーを擁する tinyML Foundation は、エッジでの超低電力機械学習ソリューションの開発と展開をサポートするエコシステムを拡大しています。この Foundation は、ハードウェア、ソフトウェア、機械学習、データ サイエンティスト、システム エンジニア、デザイナー、製品、ビジネス関係者からなるグローバル コミュニティを統合しています。
機会の世界
合計すると、高度なインテリジェンスの恩恵を受けることができる、接続された小型デバイスがどこにでも何十億台も存在します。 課題は、彼らのリソースが非常に限られているため、どのようにして彼らにインテリジェンスを追加できるかということです。 tinyML は、小型デバイス上のエッジで、AI と ML をよりコンピューター ビジョン ベースの実世界のアプリケーションに導入する上で重要な役割を果たします。 これにより、さまざまな製品、サービス、業界にわたって人々や企業に多大なメリットがもたらされ、AI の新たなフロンティアへの進出が可能になります。
