Orr Danon, CEO & Co-Founder of Hailo – Interview Series

Orr Danon, は、Hailo の CEO & Co-Founder です。Hailo は、スマート エッジ テクノロジーがその全潜在能力を発揮できるようにすることを使命としています。Hailo が提示するソリューションは、既存の AI テクノロジーとこれらのアプリケーションを動作させるために必要なコンピューティング能力のギャップを埋めます。この会社は、AI プロセッサを効率的でコンパクトなものにすることに焦点を当てており、リアルタイムに大量のデータを計算および解釈することができます。

Hailo の創設ストーリーを共有してください。

2017 年、私は以前イスラエル国防軍 (IDF) のエリート技術部隊で出会った同僚と共に Hailo を共同設立しました。IoT (Internet of Things) ソリューションに取り組んでいる間、私の共同創設者である Rami Feig と Avi Baum と共に、「ディープ ラーニング」というあまり知られていない概念が出てきました。最終的に、私たちはこの分野の専門家を集めて、新しいディープ ラーニング ソリューションを開発しました。このソリューションは、古いコンピュータ アーキテクチャの欠点を解決することを目的とし、エッジでスマート デバイスがより効果的に効率的に動作できるようにすることを目的としていました。Rami の不幸な死去後、Hailo チームは彼のビジョンを実現し、Hailo の画期的な AI プロセッサを作成しました。

エッジ コンピューティングがクラウド コンピューティングよりも優れたソリューションである理由を簡潔に説明してください。

Hailo を開始したとき、クラウドまたは大規模なデータセンターに限定されていた破壊的な AI テクノロジーは、高価で、高度なコンピューティング パワーと大量のハードウェアが必要であり、多大なエネルギーを消費していました。私たちは、AI はより良い、より安全で、より生産的で、より興奮する世界を作成するのに役立っていますが、これが起こるためには、AI はエッジでも利用できる必要があると考えています。ネットワーク接続カメラ、車両、IoT デバイスなどのデバイスでリアルタイムおよび低遅延アプリケーションを実装するには、ソースでの処理が不可欠です。エッジ AI を使用すると、スマート シティ、インテリジェント トランスポート、自動運転、ビデオ管理システム (VMS)、インダストリー 4.0 など、スマートな将来を推進する多数の重要なユース ケースを完全に活用できます。

エッジで視覚データを処理する背後にある課題について説明してください。

目標は、エッジ デバイスに可能な限り多くのパフォーマンスと機能を組み込むことです。そうすれば、デバイスは大量の視覚データを迅速に低遅延で処理できます。しかし、重要な制約の 1 つは、パワー消費です。デバイスに供給できるパワーと、プロセッサによって生成される熱の両方です。

例えば、インテリジェント カメラ の場合、メーカーは、カメラがファン冷却を使用できないことと、一般的に電力供給が制限されることから、AI プロセッサを 2-3W の範囲に収める必要があります。これらは重大な痛みです。なぜなら、ほとんどのプロセッサを使用すると、このような低電力ではパフォーマンスが非常に制限されるからです。

Hailo は AI プロセッサ アーキテクチャをどのように再構想しましたか。

エッジ デバイスで動作するように特別に設計された AI プロセッサを作成することで、実現しました。サイズと電力の制限を考慮して、エッジ デバイスに前例のないコンピューティング パワーを提供し、AI をより効率的に効果的に実行できるようにし、オブジェクト検出、オブジェクト認識、セグメンテーションなどの高度なディープ ラーニング アプリケーションを実行できるようにしました。このユニークなアーキテクチャでは、マルチ ストリームとマルチ アプリケーションの処理が可能になり、エッジ デバイスのパフォーマンスとコスト効率が向上します。

ビデオ管理システム (VMS) という例があります。これらのシステムは、オフィス ビル、スタジアム、スマート シティ アプリケーション、高速道路などの多数のカメラがあるエリアで、安全性とセキュリティをより良く管理するために使用されています。緊急事態や事故、疑わしい活動、交通管理、出入管理、料金収集などを監視するために使用されています。長年にわたり、企業はビデオ データを収集、分析、保存する際に完全に手動プロセスに頼っていました。Hailo のユニークなニューラル ネットワーク アーキテクチャを使用すると、VMS は並行して複数のタスクを実行できます。リアルタイムで、複数のチャンネルとアプリケーションを同時に処理できるようになります。アプリケーションには、先進的なナンバープレート認識 (LPR)、交通モニタリング、動作検出などがあります。

ニューラル ネットワーク処理コアと並列ではなく順次的にニューラル ネットワークを計算するアプローチについて説明してください。

私たちの AI プロセッサは、ニューラル ネットワークの基本的な特性に対処する複数の革新を組み合わせました。ハードウェアとソフトウェアの組み合わせに基づく革新的な制御スキームを適用し、非常に低いジョウル毎の操作と高い柔軟性を実現しました。

私たちのユニークなデータ フロー指向アーキテクチャは、ニューラル ネットワークの構造に適応し、高いリソース使用率を実現します。Hailo データ フロー コンパイラは、フルスタック ソフトウェアで、私たちのハードウェアと共同設計されています。ニューラル ネットワークの効率的な展開を可能にします。Hailo データ フロー コンパイラは、ユーザー モデルを入力として受け取り、ビルド フローの一環として、各ネットワーク レイヤーを必要な計算要素に分解し、ターゲット ネットワークのリソース グラフを生成します。ターゲット ネットワークのリソース グラフをプロセッサ上の利用可能な物理リソースにマッチングし、ターゲット ネットワークのカスタマイズされたデータ パイプを生成します。この方法でモデルをデバイスで実行すると、非常に効率的で、常に最小のコンピューティング リソースを使用します。

現在、ビジネス向けに利用可能な Hailo ベースのプラットフォームをいくつか教えてください。

Hailo-8™ プロセッサと AI モジュールは、自動車、スマート シティ、スマート 小売、インダストリー 4.0 を含むさまざまなエッジ デバイスに接続できます。優れた AI 機能でこれらの分野を支えます。

Hailo は、Innovatrics、Network Optix、GeoVision、Art of Logic などの主要な VMS および ISV プレーヤーと提携して、ビデオ分析を大規模に有効にしました。

AI ソリューションを統合するクライアントの時間を節約できるのはどれくらいですか。

確立された VMS プラットフォームで動作する統合ソリューションを取得することは時間を節約できますが、これがシステムの主な利点ではありません。Hailo ベースの VMS ソリューションにより、並行してより多くのストリームを実行でき、各ストリームでより多くのアプリケーションを処理できます。

複数のビデオ ストリームを処理する AI を利用することも、特定のイベントのみをクラウドにストリーミングして保存することを可能にし、帯域幅とストレージ容量を大幅に節約できます。

エッジ デバイスでディープ ラーニング アプリケーションを展開することから得た教訓については何かありますか。

私たちは、エッジの AI が幅広い業界で革新を推進する上で重要な役割を果たすことを目撃してきました。企業がデバイスをより強力で、多機能で、反応が速く、セキュリティが高いソリューションを求めるにつれて、クラウドはエッジ デバイスやハイブリッド モデルに道を譲ります。エッジで AI を実装することに成功した企業は、全体的に優位性を獲得します。

エッジ コンピューティングの将来についてのあなたのビジョンを教えてください。

エッジ コンピューティング、特にエッジの AI は、世界の周りを完全に変える力を持ちます。インテリジェント カメラ、スマート ベヒクル、自律ロボット、先進的な交通管理ツール、スマート コンストラクション、スマート ファクトリーなど、デバイスを可能にします。エッジの AI は、すべてのものを変える力を持っています。世界をよりスマートで安全なものにする新しいアプリケーションを可能にします。Hailo の AI 処理テクノロジーは、これらのユース ケースの主要なエナブラーです。私たちは、世界中のメーカーやイノベーターと提携して、これらのソリューションをよりアクセスしやすくします。

素晴らしいインタビュー、詳しく知りたい読者は Hailo を訪問してください。