新しいフロンティア：クラウドから遠く離れたジェネレーティブAI

最初はインターネットがありました。インターネットは、私たちの生活を永遠に変えました。私たちがコミュニケーションをとったり、ショッピングをしたり、ビジネスを行ったりする方法が変わりました。そして、遅延、プライバシー、コスト効率のために、インターネットはネットワークのエッジに移り、IoT（モノのインターネット）が生まれました。

今、アートフィシャルインテリジェンス（AI）があります。AIは、私たちがインターネットで行うすべてのことをより簡単に、よりパーソナライズし、より賢くします。しかし、AIを使用するには、大規模なサーバーと高性能のコンピューティング能力が必要です。したがって、AIはクラウドに限定されています。しかし、同じ動機（遅延、プライバシー、コスト効率）が、Hailoのような企業を、エッジでAIを可能にする技術を開発するよう駆り立てています。

間違いなく、次の大きなトレンドはジェネレーティブAIです。ジェネレーティブAIは、さまざまな業界で巨大な潜在性を持ちます。ジェネレーティブAIは、法律家、コンテンツライター、グラフィックデザイナー、ミュージシャンなどのクリエイターの仕事を合理化し、効率化することができます。ジェネレーティブAIは、新しい治療薬の発見や医療手順の支援にも役立ちます。ジェネレーティブAIは、産業の自動化を改善し、新しいソフトウェアコードを開発し、ビデオ、オーディオ、イメージなどの自動合成によって交通の安全性を向上させることができます。

しかし、現在のジェネレーティブAIは、実現を可能にする技術によって制限されています。ジェネレーティブAIはクラウドで行われます。クラウドとは、ユーザーから遠く離れた、高価でエネルギーを大量に消費するコンピュータプロセッサーの大規模なデータセンターです。誰かがChatGPTのようなジェネレーティブAIツールや新しいAIベースのビデオ会議ソリューションにプロンプトを発行すると、リクエストはインターネット経由でクラウドに送信され、サーバーで処理された後、ネットワーク経由で結果が返されます。

企業が新しいジェネレーティブAIアプリケーションを開発し、さまざまなデバイスに展開するにつれて（ビデオカメラやセキュリティシステム、産業用ロボットやパーソナルロボット、ラップトップや自動車など）、クラウドは帯域幅、コスト、接続性の面でボトルネックとなります。

また、ドライバー支援、パーソナルコンピューターソフトウェア、ビデオ会議、セキュリティなどのアプリケーションの場合、ネットワーク上で常にデータを移動させることはプライバシーのリスクとなる可能性があります。

解決策は、これらのデバイスがエッジでジェネレーティブAIを処理できるようにすることです。実際、エッジベースのジェネレーティブAIは、多くの新興アプリケーションに利益をもたらす可能性があります。

ジェネレーティブAIの台頭

例えば、6月には、メルセデス・ベンツが、ChatGPTを自社の車に導入すると発表しました。ChatGPTを搭載したメルセデスでは、運転手は、ハンズフリーで、家にいる食材を使った夕食のレシピを車に尋ねることができます。つまり、車がインターネットに接続されている場合です。駐車場や遠隔地では、すべての賭けはオフになります。

過去2年間で、ビデオ会議は私たちの第二の性質となりました。すでに、ソフトウェア企業はビデオ会議ソリューションにAIの形式を統合しています。たとえば、オーディオとビデオの品質をリアルタイムで最適化したり、人々を同じ仮想空間に「配置」したりすることができます。ジェネレーティブAIを搭載したビデオ会議では、会議の記録を自動的に作成したり、会社のソースからリアルタイムで関連情報を取得したりできます。

しかし、スマートカー、ビデオ会議システム、または他のエッジデバイスがクラウドに接続できない場合、ジェネレーティブAIの体験は発生しません。しかし、クラウドに接続する必要がないとしたらどうでしょうか。クラウドAIの巨大な処理を考慮すると、難しそうに思えるかもしれませんが、現在は可能になってきています。

エッジでのジェネレーティブAI

すでに、豊富で魅力的なPowerPointプレゼンテーションを自動的に作成できるジェネレーティブAIツールがあります。しかし、ユーザーは、システムがどこからでも動作することを望みます。インターネット接続がなくてもです。

同様に、ルーチンなタスクを自動化する「コパイロット」アシスタントの新しいクラスが登場しています。これにより、私たちがコンピューティングデバイスとやり取りする方法が根本的に変わります。例えば、ラップトップを開くと、ラップトップのカメラがユーザーを認識し、Outlook、Teams、Slack、Trelloなどの最も使用されるツールに基づいて、自動的に1日/1週間/1ヶ月の行動計画を生成します。しかし、データのプライバシーと良好なユーザーエクスペリエンスを維持するには、ジェネレーティブAIをローカルで実行するオプションが必要です。

信頼性のない接続やデータプライバシーの課題に加えて、エッジAIは帯域幅の要求を削減し、アプリケーションのパフォーマンスを向上させるのに役立ちます。たとえば、ジェネレーティブAIアプリケーションがクラウド経由でデータ豊富なコンテンツ（仮想会議スペースなど）を作成する場合、利用可能な（そして高価な）帯域幅に応じてプロセスが遅延する可能性があります。また、セキュリティ、ロボティクス、ヘルスケアなどの特定のジェネレーティブAIアプリケーションは、クラウド接続では対応できない、高パフォーマンス、低遅延のレスポンスが必要です。

ビデオセキュリティでは、ネットワークに接続できない場所にある多数のカメラで人物を再識別する能力は、カメラ内でデータモデルとAI処理が必要です。この場合、ジェネレーティブAIは、シンプルなクエリ（「赤いTシャツと野球帽を着た8歳の子供を見つけてください」など）を使用して、カメラが見るものの自動的な説明に適用できます。

これがエッジでのジェネレーティブAIです。

エッジAIの進展

新しいクラスのAIプロセッサの採用と、より軽量で効率的なジェネレーティブAIデータモデルの開発により、エッジデバイスはクラウド接続が不可能または不適切な場所で知的に動作するように設計できます。

当然、クラウド処理はジェネレーティブAIの重要なコンポーネントとして残ります。たとえば、AIモデルをトレーニングすることはクラウドで行われます。しかし、ユーザー入力をこれらのモデルに適用するプロセス（推論と呼ばれる）は、エッジで行うことができます。

業界はすでに、エッジデバイスにロードできる、より軽量でより効率的なAIモデルを開発しています。Hailoのような企業は、ニューラルネットワーク処理を実行するために特別に設計されたAIプロセッサを製造しています。これらのニューラルネットワークプロセッサは、AIモデルを非常に高速に処理します。また、低電力で動作するため、スマートフォンやカメラなどのさまざまなエッジデバイスに適しています。

エッジでジェネレーティブAIを処理することで、増加するワークロードを効果的にバランス調整し、アプリケーションをより安定して拡大し、クラウドデータセンターの高価な処理を軽減し、カーボンフットプリントを削減することができます。

ジェネレーティブAIは、コンピューティングを再び変える準備ができています。将来的には、ラップトップのLLM（大規模言語モデル）は、今日のOSのアップデートのように自動的に更新され、同様の方法で動作します。しかし、そこに到達するには、ネットワークのエッジでジェネレーティブAI処理を可能にする必要があります。結果として、パフォーマンス、エネルギー効率、プライバシー、セキュリティが向上します。すべてが、ジェネレーティブAI自体と同等の世界を変えるAIアプリケーションにつながります。