Andreas Hellander、Scaleout SystemsのCEO兼共同創設者 – インタビュー・シリーズ

Andreas Hellanderは、Scaleout SystemsのCEO兼共同創設者です。同社は、エッジAIとフェデレーテッド・ラーニングのインフラストラクチャを構築しており、分散化された機密データを中央化せずにモデルをトレーニングすることができます。同社は、NATOやBAEシステムズなどの国防プライムと協力してきました。彼は、科学計算の博士号と生物工学の修士号を持ち、ウプサラ大学の情報技術学部で研究グループを立ち上げ、Scaleoutを創設する前にアソシエイト・プロフェッサーを務めていました。

あなたはウプサラ大学での分散コンピューティング、クラウド・インフラストラクチャ、科学計算に関する研究の後、Scaleoutを共同創設しました。フェデレーテッド・ラーニングとエッジAIが学術分野を超えて商業プラットフォームになる必要性を感じた瞬間はいつでしたか?

大規模な分散システムに関する研究を行うにつれて、1つのことが明らかになりました。機械学習が各業界で実際的な成果を示し始めたとき、責任を持って適用するには、まずデータの問題を解決する必要があります。多くの組織では、最も貴重なデータを中央化することはできないのです。フェデレーテッド・ラーニングは、研究としてこの制約に対する反応として生まれました。ウプサラ大学での研究プロトタイプとして始まったフェデレーテッド・ラーニングのソフトウェアは、時が来たと感じたときに Scaleout としてさらに進化しました。機密データに対する安全でセキュアな機械学習のインフラストラクチャは、生产環境で利用できる形では存在しませんでした。私たちはそれを構築するために Scaleout を創設しました。

Scaleout と AI Verse のパートナーシップは、戦術的エッジでのフェデレーテッド・ラーニングと合成戦場データ生成を組み合わせます。このアプローチは、従来の中央集権型データセットに依存する軍事AIシステムの開発方法と比較してどう違いますか?

従来のアプローチでは、作戦映像を収集し、中央に送り、トレーニングし、再配備するというプロセスでした。各段階でボトルネックが生じます。AI Verse とパートナーシップを結んだのは、最初の障害を取り除くためです。AI Verse の GAIA プラットフォームは、需要に応じて写真映像、完全に注釈付きの RGB と IR 画像を生成し、フィールドでの収集、手動注釈、長い待ち時間の必要性を排除します。Scaleout は、トレーニングのボトルネックを解消します。展開後、モデルは中央化せずにエッジのライブデータから継続的に改善されます。組織は、制限付きの運用データに触れることなく、フィールド化された改善型モデルを持つことができます。

国防AIの最大の課題の1つは、戦場状況がトレーニングサイクルよりも速く進化することです。エッジベースの学習は、新しいドローン、車両、脅威に対応するために、中央集権型の再トレーニングを待たずに軍事システムを適応させるのにどのように役立ちますか?

現在、コンピュータビジョンは中央でトレーニングされ、1回展開され、そして古くなります。中央集権型の再トレーニングは、データの収集、注釈付け、モデル再トレーニング、テスト、再展開を伴うバッチプロセスです。そのサイクルは数週間または数ヶ月かかります。一方、検出モデルは、季節、センサー、環境、敵の戦術の変化により劣化します。

エッジベースの学習は、ソースでループを閉じます。各サイトでは、リアルタイムの検出を実行しながら、同時にトレーニングに最も役立つフレームをアクティブラーニングでフィルタリングします。テストレンジの地上ノードでは、新しいドローンタイプを検出した場合、不確かな検出をフラグし、注釈者はキューアテンションをレビューするのではなく、テラバイトの生映像をレビューします。ローカルファインチューニングはサイトで実行され、改善されたモデルは数日以内に生産に戻ります。フェデレーテッドラーニングにより、その改善がすべてのサイトに伝播されます。

多くのAIシステムは依然としてクラウドインフラストラクチャに大きく依存しています。なぜ、国防AIの将来は、中央集権型のクラウドアーキテクチャではなく、分散型および切断された環境に向かっていると考えるのですか?

3つの構造的な理由があります。第一に、分類の境界により、運用センサデータはサイトを離れることができません。第二に、争奪環境では、ネットワークリンクが存在することを仮定することはできません。第三に、クラウド接続に依存するモデルは、最も必要な環境で単一の故障点となります。これらは好みではなく、クラウドファーストのアーキテクチャを開始する前にそれらを失格させる制約です。

合成データはAI開発の重要なツールとなりつつあります。国防アプリケーションでは、命の危険を伴う可能性のある精度の場合、合成戦場データを使用してコンピュータビジョンモデルをトレーニングすることの長所と限界は何ですか?

合成データは、いくつかの重要な利点を提供します。実際のフィールドでの収集が不可能または実用的でないシナリオを生成できます。たとえば、レアな脅威クラス、IR、悪条件、正確なセンサージオメトリなどです。また、手動注釈を排除し、運用データのリスクを排除し、即時にスケーラブルです。

同時に、限界があります。合成と実際のギャップは実際であり、シナリオによって異なります。脅威の分類を決定する詳細は、高いシミュレーション忠実度がないと転送されません。誠実な立場は、合成データは強力なコールドスタートメカニズムであり、フィールド収集が構造的にできないギャップを埋めますが、最終的なモデルパフォーマンスには生の運用データを置き換えるものではないということです。那はなぜ、パイプラインが両方を組み合わせるのかです。

Scaleoutは、機密データを移動せずにAIをトレーニングできるフェデレーテッドラーニング技術を開発してきました。ヘルスケア、産業AI、他の規制分野で得られた教訓は、現在、国防への展開でどのように有益であるか?

機械学習が規制された業界に適用され始めたとき、共通のパターンが現れました。モデルを最も改善するデータは、移動できないデータでもありました。

それに対処するには、高品質のアルゴリズムだけでなく、分散学習を安全で監査可能で管理可能にするためのインフラストラクチャが必要でした。そこで浮かび上がったのは、厳格な監査トレイルの重要性、中央で完全なデータセットを見られない場合のデータ品質と選択の課題、モデルアップデート自体がトレーニングデータについての情報を漏らす可能性の問題でした。その最後の懸念により、私たちのオープンソースプライバシーオーディットフレームワークであるLeakProが生まれました。機密データ、分散環境、管理要件に関する根本的な問題は、国防にも直接翻訳されます。特定の制約は異なるかもしれませんが。

NATOと同盟国は、技術的主権にますます焦点を当てています。フェデレーテッドラーニングは、同盟国が機密運用データを共有せずにAI開発で協力できるようにする、戦略的な能力になる可能性はありますか?

はい、それはすでに起こっています。NATO DIANAの下のFEDAIRプログラムは、同盟国が共有AI能力を共同で改善できるかどうか、つまり分類されたセンサデータを交換せずに、を直接テストしています。アーキテクチャの答えははいです。各国は独自のデータでトレーニングを行い、重み更新を共有の集約ポイントに貢献し、改善されたグローバルモデルを受け取ります。生のデータは国家の境界を越えることはありません。

カウンタードローンシステムは、現代の戦争で最も重要なAIアプリケーションの1つとして浮上しています。AI駆動型カウンタードローンプラットフォームが、さまざまな戦闘環境で信頼性を持って動作するために、まだ克服しなければならない技術的な課題は何ですか?

私たちの観点から見ると、カウンタードローンAIの技術的な課題は重要で、かつ軽視されがちです。センサーランドスケープだけが複雑です。センサーはさまざまなデータ特性を生成し、1つのセンサーでトレーニングされたモデルは別のセンサーにきれいに転送されません。脅威の多様性がこれを複雑にします。低コストの商用プラットフォームの増加により、オブジェクトの数は、ほとんどのトレーニングデータセットが追随できるよりも速く増加しています。

純粋なMLの課題を超えて、重要なアーキテクチャの質問があります。誰がモデルを所有し、誰がそれを更新できますか。ベンダーのクローズドモデルと更新サイクルに依存するシステムは、ベンダーの制約を継承します。独自の運用データでモデルを適応させる能力、独自のインフラストラクチャで、独自のタイムラインで、それが信頼性のある長期的なパフォーマンスの前提条件であるようです。

戦争がますます自律システムやAI支援の意思決定を伴うようになると、軍事組織は、フィールドでの継続的な学習と、信頼性、予測可能性、人間の監督の必要性とのバランスをどう取るべきですか?

プラットフォームは、既存のコマンドアンドコントロールシステムのサイドカーとして設計されており、代替ではありません。検出は、Tactical Assault Kit (TAK)および標準のCommand and Control (C2)システムに、標準化されたデータ形式とプロトコルを使用してフィードされ、既存の運用ワークフロー内で視覚化および操作できます。AIは人間の意思決定を強化するのではなく、代替として機能します。

モデル側では、継続的とは制御されていないことを意味しません。各更新は、プロモーションの前にベンチマークスイートに対して検証され、オペレーターはモデルバージョンを承認する前に展開する前に承認し、シャドウ展開により、新しいバージョンが生産に置き換えられる前に並行して実行されます。監査トレイルは、どのバージョンがどこで実行され、どのような結果を示したかを記録します。改善サイクルは、体系的で管理されており、自動的でも無制限でもありません。

5年先を見て、現在展開されている軍事AIアーキテクチャと比較して、最も先進的な軍事AIアーキテクチャを何が特徴づけるでしょうか? どの技術が将来の国防能力に最も大きな影響を与えるでしょうか?

現在の分断は、フィールドで適応できるシステムとできないシステムの間にあることです。現在展開されているほとんどのシステムは静的です。5年後には、適応がどの程度管理されているかが違いとなります。どのモデルバージョンがどのプラットフォームで実行され、どのデータで、どの条件下で、そしてそのチェーンがオペレーターと調達によって監査され、検証され、信頼されるかどうかです。

基礎となるMLは、コモディティ化します。エッジでの管理された継続的な学習のインフラストラクチャ、特に同盟国間のネットワークで各国が独自のデータの主権を維持できるようにするインフラストラクチャは、コモディティ化しません。現在そのインフラストラクチャを構築する国とプログラムは、将来的に複利効果を得ることになります。運用データから継続的に改善されるモデル、国家の管理下で、ベンダーの更新サイクルやクラウドプロバイダーの可用性に依存せずに。

素晴らしいインタビュー、詳細を知りたい読者はScaleout Systemsを訪問してください。