QualiのCEO Lior Koriat – インタビュー・シリーズ

Lior Koriat、QualiのCEOは、Qualiで約2つの10年間を経験したシーズンドテクノロジー・エグゼクティブおよびエントレプレナーであり、Qualiを初期のエンジニアリングおよび運用基盤からDevOps、IT、およびプラットフォーム・チーム向けのクラウド・アグノスティックなEnvironment as a Serviceソリューションのグローバル・プロバイダーへと成長させました。2011年にCEOおよび取締役に就任して以来、Qualiの米国、ヨーロッパ、アジア、イスラエルの拡大を牽引し、以前のVP R&D、COO、CEOとしてエンジニアリング、セールス、カスタマー・サポート、法務、ビジネス・デベロップメント、および国際事業を確立しました。また、Intellitech Engineeringの創設者およびCEOとして、国防および民間の顧客向けにシステムおよび機械エンジニアリング・サービスを提供し、Google Launchpad AcceleratorおよびUC BerkeleyのSutardja Center for Entrepreneurship & Technologyでスタートアップに対する製品戦略、市場参入実行、DevOps、およびスケーリングに関するアドバイスを行っています。

Qualiは、開発チームのスピードを落とさないで、統制されたセルフ・サービス・クラウド・環境を提供することを目的としたインフラストラクチャー・オートメーションおよびプラットフォーム・エンジニアリング・ソフトウェアを開発しています。Torqueプラットフォームは、プラットフォーム・チーム向けに、承認済みのブルー・プリント、ロール・ベースのアクセス・コントロール、ライフサイクル・管理、コスト・アトリビューション、ポリシー・エンフォースメント、および環境全体でのリアルタイム・ビジビリティを提供するカタログ・ベースのセルフ・サービス・レイヤーを提供します。Qualiは、Torqueを、マルチ・クラウドおよびハイブリッド・クラウド・セットアップ全体でインフラストラクチャー・デリバリーを標準化する方法として位置付けます。サポートされるユース・ケースには、ソフトウェア・デベロップメント、テスト、デモ、トレーニング、プルーフ・オブ・コンセプト・デプロイ、MLOps、エージェント・AI、CI/CDパイプライン・オートメーション、およびGPU-as-a-Serviceが含まれます。また、Qualiのより広範な製品ポートフォリオには、CloudShellも含まれており、インフラストラクチャーを、オンプレミスおよびクラウド・インフラストラクチャー全体で複雑な環境向けの再利用可能なロウ・コードまたはノー・コード・ビルディング・ブロックに変換します。

あなたは、Qualiを率いる前に複数のテクノロジー・企業を創設し、成長させました。あなたのキャリアは、軍事・システム、ロボティクス、インフラストラクチャー・エンジニアリング、クラウド・オートメーションを経てきたようです。その経験は、AIインフラストラクチャー・プラットフォームの構築に対するあなたのビジョンにどのように影響していますか。また、AIネイティブ・インフラストラクチャー・マネジメントに焦点を当てることを決めた理由は何ですか。

私のキャリアは、信頼性が求められる複雑なシステムに常に焦点を当ててきました。私はロボティクスおよび航空宇宙分野で、国防アプリケーションのためのオートメーションおよびシミュレーション・システムを開発し、再現性およびガバナンスが運用上の要件であった場所でキャリアをスタートさせました。その環境で学んだことは、複数のシステムおよびプロセスが一緒に連携して動作する必要がある場所で、最も困難な問題が生じるということです。

その視点は、Qualiに引き継がれました。過去10年間で、エンタープライズ・インフラストラクチャーは、さまざまなレイヤーにわたって分散化するようになりました。各新しいレイヤーは特定の技術的な問題を解決しましたが、管理インターフェイス、運用ワークフロー、および複雑さの新しい源をもたらしました。組織はインフラストラクチャーを創造することに非常に優れてきましたが、インフラストラクチャーが存在するようになると、それを管理するにはあまり優れてきませんでした。

AIは、その不均衡を加速させました。運用上の課題が、AIイニシアチブが本稼働に移行するか、パイロット段階で止まるかを決定するようになりました。那は、AIネイティブ・インフラストラクチャー・マネジメントが必要になった理由です。課題は、ヘテロジニアスな環境全体でAIインフラストラクチャーを継続的に運用しながら、ガバナンス、セキュリティ、およびコスト・ディシプリンを維持し、利用率を最適化することです。

主権AIは、政府および企業にとって急速に優先事項となっています。主権について、組織が最もよく誤解していることは何ですか。また、インフラストラクチャー・ガバナンスがモデル所有権と同等に重要になる理由は何ですか。

主権AIに関する多くの議論は、データ・レジデンシーおよびインフラストラクチャー所有権に焦点を当てています。必要なコンポーネントですが、運用上の現実の一部しか対処していません。

組織が自律エージェントを展開し始めると、主な質問は、インフラストラクチャーがどこにあるかから、AIシステムがそのインフラストラクチャー内でどのように動作するかに移ります。現代のエージェントはリソースをプロビジョニングし、情報を取得し、ワークフローを開始し、生産システムとやり取りします。各アクションにはポリシー・エンフォースメントが必要です。

それが主権の評価方法を変えます。インフラストラクチャーを所有することは、AIシステムが決定的なガバナンスなしにアクションを実行できる場合は、運用上のコントロールを自動的に提供しません。企業は、誰がアクションを開始したか、どのポリシーがそれを管理したか、どのリソースがアクセスされたか、およびどのように決定が監査されるかを示す必要があります。ヘテロジニアスな環境全体でAIインフラストラクチャーを継続的に運用しながら、ガバナンス、セキュリティ、およびコスト・ディシプリンを維持し、利用率を最適化することが課題です。

私は、インフラストラクチャー・ガバナンスがモデル開発と同等に戦略的に重要になることを予想しています。企業が複数のモデル、複数のクラウド、および増加する自律ワークフローを採用するにつれて、ガバナンスが、環境を責任を持ってスケーリングできる運用フレームワークを提供することになります。

エージェントは、リソースのプロビジョニング、ワークロードのデプロイ、および運用上の決定を下す権限を与えられていることが増えています。エンタープライズがクリティカルなインフラストラクチャーを自律システムに安全に信頼できるようにするために、どのようなガードレールが必要ですか。

多くの組織はすでにAIエージェントを本稼働環境で展開しています。質問は、それらのエージェントが明確に定義された境界内でどのように動作するかです。

最初の要件は、実行レイヤーでの決定的なポリシー・エンフォースメントです。エージェントは、事前に定義されたインフラストラクチャー・ポリシーに準拠するアクションのみを実行できる必要があります。ポリシーは、モデルがアクションが適切であるかどうかを決定することに依存することはできません。モデル自体とは独立してエンフォースされる必要があります。

アクセス・コントロールも同等に重要です。永続的なアクセス許可は、不要な運用上のリスクを生み出します。アクセスは、実行されるタスクに限定され、必要なリソースに限定され、作業が完了すると自動的に取り消される必要があります。そのモデルにより、組織は自動化を拡大することなく、攻撃面を拡大することなく運用できます。

各アクションには、完全な監査トレイルも必要です。AIシステムがより自律化するにつれて、企業は、どのエージェントがアクションを実行したか、いつ発生したか、どのポリシーがそれを承認したか、およびどのような変更が加えられたかを理解する必要があります。そのレベルの追跡可能性は、運用上のトラブルシューティングと規制遵守の両方をサポートします。

私は、自律インフラストラクチャーが、制限されたインフラストラクチャーではなく、統制された環境内で動作する必要があると信じています。明確に定義された環境には、明示的なリソースの境界、ライフサイクル・コントロール、および運用ポリシーが、エージェントがワークロードを実行し始める前に提供されます。那により、組織は自動化を増やしながら、AIデプロイが拡大するにつれて予測可能な運用動作を維持できます。

あなたは、従来のオートメーションから、インテリジェント・コントロール・プレーンと呼ぶものへの移行についてよく話します。そのようなプレーンでインフラストラクチャーが動作し始めたときに、基本的に何が変わりますか。

従来のオートメーションは、事前に定義されたステップを実行します。那は、インフラストラクチャーが予測可能で、ワークロードが安定しており、変更が人間が管理するワークフローを通じて発生する場合に機能します。AIインフラストラクチャーは、そのように動作しません。

AIワークロードは、ダイナミックです。GPUの需要が急速に変化し、環境が頻繁に作成および破棄され、エージェントは特定のタスクのためにリソースへのアクセスが必要になる場合があります。インテリジェント・コントロール・プレーンは、環境の目的、所有者、コスト、適用されるポリシー、およびライブ・ステートがまだ意図されたステートと一致するかどうかを理解します。

それがインフラストラクチャー・マネジメントを変えます。システムは、静的なスクリプトではなく、意図された結果に対してドリフトを検出し、最適化を推奨し、ポリシーをエンフォースし、ライフサイクル・決定を管理できます。

GPUインフラストラクチャーは、AIデプロイで最大のボトルネックの1つになりました。業界はGPU利用について間違ったアプローチを採用していると考えていますか。また、ハードウェアを追加する以外に、効率を劇的に改善する運用上の変更はありますか。

業界は、GPUの問題を調達の問題として扱うことがよくあります。多くの企業では、より直近の問題は、利用効率です。

私たちは、ピーク需要のために事前に割り当てられたGPUクラスター、トレーニングの実行間でアイドル状態のままになる環境、または作業が終了した後に環境が依然として接続されたままになる環境を持つ組織を見ています。那により、高いコストが発生しますが、ビジネス価値は相まらないという問題が生じます。

GPU効率の改善は、ライフサイクル・コントロールから始まります。環境は、需要に応じてプロビジョニングされ、ワークロードに合わせて構成され、チームまたはプロジェクトに帰属され、タスクが完了すると自動的に破棄される必要があります。企業は、利用率、ワークロードあたりのコスト、および各環境のビジネス目的についての可視性も必要です。

ハードウェアの追加はまだ必要かもしれませんが、管理されていないGPU容量は、コストの問題を拡大させるだけです。

今後5年間で、ハイブリッドAI環境がどのように進化するか、および現在まだ注目されていないインフラストラクチャー・トレンドについて、どのような課題が残っているかについて話してください。

ハイブリッドAIは、企業のデフォルト・モデルになります。組織は、柔軟性のためにパブリック・クラウドを使用し、コスト管理のためにオンプレミス・インフラストラクチャーを使用し、待ち時間、データのローカリティ、または運用上の要件がそれを必要とする場合はエッジ・インフラストラクチャーを使用します。

未解決の課題は、一貫性です。多くの企業はすでに、複数のベンダー、クラウド、オートメーション・ツール、およびインフラストラクチャー・タイプで運用しています。AIは、GPUクラスター、モデル・サービング・環境、ファイン・チューニング・パイプライン、エージェント・ワークロードを追加します。

今後5年間で、トップの組織は、さまざまな環境全体で1つの運用基準を作成するものになります。ワークロードが実行される場所に関係なく、プロビジョニング、一貫したポリシー・エンフォースメント、コスト・アトリビューション、監査可能性、およびライフサイクル・マネジメントが必要です。

DevOpsは、過去10年間でソフトウェア・デリバリーを変えました。AIインフラストラクチャーには、まったく新しい運用モデルが必要ですか。DevOpsおよびプラットフォーム・エンジニアリングの自然な進化ですか。

AIインフラストラクチャーはDevOpsを拡張しますが、従来のDevOpsの慣行では対処できない要件も導入します。

DevOpsは、パイプラインの標準化、繰り返し可能な作業の自動化、およびチームが必要なリソースへの迅速なアクセスを提供することで、ソフトウェア・デリバリーを改善しました。AIインフラストラクチャーには、同じ規律が必要ですが、ワークロードはリソースをより多く消費し、予測が難しく、特殊なインフラストラクチャーに依存しています。

プラットフォーム・エンジニアリングは、この環境では中心的な役割を果たします。チームは、チケットベースのプロビジョニングまたは一時的な手動構成ではなく、統制されたセルフ・サービス・アクセスを検証された環境で必要とします。運用モデルは依然としてスピードと自動化を重視しますが、ガバナンス、コスト管理、およびインフラストラクチャー・コンテキストも必要とします。

ゼロ・タッチ・オペレーションは、インフラストラクチャー・マネジメントで長年の目標でした。本当に自律的なインフラストラクチャーにどのくらい近づいていますか。また、まだ妨げている技術的および組織的障壁はありますか。

私たちは、実際よりも自律的なインフラストラクチャーに近づいていると思いますが、制限要因は自動化ではなくガバナンスです。AIエージェントはすでに環境をプロビジョニングし、ワークロードをデプロイし、アノマリーを調査し、是正を推奨できます。課題は、明確に定義されたポリシー境界内でそれらのアクションが発生することを保証することです。

組織は、自律システムが何を行ったか、どのように行ったか、およびどのポリシーに従ったかを説明できることを確認する必要があります。那レベルの追跡可能性は、多くの企業環境ではまだ欠けています。自律インフラストラクチャーは、ガバナンス、監査可能性、およびポリシー・エンフォースメントが運用レイヤーに組み込まれているときに、主流になります。

AIワークロードがよりダイナミックでリソースを多く消費するようになると、コスト超過が大きな懸念事項となっています。企業がAIインフラストラクチャーをスケーリングしようとするときに最も一般的な間違いは何ですか。また、それを避ける方法はありますか。

多くの組織は、すでに持っているインフラストラクチャーをどれだけ効率的に使用しているかを理解することなく、より多くのコンピューティング・リソースの取得に焦点を当てています。

私たちは、プロジェクトが終了した後に依然としてアクティブなままである環境、実行されないワークロードのために予約されたGPUリソース、およびインフラストラクチャー・コストを駆動するチームまたはアプリケーションについての可視性がほとんどない環境を持つ組織を見ています。AIワークロードは、需要が急速に変化し、GPUインフラストラクチャーが高価であるため、効率性の低下を増幅します。

解決策は、ガバナンスから始まります。各環境には、プロビジョニングされたときから、明確な所有者、ビジネス目的、ライフサイクル、およびコスト・プロファイルが必要です。組織がポリシー・ドリブンのプロビジョニングと自動的な環境破棄および利用状況の継続的な可視性を組み合わせると、インフラストラクチャー支出は予測および正当化しやすくなります。

今後を見据えて、AIを大規模に運用化することに成功する組織と、苦労する組織を区別するのは何ですか。また、現在まだ注目されていないインフラストラクチャー・トレンドについて、テクノロジー・リーダーが注目すべきことは何ですか。

成功する組織は、AIインフラストラクチャーを技術のコレクションではなく、運用上の機能として扱うでしょう。モデルは改善し続け、ハードウェアはより強力になるでしょう。しかし、環境を一貫して複数のチームおよびプラットフォームで運用することは、依然としてより困難な課題です。

注目に値するトレンドの1つは、インフラストラクチャー・インテリジェンスへの移行です。インフラストラクチャー・プラットフォームは、管理対象のコンテキストを理解し始めています。どの環境がどのワークロードをサポートし、どれだけのコストがかかり、どのポリシーに準拠し、いつ最適化または廃止されるべきかを理解します。那運用コンテキストは、企業がより多くのAIエージェントおよびヘテロジニアスなインフラストラクチャーを展開するにつれて、ますます価値があります。

私は、ガバナンスが競争上の優位性になることを予想しています。インフラストラクチャーを迅速にプロビジョニングしながら、可視性、ポリシー・エンフォースメント、コスト管理、および監査可能性を維持できる組織は、AIプロジェクトをパイロットから本稼働に移行する速度が、依然として断片化された運用モデルに頼っている組織よりもはるかに速くなります。

素晴らしいインタビュー、ご覧になりたい読者はQualiを訪問してください。