バックブレイズのAI担当シニアプロダクトマネージャー、Jeronimo De Leon氏にインタビュー

Jeronimo De Leon氏は、10年以上の経験を持つAIドリブンのイノベーションを牽引するプロダクトマネジメントのリーダーです。現在、バックブレイズのAI担当シニアプロダクトマネージャーとして、AI/ML機能の開発を牽引し、バックブレイズが顧客のMLOpsアーキテクチャーのAIデータライフサイクルをどのように強化するかに焦点を当て、内部業務の最適化のためにAIツールとエージェントを実装しています。

Backblazeは、個人の顧客とビジネス向けに無制限の自動コンピューターバックアップを提供するクラウドストレージおよびバックアップ会社です。また、エンタープライズ、メディア、アプリケーションワークロード向けにスケーラブルなオブジェクトストレージソリューションも提供しています。サービスは、費用対効果、データセキュリティ、簡単な回復、および既存のシステムとのシームレスな互換性に焦点を当てています。

あなたは、IntelasでのLLMやWelcome.AIでのRAG、Bloombergのチャットボットの立ち上げ、現在のBackblazeでのAI取り組みを含む、10年以上のAIドリブンのプロダクトマネジメントの経験を持っています。この経験は、クラウドストレージの役割をAI/MLワークフローのスケーリングにどのように見ていますか?

IBM WatsonでのAIプロジェクトに着手して以来、イノベーションのペースは劇的に加速しました。研究から本稼働までに何年もかかっていたものが、今では数ヶ月で実現しています。しかし、根本的なインフラストラクチャーの課題は同じままです。データはどこにあるのか、どこに保存するのか、どのように効率的にアクセスするのか?

以前は、コンピュートとモデルが制約でしたが、今では事前トレーニング済みのモデルが豊富にあり、多くのコンピュートプロバイダーがあります。しかし、プロジェクトを開始する際には、データ収集と処理プロジェクトから始める必要があります。那時と同じように、組織はデータを統合するボトルネックに当たることがよくあります。データのアクセシビリティを早期に解決した組織が成功することになります。ストレージアーキテクチャーの決定は、モデルトレーニングとイノベーションをどのくらい迅速に実現できるかを決定します。

AIライフサイクル全体で、クラウドストレージが最も重要な役割を果たす場所はどこですか?データインジェスト、処理、トレーニング、ファインチューニング、インファレンス、モニタリングなど?

クラウドストレージは、データ集約、処理、トレーニング、インファレンスなどのAIライフサイクルの重要なステージで重要な役割を果たします。最初の段階では、体系的にデータを統合し、カタログ化し、セキュアなアーカイブを作成することで、新しいプロジェクトの開始を迅速化し、エマージングモデルのテストを容易にします。クリーンで適切に処理されたデータは、単に多くのデータを持つことよりも優れています。バックブレイズのよくある言葉の1つは、「データは溜め込むものではない」ということです。どれほど貴重になるかはわかりませんが、組織は可能な限り多くのデータを収集するべきです。トレーニング中には、スケーラブルなストレージが大量のデータセットのスループットを保証し、インファレンス中には、予測結果とユーザーフィードバックのキャプチャが継続的なイテレーションを可能にします。最終的には、ストレージはAIでイノベーションをどのくらい迅速に実現できるかを決定する基盤となります。

組織がAI用のストレージをスケーリングする際に直面する最大の障害は何ですか?これらの課題は、小規模なスタートアップと大規模なエンタープライズの間でどのように異なりますか?

AI用のストレージをスケーリングする際の最大の障害は、コスト、データ管理、そしてアクセシビリティです。大量のデータを保存することは課題の一部にすぎません。データは整理され、回収可能で、適切なコントロールで管理され、ガバナンスされなければなりません。クリーンで適切に構造化されたデータは、単に多くのデータを持つことよりも優れています。

スタートアップの場合、初期の課題は、モデルをトレーニングして改良するのに十分なデータを取得することです。データを取得したら、コストとアーキテクチャが次の障害となります。

大規模なエンタープライズの場合、課題は複雑性です。データは豊富ですが、シロ、レガシーシステム、コンプライアンス体制に分散しており、統合とアクセシビリティが困難です。

成功する組織は、ストレージをAI成熟度とともにコスト、パフォーマンス、そしてアクセシビリティの面でスケーラブルな戦略的エナブラーとして扱います。

コスト、待ち時間、セキュリティ、コンプライアンスの中で、AIをスケーリングする際に最も重要な障害は何ですか?組織はどのようにしてこれに対処するべきですか?

コスト、待ち時間、セキュリティ、コンプライアンスの中で、待ち時間は最も重要な障害の1つです。待ち時間は、モデルトレーニングとインファレンスの両方に直接影響し、特にインファレンスの際のユーザーエクスペリエンスを形作ります。組織は、採用を損なう可能性のある予測の遅延を減らすために、可能な限り待ち時間を短縮することを目指しています。

コストは、データ量の増加とともに継続的な課題であり、コンプライアンスは、特に規制された業界では、スケールアップするにつれてより重要なものになります。スタートアップは、コストと待ち時間に焦点を当てていますが、エンタープライズは、待ち時間とガバナンス、規制の要求とのバランスを取る必要があります。優先順位は、トレーニングとインファレンスの待ち時間を最小限に抑えながら、コスト効率とコンプライアンスを維持するストレージを構築することです。

エンタープライズは、AIイノベーションを推進するために、データへの柔軟なアクセスと容易なアクセスが必要であると強調しています。真の柔軟性とは何ですか?それが重要な理由は何ですか?

最近の講演で、私はスマートアーカイブの概念を強調しました。真の柔軟性は、情報を構造化された、検索可能なアーカイブに集めることから始まります。つまり、さまざまな形式を統一し、タグ付けと正規化を通じて一貫性を保ち、将来の照会のためにインデックスを作成することを意味します。このアプローチにより、データは単に保存されるだけでなく、利用可能になるのです。

これは、分析とモデリングの基盤を提供するため、非常に重要です。データが構造化され、検索可能な場合、チームはより迅速に動き、より自由に実験し、トレーニングとインファレンスの両方で待ち時間を短縮できます。そうでない場合、ストレージはAIイノベーションのためのボトルネックではなく、エナブラーになります。

Decart AIやWynd Labsのような顧客の実際のユースケースを共有できますか?これらは、適切なクラウドストレージアプローチが直接AIイノベーションを可能にする方法を示しています。

これらは、適切なクラウドストレージアプローチが直接AIイノベーションを可能にする方法を示す、2つの優れた例です。Decartは、データをコンピューティングに効率的に移動することが重要なモデルトレーニングに焦点を当てていました。Backblaze B2を使用して、90日間で16PBにスケールし、複数のGPUクラスターでゼロのエグレスコストでトレーニングを行い、競合他社の10倍の効率性を達成しました。その信頼性と効率性により、迅速にイノベーションできるようになりました。

Wynd Labsは、顧客がデータにアクセスする能力に焦点を当てていました。毎日ペタバイトのデータをインジェストし、毎月数十ペタバイトのデータを提供しています。Backblazeの高パフォーマンスと無料のエグレスにより、エンタープライズの需要にスケールし、リソースを製品開発に再投資できるようになりました。そのデータアクセスの提供能力により、プラットフォームに新たな機会を生み出すことができました。

両方のケースで、適切なストレージ戦略により、インフラストラクチャは制約からエナブラーに変わり、会社はAIのイノベーションに焦点を当てることができました。

AIモデルとデータセットがより複雑になるにつれて、組織はストレージのパフォーマンスとコスト効率のバランスをとるために何をすべきですか?

組織は、製品の長期的なデータ使用を考慮する必要があります。データの収集、処理、移動、およびインファレンスはすべて、製品の進化に不可欠です。これらの点を今すぐ考慮しないと、コストとストレージの課題は時間の経過とともに複雑化します。AIは製品と組織の中心となるため、ストレージはパフォーマンスとコスト効率のバランスをとってスケーラブルに設計する必要があります。

セキュリティとコンプライアンスは、特に規制された業界では、特に重要です。クラウドストレージは、ガバナンスのニーズをサポートしながらチームが迅速にイノベーションできるように進化するでしょうか?

ガバナンスはストレージの重要な側面です。アクセスの簡素化とデータの管理、セキュリティ、監査のための堅固な基盤が必要です。クラウドストレージは、デフォルトでの暗号化、細粒度のアクセス許可、監査ログ、データ所在オプションなどの強力な組み込みコントロールで進化することを私は見ています。データのプロビニェンスも重要です。AIでは、データの元、データの処理方法、モデルへのフィード方法を知ることがコンプライアンスと信頼の両方に不可欠です。

同時に、ストレージプラットフォームは、チームが迅速に動けるように使いやすさを向上させています。ガバナンス、プロビニェンス、そしてアクセシビリティが協調して機能する場合、組織は規制要件を満たしながらAIで迅速にイノベーションできます。

組織がB2を評価または移行する際に、実装、既存のMLOpsまたはコンピューティングスタックとの統合、スループットとエグレスの最適化について、どのようなアドバイスを提供しますか?

Backblaze B2はS3互換性があるため、既存のMLOpsとコンピューティングスタックに直接統合され、再構成は不要です。プローブコンセプトで移行、パフォーマンス、統合を検証することがよくあります。その後、チームがクラスター間でトレーニングを行い、インファレンスを実行し、迅速にイテレーションできるように、スループット、データ移動、データオーケストレーションの最適化に焦点を当てています。

AIワークロードがスケールするにつれて、特にLLM、エクサバイト規模のデータセット、ハイブリッドまたはマルチクラウド戦略のトレンドについてはどうですか?Backblazeは、これらの新しいニーズに応えるためにストレージオファリングをどのように進化させていますか?

Backblazeでは、データがどのように使用されるかだけでなく、どのように将来オーケストレーションされるかについても焦点を当てています。ストレージは、単なるアーカイブではありません。データへの迅速なアクセス、効率的な移動、信頼性の高いオーケストレーションのツールになりつつあります。LLMやエクサバイト規模のデータセットの場合、データへの容易なアクセスと高スループットが、トレーニングとインファレンスだけでなく、データに依存するプロセスをより自律的にする新しいAIエージェントのためにも重要になります。結果として、現在のイノベーションを可能にするだけでなく、組織が次のステップに備えるストレージの基盤が実現します。

素晴らしいインタビュー、詳しく知りたい読者はBackblazeを訪問してください。