大規模言語モデルとビジネスの橋渡し：LLMOps

OpenAIのGPT-3やその後継のGPT-4などのLLMの基盤は、3層以上のニューラルネットワークを利用するディープラーニング、つまりAIのサブセットにあります。これらのモデルは、広範なインターネットテキストを含む膨大なデータセットでトレーニングされます。トレーニングを通じて、LLMは、前の単語に基づいて次の単語を予測することを学習します。この能力は、シンプルなものですが、LLMが長いシーケンスでコンテキストに適したテキストを生成する能力の基盤となっています。

潜在的な応用は無限にあります。メールの草案作成、コードの作成、質問の回答、創造的な文章の書き方などです。しかし、偉大な力には偉大な責任が伴います。プロダクション環境でこれらの巨大なモデルを管理することは、たやすいことではありません。これがLLMOpsが登場する理由です。LLMOpsは、LLMの信頼性の高い、セキュアで、効率的な運用を保証するためのベストプラクティス、ツール、プロセスを体現しています。

LLMの統合への道筋は、主に3つのルートがあります：

1. 汎用LLMのプロンプティング：
   • ChatGPTやBardのようなモデルは、最小限の初期費用で低い敷居で導入できますが、長期的には潜在的なコストが伴う可能性があります。
   • しかし、特に金融やヘルスケアのような厳格な規制枠組みを持つ分野では、データのプライバシーとセキュリティの問題が大きな影を落とします。
2. 汎用LLMのファインチューニング：
   • Llama、Falcon、Mistralのようなオープンソースモデルでは、モデルを特定のユースケースに合わせてファインチューニングすることができます。ただし、モデル選択、データ準備、ファインチューニング、デプロイ、モニタリングが必要になります。
   • このアプローチでは、プライバシーとセキュリティの懸念に対処できますが、より深いエンジニアリングとリソースへの投資が必要になります。
   • LoRA（Low-Rank Adaptation）やQ（Quantized）-LoRaのような最近のイノベーションにより、ファインチューニングプロセスが効率化されています。
3. カスタムLLMトレーニング：
   • LLMをゼロから開発することで、タスクに合わせた精度が向上します。しかし、AIの専門知識、計算リソース、膨大なデータ、時間への投資が必要になります。

これらのうち、汎用LLMのファインチューニングが企業にとって最も好ましい選択肢です。新しいファウンデーションモデルの作成には100万ドルまでかかる可能性がありますが、既存のモデルをファインチューニングすることは10万ドルから100万ドルまでの範囲になります。これらの費用は、計算コスト、データ取得とラベリング、エンジニアリングと研究開発への出費から生じます。

LLMOps versus MLOps

機械学習オペレーション（MLOps）は、機械学習モデルを開発からプロダクションまで移行するための構造化されたパスウェイを提供しています。しかし、LLMの台頭に伴い、LLMOpsと呼ばれる新しい運用パラダイムが、LLMのデプロイと管理のユニークな課題に対処するために登場しました。LLMOpsとMLOpsの違いは、以下の要素に基づいています：

1. 計算リソース：
   • LLMは、トレーニングとファインチューニングに大量の計算リソースを必要とします。GPUなどの特殊なハードウェアが必要になる場合もあります。
   • 推論のコストも、モデル圧縮と蒸留技術の重要性を強調しています。
2. 転移学習：
   • 従来のMLモデルと異なり、LLMは転移学習に大きく依存しています。事前トレーニングされたモデルから始めて、特定のドメインタスクにファインチューニングします。
   • このアプローチにより、データと計算リソースを節約しながら、最先端のパフォーマンスを達成できます。
3. ヒューマンフィードバックループ：
   • LLMの改善は、ヒューマンフィードバックから学習することで大きく推進されます（RLHF）。
   • フィードバックループをLLMOpsパイプラインに統合することで、評価を簡素化し、ファインチューニングプロセスを促進できます。
4. ハイパーパラメータチューニング：
   • 従来のMLでは、ハイパーパラメータチューニングが精度向上の重要な要素ですが、LLMでは、計算コストの削減も重要な考慮事項です。
   • バッチサイズや学習率などのパラメータの調整は、トレーニングの速度とコストに大きな影響を与える可能性があります。
5. パフォーマンスメトリクス：
   • 従来のMLモデルでは、精度、AUC、F1スコアなどのメトリクスが一般的に使用されますが、LLMでは、BLEUやROUGEなどのメトリクスが使用されます。
   • BLEUとROUGEは、機械生成の翻訳や要約の品質を評価するために使用されるメトリクスです。BLEUは主に機械翻訳タスクで使用され、ROUGEはテキスト要約タスクで使用されます。
   • BLEUは、機械生成の要約に含まれる単語が人間の参考要約に含まれる頻度を測定します。ROUGEは、人間の参考要約に含まれる単語が機械生成の要約に含まれる頻度を測定します。
6. プロンプトエンジニアリング：
   • 正確で信頼性の高いレスポンスをLLMから引き出すために、正確なプロンプトのエンジニアリングは不可欠です。モデルホールシネーションやプロンプトハッキングなどのリスクを軽減するために重要です。
7. LLMパイプラインの構築：
   • LangChainやLlamaIndexなどのツールを使用して、複雑なタスクのためにLLMパイプラインを構築できます。これらのパイプラインは、複数のLLM呼び出しや外部システムとの相互作用を組み合わせることができます。

https://www.fiddler.ai/llmops

LLMOpsワークフローの理解：詳細な分析

言語モデルオペレーション（LLMOps）は、LLMのシームレスな動作と統合を保証するための運用のバックボーンです。MLOpsやDevOpsと似てはいますが、LLMOpsにはLLMのニーズに特化した独自のニュアンスがあります。図に示されているLLMOpsワークフローを段階的に詳しく見ていきましょう。

1. トレーニングデータ：
   • 言語モデルの本質はトレーニングデータにあります。このステップでは、データセットを収集し、クリーン化、バランス、適切な注釈付けを行います。データの品質と多様性は、モデルの精度と汎用性に大きな影響を与えます。LLMOpsでは、ボリュームだけでなく、モデルの意図されたユースケースとの整合性にも焦点を当てています。
2. オープンソースファウンデーションモデル：
   • 図では「オープンソースファウンデーションモデル」という用語が使用されています。これは、先行するAIエンティティによって公開された事前トレーニングされたモデルです。これらのモデルは、大規模なデータセットでトレーニングされており、特定のタスクにファインチューニングするための優れた出発点となります。
3. トレーニング/チューニング：
   • ファウンデーションモデルと特定のトレーニングデータを使用して、チューニングが行われます。このステップでは、モデルを特定の目的（例：ヘルスケアアプリケーション用の一般的なテキストモデルを医療文献でファインチューニングする）に適合させることを目的とします。LLMOpsでは、過剰適合を防ぎ、未知のデータに対するモデルの汎用性を確保するために、徹底的なチューニングと一貫したチェックが重要です。
4. トレーニング済みモデル：
   • チューニングの後、特定のアプリケーションに特化したトレーニング済みモデルが得られます。このモデルは、ファウンデーションモデルを改良したもので、オープンソースかもしれませんし、企業によって秘密裏に保管されているかもしれません。
5. デプロイ：
   • デプロイでは、モデルを実稼働環境に統合して、リアルタイムのクエリ処理を行います。ホスティングについては、オンプレミスまたはクラウドプラットフォームの選択が必要です。LLMOpsでは、遅延、計算コスト、可用性に関する考慮が重要であり、モデルが多数の同時リクエストにスケーラブルであることも重要です。
6. プロンプト：
   • 言語モデルでは、プロンプトは入力クエリまたはステートメントです。望ましい出力を得るために、モデルがプロンプトをどのように処理するかを理解した上で、効果的なプロンプトを作成することが不可欠です。
7. エンベッディングストアまたはベクターデータベース：
   • 後処理では、モデルはプレーンテキスト以外の出力を返す場合があります。高度なアプリケーションでは、セマンティックコンテンツを表す高次元ベクトルであるエンベッディングを必要とする場合があります。これらのエンベッディングは、ストアに保存されたりサービスとして提供されたりして、セマンティック情報の迅速な取得または比較を可能にし、テキスト生成以外のモデル機能を活用する方法を拡張します。
8. デプロイ済みモデル（セルフホストまたはAPI）：
   • 一度処理されると、モデルの出力は利用可能になります。戦略によっては、セルフホストインターフェイスまたはAPIを通じて出力をアクセスできます。前者はホスト組織により多くの制御を提供し、後者はサードパーティ開発者にとってスケーラビリティと簡単な統合を提供します。
9. 出力：
   • このステージでは、ワークフローの有形的な結果が得られます。モデルはプロンプトを受け取り、処理して、出力を返します。アプリケーションによっては、テキストブロック、回答、生成されたストーリー、または上で説明したエンベッディングが出力となる場合があります。

トップLLMスタートアップ

LLMOpsのランドスケープには、専門化されたプラットフォームやスタートアップが登場しています。以下は、LLMOpsスペースに関連する2つのスタートアップ/プラットフォームとその説明です：

Comet

Cometは、マシンラーニングライフサイクルをストリームライン化し、特に大規模言語モデルの開発に焦点を当てています。実験の追跡やプロダクションモデルの管理機能を提供します。プラットフォームは、大規模なエンタープライズチーム向けに適しており、プライベートクラウド、ハイブリッド、オンプレミス環境を含むさまざまなデプロイ戦略を提供しています。

Dify

Difyは、GPT-4のような大規模言語モデルを使用したAIアプリケーションの開発を支援するオープンソースのLLMOpsプラットフォームです。ユーザーフレンドリーなインターフェイスを提供し、モデルへのシームレスなアクセス、コンテキストエンベッディング、コスト管理、データ注釈機能を備えています。ユーザーは、モデルを視覚的に管理し、ドキュメント、ウェブコンテンツ、またはNotionノートをAIコンテキストとして利用できます。Difyは、これらの操作の前処理やその他の操作を処理します。

Portkey.ai

Portkey.aiは、LLMオペレーション（LLMOps）に特化したインドのスタートアップです。Lightspeed Venture Partnersが主導する300万ドルのシードファンディングを受けたPortkey.aiは、OpenAIやAnthropicからの大規模言語モデルとの統合を提供しています。サービスは、生成的なAI企業向けに、リアルタイムカナリーテストやモデルファインチューニング機能を含むLLMオペレーションスタックの強化に焦点を当てています。