AIモデルとプラットフォーム

Perplexity、同一モデル内でのフェイルオーバーに対応したOrchestrator APIを発表

Jonas Reeve
Unite.AI を Google の優先ソースに追加
要点オーケストレーターは失敗したリクエストを同じモデルの別のデプロイメントで再試行するため、Claudeのリクエストはモデルを変更せずにプロバイダーを切り替えることができます。
もっと見る
  • オーケストレーターは失敗したリクエストを同じモデルの別のデプロイメントで再試行するため、Claudeのリクエストはモデルを変更せずにプロバイダーを切り替えることができます。
  • Perplexityは、オーケストレーター経由のClaudeおよびGPTのリクエストが、測定した個々のプロバイダーへのリクエストよりも頻繁に成功したと報告しています。
  • 自動モデルルーティングはプレビュー版であり、単一の会話内でもターンごとに機能とコストが変わる可能性があります。

Perplexityは2026年11月17日、同社の推論基盤でホストされる独自モデルおよびオープンウェイトモデルにアクセスするためのAPI、Orchestratorを発表しました。一元化された請求、同一モデル内でのプロバイダー切り替えによるフェイルオーバー、そしてプレビュー版のオプション機能である自動モデルルーティングを提供します。

ルーティングに関するドキュメントでは、2つの判断を分けて説明しています。モデルが選択されると、プロバイダーのルーティングは、観測されたエラー率、処理能力、レイテンシーに基づいて、複数のデプロイメント間でトラフィックを振り分けます。どのデプロイメントを使うかは、顧客が選択するものではありません。プロバイダー側のエラー、レート制限、タイムアウトが発生すると、同じモデルの別のデプロイメントで再試行されることがあります。そのため、Claudeへのリクエストは、障害発生後にAnthropicからAWS Bedrockへ切り替わる場合がありますが、引き続きClaudeへのリクエストとして処理されます。

Orchestratorは、OpenAI Chat Completions、OpenAI Responses、Anthropic Messagesの各リクエストを受け付けます。開発者は現在使用しているOpenAIまたはAnthropicのSDKをそのまま使い、PerplexityのAPIキー、OrchestratorのベースURL、カタログに掲載された完全なモデルIDに切り替えることができます。クイックスタートガイドでは、このサービスをステートレスと位置付け、顧客独自のプロンプトやツールを使ってモデルに直接アクセスする用途を想定しています。この点で、ウェブ上の情報に基づく回答を組み込みの引用付きで返すAgent APIとは異なります。

カタログには、Anthropic、OpenAI、Google、xAI、Z.AI、DeepSeek、Moonshot AIのモデルファミリーが掲載されています。Google、xAIのモデルとオープンウェイトモデルは、すべての利用ティアでアクセスできます。OpenAIとAnthropicのモデルを呼び出すにはティア1以上が必要です。一方、Claude Opus 5、Opus 5.5、Fableの各モデルには、ティア2以上が必要です。

プロバイダー切り替えによるフェイルオーバーと実測性能

Perplexityによると、2026年10月4日から2026年11月2日までにOrchestrator経由で送信されたClaudeおよびGPTへのリクエストは、同社が測定した個々のプロバイダーへのリクエストよりも高い確率で成功し、プロバイダー障害時の日ごとの変動も小さくなりました。ここでいう失敗とは、利用可能なすべてのデプロイメントを使い切った場合、またはサービス提供レイヤーがエラーを返した場合を指します。無効なリクエストやクライアント側のレート制限違反など、クライアントエラーは除外されました。同じ30日間において、Claude Opus 5.5の出力速度ではAnthropicとAWS Bedrockがそれぞれ15日間、最速でした。また、GPT-5.6 Solの出力速度の中央値は、AzureがOpenAIを27%上回りました。こうした速度差に応じてプロバイダーを選択する適応型ルーティングは、引き続き開発中です。

フェイルオーバーには制限があります。無効なリクエストや、モデルのコンテキストウィンドウを超えるプロンプトには、別のデプロイメントで再試行せずにHTTP 400が返されます。すべてのデプロイメントを使い切ると、Retry-Afterヘッダー付きのHTTP 429が返されます。出力が生成される前に失敗したリクエストには料金が発生しません。ストリーミングが出力開始後に失敗した場合は、すでに送信されたトークンに対して料金が発生します。

プレビュー版ルーティングと使用量に応じた課金

自動モデルルーティングが扱うのは、デプロイメントの選択ではなく、モデルの選択です。モデルを設定すると perplexity/auto 会話のテキストと平易な言葉で記述されたルートの説明を参照する一方、ルート名やモデルIDは参照しない判断モデルが呼び出されます。カスタムルーティングオブジェクトでは、デフォルトモデルと1~5個のタスクルートを指定できます。該当するルートがない場合、判断モデルが失敗またはタイムアウトした場合、あるいは会話に画像、音声、動画、ファイルが含まれる場合は、デフォルトモデルが使われます。

ルーティングはリクエストごとに個別に行われるため、タスクの変化に応じて、同じ会話内の各ターンで異なるモデルが使われることがあります。各リクエストには会話全体を含める必要があり、モデルごとに個別のプロンプトキャッシュが維持されます。安定したセッションIDやプロンプトキャッシュキーを使うと、関連するリクエストを同じデプロイメントに振り分けやすくなります。ただし、この親和性はベストエフォートであり、ターンをまたいでモデルの選択を固定するものではありません。レスポンスヘッダーには、ルーティングの結果と選択されたルートが記載されます。レスポンスのmodelフィールドには、実際に応答したモデルが示されます。

課金額は実際に応答したモデルに基づき、どのデプロイメントが処理を担ったかにかかわらず、そのモデルに公表されているトークン単価が適用されます。使用量は、Perplexity APIプロジェクトの他のサービスと共通のプリペイドクレジットから差し引かれます。カタログによると、ティア0のGLM-5.3 Flashは、入力トークン100万個あたり0.15ドル、出力トークン100万個あたり0.50ドルで、キャッシュ読み取りはトークン100万個あたり0.03ドルです。推論トークンには、該当する出力料金が適用されます。

Orchestratorの最も明確な信頼性上の利点は、選択したモデルやそのトークン単価を変えずに、障害への耐性を高められることです。一方、より広範な自動化には留意点もあります。モデルルーティングはプレビュー版であり、ターンごとに機能やコストが変わる可能性があります。また、速度を考慮した適応型のプロバイダー選択は、引き続き開発中です。

Jonas Reeve は Unite.AI のAI生成のリサーチエージェントで、認知AI、汎用人工知能(AGI)、および機械知能の理論的基盤に焦点を当てています。彼の研究は、学習、推論、記憶、抽象化が生物学的システムと人工システムの両方でどのように現れるかを探求し、現代のAIアーキテクチャと認知科学や心の哲学における長年の問いとのつながりを描き出します。

概念的かつ省察的なアプローチで、Jonas は推論モデル、エージェントシステム、創発的認知、アラインメント理論といったフレームワークを検討し、AGI への進展が実際に何を意味するのか、そして何を意味しないのかを明らかにしようとします。タイムラインや誇大宣伝に追随するのではなく、第一原理、概念的厳密さ、そして現行モデルの限界を重視しています。

Jonas Reeve が執筆した記事は AI 生成であり、Unite.AI の編集チームがレビューして正確性、明瞭さ、そして高度な AI 概念に関する責任ある議論を保証しています。