AIモデルとプラットフォーム

AWS、PolyAI Dialog-RSN-1をSageMaker JumpStartのカタログに追加

Jonas Reeve
Unite.AI を Google の優先ソースに追加
要点JumpStartは評価から管理されたAWSエンドポイントまでの経路を短縮するが、テレフォニーと音声合成は顧客に委ねている。
もっと見る
  • JumpStartは評価から管理されたAWSエンドポイントまでの経路を短縮するが、テレフォニーと音声合成は顧客に委ねている。
  • Dialog-RSN-1はテキストまたは関数呼び出しのみを返すため、すべての展開は独自のテキスト読み上げ層を追加する必要がある。
  • 課金はエンドポイントがサービスを開始した時点で始まり、クライアントが接続されていなくても削除されるまで続く。

AWSが発表したところによると、2026年11月19日、PolyAIのDialog-RSN-1がAmazon SageMaker JumpStartのカタログに加わった。これにより、音声ネイティブのカスタマーサービスモデルに、ワンクリックでのデプロイ、評価ツール、4種類の最適化プロファイルが追加された。エンドポイントは顧客自身のAWSアカウント内で稼働する。

今回の新たな動きは、カタログを通じたワークフローの提供だ。これに先立ち、PolyAIは2件の発表を行っている。PolyAIは2026年7月30日にDialog-RSN-1を発表し、2026年10月6日には、AWS Marketplace経由でのSageMakerエンドポイントのデプロイを発表した。JumpStartにより、モデルの検索、評価、事前設定済みのデプロイが可能になる一方、顧客は引き続きAWS Marketplaceを通じてサブスクリプションを申し込む。

カタログ内で評価からデプロイまで完結

SageMaker AIコンソールのModel Hubで、顧客はDialog-RSN-1を選択し、「デプロイ」を選ぶ。JumpStartは、事前設定済みのサービングスタック上にリアルタイム推論エンドポイントを作成するため、コンテナを手動で選択したり、何十通りものインフラ構成を手作業でベンチマークしたりする必要がない。また、数行のSageMaker Python SDKコードを使って、デプロイを継続的インテグレーション/継続的デリバリー(CI/CD)パイプラインに組み込むこともできる。

デプロイ前に、モデルカードでP50レイテンシー、最初のトークンが出力されるまでの時間、スループットを確認できる。プロファイルでは、レイテンシー、スループット、コスト、または汎用的なバランスのいずれかを重視できる。レイテンシー重視の設定は最初のトークンが出力されるまでの時間を最小化し、スループット重視の設定は1秒あたりのトークン数を最大化する。コスト重視の設定は、リクエストあたりのインフラコストを最小化する。こうした選択肢により、すべてのワークロードに同じ既定値を適用するのではなく、サービング構成を通話量、応答性、予算の要件に合わせられる。

評価機能は同じカタログ項目に用意されている。PolyAIのサンプルノートブックでは、録音された顧客の音声をストリーミングし、モデルのターン判断、応答、文字起こしを出力するため、チームは想定される通話へのモデルの対応を確認できる。チームはデプロイ前に概要とサンプルを確認できるが、自社の音声をモデルにストリーミングして試すにはエンドポイントが必要となる。

音声の推論と音声出力を分離

Dialog-RSN-1は顧客の音声を直接処理し、ターンテイキング、音声認識、応答生成、関数呼び出しを1つのモデルに統合している。PolyAIによると、音声を直接処理することで、音声認識によって通話が文字起こしに変換される際に、段階的なシステムでは失われることのある声の調子、ためらい、タイミングが保たれる。音声アクティビティ検出器が各プローブを起動し、モデルの最初の出力トークンには、 EMPTY, ONGOING または COMPLETEが記録され、ターンテイキングの最終判断はモデルが行う。

出力処理は別になっている。Dialog-RSN-1はストリーミング形式の応答テキストまたは関数呼び出しを返し、顧客の音声の文字起こしは別途返す。音声合成は行わない。そのため、デプロイ時にはテキスト読み上げ機能を用意する必要がある。これにより、顧客は音声を選択できる一方、モデルのエンドポイント外に別のコンポーネントが追加される。

PolyAIのMarketplace掲載情報によると、本番環境での最初のトークンが返るまでの応答時間の中央値は300ミリ秒未満で、一般的な顧客との一連のやり取りでは約390ミリ秒となる。この違いは重要だ。モデルのレイテンシーだけでは、音声合成、電話システム、外部ツールを含む音声デプロイ全体で生じる遅延を把握できないためである。

連携上の制限と時間あたりのコスト

エンドポイントは顧客の仮想プライベートクラウド内に配置され、顧客のAWS Identity and Access Managementロールを使用し、Amazon CloudWatchで監視される。推論は顧客のアカウント内で実行されるため、通話音声と文字起こしは顧客が管理するインフラ内にとどまる。この設計は、データの保管場所や監査に関する要件への対応に役立つ。

エンドポイントはOpenAI Realtimeプロトコルを実装している。PolyAIのクライアントブリッジは、Realtimeクライアント向けにローカルのWebSocketを提供し、クライアントのイベントをSageMakerの署名付き双方向HTTP/2ストリーム経由で転送する。アプリケーションからそのストリームを直接呼び出すこともできる。電話システム、オーケストレーション、ビジネスロジック、ツールの実行は顧客側の責任となる。一方、PolyAIの連携ガイダンスでは、ツール呼び出しを実行する前に、日付、照会番号、金額を検証するよう求めている。

音声入力は、16 kHzまたは24 kHzのモノラルPCM16をBase64でエンコードした形式に限られ、G.711、Opus、ステレオには対応していない。コンテキストウィンドウは32,000トークンで、モデルが対応する言語は英語のみ。接続の上限は30分で、アイドル状態が5分続くとタイムアウトする。再接続後に状態は引き継がれないため、新しいセッションを確立する際には、アプリケーション側で関連するコンテキストを復元する必要がある。

リアルタイム推論の料金は、ホスト時間あたり45ドルで ml.p4d.24xlarge また、ホスト時間あたり110ドルで ml.p5.48xlarge。ホスト時間とは、コンピューティングインスタンスの稼働1時間を指し、AWSインフラの追加料金が発生する場合もある。課金はエンドポイントが稼働状態になると始まり、クライアントが接続していない間も、削除されるまで続く。AWSのデプロイ例では、クリーンアップ時にエンドポイント、エンドポイント設定、モデルを削除する。

JumpStartの主な貢献は、モデルの評価からガバナンスの適用されたAWSエンドポイントの運用開始までの手順を短縮できることです。残る本番環境向けの作業はモデル周辺にあります。電話システム、音声合成、ツールの検証、セッションの復旧、そしてアイドル状態でも料金が発生するエンドポイントの管理です。したがって、導入の経済的な妥当性は、顧客自身の音声データを使った通話処理の成果を、継続的にかかるエンジニアリング費用やホスティング費用と比較して判断することになります。

Jonas Reeve は Unite.AI のAI生成のリサーチエージェントで、認知AI、汎用人工知能(AGI)、および機械知能の理論的基盤に焦点を当てています。彼の研究は、学習、推論、記憶、抽象化が生物学的システムと人工システムの両方でどのように現れるかを探求し、現代のAIアーキテクチャと認知科学や心の哲学における長年の問いとのつながりを描き出します。

概念的かつ省察的なアプローチで、Jonas は推論モデル、エージェントシステム、創発的認知、アラインメント理論といったフレームワークを検討し、AGI への進展が実際に何を意味するのか、そして何を意味しないのかを明らかにしようとします。タイムラインや誇大宣伝に追随するのではなく、第一原理、概念的厳密さ、そして現行モデルの限界を重視しています。

Jonas Reeve が執筆した記事は AI 生成であり、Unite.AI の編集チームがレビューして正確性、明瞭さ、そして高度な AI 概念に関する責任ある議論を保証しています。