Модели и платформы ИИ
AWS добавляет PolyAI Dialog-RSN-1 в каталог SageMaker JumpStart

Ключевые моментыJumpStart сокращает путь от оценки до управляемой конечной точки AWS, но оставляет…
Показать больше
- JumpStart сокращает путь от оценки до управляемой конечной точки AWS, но оставляет телефонию и синтез речи на усмотрение клиентов.
- Dialog-RSN-1 возвращает только текст или вызовы функций, поэтому каждое развертывание должно добавлять собственный слой преобразования текста в речь.
- Оплата начинается, когда конечная точка вводится в эксплуатацию, и продолжается до удаления, даже если ни один клиент не подключен.
AWS объявила 19 ноября 2026 года, что Dialog-RSN-1 от PolyAI вошла в каталог Amazon SageMaker JumpStart. В каталог добавлены развертывание одним щелчком, инструменты оценки и четыре профиля оптимизации для модели обслуживания клиентов, изначально разработанной для работы с аудио. Конечная точка работает в собственной учетной записи AWS клиента.
Новшество заключается в появлении процесса работы с каталогом — это произошло после двух более ранних объявлений PolyAI. PolyAI представила Dialog-RSN-1 30 июля 2026 года, а 6 октября 2026 года объявила о развертывании конечной точки SageMaker через AWS Marketplace. JumpStart упрощает поиск и оценку модели, а также ее развертывание с предварительно заданными настройками, однако подписка по-прежнему оформляется через AWS Marketplace.
Оценка и развертывание в одном каталоге
В разделе Model Hub консоли SageMaker AI клиент выбирает Dialog-RSN-1 и нажимает «Развернуть». JumpStart создает конечную точку для вывода в реальном времени на предварительно настроенном стеке обслуживания, избавляя от необходимости вручную выбирать контейнер и тестировать десятки вариантов инфраструктуры. Вместо этого команды могут использовать несколько строк кода SageMaker Python SDK и включить развертывание в процессы непрерывной интеграции и непрерывной доставки.
Перед развертыванием в карточке модели отображаются задержка P50, время до первого токена и пропускная способность. Профили позволяют отдать приоритет задержке, пропускной способности, стоимости или сбалансированному использованию общего назначения: профиль с приоритетом задержки сокращает время до первого токена, профиль с приоритетом пропускной способности увеличивает число токенов в секунду, а профиль с приоритетом стоимости снижает расходы на инфраструктуру на один запрос. Благодаря этим настройкам конфигурацию обслуживания можно подобрать с учетом объема звонков, требований к скорости отклика и бюджета, а не применять один вариант ко всем нагрузкам.
Инструменты оценки доступны в той же записи каталога. В демонстрационном блокноте PolyAI воспроизводится аудио записанных звонков и выводятся решения модели о смене очередности реплик, ответы и расшифровки. Это позволяет команде проверить, как модель ведет себя в ожидаемых сценариях звонков. До развертывания команды могут ознакомиться с обзором и примерами; чтобы передать модели собственные аудиозаписи, потребуется конечная точка.
Аудиоанализ с отдельным голосовым слоем
Dialog-RSN-1 напрямую обрабатывает аудио звонящего и объединяет в одной модели управление очередностью реплик, распознавание речи, генерацию ответов и вызов функций. По словам PolyAI, прямая обработка аудио позволяет сохранять интонацию, заминки и временные особенности речи, которые каскадная система может утратить, преобразовав звонок в текстовую расшифровку. Детектор речевой активности запускает каждый пробный запрос, а первый выходной токен модели фиксирует EMPTY, ONGOING или COMPLETE, оставляя окончательное решение о смене очередности реплик за моделью.
Формирование выходных данных происходит отдельно. Dialog-RSN-1 возвращает потоковый текст ответа или вызов функции, а расшифровка слов звонящего поступает отдельно; синтез речи модель не выполняет. Поэтому при развертывании необходимо подключить преобразование текста в речь. Это позволяет клиенту выбрать голос, но требует дополнительного компонента за пределами конечной точки модели.
Согласно описанию PolyAI на Marketplace, медианное время до первого токена ответа составляет менее 300 миллисекунд, а типичный полный обмен репликами с абонентом в рабочей среде занимает около 390 миллисекунд. Это различие важно: задержка самой модели не отражает время отклика всей голосовой системы, в которую входят синтез речи, телефония и внешние инструменты.
Ограничения интеграции и почасовая стоимость
Конечная точка находится в виртуальном частном облаке клиента, использует его роли AWS Identity and Access Management, а мониторинг осуществляется через Amazon CloudWatch. Поскольку обработка запросов выполняется в учетной записи клиента, аудио звонков и их расшифровки остаются в инфраструктуре под его контролем. Это важно для соблюдения требований к локализации данных и аудиту.
Конечная точка поддерживает протокол OpenAI Realtime. Клиентский мост PolyAI предоставляет локальный WebSocket для клиентов Realtime и передает их события через подписанный двунаправленный поток HTTP/2 SageMaker; приложения также могут обращаться к этому потоку напрямую. Клиенты отвечают за телефонию, оркестрацию, бизнес-логику и выполнение инструментов, а в рекомендациях PolyAI по интеграции говорится, что перед выполнением вызовов инструментов необходимо проверять даты, номера и суммы.
Ввод аудио поддерживается только в формате PCM16, моно, с кодированием Base64 и частотой дискретизации 16 или 24 кГц; форматы G.711 и Opus, а также стереозвук не поддерживаются. Контекстное окно составляет 32 000 токенов, модель работает только на английском языке. Максимальная продолжительность соединения — 30 минут, тайм-аут бездействия — пять минут. Состояние не сохраняется при повторном подключении, поэтому приложениям необходимо восстанавливать нужный контекст при создании нового сеанса.
Вывод в реальном времени стоит 45 долларов за час работы узла на ml.p4d.24xlarge и 110 долларов за час работы узла на ml.p5.48xlarge. Час работы узла — это один час работы вычислительного экземпляра; могут взиматься дополнительные расходы за инфраструктуру AWS. Оплата начинается, когда конечная точка переходит в рабочий режим, и продолжается до ее удаления, даже если ни один клиент не подключен. В примерах развертывания AWS при очистке удаляются конечная точка, ее конфигурация и модель.
Главный вклад JumpStart — сокращение пути от оценки модели до конечной точки AWS, работающей в рамках установленных правил. Для подготовки к промышленной эксплуатации по-прежнему требуется решить ряд задач, связанных с самой моделью: настроить телефонию и синтез речи, проверить инструменты, обеспечить восстановление сессий и контролировать конечную точку, за простой которой тоже взимается плата. Поэтому экономическая целесообразность зависит от результатов обработки звонков на собственных аудиозаписях клиента с учётом текущих расходов на разработку и хостинг.












