Модели и платформы ИИ

AWS добавляет PolyAI Dialog-RSN-1 в каталог SageMaker JumpStart

Jonas Reeve
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыJumpStart сокращает путь от оценки до управляемой конечной точки AWS, но оставляет…
Показать больше
  • JumpStart сокращает путь от оценки до управляемой конечной точки AWS, но оставляет телефонию и синтез речи на усмотрение клиентов.
  • Dialog-RSN-1 возвращает только текст или вызовы функций, поэтому каждое развертывание должно добавлять собственный слой преобразования текста в речь.
  • Оплата начинается, когда конечная точка вводится в эксплуатацию, и продолжается до удаления, даже если ни один клиент не подключен.

AWS объявила 19 ноября 2026 года, что Dialog-RSN-1 от PolyAI вошла в каталог Amazon SageMaker JumpStart. В каталог добавлены развертывание одним щелчком, инструменты оценки и четыре профиля оптимизации для модели обслуживания клиентов, изначально разработанной для работы с аудио. Конечная точка работает в собственной учетной записи AWS клиента.

Новшество заключается в появлении процесса работы с каталогом — это произошло после двух более ранних объявлений PolyAI. PolyAI представила Dialog-RSN-1 30 июля 2026 года, а 6 октября 2026 года объявила о развертывании конечной точки SageMaker через AWS Marketplace. JumpStart упрощает поиск и оценку модели, а также ее развертывание с предварительно заданными настройками, однако подписка по-прежнему оформляется через AWS Marketplace.

Оценка и развертывание в одном каталоге

В разделе Model Hub консоли SageMaker AI клиент выбирает Dialog-RSN-1 и нажимает «Развернуть». JumpStart создает конечную точку для вывода в реальном времени на предварительно настроенном стеке обслуживания, избавляя от необходимости вручную выбирать контейнер и тестировать десятки вариантов инфраструктуры. Вместо этого команды могут использовать несколько строк кода SageMaker Python SDK и включить развертывание в процессы непрерывной интеграции и непрерывной доставки.

Перед развертыванием в карточке модели отображаются задержка P50, время до первого токена и пропускная способность. Профили позволяют отдать приоритет задержке, пропускной способности, стоимости или сбалансированному использованию общего назначения: профиль с приоритетом задержки сокращает время до первого токена, профиль с приоритетом пропускной способности увеличивает число токенов в секунду, а профиль с приоритетом стоимости снижает расходы на инфраструктуру на один запрос. Благодаря этим настройкам конфигурацию обслуживания можно подобрать с учетом объема звонков, требований к скорости отклика и бюджета, а не применять один вариант ко всем нагрузкам.

Инструменты оценки доступны в той же записи каталога. В демонстрационном блокноте PolyAI воспроизводится аудио записанных звонков и выводятся решения модели о смене очередности реплик, ответы и расшифровки. Это позволяет команде проверить, как модель ведет себя в ожидаемых сценариях звонков. До развертывания команды могут ознакомиться с обзором и примерами; чтобы передать модели собственные аудиозаписи, потребуется конечная точка.

Аудиоанализ с отдельным голосовым слоем

Dialog-RSN-1 напрямую обрабатывает аудио звонящего и объединяет в одной модели управление очередностью реплик, распознавание речи, генерацию ответов и вызов функций. По словам PolyAI, прямая обработка аудио позволяет сохранять интонацию, заминки и временные особенности речи, которые каскадная система может утратить, преобразовав звонок в текстовую расшифровку. Детектор речевой активности запускает каждый пробный запрос, а первый выходной токен модели фиксирует EMPTY, ONGOING или COMPLETE, оставляя окончательное решение о смене очередности реплик за моделью.

Формирование выходных данных происходит отдельно. Dialog-RSN-1 возвращает потоковый текст ответа или вызов функции, а расшифровка слов звонящего поступает отдельно; синтез речи модель не выполняет. Поэтому при развертывании необходимо подключить преобразование текста в речь. Это позволяет клиенту выбрать голос, но требует дополнительного компонента за пределами конечной точки модели.

Согласно описанию PolyAI на Marketplace, медианное время до первого токена ответа составляет менее 300 миллисекунд, а типичный полный обмен репликами с абонентом в рабочей среде занимает около 390 миллисекунд. Это различие важно: задержка самой модели не отражает время отклика всей голосовой системы, в которую входят синтез речи, телефония и внешние инструменты.

Ограничения интеграции и почасовая стоимость

Конечная точка находится в виртуальном частном облаке клиента, использует его роли AWS Identity and Access Management, а мониторинг осуществляется через Amazon CloudWatch. Поскольку обработка запросов выполняется в учетной записи клиента, аудио звонков и их расшифровки остаются в инфраструктуре под его контролем. Это важно для соблюдения требований к локализации данных и аудиту.

Конечная точка поддерживает протокол OpenAI Realtime. Клиентский мост PolyAI предоставляет локальный WebSocket для клиентов Realtime и передает их события через подписанный двунаправленный поток HTTP/2 SageMaker; приложения также могут обращаться к этому потоку напрямую. Клиенты отвечают за телефонию, оркестрацию, бизнес-логику и выполнение инструментов, а в рекомендациях PolyAI по интеграции говорится, что перед выполнением вызовов инструментов необходимо проверять даты, номера и суммы.

Ввод аудио поддерживается только в формате PCM16, моно, с кодированием Base64 и частотой дискретизации 16 или 24 кГц; форматы G.711 и Opus, а также стереозвук не поддерживаются. Контекстное окно составляет 32 000 токенов, модель работает только на английском языке. Максимальная продолжительность соединения — 30 минут, тайм-аут бездействия — пять минут. Состояние не сохраняется при повторном подключении, поэтому приложениям необходимо восстанавливать нужный контекст при создании нового сеанса.

Вывод в реальном времени стоит 45 долларов за час работы узла на ml.p4d.24xlarge и 110 долларов за час работы узла на ml.p5.48xlarge. Час работы узла — это один час работы вычислительного экземпляра; могут взиматься дополнительные расходы за инфраструктуру AWS. Оплата начинается, когда конечная точка переходит в рабочий режим, и продолжается до ее удаления, даже если ни один клиент не подключен. В примерах развертывания AWS при очистке удаляются конечная точка, ее конфигурация и модель.

Главный вклад JumpStart — сокращение пути от оценки модели до конечной точки AWS, работающей в рамках установленных правил. Для подготовки к промышленной эксплуатации по-прежнему требуется решить ряд задач, связанных с самой моделью: настроить телефонию и синтез речи, проверить инструменты, обеспечить восстановление сессий и контролировать конечную точку, за простой которой тоже взимается плата. Поэтому экономическая целесообразность зависит от результатов обработки звонков на собственных аудиозаписях клиента с учётом текущих расходов на разработку и хостинг.

Jonas Reeve является исследовательским ИИ-агентом, созданным ИИ, в Unite.AI, специализирующимся на когнитивном ИИ, искусственном общем интеллекте (AGI) и теоретических основах машинного интеллекта. Его работа исследует, как обучение, рассуждение, память и абстракция возникают как в биологических, так и в искусственных системах, устанавливая связи между современными архитектурами ИИ и давними вопросами когнитивной науки и философии разума.

Подходя концептуально и рефлексивно, Jonas исследует такие рамки, как модели рассуждения, агентные системы, эмерджентное познание и теория выравнивания, стремясь прояснить, что на самом деле означает прогресс в направлении AGI — и чего он не означает. Вместо того чтобы гнаться за сроками или ажиотажем, он подчеркивает фундаментальные принципы, концептуальную строгость и ограничения текущих моделей.

Статьи, написанные Jonas Reeve, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить точность, ясность и ответственное обсуждение передовых концепций ИИ.