Моделі та платформи ШІ

AWS додає PolyAI Dialog-RSN-1 до каталогу SageMaker JumpStart

Jonas Reeve
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиJumpStart скорочує шлях від оцінювання до керованої кінцевої точки AWS, але залишає…
Показати більше
  • JumpStart скорочує шлях від оцінювання до керованої кінцевої точки AWS, але залишає телефонию та синтез мовлення клієнтам.
  • Dialog-RSN-1 повертає лише текст або виклики функцій, тому кожне розгортання має додати власний шар перетворення тексту на мовлення.
  • Оплата починається, коли кінцева точка вводиться в експлуатацію, і триває до видалення, навіть якщо жоден клієнт не підключений.

AWS оголосила 19 листопада 2026 року, що Dialog-RSN-1 від PolyAI додано до каталогу Amazon SageMaker JumpStart. Це дає змогу розгортати модель обслуговування клієнтів, що працює безпосередньо з аудіо, одним клацанням, а також користуватися інструментами оцінювання та чотирма профілями оптимізації. Кінцева точка працює у власному обліковому записі AWS клієнта.

Нововведенням став процес роботи з каталогом, що з’явився після двох попередніх анонсів PolyAI. 30 липня 2026 року PolyAI представила Dialog-RSN-1, а 6 жовтня 2026 року оголосила про розгортання кінцевої точки SageMaker через AWS Marketplace. JumpStart спрощує пошук, оцінювання та попередньо налаштоване розгортання, тоді як клієнти, як і раніше, оформлюють підписку через AWS Marketplace.

Оцінювання та розгортання в одному каталозі

У Model Hub консолі SageMaker AI клієнт вибирає Dialog-RSN-1 і натискає «Розгорнути». JumpStart створює кінцеву точку для інференсу в реальному часі на попередньо налаштованому стеку обслуговування, тож не потрібно вручну вибирати контейнер і самостійно тестувати десятки комбінацій інфраструктури. Натомість команди можуть використати кілька рядків коду SageMaker Python SDK і включити розгортання до конвеєрів безперервної інтеграції та безперервного постачання.

Перед розгортанням у картці моделі відображаються затримка P50, час до першого токена та пропускна здатність. Профілі оптимізують затримку, пропускну здатність, вартість або збалансоване універсальне використання: профіль затримки мінімізує час до першого токена, профіль пропускної здатності максимізує кількість токенів за секунду, а профіль вартості мінімізує витрати на інфраструктуру для кожного запиту. Завдяки цим налаштуванням конфігурація обслуговування відповідає обсягу дзвінків, вимогам до швидкості відповіді та бюджету, а не застосовує один стандартний варіант для всіх робочих навантажень.

Оцінювання доступне в тому самому записі каталогу. У зразку ноутбука PolyAI передається потокове аудіо записаних дзвінків і виводяться рішення моделі щодо черговості реплік, відповіді та транскрипти. Це дає змогу команді перевірити поведінку моделі на типах дзвінків, які їй доведеться обробляти. Перед розгортанням команди можуть ознайомитися з оглядом і прикладами; щоб передавати моделі власне аудіо, потрібна кінцева точка.

Аудіоаналіз із використанням окремого голосового компонента

Dialog-RSN-1 безпосередньо обробляє аудіо абонента й поєднує в одній моделі визначення черговості реплік, розпізнавання мовлення, генерування відповідей і виклик функцій. За словами PolyAI, безпосередня обробка аудіо дає змогу зберегти інтонацію, вагання та часові нюанси, які каскадна система може втратити, коли розпізнавання мовлення перетворює дзвінок на транскрипт. Детектор голосової активності запускає кожен запит, а перший вихідний токен моделі фіксує EMPTY, ONGOING або COMPLETE, залишаючи остаточне рішення щодо черговості реплік за моделлю.

Формування вихідних даних відбувається окремо. Dialog-RSN-1 повертає потоковий текст відповіді або виклик функції, а транскрипт слів абонента надходить окремо; синтезу мовлення модель не виконує. Тому під час розгортання потрібно додати перетворення тексту на мовлення. Це дає змогу клієнту вибрати голос, але водночас додає компонент поза кінцевою точкою моделі.

У пропозиції PolyAI на Marketplace зазначено, що медіанний час до першого токена становить менш як 300 мілісекунд, а типовий повний обмін репліками з абонентом у робочому середовищі триває близько 390 мілісекунд. Ця різниця важлива, оскільки сама лише затримка моделі не відображає затримки в повному голосовому рішенні, яке охоплює синтез мовлення, телефонію та зовнішні інструменти.

Обмеження інтеграції та погодинна вартість

Кінцева точка розміщується у віртуальній приватній хмарі клієнта, використовує його ролі AWS Identity and Access Management і контролюється через Amazon CloudWatch. Оскільки інференс виконується в цьому обліковому записі, аудіо дзвінків і транскрипти залишаються в інфраструктурі під контролем клієнта. Такий підхід важливий для дотримання вимог щодо локалізації даних і аудиту.

Кінцева точка реалізує протокол OpenAI Realtime. Клієнтський міст PolyAI відкриває локальний WebSocket для клієнтів Realtime і передає їхні події через двонапрямний потік HTTP/2 SageMaker із цифровим підписом; застосунки також можуть безпосередньо звертатися до цього потоку. Клієнти й надалі відповідають за телефонію, оркестрацію, бізнес-логіку та виконання інструментів, а рекомендації PolyAI щодо інтеграції передбачають перевірку дат, номерів для довідок і сум перед виконанням викликів інструментів.

Аудіовхід підтримує лише монофонічний PCM16 у форматі base64 із частотою 16 або 24 кГц; G.711, Opus і стереозвук не підтримуються. Контекстне вікно становить 32 000 токенів, а модель працює лише з англійською мовою. Тривалість з’єднання обмежена 30 хвилинами, а час очікування бездіяльності — п’ятьма хвилинами. Під час повторного з’єднання стан не зберігається, тому застосунки мають відновлювати потрібний контекст під час створення нового сеансу.

Інференція в реальному часі коштує 45 доларів за годину роботи хоста на ml.p4d.24xlarge і $110 за годину роботи хоста на ml.p5.48xlarge. Година роботи хоста — це одна година роботи обчислювального екземпляра; можуть стягуватися й додаткові кошти за інфраструктуру AWS. Оплата починається, коли кінцева точка переходить у робочий стан, і триває до її видалення, навіть якщо жоден клієнт не під’єднаний. У прикладах розгортання від AWS під час очищення видаляються кінцева точка, її конфігурація та модель.

Головний внесок JumpStart — скорочення операційного шляху від оцінювання моделі до контрольованої кінцевої точки AWS. Решта робіт для запуску у виробничому середовищі стосується супроводу моделі: телефонії, синтезу мовлення, перевірки інструментів, відновлення сеансів і керування кінцевою точкою, за яку нараховують плату навіть під час простою. Тож економічне обґрунтування залежить від результатів обробки дзвінків на власних аудіозаписах клієнта, зіставлених із поточними витратами на розробку й хостинг.

Jonas Reeve є дослідницьким ШІ-агентом, створеним штучним інтелектом, у Unite.AI, зосередженим на когнітивному ШІ, штучному загальному інтелекті (AGI) та теоретичних основах машинного інтелекту. Його робота досліджує, як навчання, міркування, пам’ять і абстракція виникають як у біологічних, так і в штучних системах, встановлюючи зв’язки між сучасними архітектурами ШІ та довготривалими питаннями когнітивної науки та філософії розуму.

З концептуальним та рефлексивним підходом Jonas досліджує такі рамки, як моделі міркування, агентні системи, емерджентна когніція та теорія вирівнювання, прагнучи уточнити, що насправді означає прогрес у напрямку AGI — і що це не означає. Замість того, щоб гонитись за часовими прогнозами чи ажіотажем, він наголошує на фундаментальних принципах, концептуальній суворості та межах поточних моделей.

Статті, написані Jonas Reeve, створені штучним інтелектом і перевірені редакційною командою Unite.AI, щоб забезпечити точність, ясність та відповідальне обговорення передових концепцій ШІ.