Modele i platformy AI
AWS dodaje PolyAI Dialog-RSN-1 do katalogu SageMaker JumpStart

Kluczowe punktyJumpStart skraca ścieżkę od oceny do zarządzanego punktu końcowego AWS, ale pozostawia…
Zobacz więcej
- JumpStart skraca ścieżkę od oceny do zarządzanego punktu końcowego AWS, ale pozostawia telefonię i syntezę mowy klientom.
- Dialog-RSN-1 zwraca tylko tekst lub wywołania funkcji, więc każde wdrożenie musi dodać własną warstwę syntezy mowy z tekstu.
- Rozliczanie rozpoczyna się, gdy punkt końcowy zostaje uruchomiony, i trwa do usunięcia, nawet gdy żaden klient nie jest połączony.
19 listopada 2026 r. AWS poinformowała, że Dialog-RSN-1 firmy PolyAI dołączył do katalogu Amazon SageMaker JumpStart, oferującego wdrażanie jednym kliknięciem, narzędzia do oceny i cztery profile optymalizacji dla modelu obsługi klienta przetwarzającego natywnie dźwięk. Punkt końcowy działa na własnym koncie AWS klienta.
Nowością jest proces obsługi w katalogu, który pojawił się po dwóch wcześniejszych zapowiedziach PolyAI. PolyAI zaprezentowała Dialog-RSN-1 30 lipca 2026 r. oraz zapowiedziała wdrażanie punktów końcowych SageMaker za pośrednictwem AWS Marketplace 6 października 2026 r. JumpStart ułatwia wyszukiwanie, ocenę i wstępnie skonfigurowane wdrażanie, ale klienci nadal subskrybują usługę za pośrednictwem AWS Marketplace.
Ocena i wdrażanie w jednym katalogu
W centrum Model Hub konsoli SageMaker AI klient wybiera Dialog-RSN-1 i opcję wdrażania. JumpStart tworzy punkt końcowy wnioskowania w czasie rzeczywistym na wstępnie skonfigurowanym stosie obsługującym model, eliminując konieczność ręcznego wyboru kontenera i samodzielnego testowania dziesiątek kombinacji infrastruktury. Zespoły mogą też użyć kilku wierszy kodu SageMaker Python SDK i włączyć wdrażanie do potoków ciągłej integracji i ciągłego dostarczania.
Przed wdrożeniem karta modelu wyświetla opóźnienie P50, czas do wygenerowania pierwszego tokenu i przepustowość. Profile priorytetowo traktują opóźnienie, przepustowość, koszt lub zrównoważone zastosowanie ogólne: profil opóźnienia minimalizuje czas do wygenerowania pierwszego tokenu, profil przepustowości maksymalizuje liczbę tokenów na sekundę, a profil kosztowy minimalizuje koszt infrastruktury w przeliczeniu na żądanie. Dzięki tym opcjom konfigurację obsługi modelu można dostosować do liczby połączeń, szybkości reakcji i wymagań budżetowych, zamiast stosować jedne ustawienia domyślne do każdego obciążenia.
Ocena jest dostępna w tym samym wpisie katalogowym. Przykładowy notatnik PolyAI przesyła strumieniowo nagrania rozmów z dzwoniącymi i wyświetla decyzje modelu dotyczące przebiegu rozmowy, odpowiedzi oraz transkrypcje. Dzięki temu zespół może sprawdzić jego działanie na przykładzie rozmów, które ma obsługiwać. Zespoły mogą zapoznać się z opisem i przykładami przed wdrożeniem; przesyłanie własnych nagrań przez model wymaga punktu końcowego.
Rozumowanie na podstawie dźwięku z oddzielną warstwą głosową
Dialog-RSN-1 bezpośrednio przetwarza dźwięk rozmówcy i łączy w jednym modelu obsługę przebiegu rozmowy, rozpoznawanie mowy, generowanie odpowiedzi oraz wywoływanie funkcji. PolyAI twierdzi, że bezpośrednie przetwarzanie dźwięku pozwala zachować ton głosu, wahania i tempo wypowiedzi, które mogą zostać utracone w systemie kaskadowym, gdy rozpoznawanie mowy sprowadza rozmowę do transkrypcji. Detektor aktywności głosowej uruchamia każdą sondę, a pierwszy token wyjściowy modelu rejestruje EMPTY, ONGOING lub COMPLETE, pozostawiając modelowi podjęcie ostatecznej decyzji o przebiegu rozmowy.
Ścieżka wyjściowa jest oddzielna. Dialog-RSN-1 zwraca strumieniowo tekst odpowiedzi albo wywołanie funkcji, a transkrypcja wypowiedzi rozmówcy jest przesyłana osobno; model nie syntetyzuje mowy. Wdrożenie musi więc zapewniać syntezę mowy z tekstu, dzięki czemu klient może wybrać głos, ale wymaga to dodania komponentu spoza punktu końcowego modelu.
W ofercie PolyAI w Marketplace podano, że mediana czasu do wygenerowania pierwszego tokenu wynosi poniżej 300 milisekund, a typowa pełna wymiana zdań z rozmówcą w środowisku produkcyjnym trwa około 390 milisekund. To rozróżnienie jest istotne, ponieważ samo opóźnienie modelu nie opisuje czasu oczekiwania w przypadku kompletnego wdrożenia głosowego, obejmującego syntezę mowy, telefonię i narzędzia zewnętrzne.
Ograniczenia integracji i koszty godzinowe
Punkt końcowy znajduje się w wirtualnej chmurze prywatnej klienta, korzysta z jego ról AWS Identity and Access Management i jest monitorowany za pomocą Amazon CloudWatch. Ponieważ wnioskowanie odbywa się na tym koncie, nagrania rozmów i transkrypcje pozostają w obrębie infrastruktury kontrolowanej przez klienta. Takie rozwiązanie ma znaczenie w kontekście wymogów dotyczących lokalizacji danych i audytu.
Punkt końcowy obsługuje protokół OpenAI Realtime. Most kliencki PolyAI udostępnia lokalne gniazdo WebSocket klientom Realtime i przesyła ich zdarzenia za pośrednictwem podpisanego, dwukierunkowego strumienia HTTP/2 usługi SageMaker; aplikacje mogą również wywoływać ten strumień bezpośrednio. Klienci odpowiadają za telefonię, orkiestrację, logikę biznesową i wykonywanie narzędzi, a PolyAI zaleca, by przed wykonaniem wywołań narzędzi weryfikować daty, numery referencyjne i kwoty.
Wejściowy dźwięk musi być zakodowany w formacie base64 jako jednokanałowy PCM16 o częstotliwości próbkowania 16 lub 24 kHz; formaty G.711 i Opus oraz dźwięk stereo nie są obsługiwane. Okno kontekstu obejmuje 32 000 tokenów, a model obsługuje wyłącznie język angielski. Połączenia mają twardy limit 30 minut i limit bezczynności wynoszący pięć minut. Stan nie jest zachowywany po ponownym połączeniu, dlatego aplikacje muszą przywrócić odpowiedni kontekst podczas nawiązywania nowej sesji.
Wnioskowanie w czasie rzeczywistym kosztuje 45 USD za godzinę pracy hosta na ml.p4d.24xlarge i 110 USD za godzinę pracy hosta na ml.p5.48xlarge. Godzina pracy hosta oznacza godzinę działania instancji obliczeniowej; mogą też obowiązywać dodatkowe opłaty za infrastrukturę AWS. Naliczanie opłat rozpoczyna się, gdy punkt końcowy zaczyna działać, i trwa aż do jego usunięcia, nawet jeśli żaden klient nie jest połączony. Przykłady wdrażania AWS pokazują, jak podczas porządkowania zasobów usunąć punkt końcowy, jego konfigurację i model.
Głównym wkładem JumpStart jest skrócenie ścieżki operacyjnej od oceny modelu do zarządzanego punktu końcowego AWS. Pozostałe prace związane z wdrożeniem produkcyjnym dotyczą otoczenia modelu: telefonii, syntezy mowy, walidacji narzędzi, przywracania sesji oraz zarządzania punktem końcowym, który generuje opłaty, nawet gdy pozostaje bezczynny. Zasadność biznesowa zależy więc od wyników obsługi połączeń uzyskanych na podstawie własnych nagrań klienta i zestawionych z bieżącymi kosztami inżynieryjnymi i hostingowymi.












