AI-mallit ja alustat
Perplexity julkaisee Orchestrator API:n, jossa vikatilanteessa siirrytään saman mallin toiseen instanssiin

Keskeiset kohdatOrchestrator yrittää epäonnistuneita pyyntöjä uudelleen saman mallin toisessa…
Näytä lisää
- Orchestrator yrittää epäonnistuneita pyyntöjä uudelleen saman mallin toisessa käyttöönotossa, joten Claude-pyyntö voi vaihtaa tarjoajaa mallia vaihtamatta.
- Perplexity raportoi, että Clauden ja GPT:n pyynnöt Orchestratorin kautta onnistuivat useammin kuin pyynnöt millekään yksittäiselle sen mittaamalle tarjoajalle.
- Automaattinen mallien reititys on esikatselutoiminto, joka voi muuttaa suorituskykyä ja kustannuksia vuorojen välillä yhden keskustelun sisällä.
Perplexity julkaisi Orchestratorin 17. marraskuuta 2026. API:n avulla voi käyttää yrityksen päättelyinfrastruktuurissa ylläpidettäviä omia malleja ja avoimilla painoilla julkaistuja malleja. Se tarjoaa keskitetyn laskutuksen, mahdollisuuden siirtyä vikatilanteessa saman mallin toiselle palveluntarjoajalle sekä valinnaisen, esikatseluvaiheessa olevan automaattisen mallinreititysominaisuuden.
Reititysdokumentaatiossa erotetaan toisistaan kaksi päätöstä. Kun malli on valittu, palveluntarjoajareititys jakaa liikenteen eri instanssien kesken havaittujen virheiden määrän, kapasiteetin ja viiveen perusteella. Asiakkaat eivät valitse instanssia. Palveluntarjoajan virheet, käyttörajoitukset ja aikakatkaisut voivat käynnistää uuden yrityksen saman mallin toisessa instanssissa. Näin Claude-pyyntö voidaan siirtää Anthropicilta AWS Bedrockiin virheen jälkeen, mutta pyyntö pysyy silti Claude-pyyntönä.
Orchestrator hyväksyy OpenAI Chat Completions-, OpenAI Responses- ja Anthropic Messages -pyyntöjä. Kehittäjät voivat käyttää edelleen OpenAI- tai Anthropic-SDK:taan ja vaihtaa Perplexityn API-avaimeen, Orchestratorin perus-URL-osoitteeseen sekä malliluettelosta löytyvään täydelliseen mallitunnisteeseen. Pika-aloitusohjeessa palvelu kuvataan tilattomaksi, ja se on tarkoitettu mallien suoraan käyttöön asiakkaiden omien kehotteiden ja työkalujen kanssa. Tämä erottaa sen Agent API -rajapinnasta, joka palauttaa verkosta haettuun tietoon perustuvia vastauksia, joissa on viitteet valmiina.
Malliluettelo kattaa Anthropic-, OpenAI-, Google-, xAI-, Z.AI-, DeepSeek- ja Moonshot AI -malliperheet. Google-, xAI- ja avoimilla painoilla julkaistut mallit ovat käytettävissä kaikilla käyttöoikeustasoilla. OpenAI- ja Anthropic-mallien käyttäminen edellyttää vähintään Tier 1 -tasoa, kun taas Claude Opus 5-, Opus 5.5– ja Fable-mallit vaativat vähintään Tier 2 -tason.
Palveluntarjoajan vaihto vikatilanteessa ja mitattu suorituskyky
Perplexityn mukaan Orchestratorin kautta 4. lokakuuta 2026 ja 2. marraskuuta 2026 välisenä aikana lähetetyt Claude- ja GPT-pyynnöt onnistuivat useammin kuin millekään yksittäiselle mitatulle palveluntarjoajalle lähetetyt pyynnöt, ja palveluntarjoajien häiriöiden aikana päivittäiset vaihtelut olivat pienempiä. Epäonnistumiseksi laskettiin tilanne, jossa kaikki käytettävissä olevat instanssit oli käytetty loppuun tai palvelukerros palautti virheen; asiakasvirheitä, kuten virheellisiä pyyntöjä ja asiakkaan käyttörajojen ylityksiä, ei huomioitu. Samojen 30 päivän aikana Anthropic ja AWS Bedrock olivat kumpikin nopeimpia Claude Opus 5.5:n tulostusnopeudessa 15 päivänä, ja Azuren GPT-5.6 Sol -mallin tulostusnopeuden mediaani oli 27 % OpenAIta suurempi. Nopeuseroihin mukautuva reititys on yhä kehitteillä.
Vikasietoisella siirtymisellä on rajoituksensa. Virheelliset pyynnöt ja kehotteet, jotka ylittävät mallin konteksti-ikkunan, palauttavat HTTP 400 -virheen, eikä pyyntöä yritetä uudelleen toisessa instanssissa. Jos kaikki instanssit käytetään loppuun, palautetaan HTTP 429 -virhe ja Retry-After-otsake, eikä ennen tulosteen tuottamista epäonnistuneista pyynnöistä veloiteta. Jos suoratoistovastaus epäonnistuu tulosteen tuottamisen alettua, asiakkaalta veloitetaan jo toimitetuista tokeneista.
Esikatseluvaiheen reititys ja käyttöön perustuva laskutus
Automaattinen mallinreititys ratkaisee mallin valinnan, ei instanssin valintaa. Asettamalla malliksi perplexity/auto kutsutaan päätösmallia, joka näkee keskustelun tekstin ja reittien selkokieliset kuvaukset mutta ei reittien nimiä tai mallitunnisteita. Mukautetussa reititysobjektissa voi määrittää oletusmallin ja yhdestä viiteen tehtäväkohtaista reittiä. Oletusmallia käytetään, kun mikään reitti ei sovi, päätösmalli epäonnistuu tai aikakatkaistaan tai keskustelu sisältää kuvia, ääntä, videota tai tiedostoja.
Reititys tehdään erikseen jokaiselle pyynnölle, joten saman keskustelun eri vuoroissa voidaan käyttää eri malleja tehtävän muuttuessa. Jokaisessa pyynnössä on lähetettävä koko keskustelu, ja kullakin mallilla on oma kehotevälimuistinsa. Vakaat istuntotunnisteet tai kehotevälimuistin avaimet voivat auttaa pitämään toisiinsa liittyvät pyynnöt samassa instanssissa, mutta tämä affiniteetti pyritään toteuttamaan mahdollisuuksien mukaan eikä mallivalintaa lukita keskustelun eri vuorojen ajaksi. Vastausotsakkeissa kerrotaan reitityksen tulos ja mahdollisesti valittu reitti; vastauksen model-kenttä ilmaisee, mikä malli vastasi.
Laskutus määräytyy vastanneen mallin mukaan sen julkaistun tokenikohtaisen hinnan perusteella riippumatta siitä, mikä instanssi palveli pyynnön. Käyttö veloitetaan samoista ennakkoon maksetuista krediiteistä kuin muukin Perplexity API -projektin käyttö. Malliluettelossa Tier 0 -tasolla olevan GLM-5.3 Flashin hinta on $0.15 miljoonalta syötetokenilta ja $0.50 miljoonalta tulostetokenilta; välimuistista luettujen tokenien hinta on $0.03 miljoonalta tokenilta. Päättelytokeneista veloitetaan sovellettavan tulostehinnan mukaan.
Orchestratorin selkein luotettavuusetu on toimintavarmuus ilman, että valittua mallia tai sen tokenihintaa tarvitsee muuttaa. Laajempaan automaatioon liittyy kuitenkin rajoituksia: mallinreititys on esikatseluvaiheessa, ja se voi muuttaa toimintoja ja kustannuksia keskusteluvuorojen välillä, kun taas nopeuseroihin mukautuva palveluntarjoajan valinta on yhä kehitteillä.












