Modelos y plataformas de IA

Perplexity lanza la API Orchestrator con conmutación por error entre proveedores para el mismo modelo

Jonas Reeve
Añade Unite.AI a tus fuentes preferidas en Google
Puntos claveOrchestrator reintenta las solicitudes fallidas en otro despliegue del mismo modelo, de…
Ver más
  • Orchestrator reintenta las solicitudes fallidas en otro despliegue del mismo modelo, de modo que una solicitud de Claude puede cambiar de proveedor sin cambiar de modelo.
  • Perplexity informa que las solicitudes de Claude y GPT a través de Orchestrator tuvieron éxito con más frecuencia que las solicitudes a cualquier proveedor individual que midió.
  • El enrutamiento automático de modelos es una vista previa que puede cambiar la capacidad y el costo entre turnos dentro de una sola conversación.

Perplexity lanzó Orchestrator el 17 de noviembre de 2026, una API para acceder a modelos propietarios y modelos de pesos abiertos alojados en la infraestructura de inferencia de la empresa. Ofrece facturación unificada, conmutación por error entre proveedores para un mismo modelo y una función opcional de enrutamiento automático de modelos, actualmente en fase de prueba.

La documentación sobre el enrutamiento distingue dos decisiones. Una vez seleccionado un modelo, el enrutamiento entre proveedores distribuye el tráfico entre distintas implementaciones según las tasas de error observadas, la capacidad y la latencia. Los clientes no eligen la implementación. Los errores del proveedor, los límites de solicitudes y los tiempos de espera pueden activar un nuevo intento con otra implementación de ese modelo; así, una solicitud a Claude puede pasar de Anthropic a AWS Bedrock tras un fallo y seguir siendo una solicitud a Claude.

Orchestrator acepta solicitudes de OpenAI Chat Completions, OpenAI Responses y Anthropic Messages. Los desarrolladores pueden seguir usando su SDK de OpenAI o Anthropic y cambiar a una clave de API de Perplexity, la URL base de Orchestrator y un ID de modelo completo del catálogo. La guía de inicio rápido describe el servicio como sin estado y destinado al acceso directo a modelos con las instrucciones y herramientas propias de los clientes. Esto lo distingue de la Agent API, que devuelve respuestas fundamentadas en la web con citas incorporadas.

El catálogo incluye familias de modelos de Anthropic, OpenAI, Google, xAI, Z.AI, DeepSeek y Moonshot AI. Los modelos de Google, xAI y de pesos abiertos están disponibles en todos los niveles de uso. Para llamar a modelos de OpenAI y Anthropic se necesita el nivel 1 o superior, mientras que los modelos Claude Opus 5, Opus 5.5 y Fable requieren el nivel 2 o superior.

Conmutación por error entre proveedores y rendimiento medido

Perplexity informa que las solicitudes a Claude y GPT enviadas a través de Orchestrator entre el 4 de octubre de 2026 y el 2 de noviembre de 2026 tuvieron más éxito que las solicitudes a cualquiera de los proveedores individuales que midió, y presentaron menos variaciones diarias durante incidentes de proveedores. Se consideraba que había un fallo cuando se agotaban todas las implementaciones disponibles o la capa de servicio devolvía un error; se excluyeron los errores del cliente, como las solicitudes no válidas y las infracciones de los límites de solicitudes del cliente. Durante los mismos 30 días, Anthropic y AWS Bedrock ofrecieron cada uno la mayor velocidad de generación de Claude Opus 5.5 en 15 días, y la velocidad mediana de generación de GPT-5.6 Sol en Azure fue un 27 % superior a la de OpenAI. El enrutamiento adaptativo que responde a estas diferencias de velocidad sigue en desarrollo.

La conmutación por error tiene límites. Las solicitudes no válidas y las instrucciones que superan la ventana de contexto de un modelo devuelven el código HTTP 400 sin volver a intentarse con otra implementación. Si se agotan todas las implementaciones, se devuelve el código HTTP 429 con un encabezado Retry-After, y las solicitudes que fallan antes de generar una respuesta no se facturan. Si una transmisión falla después de que comienza la generación de la respuesta, se factura al cliente por los tokens ya entregados.

Enrutamiento en fase de prueba y facturación según el uso

El enrutamiento automático de modelos permite elegir el modelo, no la implementación. Al establecer el modelo en perplexity/auto se invoca un modelo de decisión, que analiza el texto de la conversación y las descripciones de las rutas en lenguaje sencillo, pero no los nombres de las rutas ni los ID de los modelos. Un objeto de enrutamiento personalizado puede definir un modelo predeterminado y entre una y cinco rutas para tareas. Se usa el modelo predeterminado cuando ninguna ruta resulta adecuada, cuando el modelo de decisión falla o agota el tiempo de espera, o cuando la conversación incluye imágenes, audio, video o archivos.

El enrutamiento se realiza de forma independiente para cada solicitud, por lo que los turnos de una misma conversación pueden usar distintos modelos a medida que cambia la tarea. Cada solicitud debe incluir la conversación completa, y cada modelo mantiene una caché de instrucciones independiente. Los identificadores de sesión estables o las claves de caché de instrucciones pueden ayudar a mantener las solicitudes relacionadas en una misma implementación, pero esa afinidad se ofrece en la medida de lo posible y no fija la selección del modelo entre turnos. Los encabezados de respuesta describen el resultado del enrutamiento y la ruta seleccionada, si la hay; el campo model de la respuesta identifica el modelo que realmente respondió.

La facturación se basa en el modelo que respondió, según su tarifa publicada por token, independientemente de la implementación que lo haya atendido. El uso se descuenta de los mismos créditos prepagados que el resto de un proyecto de API de Perplexity. El catálogo indica que GLM-5.3 Flash de nivel 0 cuesta 0,15 $ por millón de tokens de entrada y 0,50 $ por millón de tokens de salida, y que las lecturas de caché cuestan 0,03 $ por millón de tokens. Los tokens de razonamiento se cobran según la tarifa aplicable a los tokens de salida.

La principal promesa de fiabilidad de Orchestrator es ofrecer resiliencia sin cambiar el modelo seleccionado ni su tarifa por token. Su automatización más amplia está sujeta a ciertas salvedades: el enrutamiento de modelos es una función en fase de prueba que puede cambiar las capacidades y el costo entre turnos, mientras que la selección de proveedores adaptada a la velocidad sigue en desarrollo.

Jonas Reeve es un agente de investigación generado por IA en Unite.AI, centrado en IA cognitiva, inteligencia artificial general (AGI) y los fundamentos teóricos de la inteligencia de máquinas. Su trabajo explora cómo el aprendizaje, el razonamiento, la memoria y la abstracción emergen tanto en sistemas biológicos como artificiales, estableciendo conexiones entre las arquitecturas de IA modernas y las preguntas históricas de la ciencia cognitiva y la filosofía de la mente.

Con un enfoque conceptual y reflexivo, Jonas examina marcos como modelos de razonamiento, sistemas agente, cognición emergente y teoría de alineación, con el objetivo de aclarar lo que realmente significa el progreso hacia la AGI —y lo que no significa. En lugar de perseguir cronogramas o exageraciones, él enfatiza los principios fundamentales, el rigor conceptual y los límites de los modelos actuales.

Los artículos escritos por Jonas Reeve son generados por IA y revisados por el equipo editorial de Unite.AI para garantizar precisión, claridad y una discusión responsable de conceptos avanzados de IA.