LlamaIndex lancerer OpenDocRouter, en samlet API til dokumentparsing

LlamaIndex den 7. oktober 2026 lancere OpenDocRouter, en hostet platform for dokument‑til‑markdown‑parsing, der placerer et sæt af frontier‑ og open‑source‑modeller bag en enkelt API, hver kørt under en versioneret parse‑opskrift og benchmarket på ParseBench for kvalitet og omkostninger.

LlamaIndex sagde, at de byggede tjenesten for at dele arbejde, de var blevet særligt dygtige til. Meddelelsen peger på et overfyldt felt: en HuggingFace‑søgning efter “ocr” frembringer tusindvis af modeller, frontier‑laboratorier udgiver dokument‑kapable modeller næsten hver måned, og brugen af disse modeller kræver som regel de samme få trin, fra at finde de rette prompts og håndtere hastighedsbegrænsninger til at administrere implementeringer og tilhørende omkostninger samt benchmarke nye modeller, efterhånden som de kommer ud.

The produktside præsenterer OpenDocRouter som en samlet API for dokumentparsing, der omdanner PDF‑filer og billeder til markdown. Sider køres som individuelle model‑kald, efterhånden som kapacitet bliver tilgængelig, og hver side returnerer sin egen markdown, status og pris. Mislykkede sider kan genforsøges individuelt, og side‑valg giver en opkaldende mulighed for at springe sider over, den allerede har.

Lanceringens udvalg og ParseBench‑resultater

Ved lanceringen tilbyder API’en fem frontier‑modeller (Claude Opus 5.5, Gemini 3 Flash, Gemini 3.8 Flash, GPT-5.6 Terra og GPT-6 Luna) og fem open‑source‑modeller (Infinity-Parser2-Flash, MinerU2.5-Pro, TeleOCR, dots.mocr og PaddleOCR-VL-1.6). LlamaIndex oplyste, at de valgte lanceringssættet for at dække alle hjørner af deres benchmarks, og at hver model er benchmarket på ParseBench både med hensyn til kvalitet og omkostninger.

The modeller og benchmarks side rapporterer ParseBench‑resultater i fem kategorier (Tabeller, Diagrammer, Trofasthed, Formatering og Forankring) og definerer den samlede score som gennemsnittet af de fem. Claude Opus 5.5 er listet med en samlet score på 84,20, inklusive 93,53 på Tabeller og 91,03 på Trofasthed, til $48,82 pr. 1.000 sider. GPT-6 Luna er listet med 71,34 samlet og $0,80 pr. 1.000 sider, MinerU2.5-Pro med 70,05 og $0,86, og TeleOCR med 57,25 og $2,70. Ifølge siden afspejler tallet pr. 1.000 sider, hvad 1.000 typiske sider koster ved de aktuelle priser baseret på de tokens, hver model brugte pr. side i ParseBench‑dokumenterne, og en brugers egne sider kan bruge flere eller færre tokens; de angivne priser har en versionsdato den 6. oktober 2026.

Hver models parse‑opskrift har en version, der ændres, når output kan ændres. I token‑pris‑tabellen på models‑siden har Claude Opus 5.5 og GPT-5.6 Terra en versionsdato den 25. september 2026, mens GPT-6 Luna har den 5. oktober 2026. LlamaIndex sagde, at når nye modeller udgives, som de kan tilbyde, kører de dem gennem ParseBench for at kalibrere prompts, omkostninger og andre indstillinger, før de tilføjes, og de planlægger at fortsætte med at forbedre de mest populære modeller gennem bedre prompts og bedre hosting for lavere latenstid.

API‑mekanik og forankringsmotoren

API’en accepterer PDF‑, PNG‑ og JPEG‑filer eller URL’er til disse formater via et POST /v1/parse‑endpoint. Ifølge API-dokumentation kan et dokument sendes som en offentlig HTTPS‑URL eller en uploadet fil‑ID, hver begrænset til 50 MB eller 500 sider, eller som indlejret base64‑data op til ca. 3 MB. Anmodninger kører synkront for op til 50 sider; større dokumenter kører asynkront, op til 500 sider med påkrævet caching, og et valgfrit pages‑felt såsom “1-3,7” vælger specifikke sider. Et svar indeholder en status på fuldført, delvis eller mislykket, med markdown pr. side og token‑forbrug.

Typed Python‑ og TypeScript‑SDK’er installeres via pip og npm, med kildekode i run-llama/opendocrouter-py og run-llama/opendocrouter-ts GitHub‑repositories og metoder, der spejler endpunkterne, herunder parse.create, uploads.create, credits.get og models.list.

Da modeller giver forskellige garantier for begrænsningsbokse og layout (nogle leverer bokse nativt, nogle kræver prompts, og nogle kan det slet ikke), har LlamaIndex bygget en forankringsmotor, den kan anvende på enhver model. Indstilling layout: true returnerer markdown med forankrede begrænsningsbokse og layout‑elementer i læserækkefølge, under et fælles sæt af layoutklasser: title, section_header, text, list_item, table, picture, chart, formula, caption, footnote, page_header, page_footer, code, form og key_value. En boks’ koordinater er brøker af siden målt fra dens øverste venstre hjørne, elementer har tillidsværdier, og en side, hvis layout fejler, beholder sin markdown uden en layout‑omkostning.

Ved opbevaring angiver dokumentationen, at intet fra et dokument gemmes, medmindre caching er aktiveret; cachede resultater gemmes krypteret i 24 timer, et delete‑kald fjerner dem tidligere, og senere anmodninger om de samme sider i det samme dokument med samme model og layout‑indstilling leveres fra cachen gratis. Tjenesten genforsøger hver side én gang ved time‑outs, hastighedsbegrænsninger, udbyderfejl og kapacitetsproblemer, samt når en model løkker eller ikke transskriberer. Kontolimiter inkluderer 10 samtidige anmodninger, hvoraf fem kan være asynkrone, 300 parse‑kald og 60 polling‑kald pr. minut, en timeout på 270 sekunder pr. side og en ventetid på op til 30 minutter for kapacitet på asynkrone anmodninger.

Priser, fakturering og LlamaParse‑forskellen

OpenDocRouter fakturerer udelukkende pr. token. Konti kan påfylde forudbetalte kreditter fra $25 med et gebyr på 5 % pr. påfyldning; frontmodeller faktureres til deres udbyderes tokenpriser uden påslag; og aktivering af layout tilføjer $0.20 pr. million tokens på sider, hvor layoutet lykkes. Mislykkede, cachede og tomme sider er gratis. For at starte skal en forespørgsel have nok kredit til at dække den maksimale omkostning, defineret som modellens højeste pris pr. side ganget med antallet af sider, og alt hvad siderne ikke brugte frigives, når forespørgslen afsluttes.

Prislisten i meddelelsen, dateret 7. oktober 2026, viser Claude Opus 5.5 til $4.00 pr. million indgående tokens og $20.00 pr. million udgående tokens, GPT-6 Luna til $0.10 pr. million indgående og $0.50 pr. million udgående, og MinerU2.5-Pro til $0.08 pr. million indgående og $0.39 pr. million udgående.

LlamaIndex skelner mellem den nye tjeneste og LlamaParse, deres administrerede dokumentplatform. I virksomhedens ramme er OpenDocRouter en platform til hurtigt at hoste de nyeste modeller, som gør det muligt for udviklere at skifte og dirigere mellem dem, mens de kun betaler for det, de bruger, mens LlamaParse leveres med håndjusterede parse-niveauer, enterprise‑kontroller, selvhostede implementeringer og ekstra API’er såsom skemaudtræk og indeksering.

OpenDocRouter er live, og LlamaIndex guider brugerne til at gennemse modellerne og dokumentationen, tilmelde sig, generere en API‑nøgle og begynde at parse.