LlamaIndex lanserer OpenDocRouter, et samlet API for dokumentparsing

LlamaIndex den 7. oktober 2026 lanserte OpenDocRouter, en vertstjeneste for dokument‑til‑markdown‑parsing som plasserer et sett med frontier‑ og åpen‑kilde‑modeller bak ett enkelt API, hver kjørt under en versjonert parse‑oppskrift og benchmarket på ParseBench for kvalitet og kostnad.

LlamaIndex oppga at de bygde tjenesten for å dele arbeid de hadde blitt spesielt dyktige i. Kunngjøringen peker på et overfylt felt: et HuggingFace‑søk etter “ocr” gir frem tusenvis av modeller, frontier‑labber slipper dokument‑kapable modeller nesten hver måned, og bruk av disse modellene krever vanligvis de samme få trinnene, fra å finne riktige prompt‑er og håndtere hastighetsbegrensninger til å administrere distribusjoner og tilhørende kostnader samt å benchmarke nye modeller etter hvert som de lanseres.

Den produktsiden presenterer OpenDocRouter som et samlet API for dokumentparsing som konverterer PDF‑er og bilder til markdown. Sider kjøres som individuelle modell‑kall etter hvert som kapasitet blir tilgjengelig, og hver side returnerer sin egen markdown, status og kostnad. Mislykkede sider kan prøves på nytt separat, og sidevalg lar en bruker hoppe over sider den allerede har.

Lanseringsutvalg og ParseBench‑resultater

Ved lanseringen tilbyr API‑et fem frontier‑modeller (Claude Opus 5.5, Gemini 3 Flash, Gemini 3.8 Flash, GPT-5.6 Terra og GPT-6 Luna) og fem åpen‑kilde‑modeller (Infinity-Parser2-Flash, MinerU2.5-Pro, TeleOCR, dots.mocr og PaddleOCR-VL-1.6). LlamaIndex oppga at de valgte lanseringssettet for å dekke alle hjørner av sine benchmarker, og at hver modell er benchmarket på ParseBench både med hensyn til kvalitet og kostnad.

Den modeller og benchmark-side rapporterer ParseBench‑resultater i fem kategorier (Tabeller, Diagrammer, Troverdighet, Formatering og Grunnlag) og definerer den samlede poengsummen som gjennomsnittet av de fem. Claude Opus 5.5 er oppført med en samlet poengsum på 84,20, inkludert 93,53 på Tabeller og 91,03 på Troverdighet, til $48,82 per 1 000 sider. GPT-6 Luna er oppført med 71,34 samlet og $0,80 per 1 000 sider, MinerU2.5-Pro med 70,05 og $0,86, og TeleOCR med 57,25 og $2,70. Ifølge siden reflekterer tallet per 1 000 sider hva 1 000 typiske sider koster ved dagens priser basert på token‑forbruket hver modell hadde per side i ParseBench‑dokumentene, og en brukers egne sider kan bruke flere eller færre token; de oppgitte prisene har en versjonsdato 6. oktober 2026.

Hver models parse‑oppskrift har en versjon som endres når output kan endres. I token‑pris‑tabellen på modell‑siden har Claude Opus 5.5 og GPT-5.6 Terra en versjonsdato 25. september 2026, mens GPT-6 Luna har 5. oktober 2026. LlamaIndex oppga at når nye modeller blir tilgjengelige, kjører de dem gjennom ParseBench for å kalibrere prompt‑er, kostnader og andre innstillinger før de legges til, og de planlegger å fortsette å forbedre de mest populære modellene gjennom bedre prompt‑er og bedre hosting for redusert latens.

API‑mekanikk og forankringsmotoren

API‑et godtar PDF‑, PNG‑ og JPEG‑filer, eller URL‑er til disse formatene, via en POST /v1/parse‑endepunkt. I henhold til API-dokumentasjonen kan et dokument sendes som en offentlig HTTPS‑URL eller en opplastet fil‑ID, hver begrenset til 50 MB eller 500 sider, eller som inline base64‑data opptil ca. 3 MB. Forespørsler kjøres synkront for opptil 50 sider; større dokumenter kjøres asynkront, opptil 500 sider med påkrevd caching, og et valgfritt pages‑felt som “1-3,7” velger spesifikke sider. Et svar inneholder en status som fullført, delvis eller mislykket, med markdown per side og token‑bruk.

Typed Python‑ og TypeScript‑SDK‑er installeres via pip og npm, med kildekode i run-llama/opendocrouter-py og run-llama/opendocrouter-ts GitHub‑repoer, og metoder som speiler endepunktene, inkludert parse.create, uploads.create, credits.get og models.list.

Siden modeller gir ulike garantier for avgrensningsbokser og layout (noen leverer bokser direkte, noen krever prompting, og noen kan det ikke i det hele tatt), har LlamaIndex bygget en forankringsmotor som kan brukes på hvilken som helst modell. Å sette layout: true returnerer markdown med forankrede avgrensningsbokser og layout‑elementer i leserekkefølge, under et felles sett av layout‑klasser: title, section_header, text, list_item, table, picture, chart, formula, caption, footnote, page_header, page_footer, code, form og key_value. En boks sine koordinater er brøkdeler av siden målt fra øvre venstre hjørne, elementer har tillitsverdier, og en side der layouten mislykkes beholder sin markdown uten ekstra layout‑kostnad.

Når det gjelder lagring, sier dokumentasjonen at ingenting fra et dokument beholdes med mindre caching er aktivert; bufrede resultater lagres kryptert i 24 timer, et delete‑kall fjerner dem tidligere, og senere forespørsler for de samme sidene i det samme dokumentet med samme modell og layout‑innstilling blir levert fra cachen gratis. Tjenesten prøver hver side én gang på tidsavbrudd, hastighetsbegrensninger, leverandørfeil og kapasitet, samt når en modell går i løkke eller ikke transkriberer. Kontogrensene inkluderer 10 samtidige forespørsler, hvorav fem kan være asynkrone, 300 parse‑kall og 60 polling‑kall per minutt, en tidsavbrudd på 270 sekunder per side, og en ventetid på opptil 30 minutter for kapasitet på asynkrone forespørsler.

Prising, fakturering og LlamaParse‑skillet

OpenDocRouter fakturerer kun per token. Kontoer kan fylle på forhåndsbetalte kreditter fra $25, med 5 % avgift på hver påfylling; frontier-modeller belastes med leverandørenes token‑priser uten påslag; og aktivering av layout legger til $0.20 per million token på sider der layouten lykkes. Feilede, bufrede og tomme sider er gratis. For å starte må en forespørsel ha nok kreditt til å dekke maksimal kostnad, definert som modellens høyeste per‑side‑rate multiplisert med antall sider, og alt som sidene ikke bruker frigjøres når forespørselen er fullført.

Prislisten i kunngjøringen, datert 7. oktober 2026, viser Claude Opus 5.5 til $4.00 per million inndata‑token og $20.00 per million utdata‑token, GPT-6 Luna til $0.10 per million inndata og $0.50 per million utdata, og MinerU2.5-Pro til $0.08 per million inndata og $0.39 per million utdata.

LlamaIndex skiller tydelig mellom den nye tjenesten og LlamaParse, deres administrerte dokumentplattform. I selskapets rammeverk er OpenDocRouter en plattform for raskt å hoste de nyeste modellene, som lar utviklere bytte og rute mellom dem mens de kun betaler for det de bruker, mens LlamaParse leveres med håndjusterte parsingsnivåer, bedriftskontroller, selvhostede distribusjoner og ekstra API‑er som skjema‑uttrekk og indeksering.

OpenDocRouter er i drift, og LlamaIndex veileder brukere til å bla gjennom modellene og dokumentasjonen, registrere seg, generere en API‑nøkkel og begynne å parse.