Adit Abraham, medstifter og administrerende direktør for Reducto – interviewserie

Adit Abraham er medstifter og administrerende direktør for Reducto, hvor han arbejder på at omdanne komplekse virksomhedsdokumenter til pålidelige data til AI-applikationer. Før han grundlagde virksomheden sammen med sin medstuderende fra MIT, Raunak Chowdhuri, læste han datalogi på MIT, forskede i maskinlæring på MIT Media Lab og arbejdede med annoncer og søgning som produktchef hos Google. Reducto udsprang af grundlæggernes arbejde med at udvikle hukommelsesværktøjer til store sprogmodeller, hvor upålidelig indlæsning af dokumenter blev en tilbagevendende hindring. Abrahams direkte arbejde med de første kunder var med til at forme virksomhedens fokus på nøjagtighed, sikkerhed, fleksible implementeringsmuligheder og forudsigelig ydeevne i produktion.

Reducto udvikler infrastruktur til dokumentforståelse, der hjælper AI-teams med at omdanne PDF-filer, scanninger, regneark og andre filer til strukturerede, anvendelige oplysninger. Platformen kombinerer optisk tegngenkendelse, computersyn og vision-sprogmodeller til at fortolke tekst, tabeller, figurer, formatering og komplekse sidelayouts. Ud over at analysere dokumenter tilbyder platformen værktøjer til struktureret dataudtræk, opdeling, klassificering og redigering af dokumenter samt kildehenvisninger, der forbinder de udtrukne oplysninger med deres kilde. Blandt kunderne er Harvey, Scale AI, Vanta, Mercor og Rogo. Virksomhedens arbejde omfatter retrieval-augmented generation, søgning og dokumentarbejdsgange inden for blandt andet finans, sundhed og jura, hvor præcis indlæsning og sporbare resultater er afgørende.

Reducto udsprang af de udfordringer, du og Raunak Chowdhuri stødte på, da I udviklede hukommelsesværktøjer til store sprogmodeller. Hvad var det helt konkret, der ikke fungerede med de eksisterende værktøjer til dokumentbehandling, og hvornår indså I, at selve problemet med at analysere dokumenter var stort nok til at danne grundlag for en virksomhed?

Vi ville give modeller adgang til kontekst fra dokumenter, så vi tilføjede en funktion til filoverførsel, men blev ved med at støde på problemer med kvaliteten af behandlingen. Vi prøvede alle de eksisterende værktøjer, der var til rådighed på det tidspunkt, men ingen af dem levede op til vores krav, når det gjaldt håndtering af de rodede dokumenter fra den virkelige verden, som folk rent faktisk uploadede.

Derfor udviklede vi vores egen løsning til dokumentanalyse, oprindeligt som en funktion i vores LLM-hukommelsesprodukt. Men så oplevede vi stor interesse fra udviklere, som også selv var stødt på problemet, og som var begejstrede for vores løsning. Nogle teams brugte flere uger på at udvikle og vedligeholde deres egne pipelines til indlæsning af dokumenter, fordi de tilgængelige værktøjer ikke kunne håndtere dokumenterne pålideligt. De samtaler gjorde muligheden langt tydeligere for os, for selv om modellerne hele tiden bliver bedre til at ræsonnere, gør ren og præcis kontekst stadig en enorm forskel.

PDF-filer er teknisk set udviklet til at vise information frem for at gøre den maskinlæsbar. Hvorfor er komplekse dokumenter, især dem med tabeller, diagrammer, layout med flere kolonner eller indlejrede billeder, så svære for AI-systemer at forstå pålideligt?

Når vi mennesker læser et dokument, tager vi meget af vores naturlige forståelse for givet – vi kan næsten øjeblikkeligt udlede sammenhænge, fordi vi kan se, at et tal hører til under en bestemt kolonneoverskrift, at teksten fortsætter i en anden kolonne, eller at en billedtekst henviser til figuren ovenfor.

AI-modeller har faktisk meget svært ved det, fordi PDF-filer ikke er udviklet til at bevare denne type relationelle oplysninger eller metadata; de er i bund og grund meget datatætte billeder. En parser skal genskabe sammenhængene ud fra siden, og opgaven bliver langt sværere med sammenflettede celler, indlejrede tabeller, diagrammer, scanninger og usædvanlige layouts. Fordi vi fokuserer på problemet med dokumentforståelse, kan vi pålideligt behandle den lange hale af dokumenter, som AI-modeller har tendens til at hallucinere om og håndtere forkert.

Reducto kombinerer computersyn, optisk tegngenkendelse og vision-sprogmodeller i sin pipeline til dokumentbehandling. Hvordan arbejder disse forskellige teknologier sammen, og hvor kommer traditionelle OCR-systemer stadig ofte til kort?

Traditionel OCR har eksisteret i årtier og blev udviklet til at læse dokumenter med ren, tydelig tekst tegn for tegn. Det bryder let sammen, når man arbejder med håndskrevne, scannede eller skæve dokumenter eller dokumenter med tabeller, hvilket gælder størstedelen af virksomheders data.

Reducto var pioner inden for brugen af vision-sprogmodeller til dokumentbehandling med »Agentic OCR«, fordi vi så potentialet i, at VLM’er kunne forstå mere end blot den rene tekst i dokumenter – reel dokumentforståelse kræver kontekst, nøjagtighed og multimodale evner. Vores nyeste r-1-analysemodel kombinerer styrkerne ved Agentic OCR med funktioner som formatering, kildehenvisninger og layoutgenkendelse i én enkelt gennemgang.

Det ekstra arbejde er vigtigt, for selv en parser med meget høj samlet nøjagtighed kan skabe et alvorligt problem, hvis de få oplysninger, den overser, omfatter netop den figur, klausul eller tabelpost, som nogen har brug for.

Efterhånden som AI-modeller bliver stadig mere multimodale og bedre til direkte at fortolke billeder og dokumenter, hvordan ser du så udviklingen i rollen for specialiserede platforme til dokumentforståelse? Kan grundmodeller på sigt selv udføre en stor del af dette arbejde, eller vil dedikeret infrastruktur fortsat være nødvendig?

Vi satser faktisk på, at AI-modeller kun vil blive bedre og hurtigere. Efterhånden som nye modeller hele tiden kommer til, holder vi os ajour med evalueringen af deres svagheder og indarbejder deres styrker i vores egne datapipelines for samlet set at kunne tilbyde kunderne den bedst mulige ydeevne. Reducto vil fungere som jeres team for dataindlæsning og hjælpe jer med at bygge videre, efterhånden som I vokser.

Store virksomheder står stadig over for den særlige udfordring, at de ikke kun har brug for ydeevne, men også skalerbar kapacitet, styring og mulighed for at efterprøve resultaterne i produktionsskala – noget, som grundmodeller stadig har svært ved at levere i dag.

Vi testede for nylig dette med benchmarktesten GDP.pdf, som viste, at de mest avancerede modeller stadig har svært ved at ræsonnere over komplekse, virkelige faglige dokumenter og opnåede under 15 % til 25 % ved strenge beståelsesrater på opgaveniveau. Når Reducto først parser dokumenterne og derefter sender de strukturerede data videre til de mest avancerede modeller, forbedres den samlede nøjagtighed med ni procentpoint, samtidig med at antallet af ræsonneringstokener reduceres med 13 procent sammenlignet med modeller, der behandler dokumenterne direkte.

Det viser, at dedikeret infrastruktur til dataindlæsning stadig har enorm værdi, eftersom størstedelen af virksomheders data endnu ikke er udnyttet.

Mange AI-applikationer i virksomheder er i sidste ende afhængige af retrieval-augmented generation eller agentbaserede systemer, der tilgår oplysninger gemt i interne dokumenter. Hvor stor en del af pålidelighedsproblemet i disse systemer opstår egentlig tidligere i processen, ved indlæsning og parsing af dokumenter?

En betydelig del af problemet opstår under indlæsningen – teams opdager det ofte først langt senere, fordi det dårlige svar dukker op til sidst i processen. Hvis en parser udelader en række fra en tabel, blander læserækkefølgen i to kolonner sammen eller overser en figur, kan søgning ikke genskabe oplysninger, der aldrig kom ind i databasen.

Vi ser ofte, at slutbrugernes oplevelse hos vores kunder forbedres markant, når de erstatter deres løsning til dataindlæsning med Reducto, fordi RAG- og søgesystemer giver bedre resultater mere konsekvent. Harvey oplevede for eksempel et markant fald i kundesager relateret til OCR og en mangedobling af produktbrugen, efter at virksomheden indførte Reducto som behandlingslag.

Reducto har udvidet sig fra parsing til struktureret dataudtræk og bredere dokumentarbejdsgange. Hvordan ser det næste lag inden for dokumentintelligens ud, når et system først kan forstå et dokuments underliggende struktur præcist?

Dataindlæsning er som regel kun det første trin i en langt større forretningsproces. En virksomhed kan modtage en fil på 500 sider og have brug for at identificere dokumenterne i den, klassificere dem, udtrække bestemte oplysninger, sammenligne oplysningerne med et andet system og sende usædvanlige tilfælde videre til en specialist til gennemgang. Vi har brugt 2 år på at træne markedets bedste modeller til dokumentforståelse, og nu bruger vi mere tid på at finde ud af, hvordan vi kan effektivisere det, der følger efter.

Når man pålideligt kan forstå indholdet og strukturen i et dokument, kan man automatisere mere af det arbejde, som folk i dag bruger tid på at samle, kontrollere og flytte mellem systemer. Næsten alle forretningsarbejdsgange med store konsekvenser kan opdeles i trin, hvor mennesker enten læser fra andre dokumenter, træffer beslutninger eller skriver i dem. Vi vil være den foretrukne måde, hvorpå mennesker eller agenter interagerer med dokumentdata i fremtiden.

I har kunder lige fra AI-fødte virksomheder som Harvey, Vanta, Scale AI, Mercor og Rogo til store finansielle institutioner og Fortune 10-virksomheder. Hvor forskellige er kravene til dokumentbehandling hos en AI-startup sammenlignet med en stor, reguleret virksomhed?

AI-fødte virksomheder arbejder typisk hurtigt, og deres udviklingsteams ønsker en API, der kan håndtere vanskelige dokumenter, uden at de skal bygge og vedligeholde deres egen behandlingsløsning. Store virksomheder lægger lige så stor vægt på nøjagtighed, men har ofte yderligere krav til, hvor data opbevares, hvordan softwaren implementeres, hvad der sker ved pludselige stigninger i datamængden, og om brugerne kan spore en udtrukket værdi tilbage til den oprindelige side. Scale AI bruger for eksempel Reducto i offentlige miljøer, hvor fortrolighed og lokal installation er vigtig, mens Harvey vurderede os på nøjagtighed, pålidelighed, omkostninger, svartid og fejlscenarier, inden virksomheden gik i produktion efter cirka seks uger. Samarbejdet med begge kundetyper har fået os til at fokusere lige så meget på, hvordan Reducto klarer sig under reelle produktionskrav, som på hvor præcist systemet behandler et enkelt dokument.

Reducto nåede angiveligt op på over 5 millioner dollars i årlig tilbagevendende omsætning, hovedsageligt gennem grundlæggerstyret salg, inden virksomheden opbyggede en dedikeret salgsorganisation. Hvad lærte det dig at tale direkte med de første kunder om de problemer, udviklerne reelt forsøgte at løse?

De samtaler lærte os at bruge mindre tid på at tale generelt om dokumentbehandling og mere tid på at forstå, hvad kunderne faktisk forsøgte at opnå. De første salgssamtaler blev ofte til arbejdssessioner, hvor en kunde delte de dokumenter, der havde fået deres pipeline til at gå i stå, og vi undersøgte, hvad der skete i de efterfølgende led, når dataudtrækket mislykkedes. I sundhedssektoren betød det, at vi så, hvordan en manglende tabelrække eller en fejllæst måleenhed i en laboratorierapport kunne forsinke et krav eller efterlade en kliniker med en ufuldstændig patienthistorik. Så meget stod på spil, at vi satte barren for nøjagtighed højere: En stærk score i en benchmarktest betyder ikke meget, hvis den skjuler de fejl, der betyder mest. Kunderne havde brug for nøjagtighed, men også pålidelighed, sikkerhed, fleksibilitet i implementeringen og forudsigelig ydeevne i stor skala, og det, vi hørte direkte fra dem, formede det, vi byggede.

Reducto behandler nu milliarder af sider om måneden. Hvilke tekniske udfordringer opstår i den skala, især med hensyn til latenstid, nøjagtighed, omkostninger og at opretholde ensartede resultater på tværs af meget forskellige dokumenttyper?

Jeg har allerede mistet overblikket over, hvor mange sider vi behandler, så selv en lille ineffektivitet kan hurtigt blive dyr. Unødvendige inferenskørsler på hver side øger både omkostningerne og latenstiden, mens en for hård optimering af hastigheden kan forringe nøjagtigheden på vanskelige dokumenter. Derfor bruger vi mange tekniske ressourcer på at afgøre, hvor meget behandling den enkelte side faktisk kræver.

Med r-1 forbedrede vi nøjagtigheden af parsing, samtidig med at vi reducerede latenstiden og fik prisen ned på én cent pr. side. Vi arbejder også på at automatisere routingen yderligere, så en enkel side ikke bruger de samme ressourcer som en side med en kompliceret tabel eller figur. Ved vores nuværende volumen påvirker de beslutninger millioner af sider hver dag, hvilket gør effektivitet til en central teknisk udfordring.

Når vi ser flere år frem, og AI-agenter i stigende grad interagerer med kontrakter, finansielle dokumenter, forskningsartikler, præsentationer og andre virksomhedsdokumenter, hvordan mener du så, at den ideelle grænseflade mellem AI-systemer og verdens ustrukturerede information vil se ud?

Nutidens AI-agenter er grundlæggende tekstbaserede. De er meget dygtige til at ræsonnere ud fra rene, digitale oplysninger, men den virkelige verden bygger stadig på PDF-filer, regneark, præsentationer, scanninger, kontrakter og finansielle dokumenter. Med tiden mener jeg, at agenter bør kunne interagere med den slags dokumenter lige så naturligt, som de i dag interagerer med en tekstfil.

Udviklere bør ikke behøve at tænke dybt over OCR, parsing, valg af modeller eller dokumentstruktur. En agent bør kunne modtage en vilkårlig fil, forstå dens indhold, spore vigtige oplysninger tilbage til kilden og bruge dem pålideligt i den opgave, den skal løse. Den underliggende infrastruktur bør afgøre, hvordan dokumentet skal behandles, vælge de rette modeller og gøre opmærksom på usikkerhed, når der faktisk er brug for menneskelig dømmekraft.

Det er i sidste ende den arbejdsdeling, vi bør sigte efter: Maskiner tager sig af det gentagne dokumentarbejde, mens mennesker bruger tiden på de beslutninger, der kræver kontekst, institutionel viden og dømmekraft. Dokumenter rummer en enorm mængde af de oplysninger, som virksomheder bygger på, så hvis vi gør disse oplysninger reelt tilgængelige for AI-agenter, vil det i høj grad øge AI’s anvendelighed i virkelige forretningsprocesser.

Tak for et godt interview. Læsere, der gerne vil vide mere om, hvordan komplekse dokumenter omdannes til pålidelige data til AI-applikationer, kan besøge Reducto.