Adit Abraham, cofondatore e CEO di Reducto – Serie di interviste

Adit Abraham è cofondatore e CEO di Reducto, dove si occupa di trasformare documenti aziendali complessi in dati affidabili per le applicazioni di IA. Prima di fondare l’azienda insieme a Raunak Chowdhuri, suo collega laureato al MIT, ha studiato informatica al MIT, svolto ricerche sull’apprendimento automatico al MIT Media Lab e lavorato come responsabile di prodotto per Ads and Search in Google. Reducto è nata dagli sforzi dei fondatori per creare strumenti di memoria per i modelli linguistici di grandi dimensioni, quando l’acquisizione inaffidabile dei documenti è diventata un ostacolo ricorrente. Il lavoro diretto di Abraham con i primi clienti ha contribuito a definire l’attenzione dell’azienda per la precisione, la sicurezza, la flessibilità di implementazione e prestazioni prevedibili in produzione.

Reducto sviluppa un’infrastruttura per l’intelligenza documentale che aiuta i team di IA a convertire PDF, scansioni, fogli di calcolo e altri file in informazioni strutturate e utilizzabili. La sua piattaforma combina il riconoscimento ottico dei caratteri, la visione artificiale e i modelli visione-linguaggio per interpretare testo, tabelle, figure, formattazione e impaginazioni complesse. Oltre all’analisi dei documenti, offre strumenti per l’estrazione strutturata, la suddivisione, la classificazione e la modifica dei documenti, con citazioni che collegano le informazioni estratte alle relative fonti. Tra i clienti figurano Harvey, Scale AI, Vanta, Mercor e Rogo. L’attività dell’azienda comprende la generazione aumentata dal recupero, la ricerca e i flussi di lavoro documentali in settori come la finanza, la sanità e il diritto, nei quali sono essenziali un’acquisizione accurata e risultati verificabili.

Reducto è nata dalle difficoltà che tu e Raunak Chowdhuri avete incontrato mentre sviluppavate strumenti di memoria per i modelli linguistici di grandi dimensioni. Che cosa, nello specifico, non funzionava negli strumenti di elaborazione documentale esistenti e quando avete capito che il problema dell’analisi dei documenti era abbastanza rilevante da giustificare la fondazione di un’azienda?

Volevamo dare ai modelli accesso al contesto contenuto nei documenti, così abbiamo aggiunto una funzione per caricare file, ma continuavamo a riscontrare problemi con la qualità dell’elaborazione. All’epoca abbiamo provato tutti gli strumenti disponibili, ma nessuno era all’altezza dei nostri standard quando si trattava di gestire documenti disordinati e realistici, come quelli che le persone caricavano davvero.

Così abbiamo creato una nostra soluzione per l’analisi dei documenti, inizialmente come funzione del nostro prodotto di memoria per LLM. In seguito, però, abbiamo visto che molti sviluppatori che avevano incontrato lo stesso problema erano entusiasti della nostra soluzione. Alcuni team trascorrevano settimane a creare e mantenere le proprie pipeline di acquisizione perché gli strumenti disponibili non riuscivano a gestire i loro documenti in modo affidabile. Quelle conversazioni ci hanno reso molto più chiara l’opportunità: nonostante l’intelligenza dei modelli continuasse a migliorare, disporre di un contesto pulito e accurato faceva comunque una differenza enorme.

I PDF sono progettati tecnicamente per visualizzare informazioni, non per renderle leggibili dalle macchine. Perché i documenti complessi, in particolare quelli con tabelle, grafici, impaginazioni su più colonne o immagini incorporate, sono così difficili da interpretare in modo affidabile per i sistemi di IA?

Quando leggiamo un documento, noi esseri umani diamo per scontate molte delle nostre capacità di comprensione: riusciamo a dedurre quasi istantaneamente le relazioni, perché vediamo che un numero appartiene a una determinata intestazione di colonna, che il testo prosegue in un’altra colonna o che una didascalia si riferisce alla figura soprastante.

I modelli di IA, invece, hanno davvero difficoltà con questi aspetti, perché i PDF non sono progettati per conservare questo tipo di informazioni relazionali o metadati: sono essenzialmente immagini ad altissima densità di dati. Un sistema di analisi deve ricostruire queste relazioni a partire dalla pagina e il problema diventa molto più difficile in presenza di celle unite, tabelle annidate, grafici, scansioni e impaginazioni insolite. Poiché ci concentriamo proprio su questo problema di comprensione dei documenti, riusciamo a elaborare in modo affidabile anche la lunga coda di documenti su cui i modelli di IA tendono ad allucinare e a commettere errori.

Reducto combina visione artificiale, riconoscimento ottico dei caratteri e modelli visione-linguaggio nella propria pipeline di elaborazione documentale. Come interagiscono queste diverse tecnologie e quali sono ancora i limiti dei sistemi OCR tradizionali?

L’OCR tradizionale esiste da decenni ed è stato progettato per leggere, carattere per carattere, documenti con testo pulito e leggibile. Il suo funzionamento peggiora facilmente quando si tratta di documenti manoscritti, scansionati, inclinati o tabellari, che costituiscono la maggior parte dei dati aziendali.

Reducto è stata pioniera nell’introdurre i modelli visione-linguaggio nel settore dell’elaborazione documentale con «Agentic OCR», perché abbiamo intravisto il potenziale dei VLM nel comprendere più del semplice testo dei documenti: una vera intelligenza documentale richiede contesto, precisione e capacità multimodali. Il nostro più recente modello di analisi, r-1, combina in un unico passaggio le capacità di Agentic OCR con funzioni come la formattazione, le citazioni e il rilevamento dell’impaginazione.

Questo lavoro aggiuntivo è importante perché anche un sistema di analisi con una precisione complessiva molto elevata può causare un grave problema se la piccola quantità di informazioni che non rileva comprende la cifra, la clausola o la voce di tabella di cui qualcuno ha effettivamente bisogno.

Man mano che i modelli di IA diventano sempre più multimodali e capaci di interpretare direttamente immagini e documenti, come pensi che evolverà il ruolo delle piattaforme specializzate nell’intelligenza documentale? I modelli di base potrebbero arrivare a svolgere da soli gran parte di questo lavoro oppure sarà ancora necessaria un’infrastruttura dedicata?

Scommettiamo sul fatto che i modelli di IA continueranno a migliorare, diventando più veloci e più efficaci. Con l’arrivo costante di nuovi modelli, ci teniamo aggiornati valutandone i punti deboli e integrandone i punti di forza nelle nostre pipeline, per offrire ai clienti le prestazioni migliori nel complesso. Reducto vuole essere il tuo team dedicato all’acquisizione dei dati, aiutandoti a costruire insieme a noi man mano che cresci.

Le grandi aziende devono affrontare una sfida specifica: non basta ottenere prestazioni elevate, servono anche capacità di elaborazione scalabili, governance e verificabilità su scala produttiva, aspetti che oggi restano difficili da garantire con i modelli fondazionali.

Di recente lo abbiamo verificato con il benchmark GDP.pdf, che ha mostrato come i modelli di frontiera facciano ancora fatica a ragionare su documenti professionali complessi e abbiano registrato tassi di superamento rigorosi a livello di singola attività inferiori a valori compresi tra il 15% e il 25%. Facendo analizzare prima questi documenti a Reducto e passando poi i dati strutturati ai modelli di frontiera, la precisione complessiva è migliorata di nove punti percentuali, mentre i token impiegati per il ragionamento si sono ridotti del 13 percento rispetto ai modelli che elaboravano direttamente i documenti.

Questo dimostra che le infrastrutture dedicate all’acquisizione dei dati hanno ancora un enorme valore, poiché la maggior parte dei dati aziendali non è ancora stata sfruttata.

Molte applicazioni di IA aziendali dipendono in ultima analisi dalla generazione aumentata dal recupero delle informazioni (RAG) o da sistemi basati su agenti che accedono a informazioni nascoste nei documenti interni. In che misura i problemi di affidabilità di questi sistemi hanno origine a monte, nell’acquisizione e nell’analisi dei documenti?

Una parte significativa dei problemi nasce durante l’acquisizione dei dati: spesso i team se ne accorgono molto più tardi, perché la risposta errata emerge alla fine della pipeline. Se un parser omette una riga di una tabella, inverte l’ordine di lettura di due colonne o non rileva un’immagine, il sistema di recupero non può recuperare informazioni che non sono mai state inserite nel database.

Spesso vediamo migliorare nettamente l’esperienza degli utenti finali dei nostri clienti dopo che sostituiscono il loro sistema di acquisizione dei dati con Reducto: i sistemi RAG e di ricerca restituiscono risultati migliori con maggiore costanza. Per esempio, dopo aver adottato Reducto come livello di elaborazione, Harvey ha registrato un drastico calo delle richieste di assistenza dei clienti legate all’OCR e un forte aumento dell’utilizzo del prodotto.

Reducto si è estesa oltre l’analisi dei documenti, includendo l’estrazione strutturata e flussi di lavoro documentali più ampi. Qual è il prossimo livello di intelligenza documentale, una volta che un sistema è in grado di comprendere con precisione la struttura di fondo di un documento?

L’acquisizione dei dati rappresenta di solito solo il primo passaggio di un processo aziendale molto più ampio. Un’azienda potrebbe ricevere un file di 500 pagine e dover individuare i documenti che contiene, classificarli, estrarre informazioni specifiche, confrontarle con quelle di un altro sistema e inoltrare i casi insoliti a uno specialista perché li esamini. Abbiamo trascorso 2 anni ad addestrare i migliori modelli di comprensione documentale sul mercato e ora ci stiamo concentrando maggiormente su come semplificare le fasi successive.

Quando si riescono a comprendere con affidabilità i contenuti e la struttura di un documento, è possibile automatizzare una parte maggiore del lavoro che oggi le persone dedicano a raccogliere informazioni, verificarle e trasferirle da un sistema all’altro. Quasi tutti i flussi di lavoro aziendali ad alto rischio possono essere scomposti in passaggi che prevedono che le persone leggano documenti, prendano decisioni e inseriscano informazioni in altri documenti. In futuro vogliamo diventare il modo predefinito con cui le persone o gli agenti interagiscono con i dati contenuti nei documenti.

Tra i vostri clienti ci sono aziende native dell’IA come Harvey, Vanta, Scale AI, Mercor e Rogo, oltre a grandi istituzioni finanziarie e aziende della Fortune 10. Quanto differiscono i requisiti di elaborazione dei documenti di una startup di IA rispetto a quelli di una grande azienda soggetta a regolamentazione?

Le aziende native dell’IA tendono a muoversi rapidamente e i loro team di ingegneria vogliono un’API in grado di gestire documenti complessi senza costringerli a creare e mantenere una propria infrastruttura di elaborazione. Le grandi aziende attribuiscono la stessa importanza alla precisione, ma spesso hanno ulteriori esigenze: dove vengono archiviati i dati, come viene distribuito il software, cosa succede quando i volumi aumentano e se gli utenti possono risalire dalla pagina originale al valore estratto. Per esempio, Scale AI utilizza Reducto in ambienti governativi in cui sono essenziali la riservatezza e la distribuzione on-premise, mentre Harvey ci ha valutati in base a precisione, affidabilità, costi, latenza e modalità di errore, prima di passare alla produzione in circa sei settimane. Lavorare con entrambe le tipologie di clienti ci ha spinto a concentrarci tanto sulle prestazioni di Reducto in condizioni reali di produzione quanto sulla precisione con cui gestisce un singolo documento.

Secondo quanto riferito, Reducto ha raggiunto oltre 5 milioni di dollari di ricavi ricorrenti annuali soprattutto grazie alle vendite guidate dai fondatori, prima di creare un’organizzazione commerciale dedicata. Cosa vi hanno insegnato i colloqui diretti con i primi clienti sui problemi che gli sviluppatori cercavano davvero di risolvere?

Quelle conversazioni ci hanno insegnato a parlare meno in termini generali dell’elaborazione dei documenti e a concentrarci di più su ciò che i clienti cercavano davvero di realizzare. Le prime chiamate commerciali spesso si trasformavano in sessioni di lavoro: un cliente condivideva i documenti che mandavano in tilt la sua pipeline e noi approfondivamo cosa succedeva a valle quando l’estrazione non riusciva. In ambito sanitario, questo significava vedere come l’omissione di una riga di una tabella o l’interpretazione errata di un’unità di misura in un referto di laboratorio potessero ritardare una richiesta di rimborso o lasciare a un medico una cartella clinica incompleta. L’importanza di queste conseguenze ha ridefinito i nostri criteri di accuratezza: un ottimo punteggio nei benchmark conta poco se nasconde gli errori più rilevanti. I clienti avevano bisogno di accuratezza, ma anche di affidabilità, sicurezza, flessibilità di implementazione e prestazioni prevedibili su larga scala; ascoltarli direttamente ha influenzato ciò che abbiamo realizzato.

Oggi Reducto elabora miliardi di pagine al mese. Quali sfide ingegneristiche emergono a questa scala, soprattutto per quanto riguarda latenza, accuratezza, costi e uniformità dei risultati tra tipi di documenti molto diversi?

Ho ormai perso il conto del numero di pagine che elaboriamo, quindi anche una piccola inefficienza può diventare molto rapidamente costosa. Aggiungere inferenze non necessarie a ogni pagina fa aumentare sia i costi sia la latenza, mentre ottimizzare eccessivamente la velocità può compromettere l’accuratezza sui documenti più difficili. Per questo dedichiamo molto lavoro ingegneristico a determinare quanta elaborazione richieda effettivamente ogni pagina.

Con r-1 abbiamo migliorato l’accuratezza dell’analisi riducendo al tempo stesso la latenza e portando il prezzo a un centesimo per pagina. Stiamo inoltre lavorando per rendere più automatico l’instradamento, così che una pagina semplice non richieda le stesse risorse di una con una tabella o un grafico complessi. Con i volumi attuali, queste decisioni riguardano milioni di pagine ogni giorno, rendendo l’efficienza una parte fondamentale del problema ingegneristico.

Guardando ai prossimi anni, man mano che gli agenti IA interagiranno sempre più spesso con contratti, documenti finanziari, articoli di ricerca, presentazioni e altri documenti aziendali, quale pensi sarà l’interfaccia ideale tra i sistemi di IA e le informazioni non strutturate del mondo?

Gli agenti IA di oggi sono fondamentalmente nativi del testo. Sono molto efficaci nel ragionare su informazioni digitali ben strutturate, ma il mondo reale si basa ancora su PDF, fogli di calcolo, presentazioni, scansioni, contratti e documenti finanziari. Col tempo, penso che gli agenti dovrebbero poter interagire con questi documenti con la stessa naturalezza con cui oggi interagiscono con un file di testo.

Gli sviluppatori non dovrebbero doversi preoccupare troppo dell’OCR, dell’analisi dei documenti, della scelta dei modelli o della loro struttura. Un agente dovrebbe poter ricevere qualsiasi file, capirne il contenuto, risalire alla fonte delle informazioni importanti e utilizzarle in modo affidabile per completare qualsiasi attività gli venga richiesta. L’infrastruttura sottostante dovrebbe stabilire come elaborare il documento, scegliere i modelli più adatti e segnalare i casi incerti quando è davvero necessario il giudizio umano.

In definitiva, credo che la divisione del lavoro a cui miriamo sia questa: le macchine si occupano delle attività documentali ripetitive, mentre le persone dedicano il proprio tempo alle decisioni che richiedono contesto, conoscenza dell’organizzazione e capacità di giudizio. I documenti contengono una parte enorme delle informazioni su cui si basano le imprese, quindi rendere queste informazioni davvero accessibili agli agenti rappresenterà un grande passo avanti nel rendere l’IA utile all’interno dei processi aziendali reali.

Grazie per la bella intervista. I lettori che desiderano saperne di più su come trasformare documenti complessi in dati affidabili per le applicazioni di IA possono visitare Reducto.