Adit Abraham, Mitgründer und CEO von Reducto – Interviewreihe

Adit Abraham ist Mitgründer und CEO von Reducto. Dort konzentriert er sich darauf, komplexe Unternehmensdokumente in verlässliche Daten für KI-Anwendungen umzuwandeln. Bevor er das Unternehmen gemeinsam mit seinem MIT-Absolventenkollegen Raunak Chowdhuri gründete, studierte er Informatik am MIT, forschte am MIT Media Lab im Bereich maschinelles Lernen und arbeitete bei Google als Produktmanager für Anzeigen und Suche. Reducto entstand aus den Bemühungen der Gründer, Gedächtniswerkzeuge für große Sprachmodelle zu entwickeln. Dabei wurde die unzuverlässige Verarbeitung von Dokumenten immer wieder zum Hindernis. Abrahams direkte Zusammenarbeit mit den ersten Kunden trug dazu bei, den Fokus des Unternehmens auf Genauigkeit, Sicherheit, flexible Bereitstellung und vorhersehbare Leistung im Produktivbetrieb zu lenken.

Reducto entwickelt eine Infrastruktur für Dokumentenintelligenz, mit der KI-Teams PDFs, Scans, Tabellen und andere Dateien in strukturierte, nutzbare Informationen umwandeln können. Die Plattform kombiniert optische Zeichenerkennung, Computer Vision und Vision-Language-Modelle, um Text, Tabellen, Abbildungen, Formatierungen und komplexe Seitenlayouts zu erfassen. Neben der Dokumentenverarbeitung bietet sie Werkzeuge zur strukturierten Extraktion, Aufteilung, Klassifizierung und Bearbeitung von Dokumenten sowie Quellenangaben, die extrahierte Informationen mit ihrem Ursprung verknüpfen. Zu den Kunden zählen Harvey, Scale AI, Vanta, Mercor und Rogo. Das Unternehmen arbeitet in Bereichen wie Retrieval-Augmented Generation, Suche und Dokumenten-Workflows, unter anderem in der Finanzbranche, im Gesundheitswesen und im Rechtswesen, wo eine präzise Verarbeitung und nachvollziehbare Ergebnisse unverzichtbar sind.

Reducto entstand aus den Herausforderungen, mit denen du und Raunak Chowdhuri bei der Entwicklung von Gedächtniswerkzeugen für große Sprachmodelle konfrontiert wart. Was genau funktionierte bei den vorhandenen Werkzeugen zur Dokumentenverarbeitung nicht, und wann wurde euch klar, dass das Problem der Dokumentenverarbeitung groß genug war, um ein Unternehmen darauf aufzubauen?

Wir wollten Modellen Zugriff auf den Kontext in Dokumenten geben und fügten deshalb eine Funktion zum Hochladen von Dateien hinzu. Dabei stießen wir jedoch immer wieder auf Probleme mit der Verarbeitungsqualität. Wir probierten damals alle verfügbaren Werkzeuge aus, doch keines erfüllte unsere Ansprüche, wenn es darum ging, mit den unübersichtlichen Dokumenten aus der Praxis umzugehen, die Menschen tatsächlich hochluden.

Also entwickelten wir zunächst eine eigene Lösung zur Dokumentenverarbeitung als Funktion unseres LLM-Gedächtnisprodukts. Dann stießen wir auf großes Interesse von Entwicklern, die selbst auf dieses Problem gestoßen waren und unsere Lösung schätzten. Einige Teams investierten Wochen in den Aufbau und die Wartung eigener Datenverarbeitungspipelines, weil die verfügbaren Werkzeuge ihre Dokumente nicht zuverlässig verarbeiten konnten. Diese Gespräche machten uns die Größe der Chance viel deutlicher: Obwohl die Fähigkeiten der Modelle immer besser wurden, machte sauberer und präziser Kontext nach wie vor einen enormen Unterschied.

PDFs sind technisch darauf ausgelegt, Informationen darzustellen, nicht sie maschinenlesbar zu machen. Warum fällt es KI-Systemen so schwer, komplexe Dokumente zuverlässig zu verstehen – insbesondere Dokumente mit Tabellen, Diagrammen, mehrspaltigen Layouts oder eingebetteten Bildern?

Wenn wir Menschen ein Dokument lesen, setzen wir vieles von unserem natürlichen Verständnis einfach voraus: Wir können Zusammenhänge beinahe augenblicklich erschließen, weil wir sehen, dass eine Zahl unter eine bestimmte Spaltenüberschrift gehört, ein Text in einer anderen Spalte fortgesetzt wird oder sich eine Bildunterschrift auf die darüberstehende Abbildung bezieht.

KI-Modelle haben damit tatsächlich große Schwierigkeiten, denn PDFs sind nicht darauf ausgelegt, solche Beziehungen oder Metadaten zu bewahren; im Grunde sind sie sehr datenreiche Bilder. Ein Parser muss diese Beziehungen aus der Seite rekonstruieren. Bei verbundenen Zellen, verschachtelten Tabellen, Diagrammen, Scans und ungewöhnlichen Layouts wird das Problem noch deutlich schwieriger. Da wir uns auf das Verständnis von Dokumenten spezialisiert haben, können wir auch die große Vielfalt an Dokumenten zuverlässig verarbeiten, bei denen KI-Modelle zu Halluzinationen und Fehlern neigen.

Reducto kombiniert Computer Vision, optische Zeichenerkennung und Vision-Language-Modelle in seiner Pipeline zur Dokumentenverarbeitung. Wie greifen diese verschiedenen Technologien ineinander, und woran scheitern herkömmliche OCR-Systeme häufig noch?

Herkömmliche OCR gibt es seit Jahrzehnten. Sie wurde dafür entwickelt, saubere, gut lesbare Dokumente Zeichen für Zeichen auszulesen. Das funktioniert jedoch schnell nicht mehr, sobald handgeschriebene, gescannte, schräg eingelesene oder tabellarische Dokumente ins Spiel kommen – und genau solche Dokumente machen den Großteil der Unternehmensdaten aus.

Reducto war Vorreiter beim Einsatz von Vision-Language-Modellen im Bereich der Dokumentenverarbeitung und entwickelte dafür „Agentic OCR“, weil wir das Potenzial dieser Modelle erkannten, mehr als nur den reinen Text in Dokumenten zu verstehen. Echte Dokumentenintelligenz erfordert Kontext, Genauigkeit und multimodale Fähigkeiten. Unser neuestes Parsing-Modell r-1 vereint die Stärken von Agentic OCR mit Funktionen wie Formatierung, Quellenangaben und Layouterkennung in einem einzigen Durchlauf.

Diese zusätzliche Arbeit ist wichtig, denn selbst ein Parser mit sehr hoher Gesamtgenauigkeit kann ein ernstes Problem verursachen, wenn die wenigen Informationen, die er übersieht, genau die Abbildung, Klausel oder den Tabelleneintrag enthalten, den jemand tatsächlich benötigt.

Wie wird sich die Rolle spezialisierter Plattformen für Dokumentenintelligenz Ihrer Einschätzung nach verändern, wenn KI-Modelle zunehmend multimodal werden und Bilder und Dokumente direkt interpretieren können? Werden Basismodelle irgendwann einen großen Teil dieser Arbeit selbst übernehmen können, oder wird eine spezialisierte Infrastruktur weiterhin notwendig sein?

Wir setzen darauf, dass KI-Modelle immer leistungsfähiger, schneller und besser werden. Da ständig neue Modelle auf den Markt kommen, halten wir uns über ihre Schwächen auf dem Laufenden und integrieren ihre Stärken in unsere eigenen Pipelines, um unseren Kunden insgesamt die bestmögliche Leistung zu bieten. Reducto möchte als Ihr Team für die Datenaufnahme fungieren und Sie beim Aufbau unterstützen, während Ihr Unternehmen wächst.

Unternehmen stehen weiterhin vor der besonderen Herausforderung, nicht nur Leistung, sondern auch einen skalierbaren Durchsatz, Governance und Überprüfbarkeit im Produktivbetrieb sicherstellen zu müssen – Anforderungen, die Basismodelle derzeit nur schwer erfüllen.

Wir haben dies kürzlich mit dem Benchmark GDP.pdf getestet. Dabei zeigte sich, dass selbst Spitzenmodelle noch Schwierigkeiten haben, komplexe, echte professionelle Dokumente zu erschließen, und bei strengen Bestehensraten auf Aufgabenebene Werte von unter 15 % bis 25 % erreichten. Wenn Reducto diese Dokumente zunächst analysiert und die strukturierten Daten anschließend an die Spitzenmodelle weitergibt, steigt die Makro-Genauigkeit um neun Prozentpunkte. Gleichzeitig sinkt die Zahl der Reasoning-Tokens im Vergleich zu Modellen, die die Dokumente direkt verarbeiten, um 13 Prozent.

Das zeigt, dass eine dedizierte Infrastruktur für die Datenaufnahme nach wie vor einen enormen Mehrwert bietet, da der Großteil der Unternehmensdaten noch unerschlossen ist.

Viele KI-Anwendungen in Unternehmen beruhen letztlich auf Retrieval-Augmented Generation oder agentischen Systemen, die auf Informationen in internen Dokumenten zugreifen. Wie viel des Zuverlässigkeitsproblems in diesen Systemen entsteht tatsächlich bereits vorgelagert bei der Aufnahme und Analyse von Dokumenten?

Ein erheblicher Teil der Probleme entsteht bereits bei der Datenaufnahme – Teams bemerken sie oft erst viel später, weil die fehlerhafte Antwort am Ende der Pipeline auftaucht. Wenn ein Parser eine Tabellenzeile auslässt, die Lesereihenfolge zweier Spalten vertauscht oder eine Abbildung übersieht, kann der Abruf keine Informationen wiederherstellen, die nie in die Datenbank gelangt sind.

Wir beobachten häufig, dass sich die Erfahrung der Endnutzer unserer Kunden nach dem Wechsel ihrer Datenaufnahme zu Reducto deutlich verbessert, da RAG- und Suchsysteme konsistenter bessere Ergebnisse liefern. Harvey verzeichnete beispielsweise nach der Einführung von Reducto als Verarbeitungsschicht einen drastischen Rückgang der OCR-bezogenen Kundenanfragen und eine Vervielfachung der Produktnutzung.

Reducto hat sein Angebot über die Dokumentenanalyse hinaus auf die strukturierte Extraktion und umfassendere Dokumenten-Workflows ausgeweitet. Wie sieht die nächste Stufe der Dokumentenintelligenz aus, wenn ein System die zugrunde liegende Struktur eines Dokuments bereits präzise erfassen kann?

Die Datenaufnahme ist in der Regel nur der erste Schritt in einem viel umfassenderen Geschäftsprozess. Ein Unternehmen erhält möglicherweise eine 500-seitige Datei und muss darin enthaltene Dokumente erkennen, sie klassifizieren, bestimmte Informationen extrahieren, diese mit einem anderen System abgleichen und ungewöhnliche Fälle zur Prüfung an einen Spezialisten weiterleiten. Wir haben zwei Jahre damit verbracht, die besten Modelle für das Dokumentenverständnis auf dem Markt zu trainieren. Jetzt konzentrieren wir uns verstärkt darauf, die anschließenden Abläufe zu optimieren.

Sobald sich Inhalt und Struktur eines Dokuments zuverlässig erfassen lassen, kann mehr von der Arbeit automatisiert werden, mit der Menschen derzeit Dokumente zusammenstellen und prüfen sowie Informationen zwischen Systemen übertragen. Nahezu jeder Geschäftsprozess mit hohen Risiken lässt sich in Schritte zerlegen, bei denen Menschen Informationen aus anderen Dokumenten lesen, Entscheidungen treffen und in Dokumente schreiben. Wir wollen künftig zum Standard werden, über den Menschen oder Agenten mit Dokumentdaten interagieren.

Zu Ihren Kunden zählen KI-native Unternehmen wie Harvey, Vanta, Scale AI, Mercor und Rogo ebenso wie große Finanzinstitute und Fortune-10-Unternehmen. Wie unterscheiden sich die Anforderungen an die Dokumentenverarbeitung bei einem KI-Startup von denen eines großen, stark regulierten Unternehmens?

KI-native Unternehmen arbeiten oft schnell, und ihre Entwicklungsteams wünschen sich eine API, die auch schwierige Dokumente verarbeitet, ohne dass sie dafür einen eigenen Verarbeitungs-Stack aufbauen und warten müssen. Große Unternehmen legen ebenso viel Wert auf Genauigkeit, haben aber häufig zusätzliche Anforderungen: Wo werden die Daten gespeichert? Wie wird die Software bereitgestellt? Was geschieht bei plötzlichen Mengenspitzen? Und können Nutzer einen extrahierten Wert bis zur Originalseite zurückverfolgen? Scale AI setzt Reducto beispielsweise in Regierungsumgebungen ein, in denen Vertraulichkeit und die Bereitstellung vor Ort wichtig sind. Harvey bewertete uns vor dem Produktivstart rund sechs Wochen lang anhand von Genauigkeit, Zuverlässigkeit, Kosten, Latenz und Fehlermodi. Die Zusammenarbeit mit beiden Kundengruppen hat uns dazu gebracht, ebenso stark darauf zu achten, wie sich Reducto unter realen Produktionsanforderungen bewährt, wie darauf, wie genau es ein einzelnes Dokument verarbeitet.

Berichten zufolge erzielte Reducto vor dem Aufbau eines eigenen Vertriebsteams größtenteils durch vom Gründer geführten Vertrieb einen jährlich wiederkehrenden Umsatz von mehr als 5 Millionen US-Dollar. Was haben Sie durch die direkten Gespräche mit den ersten Kunden darüber gelernt, welche Probleme Entwickler tatsächlich lösen wollten?

Diese Gespräche haben uns gelehrt, weniger allgemein über die Verarbeitung von Dokumenten zu sprechen und mehr darüber zu erfahren, was unsere Kunden tatsächlich erreichen wollten. Aus frühen Verkaufsgesprächen wurden oft gemeinsame Arbeitssitzungen: Kunden zeigten uns die Dokumente, an denen ihre Prozesse scheiterten, und wir untersuchten, was danach passierte, wenn die Extraktion fehlschlug. Im Gesundheitswesen bedeutete das zu sehen, wie eine fehlende Tabellenzeile oder eine falsch gelesene Maßeinheit in einem Laborbericht die Bearbeitung eines Versicherungsanspruchs verzögern oder dazu führen konnte, dass einer medizinischen Fachkraft eine unvollständige Krankengeschichte vorlag. Diese Tragweite setzte unseren Maßstab für Genauigkeit neu: Ein guter Benchmark-Wert bedeutet wenig, wenn er die Fehler verdeckt, auf die es am meisten ankommt. Kunden brauchten Genauigkeit, aber auch Zuverlässigkeit, Sicherheit, flexible Bereitstellungsoptionen und eine vorhersehbare Leistung im großen Maßstab. Dieses direkte Feedback prägte maßgeblich, was wir entwickelten.

Reducto verarbeitet inzwischen Milliarden Seiten pro Monat. Welche technischen Herausforderungen ergeben sich bei diesem Umfang, insbesondere im Hinblick auf Latenz, Genauigkeit, Kosten und die Gewährleistung konsistenter Ergebnisse bei sehr unterschiedlichen Dokumenttypen?

Ich habe längst den Überblick darüber verloren, wie viele Seiten wir verarbeiten. Deshalb kann selbst eine kleine Ineffizienz sehr schnell teuer werden. Unnötige Inferenz für jede Seite erhöht sowohl die Kosten als auch die Latenz. Eine zu starke Optimierung auf Geschwindigkeit kann dagegen die Genauigkeit bei schwierigen Dokumenten beeinträchtigen. Daher investieren wir viel Entwicklungsarbeit darin, zu bestimmen, wie viel Verarbeitung jede Seite tatsächlich benötigt.

Mit r-1 haben wir die Parsing-Genauigkeit verbessert, gleichzeitig die Latenz verringert und den Preis auf einen Cent pro Seite gesenkt. Außerdem arbeiten wir an einer zunehmend automatischen Weiterleitung, damit eine einfache Seite nicht dieselben Ressourcen beansprucht wie eine Seite mit einer komplizierten Tabelle oder Abbildung. Bei unserem aktuellen Volumen betreffen solche Entscheidungen jeden Tag Millionen von Seiten. Effizienz ist deshalb ein zentraler Bestandteil der technischen Herausforderung.

Wenn Sie einige Jahre in die Zukunft blicken: Wie wird Ihrer Meinung nach die ideale Schnittstelle zwischen KI-Systemen und den unstrukturierten Informationen der Welt aussehen, wenn KI-Agenten zunehmend mit Verträgen, Finanzunterlagen, wissenschaftlichen Arbeiten, Präsentationen und anderen Unternehmensdokumenten arbeiten?

Die heutigen KI-Agenten sind grundsätzlich auf Text ausgelegt. Sie können sehr gut mit sauberen, digitalen Informationen umgehen. Die reale Welt basiert jedoch weiterhin auf PDFs, Tabellen, Präsentationen, Scans, Verträgen und Finanzunterlagen. Mit der Zeit sollten Agenten meiner Meinung nach mit solchen Dokumenten ebenso natürlich interagieren können wie heute mit einer Textdatei.

Entwickler sollten sich nicht intensiv mit OCR, Parsing, der Modellauswahl oder der Dokumentstruktur befassen müssen. Ein Agent sollte jede Datei entgegennehmen, ihren Inhalt verstehen, wichtige Informationen bis zu ihrer Quelle zurückverfolgen und sie zuverlässig für die jeweilige Aufgabe nutzen können. Die zugrunde liegende Infrastruktur sollte bestimmen, wie das Dokument verarbeitet wird, die passenden Modelle auswählen und auf Unsicherheiten hinweisen, wenn tatsächlich menschliches Urteilsvermögen gefragt ist.

Letztlich ist das meiner Meinung nach die gewünschte Arbeitsteilung: Maschinen übernehmen die wiederkehrende Dokumentenarbeit, während Menschen ihre Zeit den Entscheidungen widmen, die Kontext, institutionelles Wissen und Urteilsvermögen erfordern. Dokumente enthalten einen enormen Teil der Informationen, auf denen Unternehmen basieren. Diese Informationen wirklich für Agenten zugänglich zu machen, wird daher die Einsatzmöglichkeiten von KI in realen Geschäftsprozessen erheblich erweitern.

Vielen Dank für das großartige Interview. Leserinnen und Leser, die mehr darüber erfahren möchten, wie sich komplexe Dokumente in zuverlässige Daten für KI-Anwendungen umwandeln lassen, sollten Reducto besuchen.