Adit Abraham, współzałożyciel i dyrektor generalny Reducto – seria wywiadów

Adit Abraham jest współzałożycielem i dyrektorem generalnym Reducto. Koncentruje się na przekształcaniu złożonych dokumentów firmowych w wiarygodne dane wykorzystywane przez aplikacje AI. Zanim założył firmę wraz z Raunakiem Chowdhurim, absolwentem MIT, studiował informatykę na MIT, prowadził badania nad uczeniem maszynowym w MIT Media Lab oraz pracował jako menedżer produktu w Google, zajmując się reklamami i wyszukiwarką. Reducto powstało w wyniku prac założycieli nad narzędziami pamięci dla dużych modeli językowych, gdy zawodny odczyt dokumentów stał się powracającą przeszkodą. Bezpośrednia współpraca Abrahama z pierwszymi klientami pomogła ukierunkować firmę na dokładność, bezpieczeństwo, elastyczność wdrożeń i przewidywalną wydajność w środowisku produkcyjnym.

Reducto tworzy infrastrukturę do inteligentnego przetwarzania dokumentów, która pomaga zespołom AI przekształcać pliki PDF, skany, arkusze kalkulacyjne i inne pliki w uporządkowane, użyteczne informacje. Platforma łączy optyczne rozpoznawanie znaków, widzenie komputerowe i modele wizualno-językowe, aby interpretować tekst, tabele, wykresy, formatowanie oraz złożony układ stron. Oprócz parsowania oferuje narzędzia do strukturalnego wydobywania danych, dzielenia dokumentów, klasyfikowania ich i edytowania, a także cytowania łączące wydobyte informacje z ich źródłem. Wśród klientów firmy są Harvey, Scale AI, Vanta, Mercor i Rogo. Działalność firmy obejmuje generowanie wspomagane wyszukiwaniem, wyszukiwanie oraz przepływy pracy związane z dokumentami w takich dziedzinach jak finanse, ochrona zdrowia i prawo, w których kluczowe znaczenie mają dokładny odczyt dokumentów i możliwość śledzenia wyników.

Reducto wyrosło z wyzwań, z którymi mierzyliście się z Raunakiem Chowdhurim podczas tworzenia narzędzi pamięci dla dużych modeli językowych. Co konkretnie nie działało w dostępnych narzędziach do przetwarzania dokumentów i kiedy zdaliście sobie sprawę, że problem z parsowaniem jest na tyle duży, by zbudować wokół niego firmę?

Chcieliśmy zapewnić modelom dostęp do kontekstu zawartego w dokumentach, więc dodaliśmy funkcję przesyłania plików, ale wciąż napotykaliśmy problemy z jakością przetwarzania. Wypróbowaliśmy wszystkie dostępne wówczas narzędzia, ale żadne nie spełniało naszych standardów w pracy z nieuporządkowanymi dokumentami z rzeczywistego świata, które ludzie faktycznie przesyłali.

Dlatego stworzyliśmy własne rozwiązanie do parsowania, początkowo jako funkcję naszego produktu pamięci dla LLM-ów. Potem jednak zauważyliśmy ogromne zainteresowanie ze strony programistów, którzy sami zetknęli się z tym problemem i bardzo polubili nasze rozwiązanie. Niektóre zespoły poświęcały tygodnie na budowanie i utrzymywanie własnych potoków przetwarzania danych wejściowych, ponieważ dostępne narzędzia nie radziły sobie z ich dokumentami w niezawodny sposób. Te rozmowy uświadomiły nam skalę tej szansy, bo mimo że modele stawały się coraz bardziej inteligentne, czysty i dokładny kontekst wciąż robił ogromną różnicę.

Pliki PDF są technicznie rzecz biorąc przeznaczone do wyświetlania informacji, a nie do udostępniania ich w formie czytelnej dla maszyn. Dlaczego złożone dokumenty, zwłaszcza zawierające tabele, wykresy, układ wielokolumnowy lub osadzone obrazy, tak trudno niezawodnie zrozumieć systemom AI?

Kiedy czytamy dokument jako ludzie, wiele rzeczy rozumiemy intuicyjnie i bierzemy to za oczywiste — niemal natychmiast potrafimy dostrzec zależności, bo widzimy, że dana liczba znajduje się pod konkretnym nagłówkiem kolumny, tekst jest kontynuowany w kolejnej kolumnie albo podpis odnosi się do znajdującego się powyżej wykresu.

Modele AI mają z tym naprawdę duże trudności, ponieważ pliki PDF nie są zaprojektowane tak, by zachowywać tego rodzaju informacje o zależnościach ani metadane; w istocie są to obrazy o bardzo dużej gęstości danych. Parser musi odtworzyć te zależności na podstawie strony, a zadanie staje się znacznie trudniejsze w przypadku scalonych komórek, zagnieżdżonych tabel, wykresów, skanów i nietypowych układów. Ponieważ skupiamy się na problemie rozumienia dokumentów, możemy niezawodnie przetwarzać nawet te rzadziej spotykane dokumenty, w których modele AI mają tendencję do halucynowania i popełniania błędów.

Reducto łączy widzenie komputerowe, optyczne rozpoznawanie znaków i modele wizualno-językowe w swoim potoku przetwarzania dokumentów. Jak te różne technologie współpracują ze sobą i w czym tradycyjne systemy OCR nadal sobie nie radzą?

Tradycyjne OCR istnieje od dziesięcioleci i zostało opracowane z myślą o odczytywaniu dokumentów zawierających czysty, czytelny tekst, znak po znaku. Takie podejście łatwo zawodzi w przypadku dokumentów odręcznych, zeskanowanych, przekrzywionych lub tabelarycznych, które stanowią większość danych firmowych.

Reducto jako pierwsza firma wprowadziło modele wizualno-językowe do przetwarzania dokumentów w ramach rozwiązania „Agentic OCR”, ponieważ dostrzegliśmy potencjał tych modeli w rozumieniu nie tylko samego tekstu dokumentów — prawdziwe inteligentne przetwarzanie dokumentów wymaga kontekstu, dokładności i możliwości pracy z różnymi rodzajami danych. Nasz najnowszy model parsowania r-1 łączy możliwości Agentic OCR z takimi funkcjami jak formatowanie, cytowania i wykrywanie układu stron, wykonując wszystko w jednym przebiegu.

Ta dodatkowa praca ma znaczenie, ponieważ nawet parser o bardzo wysokiej ogólnej dokładności może spowodować poważny problem, jeśli niewielka ilość pominiętych przez niego informacji zawiera akurat wykres, klauzulę lub wpis w tabeli, których ktoś potrzebuje.

W miarę jak modele AI stają się coraz bardziej multimodalne i potrafią bezpośrednio interpretować obrazy oraz dokumenty, jak, Twoim zdaniem, będzie ewoluować rola wyspecjalizowanych platform do inteligentnego przetwarzania dokumentów? Czy modele bazowe będą w stanie w końcu samodzielnie wykonywać większość tych zadań, czy dedykowana infrastruktura nadal będzie niezbędna?

Zakładamy, że modele sztucznej inteligencji będą się stale doskonalić, stając się coraz szybsze i lepsze. Ponieważ nieustannie pojawiają się nowe modele, na bieżąco oceniamy ich słabe strony i wykorzystujemy ich mocne strony we własnych potokach przetwarzania, aby zapewnić klientom jak najlepsze wyniki. Reducto chce pełnić rolę Twojego zespołu ds. pozyskiwania danych, pomagając Ci budować rozwiązania w miarę rozwoju firmy.

Przedsiębiorstwa wciąż mierzą się z wyjątkowym wyzwaniem: potrzebują nie tylko wydajności, lecz także skalowalnej przepustowości, nadzoru i możliwości weryfikacji w skali produkcyjnej — a tego modele bazowe nadal nie potrafią łatwo zapewnić.

Niedawno przetestowaliśmy to na podstawie benchmarku GDP.pdf, który pokazał, że czołowe modele wciąż mają trudności z rozumowaniem na podstawie złożonych, rzeczywistych dokumentów zawodowych i uzyskują mniej niż 15–25% poprawnych wyników w rygorystycznych testach na poziomie poszczególnych zadań. Gdy Reducto najpierw analizuje te dokumenty, a następnie przekazuje ustrukturyzowane dane czołowym modelom, dokładność makro wzrasta o 9 punktów procentowych, a liczba tokenów wykorzystanych do rozumowania spada o 13 procent w porównaniu z modelami, które przetwarzają dokumenty bezpośrednio.

Pokazuje to, że dedykowana infrastruktura do pozyskiwania danych wciąż ma ogromną wartość, ponieważ większość danych przedsiębiorstw pozostaje niewykorzystana.

Wiele zastosowań sztucznej inteligencji w przedsiębiorstwach ostatecznie opiera się na generowaniu wspomaganym wyszukiwaniem (RAG) lub systemach agentowych, które wyszukują informacje ukryte w dokumentach wewnętrznych. W jakim stopniu problemy z niezawodnością tych systemów zaczynają się już na wcześniejszym etapie — podczas pozyskiwania i analizowania dokumentów?

Znaczna część problemów pojawia się już na etapie pozyskiwania danych — zespoły często odkrywają je znacznie później, ponieważ błędna odpowiedź pojawia się dopiero na końcu potoku przetwarzania. Jeśli parser pominie wiersz tabeli, pomiesza kolejność czytania dwóch kolumn lub nie uwzględni wykresu, system wyszukiwania nie odzyska informacji, która nigdy nie trafiła do bazy danych.

Często obserwujemy, że po zastąpieniu dotychczasowego rozwiązania do pozyskiwania danych przez Reducto doświadczenia użytkowników końcowych naszych klientów znacznie się poprawiają, a systemy RAG i wyszukiwarki konsekwentniej zwracają trafniejsze wyniki. Na przykład po wdrożeniu Reducto jako warstwy przetwarzania Harvey odnotował gwałtowny spadek liczby zgłoszeń klientów związanych z OCR oraz wielokrotny wzrost korzystania z produktu.

Reducto rozszerzyło działalność poza analizowanie dokumentów i objęło nią ustrukturyzowane wyodrębnianie danych oraz szersze procesy związane z dokumentami. Jak wygląda kolejny etap rozwoju inteligentnego przetwarzania dokumentów, gdy system potrafi już dokładnie rozpoznać ich strukturę?

Pozyskiwanie danych to zazwyczaj dopiero pierwszy etap znacznie większego procesu biznesowego. Firma może otrzymać plik liczący 500 stron i potrzebować rozpoznać zawarte w nim dokumenty, sklasyfikować je, wyodrębnić konkretne informacje, porównać je z danymi w innym systemie, a nietypowe przypadki przekazać specjaliście do weryfikacji. Przez 2 lata trenowaliśmy najlepsze dostępne na rynku modele rozumienia dokumentów, a teraz poświęcamy więcej czasu na usprawnianie kolejnych etapów procesu.

Gdy potrafisz niezawodnie rozpoznawać treść i strukturę dokumentu, możesz zautomatyzować więcej zadań, na które ludzie obecnie poświęcają czas, zestawiając informacje, sprawdzając je i przenosząc między systemami. Niemal każdy proces biznesowy obarczony wysokim ryzykiem można podzielić na etapy, w których ludzie czytają dokumenty, podejmują decyzje i wprowadzają dane do innych dokumentów. Chcemy, by w przyszłości to nasze rozwiązanie było domyślnym sposobem, w jaki ludzie lub agenci korzystają z danych zawartych w dokumentach.

Wśród Waszych klientów są zarówno firmy, dla których sztuczna inteligencja jest podstawą działalności, takie jak Harvey, Vanta, Scale AI, Mercor i Rogo, jak i duże instytucje finansowe oraz firmy z listy Fortune 10. Czym różnią się wymagania dotyczące przetwarzania dokumentów startupu zajmującego się sztuczną inteligencją od wymagań dużego, regulowanego przedsiębiorstwa?

Firmy, dla których sztuczna inteligencja jest podstawą działalności, zwykle działają szybko, a ich zespoły inżynierskie potrzebują API, które obsłuży trudne dokumenty, nie zmuszając ich do budowania i utrzymywania własnego stosu technologicznego do ich przetwarzania. Duże przedsiębiorstwa oczekują równie wysokiej dokładności, ale często mają dodatkowe wymagania dotyczące miejsca przechowywania danych, sposobu wdrażania oprogramowania, zachowania systemu w razie nagłego wzrostu wolumenu oraz możliwości prześledzenia, z której strony oryginalnego dokumentu pochodzi wyodrębniona wartość. Na przykład Scale AI korzysta z Reducto w środowiskach rządowych, w których kluczowe znaczenie mają poufność i wdrożenie lokalne, natomiast Harvey ocenił nasze rozwiązanie pod kątem dokładności, niezawodności, kosztów, opóźnień i trybów awarii, zanim po mniej więcej sześciu tygodniach rozpoczął jego produkcyjne wdrożenie. Praca z klientami obu typów skłoniła nas do tego, by równie mocno skupić się na działaniu Reducto w warunkach rzeczywistej produkcji, co na dokładności przetwarzania pojedynczych dokumentów.

Według doniesień Reducto osiągnęło ponad 5 milionów dolarów rocznych przychodów powtarzalnych, w dużej mierze dzięki sprzedaży prowadzonej przez założycieli, zanim powstał dedykowany zespół sprzedaży. Czego bezpośrednie rozmowy z pierwszymi klientami nauczyły Cię o problemach, które deweloperzy naprawdę próbowali rozwiązać?

Te rozmowy nauczyły nas, by mniej czasu poświęcać na ogólne rozmowy o przetwarzaniu dokumentów, a więcej na zrozumienie, co klienci naprawdę chcieli osiągnąć. Wczesne rozmowy sprzedażowe często przeradzały się w sesje robocze: klient udostępniał dokumenty, które zakłócały działanie jego potoku przetwarzania, a my analizowaliśmy, co działo się później, gdy ekstrakcja danych kończyła się niepowodzeniem. W ochronie zdrowia oznaczało to obserwowanie, jak pominięty wiersz tabeli lub błędnie odczytana jednostka w wyniku badania laboratoryjnego może opóźnić rozpatrzenie roszczenia albo sprawić, że lekarz nie będzie dysponował pełną historią pacjenta. Tak poważne konsekwencje na nowo wyznaczyły nasze wymagania dotyczące dokładności: wysoki wynik w teście porównawczym niewiele znaczy, jeśli przesłania błędy, które mają największe znaczenie. Klienci potrzebowali dokładności, ale także niezawodności, bezpieczeństwa, elastyczności wdrożenia i przewidywalnej wydajności przy dużej skali. Bezpośrednie wysłuchanie ich opinii ukształtowało to, co zbudowaliśmy.

Reducto przetwarza obecnie miliardy stron miesięcznie. Jakie wyzwania inżynieryjne pojawiają się przy takiej skali, zwłaszcza w zakresie opóźnień, dokładności, kosztów i utrzymania spójnych wyników dla bardzo różnych typów dokumentów?

Straciłem już rachubę, ile stron przetwarzamy, dlatego nawet niewielka nieefektywność może bardzo szybko stać się kosztowna. Niepotrzebne wnioskowanie na każdej stronie zwiększa zarówno koszty, jak i opóźnienia, natomiast zbyt agresywna optymalizacja pod kątem szybkości może obniżyć dokładność w przypadku trudnych dokumentów. Dlatego poświęcamy dużo pracy inżynieryjnej na ustalenie, ile przetwarzania faktycznie wymaga każda strona.

Dzięki r-1 poprawiliśmy dokładność parsowania, jednocześnie skracając opóźnienia i obniżając cenę do jednego centa za stronę. Pracujemy też nad bardziej automatycznym kierowaniem zadań, tak aby prosta strona nie zużywała tyle samo zasobów co strona zawierająca skomplikowaną tabelę lub ilustrację. Przy obecnej skali przetwarzamy w ten sposób miliony stron dziennie, dlatego efektywność stanowi jeden z podstawowych problemów inżynieryjnych.

Patrząc kilka lat w przyszłość, gdy agenci AI będą coraz częściej korzystać z umów, dokumentacji finansowej, artykułów naukowych, prezentacji i innych dokumentów firmowych, jak — twoim zdaniem — powinien wyglądać idealny interfejs między systemami AI a nieustrukturyzowanymi informacjami dostępnymi na świecie?

Dzisiejsi agenci AI są z natury przystosowani do pracy z tekstem. Bardzo dobrze radzą sobie z analizowaniem uporządkowanych informacji cyfrowych, ale rzeczywistość wciąż opiera się na plikach PDF, arkuszach kalkulacyjnych, prezentacjach, skanach, umowach i dokumentacji finansowej. Myślę, że z czasem agenci powinni móc pracować z takimi dokumentami równie swobodnie, jak dziś pracują z plikiem tekstowym.

Programiści nie powinni musieć szczegółowo zajmować się OCR, parsowaniem, wyborem modeli ani strukturą dokumentów. Agent powinien móc otrzymać dowolny plik, zrozumieć jego zawartość, wskazać źródło istotnych informacji, a następnie wiarygodnie wykorzystać je do wykonania powierzonego zadania. Infrastruktura działająca w tle powinna określać sposób przetwarzania dokumentu, dobierać odpowiednie modele i sygnalizować niepewność, gdy rzeczywiście potrzebna jest ludzka ocena.

Uważam, że taki podział pracy jest naszym ostatecznym celem: maszyny zajmują się powtarzalną pracą z dokumentami, a ludzie poświęcają czas na decyzje wymagające kontekstu, wiedzy o organizacji i osądu. Dokumenty zawierają ogromną część informacji, na których opierają się firmy, dlatego udostępnienie tych informacji agentom w natywny dla nich sposób będzie przełomem, który znacznie zwiększy użyteczność AI w rzeczywistych procesach biznesowych.

Dziękujemy za interesujący wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o przekształcaniu złożonych dokumentów w wiarygodne dane na potrzeby aplikacji AI, powinni odwiedzić stronę Reducto.