Adit Abraham, Reducto 공동 창립자 겸 CEO – 인터뷰 시리즈

Adit Abraham은 Reducto의 공동 창립자 겸 CEO로, 복잡한 기업 문서를 AI 애플리케이션에 사용할 수 있는 신뢰성 높은 데이터로 변환하는 데 주력하고 있습니다. MIT를 함께 졸업한 Raunak Chowdhuri와 회사를 창업하기 전에는 MIT에서 컴퓨터 과학을 공부하고 MIT 미디어 랩에서 머신러닝 연구를 수행했으며, Google에서 제품 관리자로 광고 및 검색 업무를 담당했습니다. Reducto는 창업자들이 대규모 언어 모델을 위한 메모리 도구를 개발하는 과정에서 탄생했습니다. 당시 신뢰하기 어려운 문서 수집·처리가 반복적인 걸림돌이 됐습니다. Abraham이 초기 고객들과 직접 협업한 경험은 회사가 정확성, 보안, 유연한 배포, 프로덕션 환경에서의 예측 가능한 성능을 중시하는 데 영향을 미쳤습니다.

Reducto는 AI 팀이 PDF, 스캔 문서, 스프레드시트 및 기타 파일을 구조화되고 활용 가능한 정보로 변환하도록 돕는 문서 지능 인프라를 개발합니다. 이 플랫폼은 광학 문자 인식, 컴퓨터 비전, 비전-언어 모델을 결합해 텍스트, 표, 그림, 서식, 복잡한 페이지 레이아웃을 해석합니다. 문서 파싱과 함께 구조화된 정보 추출, 문서 분할, 분류, 편집 도구를 제공하며, 추출한 정보를 원본과 연결하는 인용 기능도 갖추고 있습니다. 고객사로는 Harvey, Scale AI, Vanta, Mercor, Rogo가 있습니다. 이 회사는 금융, 의료, 법률 등 정확한 문서 수집·처리와 결과 추적이 필수적인 분야에서 검색 증강 생성, 검색, 문서 워크플로를 지원합니다.

대규모 언어 모델을 위한 메모리 도구를 개발하면서 Raunak Chowdhuri 씨와 겪은 어려움이 Reducto의 출발점이 됐습니다. 기존 문서 처리 도구에서 구체적으로 무엇이 제대로 작동하지 않았나요? 또 문서 파싱 문제만으로도 회사를 세울 만큼 큰 기회가 있다고 언제 깨달으셨나요?

문서를 통해 모델에 맥락을 제공하려고 파일 업로드 기능을 추가했지만, 처리 품질 문제를 계속 겪었습니다. 당시 이용할 수 있던 기존 도구를 모두 써 봤지만, 사람들이 실제로 업로드하는 복잡하고 정돈되지 않은 문서를 처리하는 데 있어 어느 것도 우리의 기준을 충족하지 못했습니다.

그래서 처음에는 자체 파싱 솔루션을 LLM 메모리 제품의 기능으로 개발했습니다. 그런데 같은 문제를 겪었던 개발자들이 우리 솔루션을 매우 만족스러워하며 강한 관심을 보였습니다. 일부 팀은 기존 도구가 문서를 안정적으로 처리하지 못해 자체 데이터 수집 파이프라인을 구축하고 유지하는 데 몇 주씩 쓰고 있었습니다. 이런 대화를 나누면서 우리가 발견한 기회가 훨씬 더 분명해졌습니다. 모델의 지능이 계속 향상되더라도, 깨끗하고 정확한 맥락은 여전히 큰 차이를 만들어 냈기 때문입니다.

PDF는 기술적으로 정보를 기계가 읽을 수 있도록 만드는 형식이 아니라 정보를 표시하기 위한 형식입니다. 표, 차트, 다단 편집 레이아웃 또는 삽입 이미지가 포함된 복잡한 문서를 AI 시스템이 안정적으로 이해하기 어려운 이유는 무엇인가요?

사람은 문서를 읽을 때 많은 것을 자연스럽게 이해한다고 여기며 당연하게 받아들입니다. 특정 숫자가 어느 열 제목 아래에 있는지, 텍스트가 다른 열에서 이어지는지, 설명 문구가 바로 위 그림을 가리키는지를 눈으로 파악할 수 있기 때문에 서로 간의 관계를 거의 즉각적으로 추론할 수 있습니다.

AI 모델은 이런 작업에 실제로 큰 어려움을 겪습니다. PDF는 이러한 종류의 관계 정보나 메타데이터를 보존하도록 설계되지 않았으며, 사실상 데이터가 매우 밀집된 이미지에 가깝기 때문입니다. 파서는 페이지를 바탕으로 이런 관계를 재구성해야 하는데, 셀 병합, 중첩 표, 차트, 스캔 문서, 비정형 레이아웃이 있으면 문제는 훨씬 더 어려워집니다. 우리는 문서 이해 문제에 집중하기 때문에 AI 모델이 환각을 일으키거나 제대로 처리하지 못하는, 빈도가 낮고 다양한 문서도 안정적으로 처리할 수 있습니다.

Reducto는 문서 처리 파이프라인에 컴퓨터 비전, 광학 문자 인식, 비전-언어 모델을 결합합니다. 이 기술들은 어떻게 함께 작동하며, 기존 OCR 시스템은 여전히 어떤 부분에서 한계를 보이나요?

기존 OCR은 수십 년 전부터 사용돼 왔으며, 깨끗하고 읽기 쉬운 문서를 문자 단위로 읽도록 만들어졌습니다. 손으로 쓴 문서, 스캔 문서, 기울어진 문서, 표 형식의 문서를 처리하게 되면 쉽게 한계에 부딪히는데, 이런 문서가 기업 데이터의 대부분을 차지하는 경향이 있습니다.

우리는 VLM이 문서의 텍스트만이 아니라 그 이상의 내용을 이해할 잠재력이 있다고 보고, “Agentic OCR”을 통해 문서 처리 분야에 비전-언어 모델을 선도적으로 도입했습니다. 진정한 문서 지능에는 맥락, 정확성, 멀티모달 기능이 필요합니다. 최신 r-1 파싱 모델은 Agentic OCR의 강점에 서식 처리, 인용, 레이아웃 감지와 같은 기능을 결합해 한 번의 처리 과정으로 제공합니다.

이런 추가 작업이 중요한 이유는 전체 정확도가 매우 높은 파서라도 놓치는 정보가 소량에 불과할 수 있지만, 그 정보에 누군가 실제로 필요로 하는 그림, 조항 또는 표의 항목이 들어 있다면 심각한 문제가 생길 수 있기 때문입니다.

AI 모델이 점점 더 멀티모달 기능을 갖추고 이미지와 문서를 직접 해석할 수 있게 되면서, 전문 문서 지능 플랫폼의 역할은 어떻게 달라질 것으로 보시나요? 기반 모델이 결국 이 작업의 상당 부분을 직접 수행하게 될까요, 아니면 전용 인프라가 계속 필요할까요?

AI 모델은 계속 개선되고 더 빠르고 뛰어난 성능을 갖추게 될 것이라는 점에 실제로 기대를 걸고 있습니다. 새로운 모델이 끊임없이 등장하는 만큼, 우리는 각 모델의 약점을 평가해 최신 동향을 파악하고 강점을 자체 파이프라인에 통합해 고객에게 전반적으로 최고의 성능을 제공합니다. Reducto는 고객의 데이터 수집 팀 역할을 하며, 고객이 성장하는 과정에서 함께 구축을 지원하고자 합니다.

기업에는 성능뿐 아니라 대규모 처리량, 거버넌스, 프로덕션 규모에서의 검증 가능성까지 필요하다는 고유한 과제가 여전히 있습니다. 현재 기반 모델로는 이러한 요구를 충족하기가 여전히 어렵습니다.

최근 GDP.pdf 벤치마크로 이를 테스트한 결과, 최첨단 모델도 복잡하고 실제 전문 문서를 추론하는 데 여전히 어려움을 겪으며, 엄격한 작업 단위 통과율 기준으로 15~25% 미만의 점수를 기록했습니다. Reducto가 먼저 이러한 문서를 파싱한 다음 구조화된 데이터를 최첨단 모델에 전달하자, 문서를 직접 처리하는 모델과 비교해 거시적 정확도가 9%포인트 향상되고 추론 토큰은 13% 감소했습니다.

이는 대부분의 기업 데이터가 아직 충분히 활용되지 않고 있는 만큼, 전용 데이터 수집 인프라가 여전히 엄청난 가치를 지닌다는 점을 보여줍니다.

많은 기업용 AI 애플리케이션은 결국 검색 증강 생성(RAG)이나 에이전트형 시스템을 통해 내부 문서 속에 묻혀 있는 정보에 접근합니다. 이러한 시스템의 신뢰성 문제 중 어느 정도가 실제로 문서 수집 및 파싱 과정에서 비롯되나요?

문제의 상당 부분은 데이터 수집 단계에서 시작됩니다. 파이프라인 끝에서 잘못된 답이 나오기 때문에 팀이 문제를 훨씬 나중에 발견하는 경우가 많습니다. 파서가 표의 행 하나를 누락하거나, 두 열의 읽는 순서를 뒤섞거나, 그림을 놓치면 데이터베이스에 들어오지도 않은 정보를 검색으로 되찾을 수는 없습니다.

고객의 데이터 수집 시스템을 Reducto로 교체한 뒤 최종 사용자의 경험이 크게 개선되는 모습을 자주 확인합니다. RAG 및 검색 시스템이 더 나은 결과를 일관되게 제공하기 때문입니다. 예를 들어 Harvey는 Reducto를 처리 계층으로 도입한 뒤 OCR 관련 고객 문의가 크게 줄었고 제품 사용량은 몇 배로 증가했습니다.

Reducto는 파싱을 넘어 구조화된 추출과 더 폭넓은 문서 워크플로로 사업을 확장했습니다. 시스템이 문서의 기본 구조를 정확하게 파악할 수 있게 된 뒤, 문서 인텔리전스의 다음 단계는 어떤 모습일까요?

데이터 수집은 대개 훨씬 더 큰 비즈니스 프로세스의 첫 단계에 불과합니다. 예를 들어 한 기업이 500페이지 분량의 파일을 받아 그 안에 어떤 문서가 있는지 파악하고, 문서를 분류하고, 특정 정보를 추출한 뒤, 그 정보를 다른 시스템의 정보와 비교하고, 예외 사례는 전문가에게 검토를 요청해야 할 수 있습니다. 우리는 2년 동안 시장에서 가장 뛰어난 문서 이해 모델을 학습시켜 왔으며, 이제는 그다음에 이어지는 과정을 간소화하는 데 더 많은 시간을 들이고 있습니다.

문서의 내용과 구조를 안정적으로 파악할 수 있다면, 사람들이 현재 시간을 들여 수행하는 정보 취합, 확인, 시스템 간 이동 작업을 더 많이 자동화할 수 있습니다. 위험 부담이 큰 거의 모든 비즈니스 워크플로는 사람이 문서를 읽고, 판단을 내리고, 다른 문서에 내용을 입력하는 단계들로 추상화할 수 있습니다. 우리는 앞으로 사람이나 에이전트가 문서 데이터와 상호작용할 때 기본적으로 사용하는 방식이 되고자 합니다.

Harvey, Vanta, Scale AI, Mercor, Rogo 같은 AI 네이티브 기업부터 주요 금융기관과 포춘 10대 기업에 이르기까지 다양한 고객을 보유하고 있습니다. AI 스타트업과 규제가 엄격한 대기업의 문서 처리 요구 사항은 얼마나 다른가요?

AI 네이티브 기업은 빠르게 움직이는 경향이 있으며, 엔지니어링 팀은 자체 처리 스택을 구축하고 유지해야 하는 부담 없이 까다로운 문서를 처리해 주는 API를 원합니다. 대기업도 같은 수준의 정확성을 중시하지만, 데이터가 어디에 저장되는지, 소프트웨어를 어떻게 배포하는지, 처리량이 급증하면 어떻게 되는지, 사용자가 추출된 값을 원본 페이지까지 추적할 수 있는지 등 추가 요구 사항이 있는 경우가 많습니다. 예를 들어 Scale AI는 기밀성과 온프레미스 배포가 중요한 정부 환경에서 Reducto를 사용합니다. Harvey는 프로덕션 환경에 도입하기 전에 정확성, 신뢰성, 비용, 지연 시간, 장애 유형을 기준으로 당사 솔루션을 평가했으며, 약 6주 만에 실제 운영에 들어갔습니다. 두 유형의 고객과 협력하면서 Reducto가 개별 문서를 얼마나 정확하게 처리하는지만큼 실제 프로덕션 요구 사항에 따라 얼마나 잘 작동하는지에도 집중하게 되었습니다.

Reducto는 전담 영업 조직을 구축하기 전에 창업자가 직접 영업을 주도해 연간 반복 매출 500만 달러 이상을 달성한 것으로 알려졌습니다. 초기 고객과 직접 대화하면서 개발자들이 실제로 해결하려던 문제에 대해 무엇을 배웠나요?

이러한 대화를 통해 우리는 문서 처리에 관해 폭넓게 이야기하는 데 시간을 덜 쓰고, 고객이 실제로 무엇을 이루려는지 이해하는 데 더 집중하게 됐습니다. 초기 영업 통화는 고객이 파이프라인을 망가뜨린 문서를 공유하고, 정보 추출이 실패했을 때 그 이후 어떤 일이 벌어지는지 함께 파고드는 실무 세션으로 이어지는 경우가 많았습니다. 의료 분야에서는 검사 보고서의 표 행이 누락되거나 단위를 잘못 읽으면 보험 청구가 지연되거나 의료진이 불완전한 환자 병력을 받게 될 수 있다는 점을 확인했습니다. 이런 결과를 고려해 정확성의 기준을 다시 세웠습니다. 가장 중요한 오류를 감춘다면 벤치마크 점수가 아무리 높아도 의미가 없습니다. 고객에게는 정확성뿐 아니라 신뢰성, 보안, 유연한 배포 방식, 대규모 환경에서도 예측 가능한 성능이 필요했습니다. 고객에게서 직접 들은 이러한 요구가 우리가 만든 제품에 반영됐습니다.

Reducto는 이제 한 달에 수십억 페이지를 처리합니다. 특히 지연 시간, 정확도, 비용, 그리고 유형이 매우 다양한 문서 전반에서 일관된 결과를 유지하는 측면에서, 이 규모에 이르면 어떤 엔지니어링 과제가 생기나요?

처리하는 페이지 수가 얼마나 되는지 이제는 세기도 어려워졌습니다. 그래서 사소한 비효율도 금세 큰 비용으로 이어질 수 있습니다. 모든 페이지에 불필요한 추론을 추가하면 비용과 지연 시간이 모두 늘어나는 반면, 속도만 지나치게 우선시하면 까다로운 문서의 정확도가 떨어질 수 있습니다. 따라서 각 페이지에 실제로 어느 정도의 처리가 필요한지 파악하는 데 엔지니어링 노력을 많이 들이고 있습니다.

r-1을 통해 지연 시간을 줄이는 동시에 파싱 정확도를 높이고 페이지당 가격을 1센트로 낮췄습니다. 또한 간단한 페이지와 복잡한 표나 그림이 포함된 페이지에 같은 자원이 투입되지 않도록, 라우팅을 더욱 자동화하는 작업도 진행 중입니다. 현재 처리량을 고려하면 이런 결정은 매일 수백만 페이지에 영향을 미치므로, 효율성은 핵심 엔지니어링 과제의 일부입니다.

앞으로 수년을 내다볼 때, AI 에이전트가 계약서, 재무 기록, 연구 논문, 프레젠테이션 및 기타 기업 문서와 점점 더 많이 상호작용하게 된다면, AI 시스템과 세상의 비정형 정보 사이에 이상적인 인터페이스는 어떤 모습일 거라고 생각하시나요?

오늘날 AI 에이전트는 기본적으로 텍스트를 중심으로 작동합니다. 깔끔한 디지털 정보에 대해 추론하는 능력은 뛰어나지만, 현실 세계는 여전히 PDF, 스프레드시트, 프레젠테이션, 스캔 문서, 계약서, 재무 기록을 바탕으로 돌아갑니다. 시간이 흐르면 에이전트가 오늘날 텍스트 파일을 다루듯 자연스럽게 이런 문서와 상호작용할 수 있어야 한다고 생각합니다.

개발자가 OCR, 파싱, 모델 선택, 문서 구조를 깊이 고민해야 해서는 안 됩니다. 에이전트는 어떤 파일이든 받아 내용을 이해하고, 중요한 정보의 출처를 확인하며, 완료해야 하는 작업에 그 정보를 안정적으로 활용할 수 있어야 합니다. 이를 뒷받침하는 인프라가 문서 처리 방법을 결정하고 적절한 모델을 선택하며, 실제로 사람의 판단이 필요한 경우에는 불확실성을 상향 보고해야 합니다.

궁극적으로 우리가 원하는 역할 분담은 이렇다고 생각합니다. 기계는 반복적인 문서 작업을 맡고, 사람은 맥락과 조직에 대한 지식, 판단력이 필요한 의사결정에 시간을 씁니다. 문서에는 기업 운영의 기반이 되는 정보가 엄청나게 많이 담겨 있습니다. 따라서 그 정보를 에이전트가 실제로 활용하기 좋은 형태로 만드는 것은 실제 비즈니스 프로세스에서 AI의 유용성을 크게 높이는 계기가 될 것입니다.

훌륭한 인터뷰 감사합니다. 복잡한 문서를 AI 애플리케이션에 활용할 수 있는 신뢰도 높은 데이터로 전환하는 방법을 더 알고 싶은 독자라면 Reducto를 방문해 보시기 바랍니다.