Adit Abraham, Salah Satu Pendiri dan CEO Reducto – Seri Wawancara

Adit Abraham adalah salah satu pendiri sekaligus CEO Reducto. Ia berfokus mengubah dokumen perusahaan yang kompleks menjadi data andal untuk aplikasi kecerdasan buatan. Sebelum mendirikan perusahaan tersebut bersama sesama lulusan MIT, Raunak Chowdhuri, ia belajar ilmu komputer di MIT, melakukan riset pembelajaran mesin di MIT Media Lab, dan bekerja sebagai manajer produk untuk Ads dan Search di Google. Reducto berawal dari upaya para pendirinya membangun alat memori untuk model bahasa besar, ketika proses ingest dokumen yang tidak andal terus menjadi kendala. Keterlibatan langsung Abraham dengan pelanggan awal turut membentuk fokus perusahaan pada akurasi, keamanan, fleksibilitas penerapan, dan kinerja yang dapat diprediksi di lingkungan produksi.

Reducto mengembangkan infrastruktur kecerdasan dokumen yang membantu tim AI mengubah PDF, hasil pemindaian, lembar kerja, dan berkas lainnya menjadi informasi terstruktur yang siap digunakan. Platformnya menggabungkan pengenalan karakter optik, visi komputer, dan model visi-bahasa untuk menafsirkan teks, tabel, gambar, pemformatan, serta tata letak halaman yang kompleks. Selain mengurai dokumen, platform ini menyediakan alat untuk ekstraksi terstruktur, pemisahan dokumen, klasifikasi, dan penyuntingan, lengkap dengan sitasi yang menghubungkan informasi hasil ekstraksi ke sumbernya. Pelanggannya mencakup Harvey, Scale AI, Vanta, Mercor, dan Rogo. Perusahaan ini menggarap generasi yang ditingkatkan dengan pengambilan, penelusuran, dan alur kerja dokumen di bidang seperti keuangan, layanan kesehatan, dan hukum, yang sangat membutuhkan proses ingest yang akurat dan hasil yang dapat ditelusuri.

Reducto berawal dari tantangan yang Anda dan Raunak Chowdhuri hadapi saat membangun alat memori untuk model bahasa besar. Apa tepatnya yang tidak berjalan baik pada alat pemrosesan dokumen yang sudah ada, dan kapan Anda menyadari bahwa masalah penguraian dokumen itu sendiri cukup besar untuk dijadikan dasar mendirikan perusahaan?

Kami ingin memberi model akses ke konteks dari dokumen, jadi kami menambahkan fitur unggah berkas. Namun, kami terus menghadapi masalah pada kualitas pemrosesannya. Saat itu kami mencoba semua alat yang tersedia, tetapi tak satu pun memenuhi standar kami untuk menangani dokumen dunia nyata yang berantakan dan benar-benar diunggah orang.

Karena itu, kami membangun solusi penguraian sendiri, yang awalnya menjadi fitur dalam produk memori LLM kami. Namun, kemudian banyak pengembang yang juga pernah menghadapi masalah ini menunjukkan minat besar dan menyukai solusi kami. Beberapa tim menghabiskan waktu berminggu-minggu untuk membangun dan memelihara alur ingest mereka sendiri karena alat yang tersedia tidak dapat menangani dokumen mereka secara andal. Percakapan-percakapan itu membuat peluang ini jauh lebih jelas bagi kami. Sebab, meskipun kecerdasan model terus meningkat, konteks yang bersih dan akurat tetap membawa perbedaan besar.

Secara teknis, PDF dirancang untuk menampilkan informasi, bukan agar informasi tersebut dapat dibaca mesin. Apa yang membuat dokumen kompleks—terutama yang berisi tabel, grafik, tata letak multikolom, atau gambar tertanam—begitu sulit dipahami secara andal oleh sistem AI?

Saat membaca dokumen, kita sebagai manusia kerap menganggap begitu saja kemampuan alami kita untuk memahami isinya. Kita dapat menyimpulkan hubungan dengan sangat cepat karena melihat bahwa suatu angka berada di bawah judul kolom tertentu, bahwa teks berlanjut di kolom lain, atau bahwa keterangan mengacu pada gambar di atasnya.

Model AI benar-benar kesulitan memahami hal ini karena PDF tidak dirancang untuk mempertahankan informasi relasional atau metadata semacam itu; pada dasarnya, PDF adalah gambar yang sangat padat informasi. Pengurai harus merekonstruksi hubungan tersebut dari halaman, dan tugas ini jauh lebih sulit jika dokumen memuat sel gabungan, tabel bersarang, grafik, hasil pemindaian, atau tata letak yang tidak lazim. Karena berfokus pada masalah pemahaman dokumen ini, kami dapat memproses secara andal berbagai dokumen dalam kategori ekor panjang yang cenderung membuat model AI berhalusinasi dan keliru saat menanganinya.

Reducto menggabungkan visi komputer, pengenalan karakter optik, dan model visi-bahasa dalam alur pemrosesan dokumennya. Bagaimana teknologi-teknologi ini bekerja bersama, dan dalam hal apa sistem OCR tradisional masih cenderung memiliki keterbatasan?

OCR tradisional telah ada selama puluhan tahun dan dirancang untuk membaca dokumen yang berisi teks bersih dan terbaca, karakter demi karakter. Sistem ini mudah gagal ketika harus menangani tulisan tangan, dokumen hasil pemindaian, teks miring, atau tabel, yang cenderung mencakup sebagian besar data perusahaan.

Reducto menjadi pelopor dalam menghadirkan model visi-bahasa ke ranah pemrosesan dokumen melalui “Agentic OCR”, karena kami melihat potensi VLM untuk memahami lebih dari sekadar teks dalam dokumen. Kecerdasan dokumen yang sesungguhnya membutuhkan konteks, akurasi, dan kemampuan multimodal. Model penguraian terbaru kami, r-1, menggabungkan keunggulan Agentic OCR dengan fitur seperti pemformatan, sitasi, dan deteksi tata letak dalam satu proses.

Upaya tambahan itu penting karena pengurai dengan akurasi keseluruhan yang sangat tinggi sekalipun dapat menimbulkan masalah serius jika sejumlah kecil informasi yang terlewat memuat angka, klausul, atau entri tabel yang sebenarnya dibutuhkan seseorang.

Seiring model AI menjadi semakin multimodal dan mampu menafsirkan gambar serta dokumen secara langsung, bagaimana Anda melihat perkembangan peran platform khusus untuk kecerdasan dokumen? Apakah model fondasi pada akhirnya dapat melakukan sebagian besar pekerjaan ini sendiri, atau infrastruktur khusus akan tetap diperlukan?

Kami memang bertaruh bahwa model AI akan terus berkembang, menjadi lebih cepat dan lebih baik. Dengan terus bermunculannya model-model baru, kami selalu mengikuti perkembangan dengan mengevaluasi kelemahannya dan mengintegrasikan keunggulannya ke dalam alur pemrosesan kami sendiri demi memberikan kinerja terbaik secara keseluruhan kepada pelanggan. Reducto ingin menjadi tim pemasukan data Anda, membantu Anda membangun sistem seiring pertumbuhan bisnis.

Perusahaan besar tetap menghadapi tantangan tersendiri: mereka tidak hanya membutuhkan kinerja, tetapi juga kapasitas pemrosesan yang dapat ditingkatkan skalanya, tata kelola, dan keterverifikasian pada skala produksi—hal-hal yang masih sulit dicapai oleh model fondasi saat ini.

Baru-baru ini, kami menguji hal ini dengan tolok ukur GDP.pdf, yang menunjukkan bahwa model-model terdepan masih kesulitan menalar dokumen profesional nyata yang kompleks dan mencatat tingkat kelulusan ketat pada level tugas di bawah 15% hingga 25%. Dengan meminta Reducto mengurai dokumen-dokumen ini terlebih dahulu, lalu meneruskan data terstrukturnya ke model-model terdepan, akurasi keseluruhan meningkat sembilan poin persentase, sementara jumlah token penalaran berkurang 13 persen dibandingkan dengan model yang memproses dokumen secara langsung.

Ini menunjukkan bahwa infrastruktur pemasukan data khusus masih sangat bernilai, karena sebagian besar data perusahaan belum dimanfaatkan sepenuhnya.

Banyak aplikasi AI perusahaan pada akhirnya bergantung pada sistem generasi berbantuan pengambilan informasi atau sistem berbasis agen yang mengakses informasi tersembunyi di dalam dokumen internal. Seberapa besar masalah keandalan dalam sistem ini sebenarnya berawal lebih awal, pada tahap pemasukan dan penguraian dokumen?

Sebagian besar masalah bermula pada tahap pemasukan data—tim sering baru menyadarinya jauh belakangan karena jawaban yang keliru muncul di ujung alur pemrosesan. Jika pengurai menghilangkan satu baris dari tabel, mencampuradukkan urutan baca dua kolom, atau melewatkan sebuah gambar, sistem pengambilan informasi tidak dapat memulihkan informasi yang bahkan tidak pernah masuk ke basis data.

Kami sering melihat pengalaman pengguna akhir pelanggan meningkat drastis setelah mereka mengganti sistem pemasukan data dengan Reducto, karena sistem RAG dan pencarian memberikan hasil yang lebih baik secara lebih konsisten. Sebagai contoh, setelah menerapkan Reducto sebagai lapisan pemrosesan, Harvey mengalami penurunan tajam dalam tiket pelanggan terkait OCR dan peningkatan berlipat ganda dalam penggunaan produk.

Reducto telah berkembang melampaui penguraian dokumen, mencakup ekstraksi terstruktur dan alur kerja dokumen yang lebih luas. Seperti apa tahap berikutnya dalam kecerdasan dokumen setelah sistem mampu memahami struktur dasar dokumen secara akurat?

Pemasukan data biasanya hanya merupakan langkah pertama dalam proses bisnis yang jauh lebih besar. Sebuah perusahaan mungkin menerima berkas setebal 500 halaman dan perlu mengidentifikasi dokumen-dokumen di dalamnya, mengklasifikasikannya, mengekstrak informasi tertentu, membandingkan informasi tersebut dengan sistem lain, lalu mengirim kasus-kasus yang tidak biasa kepada spesialis untuk ditinjau. Kami telah menghabiskan 2 tahun melatih model pemahaman dokumen terbaik di pasar, dan kini lebih berfokus pada cara menyederhanakan proses selanjutnya.

Setelah dapat memahami isi dan struktur dokumen dengan andal, Anda dapat mengotomatiskan lebih banyak pekerjaan yang saat ini menghabiskan waktu orang untuk menyusun, memeriksa, dan memindahkan informasi antar sistem. Hampir semua alur kerja bisnis berisiko tinggi dapat diuraikan menjadi langkah-langkah yang melibatkan orang membaca dokumen, mengambil keputusan, dan menulis ke dokumen lain. Ke depannya, kami ingin menjadi cara utama bagi manusia maupun agen untuk berinteraksi dengan data dokumen.

Anda memiliki pelanggan mulai dari perusahaan yang sejak awal dibangun dengan AI, seperti Harvey, Vanta, Scale AI, Mercor, dan Rogo, hingga lembaga keuangan besar dan perusahaan Fortune 10. Seberapa berbeda kebutuhan pemrosesan dokumen antara perusahaan rintisan AI dan perusahaan besar yang diatur secara ketat?

Perusahaan yang sejak awal dibangun dengan AI cenderung bergerak cepat, dan tim rekayasa mereka menginginkan API yang mampu menangani dokumen sulit tanpa memaksa mereka membangun dan memelihara tumpukan pemrosesan sendiri. Perusahaan besar mengutamakan akurasi yang sama, tetapi sering kali memiliki persyaratan tambahan terkait lokasi penyimpanan data, cara penerapan perangkat lunak, penanganan lonjakan volume, serta kemampuan pengguna untuk melacak nilai yang diekstrak kembali ke halaman sumbernya. Sebagai contoh, Scale AI menggunakan Reducto di lingkungan pemerintahan yang mengutamakan kerahasiaan dan penerapan di lokasi sendiri, sementara Harvey mengevaluasi kami berdasarkan akurasi, keandalan, biaya, latensi, dan jenis kegagalan sebelum beralih ke tahap produksi dalam waktu sekitar enam minggu. Bekerja dengan kedua jenis pelanggan ini mendorong kami untuk memberi perhatian yang sama besar pada kinerja Reducto dalam memenuhi persyaratan produksi nyata dan pada akurasinya dalam menangani satu dokumen.

Reducto dilaporkan mencapai pendapatan berulang tahunan lebih dari $5 juta, sebagian besar melalui penjualan yang dipimpin pendiri, sebelum membentuk tim penjualan khusus. Apa yang Anda pelajari dari percakapan langsung dengan pelanggan awal tentang masalah yang sebenarnya ingin dipecahkan oleh para pengembang?

Percakapan itu mengajarkan kami untuk mengurangi waktu membicarakan pemrosesan dokumen secara umum dan lebih memahami apa yang sebenarnya ingin dicapai pelanggan. Panggilan penjualan awal sering berubah menjadi sesi kerja, saat pelanggan membagikan dokumen yang membuat alur kerja mereka bermasalah, lalu kami menelusuri apa yang terjadi di tahap berikutnya ketika ekstraksi gagal. Di bidang kesehatan, kami melihat bagaimana satu baris tabel yang terlewat atau satuan yang salah dibaca dalam laporan laboratorium dapat menunda pengajuan klaim atau membuat riwayat pasien yang dimiliki tenaga klinis tidak lengkap. Tingginya taruhan itu mengubah standar akurasi kami: skor tolok ukur yang tinggi tidak banyak berarti jika menyembunyikan kesalahan yang paling penting. Pelanggan membutuhkan akurasi, tetapi juga keandalan, keamanan, fleksibilitas penerapan, dan kinerja yang konsisten pada skala besar. Mendengar langsung kebutuhan tersebut turut membentuk apa yang kami bangun.

Saat ini, Reducto memproses miliaran halaman per bulan. Tantangan rekayasa apa yang muncul pada skala sebesar itu, terutama terkait latensi, akurasi, biaya, dan menjaga konsistensi hasil pada berbagai jenis dokumen yang sangat berbeda?

Saya sudah tak ingat lagi jumlah halaman yang kami proses, jadi inefisiensi sekecil apa pun bisa dengan sangat cepat menjadi mahal. Menambahkan inferensi yang tidak perlu ke setiap halaman meningkatkan biaya sekaligus latensi, sedangkan terlalu agresif mengoptimalkan kecepatan dapat mengurangi akurasi pada dokumen yang sulit. Karena itu, kami mencurahkan banyak upaya rekayasa untuk menentukan seberapa banyak pemrosesan yang benar-benar dibutuhkan setiap halaman.

Dengan r-1, kami meningkatkan akurasi penguraian sekaligus mengurangi latensi dan menurunkan harga menjadi satu sen per halaman. Kami juga berupaya menerapkan perutean yang lebih otomatis agar halaman sederhana tidak menghabiskan sumber daya sebanyak halaman yang berisi tabel atau gambar rumit. Dengan volume kami saat ini, keputusan tersebut berdampak pada jutaan halaman setiap hari, sehingga efisiensi menjadi bagian inti dari tantangan rekayasa.

Jika melihat beberapa tahun ke depan, ketika agen AI semakin sering berinteraksi dengan kontrak, catatan keuangan, makalah penelitian, presentasi, dan dokumen perusahaan lainnya, seperti apa antarmuka ideal antara sistem AI dan informasi dunia yang tidak terstruktur menurut Anda?

Agen AI saat ini pada dasarnya dirancang untuk mengolah teks. Mereka sangat piawai bernalar berdasarkan informasi digital yang terstruktur rapi, tetapi dunia nyata masih bergantung pada PDF, spreadsheet, presentasi, hasil pemindaian, kontrak, dan catatan keuangan. Seiring waktu, menurut saya agen seharusnya dapat berinteraksi dengan dokumen-dokumen tersebut senatural saat ini mereka berinteraksi dengan berkas teks.

Pengembang seharusnya tidak perlu memikirkan OCR, penguraian, pemilihan model, atau struktur dokumen secara mendalam. Agen seharusnya dapat menerima berkas apa pun, memahami isinya, melacak informasi penting hingga ke sumbernya, dan menggunakan informasi tersebut secara andal dalam tugas apa pun yang perlu diselesaikannya. Infrastruktur di baliknya seharusnya menentukan cara memproses dokumen, memilih model yang tepat, dan meneruskan kasus yang tidak pasti untuk ditangani manusia ketika memang diperlukan pertimbangan manusia.

Pada akhirnya, menurut saya, pembagian tugas yang kita inginkan adalah mesin menangani pekerjaan dokumen yang berulang, sementara manusia menggunakan waktunya untuk mengambil keputusan yang memerlukan konteks, pengetahuan institusional, dan pertimbangan. Dokumen memuat begitu banyak informasi yang menjadi landasan operasional bisnis, sehingga membuat informasi tersebut benar-benar siap digunakan oleh agen akan sangat meningkatkan kegunaan AI dalam proses bisnis nyata.

Terima kasih atas wawancara yang luar biasa ini. Para pembaca yang ingin mengetahui lebih lanjut tentang cara mengubah dokumen kompleks menjadi data andal untuk aplikasi AI dapat mengunjungi Reducto.