Adit Abraham, Đồng sáng lập kiêm Tổng giám đốc điều hành của Reducto – Loạt bài phỏng vấn

Adit Abraham là đồng sáng lập kiêm Tổng giám đốc điều hành của Reducto, nơi ông tập trung chuyển đổi các tài liệu doanh nghiệp phức tạp thành dữ liệu đáng tin cậy cho các ứng dụng AI. Trước khi thành lập công ty cùng Raunak Chowdhuri, người cũng tốt nghiệp MIT, ông theo học ngành khoa học máy tính tại MIT, nghiên cứu về học máy tại MIT Media Lab và làm quản lý sản phẩm phụ trách Quảng cáo và Tìm kiếm tại Google. Reducto ra đời từ nỗ lực của những người sáng lập nhằm xây dựng các công cụ ghi nhớ cho mô hình ngôn ngữ lớn, khi việc tiếp nhận tài liệu thiếu tin cậy liên tục trở thành trở ngại. Công việc trực tiếp với những khách hàng đầu tiên của Abraham đã góp phần định hình trọng tâm của công ty: độ chính xác, bảo mật, tính linh hoạt trong triển khai và hiệu suất ổn định, có thể dự đoán trong môi trường thực tế.

Reducto phát triển hạ tầng trí tuệ tài liệu, giúp các nhóm AI chuyển đổi PDF, bản quét, bảng tính và các tệp khác thành thông tin có cấu trúc, dễ sử dụng. Nền tảng này kết hợp nhận dạng ký tự quang học, thị giác máy tính và các mô hình thị giác-ngôn ngữ để diễn giải văn bản, bảng biểu, hình minh họa, định dạng và bố cục trang phức tạp. Bên cạnh khả năng phân tích cú pháp, nền tảng còn cung cấp các công cụ trích xuất dữ liệu có cấu trúc, chia tách, phân loại và chỉnh sửa tài liệu, kèm trích dẫn liên kết thông tin được trích xuất với nguồn ban đầu. Khách hàng của công ty gồm Harvey, Scale AI, Vanta, Mercor và Rogo. Công ty hoạt động trong các lĩnh vực như tạo sinh tăng cường truy xuất, tìm kiếm và quy trình xử lý tài liệu, phục vụ những ngành như tài chính, y tế và luật, nơi việc tiếp nhận tài liệu chính xác và kết quả có thể truy xuất là điều thiết yếu.

Reducto ra đời từ những thách thức mà bạn và Raunak Chowdhuri gặp phải khi xây dựng các công cụ ghi nhớ cho mô hình ngôn ngữ lớn. Cụ thể, các công cụ xử lý tài liệu hiện có gặp trục trặc ở điểm nào, và khi nào bạn nhận ra rằng riêng bài toán phân tích cú pháp đã đủ lớn để phát triển thành một công ty?

Chúng tôi muốn giúp các mô hình tiếp cận ngữ cảnh trong tài liệu, nên đã bổ sung tính năng tải tệp lên, nhưng liên tục gặp vấn đề về chất lượng xử lý. Chúng tôi đã thử tất cả các công cụ hiện có vào thời điểm đó, nhưng không công cụ nào đáp ứng được tiêu chuẩn của chúng tôi khi xử lý những tài liệu thực tế lộn xộn mà mọi người tải lên.

Vì vậy, ban đầu chúng tôi tự xây dựng giải pháp phân tích cú pháp cho sản phẩm ghi nhớ LLM của mình. Sau đó, chúng tôi nhận thấy nhiều nhà phát triển rất quan tâm đến giải pháp này vì chính họ cũng từng gặp vấn đề tương tự và yêu thích cách chúng tôi giải quyết. Một số nhóm đã mất hàng tuần để xây dựng và duy trì các quy trình tiếp nhận dữ liệu của riêng mình vì những công cụ hiện có không thể xử lý tài liệu của họ một cách đáng tin cậy. Những cuộc trò chuyện đó giúp chúng tôi nhìn rõ hơn nhiều về cơ hội này: dù trí tuệ của các mô hình ngày càng được cải thiện, ngữ cảnh rõ ràng và chính xác vẫn tạo nên khác biệt rất lớn.

PDF về mặt kỹ thuật được thiết kế để hiển thị thông tin, chứ không phải để giúp máy đọc được thông tin đó. Điều gì khiến các tài liệu phức tạp, đặc biệt là những tài liệu có bảng biểu, biểu đồ, bố cục nhiều cột hoặc hình ảnh được nhúng, trở nên khó để các hệ thống AI hiểu một cách đáng tin cậy?

Khi đọc tài liệu, chúng ta thường mặc nhiên dựa vào nhiều khả năng hiểu biết tự nhiên của mình: gần như ngay lập tức, ta có thể suy ra các mối liên hệ, chẳng hạn như một con số thuộc về tiêu đề cột nào, văn bản tiếp tục ở cột khác hay chú thích đề cập đến hình minh họa phía trên.

Các mô hình AI thực sự gặp khó khăn với việc này, vì PDF không được thiết kế để lưu giữ loại thông tin quan hệ hoặc siêu dữ liệu như vậy; về cơ bản, chúng là những hình ảnh chứa rất nhiều dữ liệu. Bộ phân tích cú pháp phải tái dựng các mối liên hệ đó từ trang tài liệu, và nhiệm vụ này càng khó hơn nhiều khi có ô gộp, bảng lồng nhau, biểu đồ, bản quét và bố cục khác thường. Vì tập trung vào bài toán hiểu tài liệu này, chúng tôi có thể xử lý đáng tin cậy những tài liệu thuộc nhóm ít phổ biến mà các mô hình AI thường bịa thông tin hoặc xử lý sai.

Reducto kết hợp thị giác máy tính, nhận dạng ký tự quang học và các mô hình thị giác-ngôn ngữ trong quy trình xử lý tài liệu. Những công nghệ này phối hợp với nhau như thế nào, và các hệ thống OCR truyền thống vẫn thường gặp hạn chế ở đâu?

OCR truyền thống đã tồn tại hàng thập kỷ và được tạo ra để đọc từng ký tự trong các tài liệu có văn bản rõ ràng, dễ đọc. Phương pháp này dễ thất bại khi phải xử lý tài liệu viết tay, bản quét, bị lệch hoặc có dạng bảng—những loại tài liệu chiếm phần lớn dữ liệu doanh nghiệp.

Reducto là đơn vị tiên phong đưa các mô hình thị giác-ngôn ngữ vào lĩnh vực xử lý tài liệu với “Agentic OCR”, bởi chúng tôi nhận thấy tiềm năng của VLM trong việc hiểu nhiều hơn văn bản thuần túy trong tài liệu. Trí tuệ tài liệu thực sự cần có ngữ cảnh, độ chính xác và khả năng xử lý đa phương thức. Mô hình phân tích cú pháp mới nhất r-1 của chúng tôi kết hợp sức mạnh của Agentic OCR với các tính năng như định dạng, trích dẫn và nhận diện bố cục trong một lượt xử lý duy nhất.

Nỗ lực bổ sung đó rất quan trọng, vì ngay cả một bộ phân tích cú pháp có độ chính xác tổng thể rất cao cũng có thể gây ra vấn đề nghiêm trọng nếu lượng thông tin nhỏ bị bỏ sót lại chứa đúng con số, điều khoản hoặc mục trong bảng mà ai đó cần.

Khi các mô hình AI ngày càng có khả năng xử lý đa phương thức và diễn giải trực tiếp hình ảnh, tài liệu, bạn cho rằng vai trò của các nền tảng chuyên biệt về trí tuệ tài liệu sẽ thay đổi như thế nào? Liệu cuối cùng các mô hình nền tảng có thể tự thực hiện phần lớn công việc này, hay hạ tầng chuyên dụng vẫn sẽ cần thiết?

Thực tế, chúng tôi đặt cược vào việc các mô hình AI sẽ ngày càng cải thiện, nhanh hơn và tốt hơn. Khi các mô hình mới liên tục ra mắt, chúng tôi luôn cập nhật những điểm yếu của chúng và tích hợp các thế mạnh vào quy trình xử lý của mình để mang lại hiệu suất tổng thể tốt nhất cho khách hàng. Reducto muốn đảm nhận vai trò đội ngũ tiếp nhận dữ liệu của bạn, đồng hành cùng bạn xây dựng và phát triển.

Các doanh nghiệp vẫn phải đối mặt với thách thức riêng: không chỉ cần hiệu suất mà còn cần thông lượng có thể mở rộng, khả năng quản trị và tính kiểm chứng ở quy mô sản xuất—những yêu cầu mà các mô hình nền tảng hiện nay vẫn khó đáp ứng.

Gần đây, chúng tôi đã thử nghiệm điều này với bộ chuẩn GDP.pdf. Kết quả cho thấy các mô hình tiên tiến nhất vẫn gặp khó khăn khi suy luận trên những tài liệu chuyên môn phức tạp trong thực tế, với tỷ lệ hoàn thành nghiêm ngặt ở cấp độ tác vụ đạt dưới 15% đến 25%. Khi để Reducto phân tích các tài liệu này trước rồi chuyển dữ liệu có cấu trúc cho các mô hình tiên tiến nhất, độ chính xác tổng thể tăng chín điểm phần trăm, đồng thời số lượng token suy luận giảm 13% so với khi các mô hình xử lý trực tiếp tài liệu.

Điều này cho thấy hạ tầng tiếp nhận dữ liệu chuyên dụng vẫn mang lại giá trị to lớn, bởi phần lớn dữ liệu doanh nghiệp vẫn chưa được khai thác.

Nhiều ứng dụng AI trong doanh nghiệp rốt cuộc phụ thuộc vào phương pháp tạo sinh tăng cường truy xuất hoặc các hệ thống tác tử truy cập thông tin nằm sâu trong tài liệu nội bộ. Vấn đề về độ tin cậy của những hệ thống này bắt nguồn từ khâu trước đó—tiếp nhận và phân tích tài liệu—ở mức độ nào?

Phần đáng kể của vấn đề phát sinh ngay từ khâu tiếp nhận dữ liệu. Các nhóm thường chỉ phát hiện ra vấn đề muộn hơn nhiều vì câu trả lời sai xuất hiện ở cuối quy trình. Nếu bộ phân tích cú pháp bỏ sót một hàng trong bảng, đảo lộn thứ tự đọc của hai cột hoặc bỏ qua một hình minh họa, thì hệ thống truy xuất không thể khôi phục thông tin chưa từng được đưa vào cơ sở dữ liệu.

Chúng tôi thường thấy trải nghiệm của người dùng cuối được cải thiện đáng kể sau khi khách hàng chuyển sang dùng Reducto cho khâu tiếp nhận dữ liệu, nhờ các hệ thống RAG và tìm kiếm trả về kết quả tốt hơn một cách nhất quán. Chẳng hạn, sau khi triển khai Reducto làm lớp xử lý, Harvey ghi nhận số lượng đáng kể yêu cầu hỗ trợ của khách hàng liên quan đến OCR giảm mạnh, còn mức sử dụng sản phẩm tăng gấp nhiều lần.

Reducto đã mở rộng từ việc phân tích tài liệu sang trích xuất dữ liệu có cấu trúc và các quy trình xử lý tài liệu rộng hơn. Khi một hệ thống có thể hiểu chính xác cấu trúc nền tảng của tài liệu, bước tiếp theo của trí tuệ tài liệu sẽ như thế nào?

Tiếp nhận dữ liệu thường chỉ là bước đầu tiên trong một quy trình kinh doanh lớn hơn nhiều. Một công ty có thể nhận được một tệp dài 500 trang và cần xác định các tài liệu bên trong, phân loại chúng, trích xuất thông tin cụ thể, đối chiếu thông tin đó với một hệ thống khác rồi chuyển những trường hợp bất thường cho chuyên gia xem xét. Chúng tôi đã dành 2 năm huấn luyện những mô hình hiểu tài liệu tốt nhất trên thị trường, và giờ đây đang tập trung nhiều hơn vào việc tinh giản các công đoạn tiếp theo.

Khi có thể hiểu đáng tin cậy nội dung và cấu trúc của tài liệu, bạn có thể tự động hóa thêm nhiều công việc mà hiện nay mọi người dành thời gian để tổng hợp, kiểm tra và chuyển dữ liệu giữa các hệ thống. Hầu như mọi quy trình kinh doanh có mức độ rủi ro cao đều có thể được khái quát thành các bước mà con người phải đọc tài liệu, đưa ra quyết định và ghi thông tin vào những tài liệu khác. Chúng tôi hướng tới việc trở thành phương thức mặc định để con người hoặc tác tử tương tác với dữ liệu tài liệu trong tương lai.

Khách hàng của bạn trải rộng từ các công ty AI ngay từ đầu như Harvey, Vanta, Scale AI, Mercor và Rogo đến các tổ chức tài chính lớn và những công ty thuộc Fortune 10. Nhu cầu xử lý tài liệu của một công ty khởi nghiệp AI khác biệt ra sao so với một doanh nghiệp lớn chịu sự quản lý chặt chẽ?

Các công ty AI ngay từ đầu thường phát triển nhanh, và đội ngũ kỹ thuật của họ muốn có một API xử lý được những tài liệu khó mà không buộc họ phải tự xây dựng và duy trì toàn bộ hệ thống xử lý. Các doanh nghiệp lớn cũng coi trọng độ chính xác tương tự, nhưng thường có thêm những yêu cầu về nơi lưu trữ dữ liệu, cách triển khai phần mềm, khả năng xử lý khi khối lượng tăng đột biến và việc người dùng có thể truy nguyên giá trị được trích xuất về trang gốc hay không. Chẳng hạn, Scale AI sử dụng Reducto trong các môi trường chính phủ, nơi tính bảo mật và khả năng triển khai tại chỗ rất quan trọng; trong khi đó, Harvey đánh giá chúng tôi về độ chính xác, độ tin cậy, chi phí, độ trễ và các tình huống lỗi trước khi đưa vào sản xuất sau khoảng sáu tuần. Làm việc với cả hai nhóm khách hàng đã thúc đẩy chúng tôi chú trọng ngang nhau đến hiệu quả hoạt động của Reducto trong điều kiện sản xuất thực tế và độ chính xác khi xử lý từng tài liệu.

Theo thông tin được công bố, Reducto đạt doanh thu định kỳ hằng năm hơn 5 triệu USD chủ yếu nhờ hoạt động bán hàng do nhà sáng lập dẫn dắt, trước khi xây dựng đội ngũ bán hàng chuyên trách. Những cuộc trò chuyện trực tiếp với các khách hàng đầu tiên đã giúp bạn hiểu được điều gì về các vấn đề mà nhà phát triển thực sự muốn giải quyết?

Những cuộc trò chuyện đó giúp chúng tôi hiểu rằng cần dành ít thời gian hơn để nói chung chung về xử lý tài liệu, và nhiều thời gian hơn để tìm hiểu khách hàng thực sự muốn hoàn thành việc gì. Các cuộc gọi bán hàng ban đầu thường trở thành những buổi làm việc, trong đó khách hàng chia sẻ những tài liệu khiến quy trình xử lý của họ gặp trục trặc, rồi chúng tôi cùng tìm hiểu những gì xảy ra ở các bước tiếp theo khi việc trích xuất thất bại. Trong lĩnh vực y tế, điều đó có nghĩa là chứng kiến một dòng trong bảng bị bỏ sót hoặc một đơn vị đo trong báo cáo xét nghiệm bị đọc sai có thể làm chậm quá trình giải quyết yêu cầu thanh toán hoặc khiến bác sĩ lâm sàng không có đầy đủ bệnh sử của bệnh nhân. Mức độ ảnh hưởng đó đã nâng chuẩn độ chính xác của chúng tôi: điểm số cao trong các bài kiểm tra chuẩn chẳng có nhiều ý nghĩa nếu không phản ánh những lỗi quan trọng nhất. Khách hàng cần độ chính xác, nhưng cũng cần độ tin cậy, bảo mật, tính linh hoạt trong triển khai và hiệu năng ổn định ở quy mô lớn; những phản hồi trực tiếp đó đã định hình sản phẩm chúng tôi xây dựng.

Hiện Reducto xử lý hàng tỷ trang mỗi tháng. Ở quy mô đó, những thách thức kỹ thuật nào nảy sinh, đặc biệt về độ trễ, độ chính xác, chi phí và việc duy trì kết quả nhất quán trên nhiều loại tài liệu rất khác nhau?

Tôi đã không còn nhớ nổi chúng tôi xử lý bao nhiêu trang, vì vậy ngay cả một điểm kém hiệu quả nhỏ cũng có thể khiến chi phí tăng rất nhanh. Việc bổ sung các bước suy luận không cần thiết cho mọi trang làm tăng cả chi phí lẫn độ trễ, trong khi tối ưu hóa quá mức để tăng tốc có thể làm giảm độ chính xác với những tài liệu khó xử lý. Vì thế, chúng tôi dành nhiều công sức kỹ thuật để xác định mỗi trang thực sự cần được xử lý ở mức độ nào.

Với r-1, chúng tôi đã cải thiện độ chính xác khi phân tích tài liệu, đồng thời giảm độ trễ và đưa mức giá xuống còn một xu mỗi trang. Chúng tôi cũng đang hướng tới việc tự động định tuyến tốt hơn, để một trang đơn giản không tiêu tốn nguồn lực tương đương với trang có bảng hoặc hình phức tạp. Ở quy mô hiện tại, những quyết định đó ảnh hưởng đến hàng triệu trang mỗi ngày, khiến hiệu quả trở thành một phần cốt lõi của bài toán kỹ thuật.

Nếu nhìn về vài năm tới, khi các tác nhân AI ngày càng tương tác nhiều hơn với hợp đồng, hồ sơ tài chính, bài nghiên cứu, bản trình bày và những tài liệu doanh nghiệp khác, theo ông, giao diện lý tưởng giữa các hệ thống AI và nguồn thông tin phi cấu trúc của thế giới sẽ như thế nào?

Các tác nhân AI ngày nay về cơ bản được xây dựng để xử lý văn bản. Chúng rất giỏi suy luận trên thông tin số sạch, nhưng thế giới thực vẫn vận hành dựa trên các tệp PDF, bảng tính, bản trình bày, tài liệu quét, hợp đồng và hồ sơ tài chính. Theo thời gian, tôi nghĩ các tác nhân sẽ có thể tương tác với những tài liệu đó tự nhiên như cách chúng tương tác với một tệp văn bản hiện nay.

Các nhà phát triển không nên phải suy nghĩ quá nhiều về nhận dạng ký tự quang học (OCR), phân tích cú pháp, lựa chọn mô hình hay cấu trúc tài liệu. Một tác nhân cần có khả năng tiếp nhận bất kỳ tệp nào, hiểu nội dung bên trong, truy nguyên thông tin quan trọng về nguồn và sử dụng thông tin đó một cách đáng tin cậy trong bất kỳ nhiệm vụ nào cần hoàn thành. Hạ tầng bên dưới cần xác định cách xử lý tài liệu, lựa chọn mô hình phù hợp và báo hiệu khi có sự không chắc chắn cần đến phán đoán của con người.

Xét cho cùng, đó là sự phân công công việc mà tôi nghĩ chúng ta hướng tới: máy móc xử lý các công việc lặp đi lặp lại liên quan đến tài liệu, còn con người dành thời gian cho những quyết định đòi hỏi bối cảnh, kiến thức tổ chức và khả năng phán đoán. Tài liệu chứa một lượng thông tin khổng lồ làm nền tảng cho hoạt động của doanh nghiệp, vì vậy việc giúp các tác nhân AI thực sự khai thác trực tiếp được thông tin đó sẽ mở ra bước tiến lớn, giúp AI trở nên hữu ích hơn trong các quy trình kinh doanh thực tế.

Cảm ơn ông về cuộc phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu thêm về cách chuyển đổi tài liệu phức tạp thành dữ liệu đáng tin cậy cho các ứng dụng AI có thể truy cập Reducto.