Röportajlar

Adit Abraham, Reducto’nun Kurucu Ortağı ve CEO’su – Röportaj Dizisi

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Adit Abraham, Co-Founder and CEO of Reducto

Adit Abraham, Reducto’nun kurucu ortağı ve CEO’sudur. Şirketinde, karmaşık kurumsal belgeleri yapay zekâ uygulamalarında kullanılabilecek güvenilir verilere dönüştürmeye odaklanıyor. Şirketi MIT mezunu Raunak Chowdhuri ile kurmadan önce MIT’de bilgisayar bilimi eğitimi aldı, MIT Media Lab’de makine öğrenimi araştırmaları yürüttü ve Google’da ürün yöneticisi olarak Reklamlar ve Arama alanlarında çalıştı. Reducto, kurucuların büyük dil modelleri için bellek araçları geliştirme çabaları sırasında, güvenilir olmayan belge alımının tekrar tekrar karşılarına çıkan bir engel hâline gelmesiyle ortaya çıktı. Abraham’ın ilk müşterilerle doğrudan çalışması, şirketin doğruluk, güvenlik, dağıtım esnekliği ve üretim ortamında öngörülebilir performansa verdiği önemin şekillenmesine yardımcı oldu.

Reducto, yapay zekâ ekiplerinin PDF’leri, taranmış belgeleri, elektronik tabloları ve diğer dosyaları yapılandırılmış, kullanılabilir bilgilere dönüştürmesine yardımcı olan belge zekâsı altyapısı geliştiriyor. Platformu; metinleri, tabloları, şekilleri, biçimlendirmeyi ve karmaşık sayfa düzenlerini yorumlamak için optik karakter tanıma, bilgisayarlı görü ve görsel-dil modellerini bir araya getiriyor. Ayrıştırmanın yanı sıra yapılandırılmış veri çıkarma, belgeleri bölme, sınıflandırma ve düzenleme araçları sunuyor; alıntılar, çıkarılan bilgileri kaynaklarına bağlıyor. Müşterileri arasında Harvey, Scale AI, Vanta, Mercor ve Rogo bulunuyor. Şirket; finans, sağlık ve hukuk gibi alanlarda, doğru veri alımının ve sonuçların izlenebilir olmasının önem taşıdığı, erişimi artırılmış üretim, arama ve belge iş akışları üzerinde çalışıyor.

Reducto, sizin ve Raunak Chowdhuri’nin büyük dil modelleri için bellek araçları geliştirirken karşılaştığınız zorluklardan doğdu. Mevcut belge işleme araçlarında tam olarak ne aksıyordu ve ayrıştırma sorununun başlı başına bir şirket kurmaya yetecek büyüklükte olduğunu ne zaman fark ettiniz?

Modellerin belgelere ait bağlamdan yararlanmasını sağlamaya çalışıyorduk; bu nedenle dosya yükleme özelliği ekledik. Ancak işleme kalitesiyle ilgili sorunlarla tekrar tekrar karşılaştık. O dönemde piyasadaki mevcut araçların hepsini denedik, ancak kullanıcıların gerçekten yüklediği, dağınık ve gerçek dünyaya özgü belgelerle çalışma konusunda hiçbiri standartlarımızı karşılamadı.

Bu nedenle kendi ayrıştırma çözümümüzü geliştirdik. Başlangıçta bu çözüm, büyük dil modeli bellek ürünümüzün bir özelliğiydi; ancak aynı sorunla kendileri de karşılaşmış geliştiricilerden yoğun ilgi gördü ve çözümümüzü çok beğendiler. Mevcut araçlar belgelerini güvenilir biçimde işleyemediği için bazı ekipler kendi veri alım hatlarını kurup sürdürmekle haftalar harcıyordu. Bu görüşmeler, önümüzdeki fırsatı çok daha net görmemizi sağladı; çünkü modellerin zekâsı giderek gelişse de temiz ve doğru bağlam hâlâ büyük fark yaratıyordu.

PDF’ler teknik olarak, bilgileri makine tarafından okunabilir hâle getirmekten ziyade görüntülemek üzere tasarlanmıştır. Özellikle tablo, grafik, çok sütunlu düzen veya gömülü görsel içeren karmaşık belgeleri yapay zekâ sistemlerinin güvenilir biçimde anlamasını zorlaştıran nedir?

İnsanlar bir belgeyi okurken doğal anlama becerimizin pek çok yönünü sorgulamadan kullanırız; ilişkileri neredeyse anında çıkarabiliriz. Bunun nedeni, bir sayının belirli bir sütun başlığının altında yer aldığını, metnin başka bir sütunda devam ettiğini ya da bir açıklamanın yukarıdaki şekle gönderme yaptığını görebilmemizdir.

Yapay zekâ modelleri bu konuda gerçekten zorlanıyor; çünkü PDF’ler bu tür ilişkisel bilgileri veya üst verileri koruyacak şekilde tasarlanmamıştır. Esasen, veri yoğunluğu çok yüksek görsellerden ibarettir. Bir ayrıştırıcının bu ilişkileri sayfadan yeniden kurması gerekir; birleştirilmiş hücreler, iç içe tablolar, grafikler, taranmış belgeler ve alışılmadık düzenler sorunu çok daha da zorlaştırır. Belgeyi anlama sorununa odaklandığımız için, yapay zekâ modellerinin genellikle halüsinasyon gördüğü ve yanlış işlediği belge çeşitliliğinin uzun kuyruğundaki belgeleri güvenilir biçimde işleyebiliyoruz.

Reducto, belge işleme hattında bilgisayarlı görü, optik karakter tanıma ve görsel-dil modellerini bir araya getiriyor. Bu farklı teknolojiler birlikte nasıl çalışıyor ve geleneksel OCR sistemleri hangi konularda yetersiz kalıyor?

Geleneksel OCR onlarca yıldır kullanılıyor ve temiz, okunaklı metin içeren belgeleri karakter karakter okumak üzere geliştirildi. El yazısı içeren, taranmış, eğik veya tablo biçimindeki belgeler söz konusu olduğunda ise kolayca yetersiz kalıyor; oysa kurumsal verilerin çoğu bu tür belgelerden oluşuyor.

Reducto, görsel-dil modellerinin belgelerdeki salt metnin ötesini anlayabileceği potansiyeli gördüğü için, “Agentic OCR” ile belge işleme alanına görsel-dil modellerinin eklenmesine öncülük etti. Gerçek belge zekâsı; bağlam, doğruluk ve çok modlu yetenekler gerektiriyor. En yeni ayrıştırma modelimiz r-1, Agentic OCR’ın gücünü biçimlendirme, alıntılar ve düzen algılama gibi özelliklerle tek bir geçişte birleştiriyor.

Bu ek çalışma önem taşıyor; çünkü genel doğruluğu çok yüksek bir ayrıştırıcı bile, gözden kaçırdığı az miktardaki bilgi kişinin ihtiyaç duyduğu şekli, maddeyi veya tablo girdisini içeriyorsa ciddi bir soruna yol açabilir.

Yapay zekâ modelleri giderek daha çok modlu hâle gelip görselleri ve belgeleri doğrudan yorumlama becerisi kazandıkça, uzmanlaşmış belge zekâsı platformlarının rolünün nasıl değişeceğini düşünüyorsunuz? Temel modeller bu işlerin büyük bölümünü zamanla kendi başlarına yapabilir mi, yoksa özel altyapılar gerekli olmaya devam mı edecek?

Aslında yapay zekâ modellerinin gelişmeye, hızlanmaya ve iyileşmeye devam edeceği varsayımına güveniyoruz. Sürekli yeni modeller çıktıkça zayıf yönlerini değerlendirme konusunda güncel kalıyor, genel performansı en üst düzeye çıkarıp müşterilerimize en iyi hizmeti sunmak için güçlü yönlerini kendi işlem hatlarımıza entegre ediyoruz. Reducto, büyümenize eşlik ederken sizinle birlikte çalışıp ihtiyaç duyduğunuz altyapıyı kurarak veri alım ekibiniz olmayı hedefliyor.

Büyük şirketlerin karşılaştığı özgün zorluk, yalnızca performansa değil, üretim ölçeğinde ölçeklenebilir iş hacmine, yönetişime ve doğrulanabilirliğe de ihtiyaç duymalarıdır. Temel modeller için bunları bugün sağlamak hâlâ zordur.

Bunu yakın zamanda GDP.pdf kıyaslama testiyle sınadık. Sonuçlar, en gelişmiş modellerin bile gerçek iş hayatındaki karmaşık belgeler üzerinde akıl yürütmekte zorlandığını ve katı görev düzeyindeki başarı oranlarında %15 ila %25’in altında puan aldığını gösterdi. Reducto’nun önce bu belgeleri ayrıştırıp ardından yapılandırılmış verileri en gelişmiş modellere aktarmasıyla, doğrudan belgeleri işleyen modellere kıyasla makro doğruluk dokuz yüzde puanı arttı ve akıl yürütme için kullanılan belirteç sayısı %13 azaldı.

Bu, büyük şirketlerin verilerinin çoğuna hâlâ yeterince erişilmediğinden, özel veri alım altyapısının değerini koruduğunu gösteriyor.

Büyük şirketlerdeki pek çok yapay zekâ uygulaması, sonuçta erişimi artırılmış üretime veya şirket içi belgelerin derinliklerine gömülü bilgilere erişen ajan tabanlı sistemlere dayanıyor. Bu sistemlerdeki güvenilirlik sorununun ne kadarı, sürecin başındaki belge alımı ve ayrıştırma aşamalarından kaynaklanıyor?

Sorunun önemli bir kısmı veri alımı sırasında ortaya çıkıyor; ekipler bunu çoğu zaman çok daha sonra, hatalı yanıt işlem hattının sonunda belirdiğinde fark ediyor. Bir ayrıştırıcı tablodaki bir satırı atlar, iki sütunun okuma sırasını karıştırır ya da bir şekli gözden kaçırırsa, arama sistemi veritabanına hiç girmemiş bilgiyi geri getiremez.

Müşterilerimizin son kullanıcı deneyiminin, veri alım süreçlerini Reducto ile değiştirdikten sonra önemli ölçüde iyileştiğini sıkça görüyoruz; çünkü erişimi artırılmış üretim (RAG) ve arama sistemleri daha tutarlı biçimde daha iyi sonuçlar veriyor. Örneğin Harvey, Reducto’yu işleme katmanı olarak kullanmaya başladıktan sonra OCR’la ilgili müşteri destek taleplerinde büyük düşüş, ürün kullanımında ise katlanarak artış gördü.

Reducto, belge ayrıştırmanın ötesine geçerek yapılandırılmış veri çıkarma ve daha kapsamlı belge iş akışları sunmaya başladı. Bir sistem belgenin temel yapısını doğru biçimde anlayabildiğinde, belge zekâsının bir sonraki aşaması nasıl görünür?

Veri alımı, genellikle çok daha büyük bir iş sürecinin yalnızca ilk adımıdır. Bir şirkete 500 sayfalık bir dosya gelebilir; şirketin bu dosyanın içindeki belgeleri belirlemesi, sınıflandırması, belirli bilgileri çıkarması, bu bilgileri başka bir sistemdeki verilerle karşılaştırması ve olağandışı durumları inceleme için bir uzmana yönlendirmesi gerekebilir. Piyasadaki en iyi belge anlama modellerini eğitmek için 2 yıl harcadık; şimdi ise sonrasında gelen süreçleri nasıl kolaylaştırabileceğimize daha fazla odaklanıyoruz.

Bir belgenin içeriğini ve yapısını güvenilir biçimde anlayabildiğinizde, insanların şu anda bilgileri derlemek, kontrol etmek ve sistemler arasında aktarmak için harcadığı işlerin daha fazlasını otomatikleştirebilirsiniz. Neredeyse her kritik iş akışı; insanların başka belgelerdeki bilgileri okumasını, karar vermesini ve bu belgelere veri girmesini içeren adımlara indirgenebilir. Gelecekte insanların veya ajanların belge verileriyle etkileşim kurmasının varsayılan yolu olmayı hedefliyoruz.

Harvey, Vanta, Scale AI, Mercor ve Rogo gibi yapay zekâ odaklı şirketlerden büyük finans kuruluşlarına ve Fortune 10 şirketlerine kadar uzanan bir müşteri kitleniz var. Bir yapay zekâ girişiminin belge işleme ihtiyaçları ile büyük ve düzenlemelere tabi bir şirketin ihtiyaçları ne ölçüde farklı?

Yapay zekâ odaklı şirketler genellikle hızlı hareket eder ve mühendislik ekipleri, kendi işleme altyapılarını kurup sürdürmek zorunda kalmadan zorlu belgeleri işleyebilen bir API ister. Büyük şirketler de aynı doğruluğa önem verir; ancak verilerin nerede tutulduğu, yazılımın nasıl devreye alındığı, hacim aniden arttığında ne olduğu ve kullanıcıların çıkarılan bir değerin kaynağını özgün sayfaya kadar izleyip izleyemediği gibi ek gereksinimleri de olabilir. Örneğin Scale AI, gizliliğin ve şirket içi dağıtımın önem taşıdığı kamu kurumlarına yönelik ortamlarda Reducto’yu kullanıyor. Harvey ise yaklaşık altı hafta içinde üretime geçmeden önce bizi doğruluk, güvenilirlik, maliyet, gecikme ve hata türleri açısından değerlendirdi. Her iki müşteri grubuyla çalışmak, Reducto’nun tek bir belgeyi ne kadar doğru işlediği kadar gerçek üretim gereksinimleri altında nasıl performans gösterdiğine de odaklanmamızı sağladı.

Reducto’nun, özel bir satış ekibi kurmadan önce büyük ölçüde kurucuların yürüttüğü satışlarla yıllık yinelenen gelirinin 5 milyon doları aştığı bildiriliyor. İlk müşterilerle doğrudan konuşmak, geliştiricilerin çözmeye çalıştığı sorunlar hakkında size ne öğretti?

Bu konuşmalar bize, belge işleme hakkında genel olarak konuşmaya daha az, müşterilerin gerçekte neyi başarmaya çalıştığını anlamaya ise daha çok zaman ayırmamız gerektiğini öğretti. İlk satış görüşmeleri çoğu zaman, müşterinin işlem hattını bozan belgeleri paylaştığı çalışma oturumlarına dönüşüyordu; biz de veriler çıkarılamadığında sonraki aşamalarda neler yaşandığını ayrıntılı biçimde inceliyorduk. Sağlık alanında bu, bir laboratuvar raporundaki tablo satırının atlanmasının veya ölçü biriminin yanlış okunmasının sigorta talebini geciktirebileceğini ya da bir klinisyenin eksik hasta geçmişiyle çalışmasına yol açabileceğini görmek anlamına geliyordu. Bu riskler doğruluk çıtamızı yeniden belirledi: Önemli hataları gizliyorsa güçlü bir kıyaslama puanının pek anlamı yoktur. Müşterilerin doğruluğun yanı sıra güvenilirliğe, güvenliğe, dağıtım esnekliğine ve ölçek büyüdükçe öngörülebilir performansa da ihtiyacı vardı; bunları doğrudan duymamız, geliştirdiklerimizi şekillendirdi.

Reducto şu anda ayda milyarlarca sayfa işliyor. Özellikle gecikme, doğruluk, maliyet ve birbirinden çok farklı belge türlerinde tutarlı sonuçlar elde etme açısından bu ölçekte ne gibi mühendislik zorlukları ortaya çıkıyor?

İşlediğimiz sayfa sayısının takibini çoktan kaybettim; dolayısıyla en küçük bir verimsizlik bile çok kısa sürede maliyetli hâle gelebiliyor. Her sayfaya gereksiz çıkarım adımları eklemek hem maliyeti hem de gecikmeyi artırırken, hızı gereğinden fazla optimize etmek zor belgelerde doğruluğu düşürebiliyor. Bu nedenle her sayfanın gerçekte ne kadar işlem gerektirdiğini belirlemek için mühendislik çalışmalarımızın önemli bir bölümünü harcıyoruz.

r-1 ile ayrıştırma doğruluğunu artırırken gecikmeyi azalttık ve fiyatı sayfa başına bir sente indirdik. Ayrıca, basit bir sayfanın karmaşık bir tablo veya şekil içeren sayfayla aynı kaynakları tüketmemesi için daha otomatik yönlendirme üzerinde çalışıyoruz. Mevcut hacmimizde bu kararlar her gün milyonlarca sayfayı etkiliyor; bu da verimliliği temel bir mühendislik sorunlarından biri hâline getiriyor.

Birkaç yıl sonrasını düşündüğümüzde, yapay zekâ ajanları sözleşmeler, mali kayıtlar, araştırma makaleleri, sunumlar ve diğer kurumsal belgelerle giderek daha fazla etkileşim kurarken, yapay zekâ sistemleriyle dünyanın yapılandırılmamış bilgileri arasındaki ideal arayüz sizce nasıl görünecek?

Günümüzün yapay zekâ ajanları temelde metinle çalışacak şekilde tasarlanmıştır. Temiz ve dijital bilgileri akıl yürütmeyle işlemekte çok başarılılar; ancak gerçek dünya hâlâ PDF’ler, elektronik tablolar, sunumlar, taranmış belgeler, sözleşmeler ve mali kayıtlar üzerinden işliyor. Zamanla ajanların bu belgelerle, bugün bir metin dosyasıyla etkileşim kurdukları kadar doğal biçimde etkileşim kurabilmesi gerektiğini düşünüyorum.

Geliştiricilerin OCR, ayrıştırma, model seçimi veya belge yapısı üzerine derinlemesine düşünmesi gerekmemeli. Bir ajan herhangi bir dosyayı alabilmeli, içeriğini anlayabilmeli, önemli bilgilerin kaynağını izleyebilmeli ve bu bilgileri tamamlaması gereken görevde güvenilir biçimde kullanabilmeli. Altyapı, belgenin nasıl işleneceğini ve hangi modellerin seçileceğini belirlemeli; gerçekten insan yargısı gerektiğinde ise belirsizliği insana aktarmalı.

Sonuçta istediğimiz iş bölümü bu: Makineler tekrarlayan belge işlerini üstlenirken insanlar zamanlarını bağlam, kurumsal bilgi ve muhakeme gerektiren kararlara ayırmalı. Belgeler, işletmelerin işleyişini sağlayan bilgilerin çok büyük bir bölümünü içeriyor. Bu nedenle söz konusu bilgileri ajanların doğrudan kullanabileceği hâle getirmek, yapay zekânın gerçek iş süreçlerinde ne kadar faydalı olabileceği konusunda büyük bir sıçrama sağlayacak.

Harika bir röportaj için teşekkür ederiz. Karmaşık belgeleri yapay zekâ uygulamalarında kullanılabilecek güvenilir verilere dönüştürme hakkında daha fazla bilgi edinmek isteyen okurlar Reducto’yu ziyaret edebilir.

Antoine, Unite.AI'nin vizyoner lideri ve kurucu ortağıdır. Yapay zekâ ve robotiğin geleceğini şekillendirmeye ve ilerletmeye yönelik sarsılmaz bir tutku taşır. Birden fazla şirket kurmuş bir girişimci olarak yapay zekânın toplumu elektrik kadar köklü biçimde dönüştüreceğine inanır ve çığır açan teknolojiler ile yapay genel zekânın (AGI) potansiyelinden sık sık heyecanla söz eder.

Bir fütürist olarak bu yeniliklerin dünyamızı nasıl şekillendireceğini araştırmaya kendini adamıştır. Ayrıca geleceği yeniden tanımlayan ve tüm sektörleri dönüştüren ileri teknolojilere yatırım yapmaya odaklanan Securities.io platformunun kurucusudur.