Manuel Romero, Co-Founder dan Chief Scientific Officer di Maisa – Seri Wawancara

Manuel Romero, Co-Founder dan Chief Scientific Officer di Maisa, adalah peneliti dan insinyur AI yang fokus pada pengembangan sistem kecerdasan buatan yang andal dan siap digunakan di perusahaan. Ia mendirikan Maisa pada 2024 untuk membangun AI yang akuntabel dan dapat menjalankan proses bisnis yang kompleks dengan transparansi dan kontrol. Sebelum bergabung dengan Maisa, Romero menjabat sebagai insinyur AI dan mesin pembelajaran senior di perusahaan seperti Clibrain dan Narrativa, di mana ia mengkhususkan diri dalam pemrosesan bahasa alami dan sistem AI skala besar. Pada awal karirnya, ia bekerja sebagai insinyur perangkat lunak full-stack dan spesialis DevOps sebelum beralih ke penelitian dan pengembangan AI lanjutan, menjadi kontributor aktif di ekosistem AI sumber terbuka.

Maisa AI mengembangkan “pekerja digital” otonom, yaitu agen AI yang dirancang untuk mengotomatisasi alur kerja perusahaan yang kompleks sambil mempertahankan jejak, tata kelola, dan keandalan. Platform ini memungkinkan organisasi untuk membangun dan mengirimkan agen AI menggunakan bahasa alami, sehingga memungkinkan otomatisasi di seluruh sistem internal dan sumber data tanpa perlu penulisan kode yang luas. Dengan fokus pada penalaran yang dapat diverifikasi dan eksekusi terstruktur, Maisa bertujuan untuk mengatasi keterbatasan umum yang terkait dengan sistem AI generatif dan membantu perusahaan mengirimkan AI otonom dengan aman dan skala besar.

Anda sering fokus pada memahami “mengapa” yang lebih dalam di balik sistem AI. Dari sudut pandang teknis, apa yang mendorong Anda untuk mendirikan Maisa pada 2024, dan apa celah dalam arsitektur AI perusahaan yang Anda yakini tidak ditangani?

Motivasi di balik pendirian Maisa berasal dari kesadaran bahwa sebagian besar tumpukan AI perusahaan dibangun di sekitar model, bukan sistem.

Selama booming AI generatif, banyak perusahaan fokus pada integrasi model bahasa besar ke dalam alur kerja yang ada. Namun, sistem ini sering rapuh, tidak transparan, dan sulit dioperasikan pada skala besar. Mereka kekurangan:

• eksekusi deterministik di mana itu penting.
• observabilitas yang kuat, jejak, dan
• reproduktivitas

Celah yang kami lihat adalah ketiadaan infrastruktur AI sejati untuk perusahaan. Perusahaan membangun aplikasi di sekitar API LLM, tetapi mereka tidak memiliki sesuatu yang setara dengan arsitektur komputer untuk pekerjaan pengetahuan.

Maisa diciptakan untuk mengatasi celah itu dengan merancang arsitektur yang berpusat pada Unit Pemrosesan Pengetahuan (KPU), sebuah sistem yang memungkinkan AI untuk beroperasi dengan andal di dalam alur kerja perusahaan yang sebenarnya.

Anda telah bekerja di bidang pemrosesan bahasa alami lanjutan dan sistem generatif sebelum mendirikan Maisa. Bagaimana pengalaman itu membentuk pilihan arsitektur di balik platform?

Pengalaman saya bekerja di NLP dan NLG, terutama sekitar pelatihan dan pra-pelatihan model bahasa dan model bahasa besar (ratusan di antaranya), membuat sesuatu yang sangat jelas ketika mencoba membangun sistem nyata di atasnya. Arsitektur transformer sangat kuat, tetapi datang dengan setidaknya tiga keterbatasan dasar yang harus ditangani untuk menggunakannya dengan andal di produksi.

Pertama adalah halusinasi. Model ini menghasilkan teks secara probabilistik dan dapat menghasilkan output yang terdengar benar tetapi tidak berdasar pada informasi yang diverifikasi.

Kedua adalah keterbatasan konteks. Bahkan dengan jendela konteks yang lebih besar, model beroperasi dalam ruang token yang terbatas, yang membuatnya sulit untuk melakukan penalaran atas tubuh pengetahuan yang besar atau kompleks.

Ketiga adalah informasi yang mutakhir. Model pra-dilatih mewakili snapshot pengetahuan pada saat pelatihan, sementara lingkungan perusahaan memerlukan sistem yang dapat melakukan penalaran atas informasi yang terus berubah.

Mengenali keterbatasan ini membentuk banyak keputusan arsitektur di balik Maisa. Sebagai gantinya untuk mengandalkan model saja, kami fokus pada membangun sistem yang menyediakan akses terstruktur ke pengetahuan, mekanisme validasi, dan eksekusi yang terkendali sehingga AI dapat beroperasi dengan andal di dalam alur kerja perusahaan yang sebenarnya.

Banyak perusahaan bereksperimen dengan AI generatif tetapi bergelut untuk melampaui pilot. Dari sudut pandang desain sistem, apa alasan inti kegagalan penskalaan di banyak organisasi?

Banyak perusahaan bergelut untuk melampaui pilot AI generatif karena sebagian besar penerapan dibangun sebagai eksperimen daripada sebagai sistem yang kuat. Prototipe awal sering mengandalkan teknik prompt, orkestrasi ringan, dan pipa pengambilan sederhana, yang dapat menunjukkan nilai tetapi tidak menyediakan keandalan, observabilitas, atau kontrol yang diperlukan untuk lingkungan produksi. Ketika organisasi mencoba menskalakan sistem ini, mereka menghadapi masalah seperti output yang tidak konsisten, kurangnya jejak, kesulitan mengintegrasikan dengan alur kerja perusahaan, dan kontrol terbatas atas bagaimana AI berperilaku. Pada intinya, masalahnya adalah bahwa model bahasa besar adalah generator probabilistik, sementara proses perusahaan memerlukan perilaku yang dapat diprediksi dan diaudit. Tanpa arsitektur yang menambahkan struktur di sekitar penalaran, validasi, eksekusi, dan pemantauan, sistem AI generatif tetap sulit untuk diskalakan di luar kasus penggunaan yang terisolasi.

Para Pekerja Digital Maisa dirancang untuk dapat diaudit dan terstruktur daripada murni probabilistik. Apa artinya ini dalam praktiknya bagi perusahaan yang mengevaluasi AI untuk penggunaan produksi?

Ketika kami mengatakan bahwa Pekerja Digital Maisa dapat diaudit dan terstruktur daripada murni probabilistik, kami maksudkan bahwa AI beroperasi dalam sistem yang terkendali di mana tindakannya dan penalarannya dapat dilacak dan diatur. Sebagai gantinya untuk membiarkan model menghasilkan output dan keputusan secara bebas, sistem ini membangun bagaimana AI berinteraksi dengan data, alat, dan alur kerja. Setiap langkah dalam proses dapat dicatat, diperiksa, dan divalidasi, dan tindakan dijalankan melalui antarmuka yang ditentukan daripada langsung dari output model. Bagi perusahaan, ini berarti bahwa sistem AI dapat dipantau, diaudit, dan diintegrasikan ke dalam proses kritis dengan kepercayaan yang lebih besar. Ini menggeser AI dari menjadi asisten kotak hitam menjadi sistem yang perilakunya dapat dipahami, dikendalikan, dan dipercaya dalam lingkungan produksi.

Sebagai arsitek Unit Pemrosesan Pengetahuan, bagaimana ini berbeda dari lapisan orkestrasi atau mesin alur kerja yang dibangun di sekitar model bahasa besar?

Unit Pemrosesan Pengetahuan berbeda dari lapisan orkestrasi karena dirancang untuk mengelola siklus hidup penuh penalaran yang didorong AI daripada hanya mengkoordinasikan prompt dan panggilan model. Sebagian besar kerangka orkestrasi bertindak sebagai manajer alur kerja yang merantai langkah-langkah seperti pengambilan, prompting, dan eksekusi alat. KPU beroperasi pada tingkat arsitektur yang lebih dalam dengan membangun bagaimana pengetahuan diakses, bagaimana penalaran dilakukan, dan bagaimana tindakan dijalankan dalam sistem. Ini memperlakukan pemrosesan pengetahuan sebagai lapisan komputasi inti, mengintegrasikan memori, validasi, dan eksekusi terkendali sehingga AI dapat beroperasi dengan andal di dalam alur kerja perusahaan yang kompleks daripada hanya menghasilkan respons.

Di industri yang diatur, toleransi risiko rendah. Apa keputusan desain spesifik yang Anda buat untuk memastikan output AI tetap andal dan tidak menyebarkan kesalahan di seluruh alur kerja yang kompleks?

Di industri yang diatur, keandalan dan kontrol sangat penting, sehingga kami merancang sistem dengan beberapa pengaman untuk memastikan output AI tetap dapat dipercaya. Salah satu prinsip utama adalah eksekusi terstruktur, di mana AI tidak dapat memicu tindakan kritis secara langsung tanpa melewati antarmuka terkendali. Kami juga mengintegrasikan lapisan validasi yang memeriksa output model melawan skema, aturan, atau mekanisme sekunder sebelum mereka diterima. Selain itu, sistem ini mempertahankan observabilitas penuh, merekam langkah-langkah penalaran, interaksi alat, dan keputusan sehingga mereka dapat dilacak dan diaudit. Bersama, pilihan desain ini membantu mencegah kesalahan dari menyebarkan melalui alur kerja dan memungkinkan organisasi untuk mengoperasikan sistem AI dengan tingkat keandalan dan tata kelola yang diperlukan dalam lingkungan yang diatur.

Apa kasus penggunaan awal yang paling menarik di mana Anda telah melihat Pekerja Digital bergerak dari asisten yang terarah ke eksekusi AI yang sepenuhnya operasional?

Beberapa kasus penggunaan awal yang paling menarik muncul dalam alur kerja intensif pengetahuan di mana proses telah ditentukan dengan baik tetapi masih memerlukan analisis dan pengambilan keputusan yang signifikan. Di bidang seperti tinjauan kepatuhan, operasi dukungan teknis, dan manajemen pengetahuan internal, Pekerja Digital dapat bergerak melampaui sekadar membantu manusia dan mulai menjalankan tugas terstruktur dari ujung ke ujung. Mereka dapat mengambil dan menganalisis volume besar informasi internal, menerapkan prosedur yang ditentukan, berinteraksi dengan sistem perusahaan melalui alat terkendali, dan menghasilkan output yang langsung masuk ke dalam alur kerja operasional. Perubahan kunci terjadi ketika AI tidak hanya menghasilkan saran tetapi dapat menjalankan tindakan yang ditentukan dengan andal dalam sistem yang diatur, memungkinkan organisasi untuk mengotomatisasi bagian dari pekerjaan pengetahuan yang kompleks daripada hanya meningkatkannya.

Seiring dengan peningkatan pengawasan regulasi sekitar AI secara global, bagaimana Anda melihat evolusi infrastruktur AI inti untuk memenuhi persyaratan kepatuhan tanpa membatasi inovasi?

Seiring dengan peningkatan pengawasan regulasi sekitar AI, saya percaya kita akan melihat pergeseran dari arsitektur yang hanya memanggil API penyedia model dan mempercayai outputnya secara buta. Perusahaan dan regulator akan semakin menuntut sistem di mana perilaku AI dapat diamati, diaudit, dan diatur. Ini adalah tempat di mana arsitektur seperti Unit Pemrosesan Pengetahuan menjadi penting. Jenis arsitektur ini memungkinkan organisasi untuk menerapkan kontrol, melacak keputusan, dan memastikan bahwa output AI dapat diandalkan sebelum mereka mempengaruhi proses nyata. Dalam waktu, saya harap sistem seperti ini akan menjadi fondasi standar untuk infrastruktur AI yang dapat dipercaya.

Anda telah berbicara tentang etika dan akuntabilitas bersama dengan pekerjaan teknis Anda. Bagaimana perspektif itu mempengaruhi cara Anda membangun sistem AI yang transparan?

Etika dan akuntabilitas, bagi saya, diterjemahkan langsung ke dalam pilihan desain sistem. Jika sistem AI akan berpartisipasi dalam alur kerja operasional nyata, mereka tidak dapat berfungsi sebagai kotak hitam yang tidak transparan dan tidak dapat dipahami. Perspektif itu telah sangat mempengaruhi cara saya membangun sistem AI. Transparansi, jejak, dan pengawasan manusia perlu dibangun ke dalam arsitektur dari awal. Ini berarti memastikan bahwa langkah-langkah penalaran dapat diamati, keputusan dapat diaudit, dan tindakan dijalankan melalui mekanisme terkendali. Ketika prinsip-prinsip ini tertanam pada tingkat infrastruktur, sistem AI menjadi tidak hanya lebih dapat dipercaya tetapi juga lebih mudah bagi organisasi untuk mengatur secara bertanggung jawab.

Menghadap ke depan, apakah Anda percaya bahwa infrastruktur AI agen akan menjadi sefundamental seperti infrastruktur cloud pada dekade sebelumnya — dan apa yang perlu terjadi secara teknis untuk pergeseran itu terwujud?

Saya percaya bahwa infrastruktur AI agen memiliki potensi untuk menjadi sefundamental seperti infrastruktur cloud yang telah menjadi selama dekade terakhir. Ketika organisasi mencari untuk mengotomatisasi pekerjaan pengetahuan yang semakin kompleks, mereka akan memerlukan sistem yang dapat mengkoordinasikan penalaran, memori, dan eksekusi di seluruh banyak tugas dan sumber data. Namun, untuk pergeseran itu terwujud, arsitektur dasar harus matang melampaui integrasi model sederhana. Kami memerlukan infrastruktur yang menyediakan penalaran terstruktur, akses yang andal ke pengetahuan perusahaan, observabilitas yang kuat, dan eksekusi terkendali. Ketika kemampuan tersebut dibangun ke dalam sistem inti, AI agen dapat berkembang dari alat eksperimental menjadi infrastruktur yang dapat diandalkan yang organisasi gunakan untuk menjalankan operasi kritis.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Maisa AI.