Raj Shukla, CTO of SymphonyAI – Interview Series

Raj Shukla mengarahkan roadmap teknologi dan eksekusi SymphonyAI, memimpin tim insinyur yang membangun platform AI Gen Eureka. Dengan hampir 20 tahun pengalaman teknik dan penelitian AI/ML, Shukla juga memiliki pengalaman luas dalam AI SaaS perusahaan dari peran kepemimpinan tekniknya di Microsoft, di mana karir sukses 14 tahunnya termasuk memimpin organisasi sains dan teknik AI global di Azure, Dynamics 365, MSR dan divisi pencarian dan periklanan. Raj memiliki pengalaman luas dalam AI/ML di bidang pencarian, periklanan, dan AI perusahaan serta telah membangun beberapa produk AI SaaS sukses di domain konsumen dan bisnis.

SymphonyAI adalah perusahaan AI perusahaan yang fokus membangun aplikasi AI khusus industri yang memberikan nilai bisnis langsung. Sebagai gantinya untuk model generik, perusahaan ini menyediakan solusi vertikal untuk ritel, barang konsumen, jasa keuangan, manufaktur, media, dan IT, menangani tantangan seperti peramalan, pencegahan penipuan, optimasi operasional, dan analitik. Produknya ditenagai oleh platform AI Eureka, yang menggabungkan kemampuan prediktif, generatif, dan agenik menjadi alur kerja yang disesuaikan dengan setiap sektor. Didirikan pada 2017, perusahaan ini telah tumbuh menjadi pemimpin global dalam AI vertikal, melayani ribuan pelanggan perusahaan dengan solusi yang scalable dan fokus domain.

Anda telah bekerja di garis depan inovasi AI di Microsoft, Oracle, dan sekarang SymphonyAI—apa yang awalnya menarik Anda ke dunia AI perusahaan, dan bagaimana perspektif Anda berkembang selama bertahun-tahun?

Perjalanan saya ke AI perusahaan dimulai dengan keyakinan inti bahwa perusahaan harus mengimplementasikan AI yang memecahkan masalah bisnis nyata, bukan hanya menciptakan AI untuk kepentingan AI. Saya telah melihat bahwa solusi AI generik, luas-basis jarang memberikan nilai transformasional. Di SymphonyAI, kami telah membangun strategi perusahaan dan budaya kami pada pengembangan AI yang memahami tantangan industri spesifik, dari deteksi kejahatan keuangan hingga penjualan ritel yang berfokus pada pembeli hingga pemberdayaan pekerja terhubung industri. Kesiapan perusahaan menambahkan dimensi lain – AI perusahaan yang sukses memerlukan lebih dari teknologi hebat, itu menuntut tata kelola data dan arsitektur yang luar biasa, kolaborasi dan alur kerja lintas fungsional yang canggih, dan transparansi serta auditabilitas penuh.

Apa kekurangan spesifik yang ditemukan perusahaan dengan model pra-dilatih generik, terutama di sektor yang tunduk pada peraturan ketat seperti keuangan atau kesehatan? 

Model pra-dilatih generik tidak dibangun untuk lingkungan yang berisiko tinggi, tunduk pada peraturan ketat seperti keuangan, kesehatan, dan grosir. Model pra-dilatih generik menghadapi hambatan kritis, termasuk kebutuhan akan keahlian domain esensial untuk menangani nuansa spesifik industri dan memenuhi persyaratan peraturan dan kepatuhan yang ketat yang berbeda-beda di seluruh geografi. Yang paling penting, mereka tidak dapat memberikan akurasi dan jejak yang diperlukan oleh perusahaan, di mana kesalahan dapat merugikan konsumen atau memicu pelanggaran peraturan. Apakah itu mematuhi peraturan anti-pencucian uang atau memungkinkan toko grosir untuk dengan cepat menghapus barang yang ditarik dari pusat distribusi dan rak, teknologi AI vertikal SymphonyAI secara khusus dibangun untuk industri yang kami operasikan dan dilatih pada ontologi industri tersebut, memungkinkan mereka untuk membuat atau mengotomatisasi keputusan yang secara langsung menciptakan dampak bisnis.

Menggabungkan model pra-dilatih dengan logika domain yang mendalam semakin dipandang sebagai kunci untuk membuka ROI perusahaan—apa komponen esensial, seperti pengetahuan industri, keselarasan KPI, dan pengawasan peraturan, yang membuat pendekatan ini efektif? 

Menggabungkan model pra-dilatih dengan logika domain yang mendalam membuka nilai dengan menciptakan sistem AI yang memahami konteks bisnis dan kebutuhan operasional. Pendekatan ini berhasil ketika model diperkaya dengan ontologi spesifik industri, diselaraskan dengan KPI perusahaan untuk memastikan bahwa output langsung melayani tujuan bisnis yang dapat diukur dan dilengkapi dengan pengawasan peraturan yang menyediakan kerangka kerja kepatuhan dan jejak audit yang diperlukan. Ketika elemen-elemen ini bekerja bersama, AI generik berubah menjadi solusi bisnis kritis yang menghasilkan hasil yang dapat diukur sambil mempertahankan keandalan dan kepatuhan yang diminta oleh perusahaan.

IBM baru-baru ini mengakuisisi Seek AI dan meluncurkan Watsonx Labs di New York City, menandakan pergeseran strategis potensial dalam lanskap AI—apa yang ini tandakan tentang masa depan tren M&A dan investasi di AI perusahaan? 

Pengakuisisan IBM atas Seek AI dan peluncuran Watsonx Labs adalah validasi dari pergeseran mendasar yang telah kami antisipasi: lanskap AI perusahaan telah bergeser, menandakan bahwa gelombang M&A berikutnya akan memprioritaskan perusahaan dengan model AI vertikal pra-dilatih yang tiba dengan keahlian industri yang mendalam, tata kelola, dan pengawasan peraturan serta KPI yang berorientasi pada hasil. Pemilik strategis seperti IBM mengakui bahwa agen AI yang fokus pada data perusahaan memberikan ROI langsung ketika mereka memahami alur kerja industri spesifik. Pasar konsolidasi di sekitar pengakuan bahwa kecerdasan umum memerlukan spesialisasi vertikal untuk menggerakkan transformasi perusahaan.

Pada titik mana fondasi model berkembang menjadi agen spesifik domain—apa yang menjadi tonggak arsitektur yang menandakan transisi ini? 

Model fondasi tidak secara alami berkembang menjadi agen domain; itu harus direkayasa menjadi satu. Tidak ada jalur langsung di mana model umum hanya ‘menjadi lebih pintar’ dan menjadi penyelidik bank. Transisi hanya terjadi ketika tim insinyur berhenti mengandalkan kecerdasan murni model dan mulai membangun arsitektur yang dikelola di sekitarnya—secara khusus menyuntikkan lapisan konteks (seperti Grafik Pengetahuan) dan lapisan orkestrasi untuk memaksa model mengikuti proses bisnis bukan kecenderungan probabilistiknya.

Apa tantangan inti dalam membangun alur kerja agenik yang tangguh dan spesifik vertikal, dan bagaimana SymphonyAI menanganinya? 

Tantangan inti dalam membangun alur kerja agenik yang tangguh dan spesifik vertikal adalah mempertahankan keandalan di seluruh proses multi-langkah yang kompleks. SymphonyAI menangani tantangan ini melalui arsitektur multi-lapis yang membenamkan keahlian domain langsung ke dalam agen, mengimplementasikan penanganan kesalahan dengan pemulihan kegagalan, dan mempertahankan manajemen konteks yang konsisten di seluruh proses perusahaan multi-sesi. Ini memungkinkan agen kami untuk beroperasi secara andal di lingkungan yang tunduk pada peraturan ketat di mana keandalan berarti mempertahankan akurasi, kepatuhan, dan integritas operasional.

SymphonyAI menekankan fondasi data yang kuat, grafik pengetahuan, dan lapisan metadata—mengapa kemampuan ini penting untuk agen AI vertikal, dan mengapa banyak perusahaan kesulitan mengimplementasikannya? 

Fondasi data yang kuat dan grafik pengetahuan sangat penting untuk agen AI vertikal agar memiliki sumber yang bermakna, memberikan rekomendasi yang terkait konteks, dan tetap mutakhir dengan perubahan pasar, pelanggan, dan proses di seluruh tingkat perusahaan. Sebagian besar perusahaan kesulitan mengimplementasikan kemampuan ini karena memerlukan investasi awal yang signifikan dalam arsitektur data, keahlian ontologi khusus, dan perubahan mendasar pada praktik data yang ada yang banyak organisasi temukan menantang secara organisasional dan teknis. Itulah di mana mitra teknologi AI dengan pengalaman dan pengetahuan yang mendalam dalam vertikal tersebut sangat berharga, termasuk kemampuan mereka untuk melatih AI sebelumnya pada sejumlah besar data dan sumber domain di industri tersebut.

Dalam skenario dunia nyata—seperti deteksi kejahatan keuangan atau peramalan ritel—bagaimana SymphonyAI menggabungkan AI prediktif, generatif, dan agenik menjadi “keterampilan” yang kohesif?

SymphonyAI menggabungkan AI prediktif, generatif, dan agenik menjadi “keterampilan” kohesif dengan menciptakan alur kerja terintegrasi di mana setiap produk AI memenuhi masalah bisnis spesifik. Dalam deteksi kejahatan keuangan, model prediktif kami mengidentifikasi pola transaksi yang mencurigakan, dan AI generatif menciptakan laporan investigasi dan penilaian risiko yang terperinci. Pada saat yang sama, AI agenik mengatur seluruh alur kerja, secara otomatis menaikkan kasus, berkoordinasi dengan tim kepatuhan, dan menyesuaikan strategi investigasi berdasarkan temuan waktu nyata.

Kunci dari ini adalah bahwa ini bukanlah alat AI terpisah, mereka adalah kemampuan terintegrasi dalam agen spesifik domain yang memahami konteks bisnis, mempertahankan status alur kerja, dan dapat bertransisi secara mulus antara analisis prediktif, generasi konten, dan tindakan otonom untuk memberikan hasil bisnis lengkap daripada output AI yang terfragmentasi.

Anda telah memperingatkan bahwa banyak agen AI perusahaan mungkin terjatuh tanpa keandalan—apa karakteristik kunci dari agen AI perusahaan yang direkayasa dengan baik dan tahan kesalahan? 

Agen AI perusahaan yang direkayasa dengan baik dan tahan kesalahan memerlukan beberapa karakteristik kritis. Meskipun banyak bisnis dengan cepat berinvestasi dan menggelar agen AI untuk meningkatkan efisiensi, produktivitas, dan inovasi, mereka sering memandang remeh pekerjaan dasar yang diperlukan untuk kesuksesan. Beberapa aspek penting yang agen yang direkayasa dengan baik perlu untuk sukses adalah:

• Agen AI perusahaan beroperasi pada data perusahaan, yang sering terisolasi dan kekurangan akses programatik yang tepat, izin, dan kontrol akses. Agen perlu dipersenjatai dengan penyediaan autentikasi dan otorisasi yang sama seperti karyawan.
• Agen juga perlu pulih dari semua bentuk kegagalan sistem perusahaan, gangguan jaringan, dan endpoint yang tidak stabil. Lapisan orkestrasi perlu memungkinkan alur kerja yang berkelanjutan, tahan lama, dan tahan kesalahan, yang sebagian besar orkestrator LLM populer tidak.
• LLM akan tidak menentu dan gagal dalam tugas. Pemulihan kegagalan, pengulangan, dan penemuan jalur optimal perlu menjadi fitur kunci dari sistem agenik.

Bagi CTO yang mempertimbangkan membangun platform AI vertikal secara internal versus bermitra dengan vendor khusus, apa saran yang akan Anda berikan? 

Membangun solusi AI perusahaan di seluruh industri, termasuk ritel/CPG, industri, jasa keuangan, dan lainnya, memerlukan penguasaan teknologi AI mutakhir dan keahlian domain yang mendalam secara bersamaan untuk mencapai nilai nyata dari solusi AI perusahaan. Platform AI Eureka kami menunjukkan bagaimana sumber data vertikal, grafik pengetahuan, model prediktif, dan agen harus disesuaikan dengan setiap industri, tetapi ini mewakili investasi penelitian tahunan dan iterasi pelanggan yang kebanyakan tim internal tidak miliki. Untuk bisnis dan CTO yang ingin berinvestasi dalam AI, saya menyarankan mereka untuk memilih solusi yang memberikan hasil nyata sejak hari pertama. Solusi AI vertikal memberikan hasil tersebut, memberi pengguna data yang kemudian dapat digunakan untuk menciptakan nilai bisnis.

Menghadap ke depan, bagaimana Anda membayangkan arsitektur AI perusahaan—apakah agen vertikal yang diberdayakan akan menjadi norma?

Kita tidak akan hanya melihat ‘agen yang diberdayakan’; kita akan melihat arsitektur agenik yang dikelola. Sementara model fondasi bersama menyediakan mesin pengguna, mereka pada dasarnya adalah komoditas. ‘Norma’ untuk perusahaan yang sukses akan menjadi penerapan agen spesialis, vertikal yang tidak hanya ‘berbicara’ satu sama lain, tetapi diatur secara ketat melalui lapisan konteks yang dibagikan. Jika Anda hanya memiliki ‘agen yang diberdayakan’ yang dibangun di atas model fondasi, Anda akan mendapatkan sistem yang berisik, mengalami halusinasi—apa yang kami sebut ‘pipa bocor’ AI perusahaan. Untuk membuat arsitektur ini berkembang dalam produksi, Anda perlu tiga lapisan spesifik yang melampaui federasi sederhana:

• Konteks (Grafik Pengetahuan Domain): Agen perlu berbagi sumber kebenaran tunggal, bukan hanya menukar probabilitas.
• Orkestrasi: Anda perlu ‘arsitek utama’ yang memutuskan kapan menggunakan agen spesialis dan kapan menjaga manusia dalam loop.
• Tata Kelola: Keluaran harus aman dan patuh secara hukum dan operasional sebelum meninggalkan sistem.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi SymphonyAI.