Raj Shukla, CTO SymphonyAI – Seri Wawancara

Raj Shukla memimpin jalan teknologi dan eksekusi SymphonyAI, memimpin tim insinyur yang membangun platform AI Gen Eureka. Dengan hampir 20 tahun pengalaman insinyur dan penelitian AI/ML, Shukla juga memiliki pengalaman luas dalam AI SaaS perusahaan dari peran kepemimpinan insinyur di Microsoft (MSFT ), di mana karir sukses 14 tahunnya termasuk memimpin organisasi sains dan teknik AI global di Azure, Dynamics 365, MSR, dan divisi pencarian dan periklanan. Raj memiliki pengalaman luas dalam AI/ML di bidang pencarian, periklanan, dan AI perusahaan, serta membangun beberapa produk AI SaaS sukses di domain konsumen dan bisnis.

SymphonyAI adalah perusahaan AI perusahaan yang fokus membangun aplikasi AI spesifik industri yang memberikan nilai bisnis langsung. Sebagai gantinya untuk model generik, perusahaan ini menyediakan solusi vertikal untuk ritel, barang konsumen, jasa keuangan, manufaktur, media, dan IT, menangani tantangan seperti peramalan, pencegahan penipuan, optimasi operasional, dan analitik. Produknya ditenagai oleh platform AI Eureka, yang menggabungkan kemampuan prediktif, generatif, dan agenik menjadi alur kerja yang disesuaikan dengan setiap sektor. Didirikan pada tahun 2017, perusahaan ini telah tumbuh menjadi pemimpin global dalam AI vertikal, melayani ribuan pelanggan perusahaan dengan solusi yang scalable dan fokus domain.

Anda telah bekerja di garis depan inovasi AI di Microsoft, Oracle (ORCL ), dan sekarang SymphonyAI—apa yang awalnya menarik Anda ke dunia AI perusahaan, dan bagaimana perspektif Anda telah berkembang selama bertahun-tahun?

Perjalanan saya ke AI perusahaan dimulai dengan keyakinan dasar bahwa perusahaan harus menerapkan AI yang menyelesaikan masalah bisnis nyata, bukan hanya menciptakan AI untuk kepentingan AI. Saya telah melihat bahwa solusi AI generik, luas-basis, jarang memberikan nilai transformasional. Di SymphonyAI, kami telah membangun strategi perusahaan dan budaya kami pada mengembangkan AI yang memahami tantangan industri spesifik, dari deteksi kejahatan keuangan hingga merchandising ritel yang berfokus pada pelanggan hingga pemberdayaan pekerja terhubung industri. Kesiapan perusahaan menambahkan dimensi lain – AI perusahaan yang sukses memerlukan lebih dari teknologi hebat, itu membutuhkan arsitektur data yang luar biasa, kolaborasi fungsional lintas, dan transparansi serta auditabilitas penuh.

Apa kelemahan spesifik yang dihadapi perusahaan dengan model pra-dilatih generik, terutama di sektor yang tunduk pada peraturan ketat seperti keuangan atau kesehatan? 

Model pra-dilatih generik tidak dibangun untuk lingkungan yang tunduk pada peraturan ketat, seperti keuangan, kesehatan, dan ritel. Model pra-dilatih generik menghadapi hambatan kritis, termasuk kebutuhan akan keahlian domain esensial untuk menangani nuansa industri spesifik dan memenuhi persyaratan peraturan dan kepatuhan yang ketat yang berbeda-beda di seluruh geografi. Yang paling penting, mereka tidak dapat memberikan akurasi dan jejak yang diperlukan oleh perusahaan, di mana kesalahan dapat merugikan konsumen atau memicu pelanggaran peraturan. Apakah itu memenuhi peraturan anti-pencucian uang atau memungkinkan ritel untuk dengan cepat menghapus barang yang ditarik dari pusat distribusi dan rak, teknologi AI vertikal SymphonyAI secara khusus dibangun untuk industri yang kami operasikan dan dilatih pada ontologi industri tersebut, memungkinkan mereka untuk membuat atau mengotomatisasi keputusan yang secara langsung menciptakan dampak bisnis.

Menggabungkan model pra-dilatih dengan logika domain yang mendalam semakin dilihat sebagai kunci untuk membuka ROI perusahaan—apa komponen esensial, seperti pengetahuan industri, pengaturan KPI, dan pengawasan peraturan, yang membuat pendekatan ini efektif? 

Menggabungkan model pra-dilatih dengan logika domain yang mendalam membuka nilai dengan menciptakan sistem AI yang memahami konteks bisnis dan persyaratan operasional. Pendekatan ini sukses ketika model diperkaya dengan ontologi industri spesifik, diselaraskan dengan KPI perusahaan untuk memastikan bahwa output secara langsung melayani tujuan bisnis yang dapat diukur, dan dilengkapi dengan pengawasan peraturan yang menyediakan kerangka kepatuhan dan jejak audit yang diperlukan. Ketika elemen-elemen ini bekerja bersama, AI generik berubah menjadi solusi bisnis kritis yang menghasilkan hasil yang dapat diukur, sambil mempertahankan keandalan dan kepatuhan yang diminta oleh perusahaan.

IBM baru-baru ini mengakuisisi Seek AI dan meluncurkan Watsonx Labs di New York City, menandakan pergeseran strategis potensial dalam lanskap AI—apa yang ini tandakan tentang masa depan M&A dan tren investasi di AI perusahaan? 

Akuisisi IBM atas Seek AI dan peluncuran Watsonx Labs adalah validasi dari pergeseran dasar yang telah kami antisipasi: lanskap AI perusahaan telah bergeser, menandakan bahwa gelombang M&A berikutnya akan memprioritaskan perusahaan dengan model AI vertikal pra-dilatih yang tiba dengan keahlian domain yang mendalam, kepatuhan, dan KPI yang berorientasi pada hasil. Pemilik strategis seperti IBM mengakui bahwa agen AI yang fokus pada data perusahaan memberikan ROI langsung ketika mereka memahami alur kerja industri spesifik. Pasar konsolidasi di sekitar pengakuan bahwa kecerdasan umum memerlukan spesialisasi vertikal untuk menggerakkan transformasi perusahaan.

Pada titik mana suatu model dasar berkembang menjadi agen domain-spesifik—apa yang merupakan tonggak arsitektur yang menandakan transisi ini? 

Model dasar tidak secara alami berkembang menjadi agen domain; itu harus dibangun menjadi satu. Tidak ada jalur langsung di mana model umum hanya “menjadi lebih pintar” dan menjadi penyelidik bank. Transisi hanya terjadi ketika tim insinyur berhenti mengandalkan kecerdasan murni model dan mulai membangun arsitektur yang dikelola di sekitarnya—secara khusus menyuntikkan lapisan konteks (seperti Grafik Pengetahuan) dan lapisan orkestrasi untuk memaksa model mengikuti proses bisnis bukan kecenderungan probabilistiknya sendiri.

Apa tantangan inti dalam membangun alur kerja agenik yang tangguh dan spesifik vertikal, dan bagaimana SymphonyAI menanganinya? 

Tantangan inti dalam membangun alur kerja agenik yang tangguh dan spesifik vertikal adalah mempertahankan keandalan di seluruh proses multi-langkah yang kompleks. SymphonyAI menangani tantangan ini melalui arsitektur multi-lapis yang membenamkan keahlian domain langsung ke dalam agen, mengimplementasikan penanganan kesalahan dengan pemulihan kegagalan, dan mempertahankan manajemen konteks yang persisten di seluruh proses perusahaan multi-sesi. Ini memungkinkan agen kami untuk beroperasi secara andal di lingkungan yang tunduk pada peraturan ketat di mana keandalan berarti mempertahankan akurasi, kepatuhan, dan integritas operasional.

SymphonyAI menekankan fondasi data yang kuat, grafik pengetahuan, dan lapisan metadata—mengapa kemampuan ini penting untuk agen AI vertikal, dan mengapa banyak perusahaan kesulitan mengimplementasikannya? 

Fondasi data yang kuat dan grafik pengetahuan sangat penting untuk agen AI vertikal agar memiliki sumber yang bermakna, memberikan rekomendasi yang dikontekstualisasi, dan tetap mutakhir dengan perubahan pasar, pelanggan, dan proses di seluruh tingkat perusahaan. Banyak perusahaan kesulitan mengimplementasikan kemampuan ini karena memerlukan investasi awal yang signifikan dalam arsitektur data, keahlian ontologi khusus, dan perubahan mendasar pada praktik data yang ada yang banyak organisasi temukan menantang secara organisasional dan teknis. Itulah di mana mitra teknologi AI dengan pengalaman dan pengetahuan yang mendalam dalam vertikal tersebut sangat berharga, termasuk kemampuan mereka untuk melatih AI pada jumlah besar data domain dan sumber di seluruh pelanggan nyata di industri tersebut.

Dalam skenario dunia nyata—seperti deteksi kejahatan keuangan atau peramalan ritel—bagaimana SymphonyAI menggabungkan AI prediktif, generatif, dan agenik menjadi “keterampilan” yang kohesif?

SymphonyAI menggabungkan AI prediktif, generatif, dan agenik menjadi “keterampilan” kohesif dengan menciptakan alur kerja terintegrasi di mana setiap produk AI memenuhi masalah bisnis spesifik. Dalam deteksi kejahatan keuangan, model prediktif kami mengidentifikasi pola transaksi yang mencurigakan, dan AI generatif menciptakan laporan investigasi dan penilaian risiko yang terperinci. Pada saat yang sama, AI agenik mengatur seluruh alur kerja, secara otomatis menaikkan kasus, berkoordinasi dengan tim kepatuhan, dan menyesuaikan strategi investigasi berdasarkan temuan waktu nyata.

Kunci dari ini adalah bahwa ini bukanlah alat AI terpisah, melainkan kemampuan terintegrasi dalam agen domain-spesifik yang memahami konteks bisnis, mempertahankan keadaan alur kerja, dan dapat bertransisi secara mulus antara analisis prediktif, generasi konten, dan tindakan otonom untuk memberikan hasil bisnis lengkap daripada output AI yang terfragmentasi.

Anda telah memperingatkan bahwa banyak agen AI perusahaan mungkin terjatuh tanpa ketangguhan—apa yang merupakan karakteristik kunci dari agen AI perusahaan yang dirancang dengan baik dan tahan gangguan? 

Agen AI perusahaan yang dirancang dengan baik dan tahan gangguan memerlukan beberapa karakteristik kritis. Meskipun banyak bisnis dengan cepat berinvestasi dan menerapkan agen AI untuk meningkatkan efisiensi, produktivitas, dan inovasi, mereka sering memandang remeh pekerjaan yang diperlukan untuk kesuksesan. Beberapa aspek penting yang agen yang dirancang dengan baik perlu untuk sukses adalah:

• Agen AI perusahaan beroperasi pada data perusahaan, yang sering kali terisolasi dan kekurangan akses programatis yang tepat, izin, dan kontrol akses. Agen perlu dipersenjatai dengan penyediaan autentikasi dan otorisasi yang sama seperti karyawan.
• Agen juga perlu pulih dari semua bentuk kegagalan sistem perusahaan, gangguan jaringan, dan endpoint yang tidak stabil. Lapisan orkestrasi perlu memungkinkan alur kerja yang berjalan lama, tahan lama, dan tahan gangguan, yang sebagian besar pengatur LLM populer tidak.
• LLM akan tidak menentu dan gagal dalam tugas. Pemulihan kegagalan, pengulangan, dan penemuan jalur optimal perlu menjadi fitur kunci dari sistem agenik.

Bagi CTO yang mempertimbangkan untuk membangun platform AI vertikal secara internal versus bermitra dengan vendor khusus, apa yang akan Anda sarankan? 

Membangun solusi AI perusahaan di seluruh industri yang berbeda, termasuk ritel/CPG, industri, jasa keuangan, dan lain-lain, memerlukan menguasai baik teknologi AI mutakhir dan keahlian domain yang mendalam secara bersamaan untuk mencapai nilai nyata dari solusi AI perusahaan. Platform AI Eureka kami menunjukkan bagaimana sumber data vertikal khusus, grafik pengetahuan, model prediktif, dan agen harus disesuaikan dengan setiap industri, tetapi ini mewakili tahun-tahun investasi penelitian dan iterasi pelanggan yang kebanyakan tim internal tidak miliki. Untuk bisnis dan CTO yang ingin berinvestasi dalam AI, saya menyarankan mereka untuk memilih solusi yang memberikan hasil nyata sejak hari pertama. Solusi AI vertikal menyediakan hasil tersebut, memberikan pengguna dengan data yang kemudian dapat mereka gunakan untuk menciptakan nilai bisnis.

Menghadap ke depan, bagaimana Anda membayangkan arsitektur AI perusahaan—apakah agen vertikal yang terfederasi yang dibangun di atas model dasar yang dibagikan akan menjadi norma?

Kita tidak hanya akan melihat ‘agen terfederasi’; kita akan melihat arsitektur agenik yang dikelola. Sementara model dasar yang dibagikan menyediakan mesin pengguna, mereka pada dasarnya adalah komoditas. ‘Norma’ untuk perusahaan yang sukses akan adalah menerapkan agen vertikal khusus yang tidak hanya ‘berbicara’ satu sama lain, tetapi diatur dengan ketat melalui lapisan konteks yang dibagikan. Jika Anda hanya memiliki ‘agen terfederasi’ yang dibangun di atas model dasar, Anda akan mendapatkan sistem yang berisik dan rentan terhadap halusinasi—apa yang kami sebut ‘pipa bocor’ AI perusahaan. Untuk membuat arsitektur ini berkembang dalam produksi, Anda perlu tiga lapisan spesifik yang melampaui federasi sederhana:

• Konteks (Grafik Pengetahuan Domain): Agen perlu berbagi sumber kebenaran tunggal, bukan hanya menukar kemungkinan.
• Orkestrasi: Anda perlu memiliki ‘arsitek utama’ yang memutuskan kapan menggunakan agen khusus dan kapan menjaga manusia dalam lingkaran.
• Pengawasan: Keluaran harus aman secara hukum dan operasional sebelum meninggalkan sistem.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi SymphonyAI.