Omri Kohl, CEO & Co-Founder of Pyramid Analytics – Interview Series

Omri Kohl adalah CEO dan co-founder dari Pyramid Analytics. Pyramid Decision Intelligence Platform memberikan wawasan berbasis data untuk siapa saja untuk membuat keputusan yang lebih cepat dan lebih cerdas. Ia memimpin strategi dan operasi perusahaan melalui pasar data dan analitik yang tumbuh cepat. Kohl membawa pemahaman yang mendalam tentang teknologi analitik dan AI, pengalaman manajemen yang berharga, dan kemampuan alami untuk menantang pemikiran konvensional. Kohl adalah seorang wirausaha yang sangat berpengalaman dengan catatan yang terbukti dalam mengembangkan dan mengelola perusahaan dengan pertumbuhan yang cepat. Ia belajar ekonomi, keuangan, dan manajemen bisnis di Universitas Bar-Ilan dan memiliki gelar MBA di Manajemen Bisnis Internasional dari Universitas New York, Leonard N. Stern School of Business.

Apakah Anda bisa memulai dengan menjelaskan apa itu GenBI, dan bagaimana itu mengintegrasikan Generative AI dengan business intelligence untuk meningkatkan proses pengambilan keputusan?

GenBI adalah kerangka dan mekanisme untuk membawa kekuatan GenAI, LLM, dan AI umum ke dalam analitik, business intelligence, dan pengambilan keputusan.

Saat ini, tidak praktis untuk menggunakan GenAI saja untuk mengakses wawasan dataset. Ini bisa memakan waktu lebih dari satu minggu untuk mengunggah cukup data ke alat GenAI Anda untuk mendapatkan hasil yang bermakna. Itu hanya tidak dapat digunakan, karena data bisnis terlalu dinamis dan terlalu sensitif untuk digunakan dengan cara ini. Dengan GenBI, siapa saja dapat mengekstrak wawasan yang berharga dari data mereka, hanya dengan mengajukan pertanyaan dalam bahasa alami dan melihat hasilnya dalam bentuk dashboard BI. Ini hanya membutuhkan waktu 30 detik untuk menerima jawaban yang relevan dan berguna.

Apa yang menjadi inovasi teknologi utama di balik GenBI yang memungkinkan untuk memahami dan menjalankan tugas business intelligence yang kompleks melalui bahasa alami?

Tanpa mengungkap semua rahasia kami, ada tiga komponen utama. Pertama, GenBI memicu LLM dengan semua elemen yang diperlukan untuk menghasilkan langkah analitik yang benar yang akan menghasilkan wawasan yang diminta. Ini memungkinkan pengguna untuk membentuk kueri menggunakan bahasa alami dan bahkan dalam istilah yang tidak jelas, tanpa mengetahui jenis chart, penyelidikan, atau format yang harus diminta.

Selanjutnya, solusi GenBI Pyramid Analytics menerapkan langkah-langkah ini ke data perusahaan Anda, terlepas dari spesifik situasi Anda. Kami berbicara tentang dataset dasar dan kueri sederhana, hingga kasus penggunaan yang paling canggih dan database yang kompleks.

Ketiga, Pyramid dapat menjalankan kueri ini pada data yang mendasarinya dan memanipulasi hasilnya secara langsung. LLM saja tidak dapat menghasilkan analisis yang mendalam pada database. Anda memerlukan elemen robot untuk menemukan semua informasi yang diperlukan, menafsirkan permintaan pengguna untuk menghasilkan wawasan, dan mengirimkannya ke platform BI untuk mengartikulasikan hasilnya baik dalam bahasa sederhana atau sebagai visualisasi dinamis yang dapat diperbarui melalui kueri lanjutan.

Bagaimana GenBI mendemokratisasikan analitik data, terutama untuk pengguna non-teknis?

Cukup sederhana, GenBI memungkinkan siapa saja untuk mengakses wawasan yang mereka butuhkan, terlepas dari tingkat keahlian mereka. Alat BI tradisional memerlukan pengguna untuk mengetahui teknik manipulasi data yang terbaik untuk menerima hasil yang diperlukan. Tapi kebanyakan orang tidak berpikir dalam bentuk pie chart, scatter chart atau tabel. Mereka tidak ingin harus mengerjakan cara terbaik untuk menerima hasil yang diperlukan – mereka hanya ingin jawaban untuk pertanyaan mereka.

GenBI menyampaikan jawaban-jawaban ini kepada siapa saja, terlepas dari keahlian mereka. Pengguna tidak perlu mengetahui semua istilah profesional atau mengerjakan apakah scattergraph atau pie chart adalah pilihan terbaik, dan mereka tidak perlu mengetahui cara mengkode kueri database. Mereka dapat mengeksplorasi data dengan menggunakan kata-kata mereka sendiri dalam percakapan alami.

Kami berpikir ini sebagai perbedaan antara menggunakan peta kertas untuk merencanakan rute Anda, dan menggunakan Google Maps atau aplikasi navigasi lain. Dengan peta tradisional, Anda harus mengerjakan jalan terbaik untuk diambil, memikirkan tentang kemacetan lalu lintas, dan membandingkan kemungkinan rute. Hari ini, orang hanya memasukkan tujuan mereka ke aplikasi dan memulai perjalanan – ada kepercayaan yang sangat besar pada algoritma sehingga tidak ada yang mempertanyakan rute yang disarankan. Kami ingin berpikir bahwa GenBI membawa keajaiban yang sama ke dataset perusahaan.

Apa yang menjadi umpan balik dari pengadopsi awal tentang kemudahan penggunaan dan kurva belajar?

Kami telah menerima umpan balik yang sangat positif. Cara terbaik kami dapat merangkumnya adalah, “Wah!” Pengguna dan penguji sangat menghargai kemudahan penggunaan Pyramid, fitur yang kuat, dan wawasan yang bermakna.

Pyramid Analytics hampir tidak memiliki kurva belajar, sehingga tidak ada yang menghalangi orang untuk mengadopsinya seketika. Sekitar tiga perempat dari semua tim bisnis yang telah menguji solusi kami telah mengadopsinya dan menggunakannya hari ini, karena sangat mudah dan efektif.

Apakah Anda dapat berbagi bagaimana GenBI telah mengubah proses pengambilan keputusan dalam organisasi yang telah mengimplementasikannya? Apakah ada studi kasus atau contoh spesifik?

Meskipun kami telah mengembangkannya selama waktu yang lama, kami baru saja meluncurkan GenBI beberapa minggu yang lalu, jadi saya yakin Anda akan memahami bahwa kami belum memiliki studi kasus yang lengkap yang dapat kami bagikan, atau contoh pelanggan yang dapat kami sebutkan. Namun, saya dapat mengatakan bahwa organisasi yang memiliki ribuan pengguna sekarang menjadi benar-benar berbasis data, karena semua orang dapat mengakses wawasan. Pengguna sekarang dapat membuka nilai sebenarnya dari semua data mereka.

GenBI memiliki efek transformatif pada industri seperti asuransi, perbankan, dan keuangan, serta ritel, manufaktur, dan banyak vertikal lainnya. Sekarang, menjadi mungkin bagi penasihat keuangan, misalnya, untuk mengakses saran instan tentang cara terbaik untuk mengoptimalkan portofolio pelanggan.

Apa yang menjadi tantangan terbesar yang Anda hadapi dalam mengembangkan GenBI, dan bagaimana Anda mengatasi mereka?

Pyramid Analytics sudah menggunakan AI untuk analitik selama bertahun-tahun sebelum kami meluncurkan solusi baru, sehingga sebagian besar tantangan telah diatasi sejak lama.

Unsur baru utama adalah penambahan teknologi generasi kueri yang canggih yang bekerja dengan LLM apa pun untuk menghasilkan hasil yang akurat, sambil menjaga data tetap pribadi. Kami telah mencapai ini dengan memisahkan data dari kueri (lebih lanjut tentang ini dalam sejenak).

Tantangan besar lain yang kami hadapi adalah kecepatan. Kami berbicara tentang era Google, di mana orang mengharapkan jawaban sekarang, bukan dalam satu jam atau bahkan setengah jam. Kami memastikan untuk mempercepat pemrosesan dan mengoptimalkan semua alur kerja untuk mengurangi gesekan.

Lalu ada kebutuhan untuk mencegah halusinasi. Chatbot rentan terhadap halusinasi yang memutarbelitkan hasil dan merusak keandalan. Kami telah bekerja keras untuk menghindari hal tersebut sambil tetap mempertahankan hasil dinamis.

Bagaimana Anda menangani masalah terkait keamanan dan privasi data?

Itu adalah pertanyaan yang sangat baik, karena keamanan dan privasi data adalah hambatan terbesar untuk analitik GenAI yang sukses. Semua orang sangat peduli dengan gagasan untuk mengekspos data perusahaan yang sangat sensitif ke mesin AI pihak ketiga, tetapi mereka juga ingin kemampuan interpretasi bahasa dan wawasan data yang dapat disampaikan oleh mesin-mesin ini.

Itulah mengapa kami tidak pernah berbagi data sebenarnya dengan LLM yang kami kerjakan. Pyramid membalik premis seluruhnya dengan bertindak sebagai perantara antara informasi perusahaan Anda dan LLM. Kami memungkinkan Anda untuk mengajukan permintaan, dan kemudian kami menyerahkan permintaan tersebut kepada LLM bersama dengan deskripsi dari apa yang kami sebut “bahan”, yang pada dasarnya hanya metadata.

LLM kemudian mengembalikan “resep”, yang menjelaskan bagaimana mengubah pertanyaan pengguna menjadi prompt analitik data. Kemudian Pyramid menjalankan resep tersebut pada data yang telah Anda hubungkan secara aman di instalasi self-hosted Anda, sehingga tidak ada data yang pernah mencapai LLM. Kami menggabungkan hasilnya untuk mengembalikannya kepada Anda dalam format yang mudah dipahami, visual. Pada dasarnya, tidak ada yang dapat mengompromikan keamanan dan privasi Anda yang terpapar atau meninggalkan keamanan firewall organisasi Anda.

Untuk organisasi yang ingin mengintegrasikan GenBI ke dalam infrastruktur data yang ada, apa yang proses implementasinya seperti? Apakah ada prasyarat atau persiapan yang diperlukan?

Proses implementasi untuk Pyramid Analytics tidak bisa lebih mudah atau lebih cepat. Pengguna memerlukan sangat sedikit prasyarat dan persiapan, dan Anda dapat mengatur semuanya dalam waktu kurang dari satu jam. Anda tidak perlu memindahkan data ke kerangka baru atau mengubah apa pun tentang strategi data Anda, karena Pyramid mengkueri data Anda langsung di mana data tersebut berada.

Tidak ada kebutuhan untuk menjelaskan data Anda kepada solusi, atau untuk mendefinisikan kolom. Ini sama sederhana dengan mengunggah dataset CSV atau menghubungkan database SQL Anda. Hal yang sama berlaku untuk database relasional apa pun. Ini hanya membutuhkan beberapa menit untuk menghubungkan data Anda, dan kemudian Anda dapat mengajukan pertanyaan pertama Anda beberapa detik kemudian.

Namun, Anda dapat menyesuaikan struktur jika Anda ingin, seperti mengubah model penggabungan atau mendefinisikan ulang kolom. Ini membutuhkan beberapa waktu dan upaya, tetapi kami berbicara tentang menit, bukan proyek pengembangan yang berlangsung berbulan-bulan. Pelanggan kami sering terkejut bahwa Pyramid sudah berjalan di gudang data atau danau data klasik mereka dalam waktu lima menit atau lebih.

Anda juga tidak perlu menghasilkan pertanyaan yang sangat spesifik, akurat, atau bahkan cerdas untuk mendapatkan hasil yang kuat. Anda dapat membuat kesalahan ejaan dan menggunakan frasa yang tidak tepat, dan Pyramid akan menguraikannya dan menghasilkan jawaban yang bermakna dan berharga. Apa yang Anda butuhkan adalah pengetahuan tentang data yang Anda tanyakan.

Menghadap ke depan, apa yang menjadi visi strategis Anda untuk Pyramid Analytics dalam lima tahun ke depan? Bagaimana Anda melihat solusi Anda berkembang untuk memenuhi permintaan pasar yang berubah?

Batasan besar berikutnya adalah mendukung kueri yang sangat spesifik dan dapat diskalakan. Pengguna ingin dapat mengajukan pertanyaan yang sangat presisi, seperti pertanyaan tentang entitas yang dipersonalisasi, dan LLM tidak dapat menghasilkan jawaban yang cerdas dalam kasus-kasus ini, karena mereka tidak memiliki wawasan yang cukup tentang spesifik database Anda.

Kami menghadapi tantangan bagaimana menggunakan model bahasa untuk mengajukan pertanyaan tentang spesifik data tanpa langsung menghubungkan seluruh danau data besar Anda ke LLM. Bagaimana Anda dapat menyesuaikan LLM Anda tentang data yang dihidrasi kembali setiap dua detik? Kami dapat mengelola ini untuk titik tetap seperti negara, lokasi, dan bahkan tanggal, tetapi tidak untuk sesuatu yang unik seperti nama, meskipun kami sangat dekat dengan itu hari ini.

Tantangan lain adalah untuk pengguna dapat mengajukan interpretasi matematika mereka sendiri dari data, menerapkan rumus mereka sendiri. Ini sulit bukan karena rumus itu sulit untuk diwujudkan, tetapi karena memahami apa yang diinginkan pengguna dan mendapatkan sintaks yang benar adalah tantangan. Kami bekerja untuk menyelesaikan kedua tantangan ini, dan ketika kami melakukannya, kami akan melewati titik eureka berikutnya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Pyramid Analytics.