Dr. Mike Flaxman, Wakil Presiden Produk di HEAVY.AI – Seri Wawancara

Dr. Mike Flaxman saat ini menjabat sebagai Wakil Presiden Produk di HEAVY.AI, setelah sebelumnya menjabat sebagai Manajer Produk dan memimpin praktik Ilmu Data Spasial di Layanan Profesional. Ia telah menghabiskan 20 tahun terakhir bekerja di perencanaan lingkungan spasial. Sebelum bergabung dengan HEAVY.AI, ia mendirikan Geodesign Technologies, Inc dan menjadi co-pendiri GeoAdaptive LLC, dua startup yang menerapkan teknologi analisis spasial untuk perencanaan. Sebelum bergabung dengan dunia startup, ia adalah profesor perencanaan di MIT dan Manajer Industri di ESRI.

HEAVY.AI adalah platform yang dipercepat perangkat keras untuk analitik data waktu nyata, dampak tinggi. Ini menggunakan pemrosesan GPU dan CPU untuk mengquery dataset besar dengan cepat, dengan dukungan untuk SQL dan data geospasial. Platform ini termasuk alat analitik visual untuk dashboard interaktif, penyaringan silang, dan visualisasi data yang dapat diskalakan, memungkinkan analisis data besar yang efisien di berbagai industri.

Apakah Anda bisa menceritakan tentang latar belakang profesional Anda dan apa yang membuat Anda bergabung dengan HEAVY.AI?

Sebelum bergabung dengan HEAVY.AI, saya menghabiskan waktu di dunia akademis, mengajar analitik spasial di MIT. Saya juga menjalankan sebuah perusahaan konsultan kecil, dengan berbagai klien sektor publik. Saya telah terlibat dalam proyek-proyek GIS di 17 negara. Pekerjaan saya telah membawa saya dari memberikan saran kepada organisasi seperti Bank Pembangunan Inter-Amerika hingga mengelola teknologi GIS untuk arsitektur, teknik, dan konstruksi di ESRI, pengembang GIS terbesar di dunia

Saya ingat dengan jelas pertemuan pertama saya dengan apa yang sekarang disebut HEAVY.AI, yaitu ketika sebagai konsultan saya bertanggung jawab untuk perencanaan skenario untuk Program Konservasi Habitat Pantai Florida. Rekan-rekan saya dan saya kesulitan memodelkan habitat penyu laut menggunakan data Landsat 30m dan seorang teman menunjukkan saya beberapa data baru yang sangat relevan – data LiDAR 5cm. Ini adalah apa yang kita butuhkan secara ilmiah, tetapi sesuatu seperti 3600 kali lebih besar dari yang kita rencanakan untuk digunakan. Tidak ada yang akan meningkatkan anggaran saya bahkan dengan sebagian kecil dari itu. Jadi hari itu saya meletakkan alat-alat yang saya gunakan dan mengajar selama beberapa dekade dan mencari sesuatu yang baru. HEAVY.AI memotong dan merender data tersebut dengan sangat lancar dan tanpa usaha sehingga saya langsung terkesan.

Beberapa tahun kemudian, saya masih berpikir bahwa apa yang dilakukan HEAVY.AI cukup unik dan taruhan awal mereka pada analitik-GPU tepat di mana industri masih membutuhkannya. HEAVY.AI sangat fokus pada mendemokratisasikan akses ke data besar. Ini memiliki komponen volume data dan kecepatan pemrosesan, yang pada dasarnya memberikan setiap orang superkomputer mereka sendiri. Tetapi aspek yang semakin penting dengan munculnya model bahasa besar adalah membuat pemodelan spasial dapat diakses oleh lebih banyak orang. Sekarang, bukan menghabiskan waktu bertahun-tahun untuk belajar antarmuka yang kompleks dengan ribuan alat, Anda bisa hanya memulai percakapan dengan HEAVY.AI dalam bahasa manusia pilihan Anda. Program tidak hanya menghasilkan perintah yang diperlukan, tetapi juga menyajikan visualisasi yang relevan.

Di balik layar, menghadirkan kemudahan penggunaan tentu sangat sulit. Saat ini, sebagai Wakil Presiden Manajemen Produk di HEAVY.AI, saya sangat terlibat dalam menentukan fitur dan kemampuan apa yang kita prioritaskan untuk produk kita. Latar belakang saya yang luas di GIS memungkinkan saya untuk benar-benar memahami kebutuhan pelanggan kita dan memandu jalan pengembangan kita sesuai dengan itu.

Bagaimana pengalaman Anda sebelumnya dalam perencanaan lingkungan spasial dan startup mempengaruhi pekerjaan Anda di HEAVY.AI?

Perencanaan lingkungan adalah domain yang sangat menantang karena Anda perlu mempertimbangkan kebutuhan manusia yang berbeda dan dunia alam. Solusi umum yang saya pelajari dari awal adalah dengan menggabungkan metode yang dikenal sebagai perencanaan partisipatif, dengan teknologi penginderaan jauh dan GIS. Sebelum menetapkan rencana tindakan, kita akan membuat beberapa skenario dan mensimulasikan dampak positif dan negatifnya di komputer menggunakan visualisasi. Menggunakan proses partisipatif memungkinkan kita untuk menggabungkan berbagai bentuk keahlian dan memecahkan masalah yang sangat kompleks.

Meskipun kita tidak biasanya melakukan perencanaan lingkungan di HEAVY.AI, pola ini masih bekerja sangat baik dalam pengaturan bisnis. Jadi kita membantu pelanggan membangun kembar digital dari bagian-bagian kunci bisnis mereka, dan kita membiarkan mereka membuat dan mengevaluasi skenario bisnis dengan cepat.

Saya rasa pengalaman mengajar saya telah memberi saya empati yang mendalam untuk pengguna perangkat lunak, terutama perangkat lunak sistem yang kompleks. Di mana satu siswa terjatuh di satu tempat adalah acak, tetapi di mana puluhan atau ratusan orang membuat kesalahan serupa, Anda tahu Anda memiliki masalah desain. Mungkin bagian favorit saya dari desain perangkat lunak adalah mengambil pembelajaran ini dan menerapkannya dalam merancang generasi sistem baru.

Apakah Anda bisa menjelaskan bagaimana HeavyIQ menggunakan pemrosesan bahasa alami untuk memfasilitasi eksplorasi dan visualisasi data?

Hari ini tampaknya setiap orang dan saudaranya mempromosikan model AI generasi baru, sebagian besar dari mereka adalah klon yang tidak terlupakan dari yang lain. Kami telah mengambil jalur yang sangat berbeda. Kami percaya bahwa akurasi, reproducibility, dan privasi adalah karakteristik yang penting untuk alat analitik bisnis, termasuk yang dihasilkan dengan model bahasa besar (LLM). Jadi kami telah membangun ini ke dalam penawaran kami pada tingkat fundamental. Misalnya, kami membatasi input model secara ketat ke database perusahaan dan menyediakan dokumen di dalam perimeter keamanan perusahaan. Kami juga membatasi output ke HeavySQL dan Charts terbaru. Artinya, apa pun pertanyaan yang Anda ajukan, kami akan mencoba menjawabnya dengan data Anda, dan kami akan menunjukkan kepada Anda bagaimana kami mendapatkan jawaban itu.

Dengan jaminan tersebut, tidak terlalu penting bagi pelanggan kami bagaimana kami memproses kueri. Tetapi di balik layar, perbedaan lain yang signifikan relatif terhadap AI konsumen adalah bahwa kami melakukan pemutakhiran model secara ekstensif terhadap jenis pertanyaan yang diajukan pengguna bisnis terhadap data bisnis, termasuk data spasial. Jadi, misalnya, model kami sangat baik dalam melakukan join spasial dan waktu seri, yang tidak ada dalam benchmark SQL klasik tetapi pengguna kami gunakan setiap hari.

Kami mengemas kemampuan inti ini ke dalam antarmuka Notebook yang kami sebut HeavyIQ. IQ adalah tentang membuat eksplorasi data dan visualisasi menjadi sangat intuitif dengan menggunakan pemrosesan bahasa alami (NLP). Anda mengajukan pertanyaan dalam bahasa Inggris – seperti, “Apa pola cuaca di California minggu lalu?” – dan HeavyIQ menerjemahkan itu menjadi kueri SQL yang database kami yang dipercepat GPU proses dengan cepat. Hasilnya disajikan tidak hanya sebagai data tetapi juga sebagai visualisasi – peta, grafik, apa pun yang paling relevan. Ini tentang memungkinkan kueri interaktif yang cepat, terutama ketika menangani dataset besar atau bergerak cepat. Apa yang penting di sini adalah bahwa ini sering tidak pertanyaan pertama yang Anda ajukan, tetapi mungkin pertanyaan ketiga, yang benar-benar mendapatkan wawasan inti, dan HeavyIQ dirancang untuk memfasilitasi eksplorasi yang lebih dalam.

Apa manfaat utama menggunakan HeavyIQ dibandingkan dengan alat BI tradisional untuk operator telekomunikasi, utilitas, dan lembaga pemerintah?

HeavyIQ unggul dalam lingkungan di mana Anda menangani data skala besar, kecepatan tinggi – tepat jenis data yang ditangani oleh operator telekomunikasi, utilitas, dan lembaga pemerintah. Alat intelijen bisnis tradisional sering kesulitan dengan volume dan kecepatan data ini. Misalnya, dalam telekomunikasi, Anda mungkin memiliki miliaran catatan panggilan, tetapi itu adalah sebagian kecil panggilan yang gagal yang perlu Anda fokuskan. HeavyIQ memungkinkan Anda untuk menyaring data tersebut 10 hingga 100 kali lebih cepat berkat infrastruktur GPU kami. Kecepatan ini, dikombinasikan dengan kemampuan untuk mengquery dan memvisualisasikan data secara interaktif, membuatnya sangat berharga untuk analitik risiko dalam utilitas atau perencanaan skenario waktu nyata untuk lembaga pemerintah.

Keuntungan lain yang sudah disebutkan di atas adalah bahwa kueri SQL spasial dan temporal sangat kuat secara analitis – tetapi dapat lambat atau sulit untuk ditulis dengan tangan. Ketika sistem beroperasi pada apa yang kami sebut “kecepatan rasa ingin tahu” pengguna dapat mengajukan lebih banyak pertanyaan dan pertanyaan yang lebih nuansa. Jadi, misalnya, insinyur telekomunikasi mungkin memperhatikan lonjakan temporal dalam kegagalan peralatan dari sistem pemantauan, memiliki intuisi bahwa sesuatu salah di fasilitas tertentu, dan memeriksa ini dengan kueri spasial yang mengembalikan peta.

Apa langkah-langkah yang diambil untuk mencegah kebocoran metadata saat menggunakan HeavyIQ?

Sebagaimana dijelaskan di atas, kami telah membangun HeavyIQ dengan privasi dan keamanan sebagai intinya. Ini termasuk tidak hanya data tetapi juga beberapa jenis metadata. Kami menggunakan metadata tingkat kolom dan tabel secara luas dalam menentukan tabel dan kolom mana yang berisi informasi yang diperlukan untuk menjawab kueri. Kami juga menggunakan dokumen perusahaan internal jika disediakan untuk membantu dalam apa yang dikenal sebagai generasi yang ditingkatkan dengan pengambilan (RAG). Terakhir, model bahasa itu sendiri menghasilkan metadata lebih lanjut. Semua ini, tetapi terutama yang terakhir, dapat sangat sensitif secara bisnis.

Tidak seperti model pihak ketiga di mana data Anda biasanya dikirim ke server eksternal, HeavyIQ berjalan secara lokal di infrastruktur GPU yang sama dengan platform kami. Ini memastikan bahwa data dan metadata Anda tetap berada di bawah kendali Anda, tanpa risiko kebocoran. Untuk organisasi yang memerlukan tingkat keamanan tertinggi, HeavyIQ bahkan dapat diterapkan dalam lingkungan yang sepenuhnya terisolasi, memastikan bahwa informasi sensitif tidak pernah meninggalkan peralatan tertentu.

Bagaimana HEAVY.AI mencapai kinerja tinggi dan skalabilitas dengan dataset besar menggunakan infrastruktur GPU?

Rahasia sausnya sebenarnya adalah menghindari pergerakan data yang ada di sistem lain. Di intinya, ini dimulai dengan database yang dirancang khusus untuk berjalan di GPU NVIDIA. Kami telah mengerjakan ini selama lebih dari 10 tahun sekarang, dan kami benar-benar percaya bahwa kami memiliki solusi kelas terbaik ketika datang ke analitik yang dipercepat GPU.

Even sistem CPU terbaik akan kehabisan uap jauh sebelum GPU yang biasa-biasa saja. Strategi setelah ini terjadi pada CPU memerlukan mendistribusikan data di seluruh inti dan kemudian di seluruh sistem (skala horizontal). Ini bekerja dengan baik dalam beberapa konteks di mana hal-hal kurang kritis waktu, tetapi umumnya mulai terjebak pada kinerja jaringan.

Di samping menghindari pergerakan data ini pada kueri, kami juga menghindarinya pada banyak tugas umum lainnya. Yang pertama adalah bahwa kami dapat merender grafik tanpa memindahkan data. Kemudian jika Anda ingin melakukan pemodelan inferensi ML, kami melakukannya tanpa memindahkan data. Dan jika Anda menanyakan data dengan model bahasa besar, kami melakukannya tanpa memindahkan data. Bahkan jika Anda adalah ilmuwan data dan ingin menanyakan data dari Python, kami menyediakan metode untuk melakukannya di GPU tanpa memindahkan data.

Apa yang itu berarti dalam prakteknya adalah bahwa kami dapat melakukan tidak hanya kueri tetapi juga rendering 10 hingga 100 kali lebih cepat daripada database CPU tradisional dan server peta. Ketika Anda menangani dataset besar dan berkecepatan tinggi yang pelanggan kami kerjakan – seperti model cuaca, catatan panggilan telekomunikasi, atau citra satelit – peningkatan kinerja seperti itu absolut penting.

Bagaimana HEAVY.AI mempertahankan keunggulan kompetitifnya dalam lanskap analitik data besar dan AI yang berkembang pesat?

Itu adalah pertanyaan yang sangat baik, dan itu adalah sesuatu yang kami pikirkan terus-menerus. Lanskap analitik data besar dan AI berkembang dengan kecepatan yang luar biasa, dengan terobosan dan inovasi baru terjadi sepanjang waktu. Ini tentu tidak merugikan bahwa kami memiliki keunggulan 10 tahun dalam teknologi database GPU. .

Saya pikir kunci untuk kami adalah untuk tetap fokus pada misi inti kami – mendemokratisasikan akses ke data besar, geospasial. Ini berarti terus mendorong batas apa yang mungkin dilakukan dengan analitik yang dipercepat GPU, dan memastikan produk kami memberikan kinerja dan kemampuan yang tak tertandingi dalam domain ini. Bagian besar dari itu adalah investasi kami yang berkelanjutan dalam mengembangkan model bahasa khusus yang benar-benar memahami nuansa SQL spasial dan analisis geospasial.

Kami telah membangun perpustakaan data pelatihan yang luas, melampaui benchmark generik, untuk memastikan alat analitik konversasional kami dapat berinteraksi dengan pengguna dengan cara yang alami dan intuitif. Tetapi kami juga tahu bahwa teknologi saja tidak cukup. Kami harus tetap terhubung dengan pelanggan kami dan kebutuhan mereka yang berkembang. Di akhir hari, keunggulan kompetitif kami datang dari fokus kami yang tak henti-hentinya untuk memberikan nilai transformasional kepada pengguna kami. Kami tidak hanya mengikuti pasar – kami mendorong batas apa yang mungkin dilakukan dengan data besar dan AI. Dan kami akan terus melakukannya, tidak peduli seberapa cepat lanskap berkembang.

Bagaimana HEAVY.AI mendukung upaya respons darurat melalui HeavyEco?

Kami membangun HeavyEco ketika kami melihat beberapa pelanggan utilitas terbesar kami mengalami tantangan signifikan dalam mengonsumsi output model cuaca hari ini, serta memvisualisasikannya untuk perbandingan bersama. Ini membutuhkan waktu hingga empat jam bagi satu pelanggan untuk memuat data, dan ketika Anda berhadapan dengan cuaca ekstrem yang bergerak cepat seperti kebakaran… itu tidak cukup baik.

HeavyEco dirancang untuk memberikan wawasan waktu nyata dalam situasi konsekuensi tinggi, seperti selama kebakaran atau banjir. Dalam skenario seperti itu, Anda perlu membuat keputusan dengan cepat dan berdasarkan data terbaik. Jadi HeavyEco pertama-tama berfungsi sebagai pipa data yang dikelola secara profesional untuk model otoritatif seperti yang dari NOAA dan USGS. Di atas itu, HeavyEco memungkinkan Anda untuk menjalankan skenario, membangun dampak bangunan, dan memvisualisasikan data secara waktu nyata. Ini memberikan petugas respons pertama informasi kritis yang mereka butuhkan saat itu. Ini tentang mengubah dataset besar dan kompleks menjadi intelijen tindakan yang dapat memandu pengambilan keputusan segera.

Akhirnya, tujuan kami adalah memberi pengguna kami kemampuan untuk mengeksplorasi data mereka dengan kecepatan pikiran. Apakah mereka menjalankan model spasial yang kompleks, membandingkan prakiraan cuaca, atau mencoba mengidentifikasi pola dalam seri waktu geospasial, kami ingin mereka dapat melakukannya dengan lancar, tanpa hambatan teknis yang menghalangi jalan mereka.

Apa yang membedakan LLM proprietary HEAVY.AI dari LLM pihak ketiga lainnya dalam hal akurasi dan kinerja?

LLM proprietary kami secara khusus disesuaikan untuk jenis analitik yang kami fokuskan – seperti teks-ke-SQL dan teks-ke-visualisasi. Kami awalnya mencoba model pihak ketiga tradisional, tetapi menemukan bahwa mereka tidak memenuhi persyaratan akurasi tinggi pengguna kami, yang sering membuat keputusan kritis. Jadi, kami melakukan pemutakhiran model sumber terbuka dan mengujinya terhadap benchmark industri.

LLM kami jauh lebih akurat untuk konsep SQL lanjutan yang pengguna kami butuhkan, terutama dalam data geospasial dan temporal. Selain itu, karena berjalan di infrastruktur GPU kami, itu juga lebih aman.

Di samping kemampuan model bawaan, kami juga menyediakan antarmuka pengguna interaktif penuh untuk administrator dan pengguna untuk menambahkan metadata yang relevan dengan domain atau bisnis. Misalnya, jika model dasar tidak berfungsi seperti yang diharapkan, Anda dapat mengimpor atau menyesuaikan metadata tingkat kolom, atau menambahkan informasi panduan dan langsung mendapatkan umpan balik.

Bagaimana HEAVY.AI memandang peran analitik data geospasial dan temporal dalam membentuk masa depan berbagai industri?

Kami percaya bahwa analitik data geospasial dan temporal akan sangat kritis untuk masa depan banyak industri. Apa yang kami fokuskan adalah membantu pelanggan kami membuat keputusan yang lebih baik, lebih cepat. Apakah Anda berada di telekomunikasi, utilitas, atau pemerintah, atau lainnya – memiliki kemampuan untuk menganalisis dan memvisualisasikan data secara waktu nyata dapat menjadi perubahan permainan.

Misi kami adalah membuat analitik yang kuat ini dapat diakses oleh semua orang, bukan hanya pemain besar dengan sumber daya besar. Kami ingin memastikan bahwa pelanggan kami dapat memanfaatkan data yang mereka miliki, untuk tetap di depan dan memecahkan masalah saat mereka muncul. Ketika data terus tumbuh dan menjadi lebih kompleks, kami melihat peran kami sebagai memastikan alat kami berkembang seiring dengan itu, sehingga pelanggan kami selalu siap untuk apa yang akan datang.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi HEAVY.AI.