Frank Liu, Direktur Operasional di Zilliz – Seri Wawancara

Frank Liu adalah Direktur Operasional di Zilliz, penyedia terkemuka basis data vektor dan teknologi AI. Mereka juga merupakan insinyur dan ilmuwan yang menciptakan LF AI Milvus®, basis data vektor sumber terbuka paling populer di dunia.

Apa yang awalnya menarik Anda ke mesin pembelajaran?

Pertama kali saya terkena kekuatan ML/AI adalah sebagai mahasiswa sarjana di Stanford, meskipun itu sedikit jauh dari jurusan saya (Teknik Elektro). Saya awalnya tertarik dengan EE sebagai bidang karena kemampuan untuk menyederhanakan sistem listrik dan fisik yang kompleks menjadi aproksimasi matematika terasa sangat kuat bagi saya, dan statistik serta mesin pembelajaran terasa sama. Saya akhirnya mengambil lebih banyak kelas penglihatan komputer dan mesin pembelajaran selama sekolah pascasarjana, dan saya akhirnya menulis tesis master saya tentang menggunakan ML untuk mengukur keindahan estetika gambar. Semua ini membawa saya ke pekerjaan pertama saya di tim Penglihatan Komputer & Mesin Pembelajaran di Yahoo, di mana saya berada dalam peran penelitian dan pengembangan perangkat lunak hibrida. Kami masih berada di era pra-transformer AlexNet & VGG hari-hari itu, dan melihat seluruh bidang dan industri bergerak sangat cepat, dari persiapan data ke pelatihan model paralel besar ke produksi model, telah luar biasa. Dalam banyak cara, terasa sedikit konyol menggunakan frasa “hari-hari itu” untuk merujuk pada sesuatu yang terjadi kurang dari 10 tahun yang lalu, tetapi begitulah kemajuan yang telah dibuat dalam bidang ini.

Setelah Yahoo, saya menjabat sebagai CTO dari sebuah perusahaan rintisan yang saya dirikan, di mana kami menggunakan ML untuk lokalasi indoor. Di sana, kami harus mengoptimalkan model berurutan untuk mikrokontroler kecil – tantangan rekayasa yang berbeda tetapi terkait dengan LLM dan model difusi besar hari ini. Kami juga membangun perangkat keras, dasbor untuk visualisasi, dan aplikasi cloud-asli sederhana, tetapi AI/ML selalu menjadi komponen inti dari pekerjaan yang kami lakukan.

Meskipun saya telah berada di atau berdekatan dengan ML selama 7 atau 8 tahun sekarang, saya masih mempertahankan banyak cinta untuk desain sirkuit dan desain logika digital. Memiliki latar belakang di Teknik Elektro sangat membantu dalam banyak pekerjaan yang saya lakukan hari ini sebagai Direktur Operasional. Konsep-konsep penting dalam desain digital seperti memori virtual, prediksi cabang, dan eksekusi paralel dalam HDL membantu memberikan pandangan penuh pada banyak ML dan sistem terdistribusi hari ini. Saya berharap melihat kebangkitan kembali dalam bidang teknik tradisional – EE, MechE, ChemE, dll – dalam beberapa tahun ke depan.

Bagi pembaca yang tidak familiar dengan istilah tersebut, apa itu data tak terstruktur?

Data tak terstruktur merujuk pada “data kompleks”, yang pada dasarnya adalah data yang tidak dapat disimpan dalam format pra-definisi atau sesuai dengan model data yang ada. Sebagai perbandingan, data terstruktur merujuk pada jenis data yang memiliki struktur pra-definisi – data numerik, string, tabel, objek, dan penyimpanan kunci/nilai adalah contoh-contoh data terstruktur.

Untuk membantu memahami apa itu data tak terstruktur dan mengapa tradisionalnya sulit diproses secara komputasi, membantu membandingkannya dengan data terstruktur. Dalam istilah sederhana, data terstruktur tradisional dapat disimpan melalui model relasional. Ambil, misalnya, basis data relasional dengan tabel untuk menyimpan informasi buku: setiap baris dalam tabel dapat mewakili buku tertentu yang diindeks oleh nomor ISBN, sedangkan kolom akan menunjukkan kategori informasi yang sesuai, seperti judul, penulis, tanggal terbit, dan seterusnya. Saat ini, ada model data yang lebih fleksibel – penyimpanan kolom lebar, basis data objek, basis data grafik, dan seterusnya. Tetapi ide utama tetap sama: basis data ini dimaksudkan untuk menyimpan data yang sesuai dengan model data tertentu.

Data tak terstruktur, di sisi lain, dapat dianggap sebagai sekumpulan data biner pseudo-acak. Ini dapat mewakili apa saja, memiliki ukuran yang sewenang-wenang atau kecil, dan dapat diubah dan dibaca dalam salah satu dari banyak cara yang tak terhitung. Ini membuatnya mustahil untuk sesuai dengan model data apa pun, apalagi tabel dalam basis data relasional.

Apa contoh-contoh dari jenis data ini?

Data yang dihasilkan manusia – gambar, video, audio, bahasa alami, dll – adalah contoh-contoh data tak terstruktur. Tetapi ada contoh-contoh data tak terstruktur yang kurang biasa. Profil pengguna, struktur protein, urutan genom, dan bahkan kode yang dapat dibaca manusia adalah contoh-contoh data tak terstruktur. Alasan utama bahwa data tak terstruktur tradisionalnya sangat sulit dikelola adalah bahwa data tak terstruktur dapat memiliki bentuk apa saja dan dapat memerlukan waktu proses yang sangat berbeda.

Menggunakan gambar sebagai contoh, dua foto dari adegan yang sama dapat memiliki nilai piksel yang sangat berbeda, tetapi keduanya memiliki konten keseluruhan yang sama. Bahasa alami adalah contoh lain dari data tak terstruktur yang saya suka sebutkan. Frasa “Teknik Elektro” dan “Ilmu Komputer” sangat terkait – sehingga bangunan EE dan CS di Stanford berdekatan – tetapi tanpa cara untuk mengkodekan makna semantik di balik frasa-frasa ini, komputer mungkin secara naif berpikir bahwa “Ilmu Komputer” dan “Ilmu Sosial” lebih terkait.

Apa itu basis data vektor?

Untuk memahami basis data vektor, pertama-tama membantu memahami apa itu penyematan. Saya akan membahasnya sejenak, tetapi versi singkatnya adalah bahwa penyematan adalah vektor tinggi dimensi yang dapat mewakili semantik data tak terstruktur. Secara umum, dua penyematan yang dekat satu sama lain dalam hal jarak sangat mungkin sesuai dengan data input semantik yang sama. Dengan ML modern, kita memiliki kekuatan untuk mengkodekan dan mengubah berbagai jenis data tak terstruktur – gambar dan teks, misalnya – menjadi vektor penyematan yang kuat secara semantik.

Dari perspektif organisasi, data tak terstruktur menjadi sangat sulit dikelola sekali jumlahnya melebihi batas tertentu. Ini adalah tempat di mana basis data vektor seperti Zilliz Cloud masuk. Basis data vektor dirancang khusus untuk menyimpan, mengindeks, dan mencari melintasi kuantitas besar data tak terstruktur dengan menggunakan penyematan sebagai representasi dasar. Pencarian melintasi basis data vektor biasanya dilakukan dengan vektor kueri, dan hasil kueri adalah N hasil paling mirip berdasarkan jarak.

Basis data vektor terbaik memiliki banyak fitur kegunaan dari basis data relasional tradisional: penskalaan horizontal, caching, replikasi, failover, dan eksekusi kueri hanya beberapa fitur yang harus diimplementasikan oleh basis data vektor yang sebenarnya. Sebagai pendefinisi kategori, kami telah aktif dalam lingkaran akademis juga, dengan menerbitkan makalah di SIGMOD 2021 dan VLDB 2022, dua konferensi basis data teratas saat ini.

Apakah Anda bisa membahas apa itu penyematan?

Secara umum, penyematan adalah vektor tinggi dimensi yang berasal dari aktivasi lapisan menengah dalam jaringan saraf multilapis. Banyak jaringan saraf dilatih untuk mengeluarkan penyematan itu sendiri dan beberapa aplikasi menggunakan vektor yang dikonkatkan dari beberapa lapisan menengah sebagai penyematan, tetapi saya tidak akan membahasnya secara mendalam sekarang. Cara lain yang kurang umum tetapi sama pentingnya untuk menghasilkan penyematan adalah melalui fitur yang dibuat tangan. Daripada memiliki model ML yang secara otomatis belajar representasi yang tepat untuk data input, rekayasa fitur yang baik dapat bekerja untuk banyak aplikasi juga. Terlepas dari metode dasar, penyematan untuk objek semantik yang sama dekat satu sama lain dalam hal jarak, dan properti ini adalah yang memungkinkan basis data vektor.

Apa contoh-contoh kasus penggunaan teknologi ini?

Basis data vektor sangat baik untuk aplikasi apa pun yang memerlukan beberapa bentuk pencarian semantik – rekomendasi produk, analisis video, pencarian dokumen, deteksi ancaman & penipuan, dan chatbot yang ditenagai AI adalah beberapa contoh kasus penggunaan paling populer untuk basis data vektor saat ini. Untuk mengilustrasikan ini, Milvus, basis data vektor sumber terbuka yang dibuat oleh Zilliz dan inti dari Zilliz Cloud, telah digunakan oleh lebih dari seribu pengguna perusahaan di berbagai kasus penggunaan.

Saya selalu senang membahas aplikasi-aplikasi ini dan membantu orang-orang memahami bagaimana mereka bekerja, tetapi saya juga sangat menikmati membahas beberapa kasus penggunaan basis data vektor yang kurang dikenal. Penemuan obat baru adalah salah satu kasus penggunaan “nis” basis data vektor favorit saya. Tantangan untuk aplikasi ini adalah mencari kandidat obat potensial untuk mengobati penyakit atau gejala tertentu di antara basis data 800 juta senyawa. Perusahaan farmasi yang kami komunikasikan dapat secara signifikan meningkatkan proses penemuan obat serta mengurangi sumber daya perangkat keras dengan menggabungkan Milvus dengan perpustakaan kimia yang disebut RDKit.

Cleveland Museum of Art’s (CMA) AI ArtLens adalah contoh lain yang saya suka sebutkan. AI ArtLens adalah alat interaktif yang mengambil gambar kueri sebagai input dan menarik gambar-gambar yang secara visual mirip dari basis data museum. Ini biasanya disebut sebagai pencarian gambar terbalik dan adalah kasus penggunaan yang cukup umum untuk basis data vektor, tetapi nilai unik yang Milvus berikan kepada CMA adalah kemampuan untuk mendapatkan aplikasi berjalan dalam waktu satu minggu dengan tim yang sangat kecil.

Apakah Anda bisa membahas apa itu platform sumber terbuka Towhee?

Ketika berkomunikasi dengan orang-orang dari komunitas Milvus, kami menemukan bahwa banyak dari mereka ingin memiliki cara yang seragam untuk menghasilkan penyematan untuk Milvus. Ini benar untuk hampir semua organisasi yang kami bicarakan, tetapi terutama untuk perusahaan yang tidak memiliki banyak insinyur ML. Dengan Towhee, kami bertujuan untuk memecahkan kesenjangan ini melalui apa yang kami sebut “ETL data vektor.” Sementara pipa ETL tradisional fokus pada menggabungkan dan mengubah data terstruktur dari berbagai sumber menjadi format yang dapat digunakan, Towhee dimaksudkan untuk bekerja dengan data tak terstruktur dan secara eksplisit termasuk ML dalam pipa ETL yang dihasilkan. Towhee mencapai ini dengan menyediakan ratusan model, algoritma, dan transformasi yang dapat digunakan sebagai blok bangunan dalam pipa ETL data vektor. Di atas ini, Towhee juga menyediakan API Python yang mudah digunakan yang memungkinkan pengembang membangun dan menguji pipa ETL ini dalam satu baris kode.

Meskipun Towhee adalah proyek independen, ini juga merupakan bagian dari ekosistem basis data vektor yang lebih luas yang Zilliz ciptakan di sekitar Milvus. Kami membayangkan Milvus dan Towhee sebagai dua proyek yang sangat komplementer yang, ketika digunakan bersama, dapat benar-benar mendemokratisasi pengolahan data tak terstruktur.

Zilliz baru-baru ini mengumpulkan dana $60M dalam putaran Series B. Bagaimana ini akan mempercepat misi Zilliz?

Saya ingin mengucapkan terima kasih kepada Prosperity7 Ventures, Pavilion Capital, Hillhouse Capital, 5Y Capital, Yunqi Capital, dan lain-lain karena percaya pada misi Zilliz dan mendukung kami dengan ekstensi Series B ini. Kami sekarang telah mengumpulkan total $113M, dan putaran pendanaan terbaru ini akan mendukung upaya kami untuk memperluas tim rekayasa dan pemasaran. Secara khusus, kami akan memperbaiki penawaran cloud yang dikelola, yang saat ini dalam akses awal tetapi dijadwalkan untuk dibuka untuk semua orang akhir tahun ini. Kami juga akan terus berinvestasi dalam penelitian basis data & AI terdepan seperti yang kami lakukan selama 4 tahun terakhir.

Apakah ada yang lain yang ingin Anda bagikan tentang Zilliz?

Sebagai perusahaan, kami tumbuh dengan cepat, tetapi apa yang benar-benar membedakan tim kami saat ini dari yang lain di ruang basis data dan ML adalah kesungguhan kami yang unik untuk apa yang kami bangun. Kami berada dalam misi untuk mendemokratisasi pengolahan data tak terstruktur, dan sangat luar biasa melihat banyak talenta di Zilliz bekerja menuju tujuan tunggal. Jika apa yang kami lakukan terdengar menarik bagi Anda, jangan ragu untuk menghubungi kami. Kami akan senang memiliki Anda di tim kami.

Jika Anda ingin tahu sedikit lebih, saya juga secara pribadi terbuka untuk berbicara tentang Zilliz, basis data vektor, atau kemajuan terkait penyematan dalam AI/ML. Pintu (figuratif) saya selalu terbuka, jadi jangan ragu untuk menghubungi saya secara langsung di Twitter/LinkedIn.

Terakhir, terima kasih telah membaca!

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Zilliz.