Dr. Ram Sriharsha, Wakil Presiden Teknik di Pinecone – Seri Wawancara

Dr. Ram Sriharsha, adalah Wakil Presiden Teknik dan R&D di Pinecone.

Sebelum bergabung dengan Pinecone, Ram memiliki peran Wakil Presiden di Yahoo, Databricks, dan Splunk. Di Yahoo, ia adalah insinyur perangkat lunak utama dan kemudian ilmuwan peneliti; di Databricks, ia adalah pemimpin produk dan teknik untuk platform analitik terpadu untuk genomika; dan, dalam tiga tahun di Splunk, ia memainkan beberapa peran termasuk Sr Principal Scientist, Wakil Presiden Teknik dan Insinyur Terkemuka.

Pinecone adalah basis data vektor yang sepenuhnya dikelola yang membuatnya mudah untuk menambahkan pencarian vektor ke aplikasi produksi. Ini menggabungkan perpustakaan pencarian vektor, kemampuan seperti filtering, dan infrastruktur terdistribusi untuk menyediakan kinerja tinggi dan keandalan pada skala apa pun.

Apa yang awalnya menarik Anda untuk mempelajari pembelajaran mesin?

Statistik dimensional tinggi, teori pembelajaran dan topik seperti itu yang menarik saya untuk mempelajari pembelajaran mesin. Mereka secara matematis didefinisikan dengan baik, dapat dipahami dan memiliki beberapa wawasan dasar untuk menawarkan tentang apa yang dimaksud dengan pembelajaran, dan bagaimana merancang algoritma yang dapat belajar secara efisien.

Sebelumnya Anda adalah Wakil Presiden Teknik di Splunk, sebuah platform data yang membantu mengubah data menjadi tindakan untuk Observabilitas, IT, Keamanan dan lain-lain. Apa yang menjadi kesan Anda dari pengalaman ini?

Saya tidak menyadari sampai saya bergabung dengan Splunk betapa beragamnya kasus penggunaan di pencarian perusahaan: orang menggunakan Splunk untuk analitik log, observabilitas dan analitik keamanan di antara banyak kasus penggunaan lainnya. Dan apa yang umum untuk banyak kasus penggunaan ini adalah gagasan untuk mendeteksi peristiwa yang serupa atau sangat berbeda (atau anomali) dalam data yang tidak terstruktur. Ini ternyata merupakan masalah yang sulit dan sarana pencarian tradisional tidak sangat efektif. Selama waktu saya di Splunk, saya memulai penelitian sekitar area ini tentang bagaimana kita bisa menggunakan pembelajaran mesin (dan pembelajaran dalam) untuk penambangan log, analitik keamanan, dll. Melalui pekerjaan itu, saya menyadari bahwa penyematan vektor dan pencarian vektor akan menjadi primitif dasar untuk pendekatan baru dalam domain ini.

Bagaimana Anda menjelaskan apa itu pencarian vektor?

Dalam pencarian tradisional (juga dikenal sebagai pencarian kata kunci), Anda mencari kecocokan kata kunci antara kueri dan dokumen (ini bisa berupa tweet, dokumen web, dokumen hukum, dan sebagainya). Untuk melakukan ini, Anda membagi kueri Anda menjadi token, mengambil dokumen yang mengandung token yang diberikan dan menggabungkan dan mengurutkan untuk menentukan dokumen yang paling relevan untuk kueri tertentu.

Masalah utamanya, tentu saja, adalah bahwa untuk mendapatkan hasil yang relevan, kueri Anda harus memiliki kecocokan kata kunci dalam dokumen. Masalah klasik dengan pencarian tradisional adalah: jika Anda mencari “pop”, Anda akan mencocokkan “musik pop”, tetapi tidak akan mencocokkan “soda”, dll. karena tidak ada kecocokan kata kunci antara “pop” dan dokumen yang mengandung “soda”, meskipun kita tahu bahwa secara kolokial di banyak daerah di AS, “pop” berarti sama dengan “soda”.

Dalam pencarian vektor, Anda memulai dengan mengonversi kueri dan dokumen menjadi vektor dalam ruang dimensional tinggi. Ini biasanya dilakukan dengan melewati teks melalui model pembelajaran dalam seperti LLM OpenAI atau model bahasa lain. Apa yang Anda dapatkan sebagai hasilnya adalah array angka titik yang dapat dianggap sebagai vektor dalam ruang dimensional tinggi.

Gagasan intinya adalah bahwa vektor yang berdekatan dalam ruang dimensional tinggi ini juga semantically serupa. Kembali ke contoh kita tentang “soda” dan “pop”, jika modelnya dilatih pada corpus yang tepat, kemungkinan besar akan mempertimbangkan “pop” dan “soda” secara semantik serupa dan dengan demikian penyematan yang sesuai akan dekat satu sama lain dalam ruang penyematan. Jika itu yang terjadi, maka mengambil dokumen terdekat untuk kueri tertentu menjadi masalah pencarian tetangga terdekat dari vektor kueri yang sesuai dalam ruang dimensional tinggi ini.

Bagaimana Anda menjelaskan apa itu basis data vektor dan bagaimana itu memungkinkan pembangunan aplikasi pencarian vektor performa tinggi?

Basis data vektor menyimpan, mengindeks, dan mengelola penyematan (atau vektor) ini. Tantangan utama yang dipecahkan oleh basis data vektor adalah:

• Membangun indeks pencarian efisien atas vektor untuk menjawab kueri tetangga terdekat
• Membangun indeks dan struktur data tambahan yang efisien untuk mendukung filtering kueri. Misalnya, jika Anda ingin mencari hanya subset dari corpus, Anda harus dapat menggunakan indeks pencarian yang ada tanpa harus membangunnya kembali

Mendukung pembaruan yang efisien dan menjaga data dan indeks pencarian tetap segar, konsisten, tahan lama, dll.

Apa jenis algoritma pembelajaran mesin yang digunakan di Pinecone?

Kami umumnya bekerja pada algoritma pencarian tetangga terdekat aproximasi dan mengembangkan algoritma baru untuk memperbarui, mengkueri, dan mengatasi sejumlah besar data dengan cara yang paling efektif.

Kami juga bekerja pada algoritma yang menggabungkan pengambilan padat dan pengambilan yang jarang untuk meningkatkan relevansi pencarian.

Apa tantangan di balik pembangunan pencarian yang dapat diskalakan?

Walaupun pencarian tetangga terdekat aproximasi telah diteliti selama beberapa dekade, kami percaya bahwa masih banyak yang belum terungkap.

Khususnya, ketika datang untuk merancang pencarian tetangga terdekat skala besar yang efektif biaya, melakukan filtering yang efisien pada skala besar, atau merancang algoritma yang mendukung pembaruan volume tinggi dan umumnya indeks yang segar adalah masalah yang sulit saat ini.

Apa jenis kasus penggunaan yang berbeda yang teknologi ini dapat digunakan untuk?

Spektrum kasus penggunaan untuk basis data vektor tumbuh setiap hari. Selain penggunaannya dalam pencarian semantik, kami juga melihatnya digunakan dalam pencarian gambar, pengambilan gambar, pembuatan AI, analitik keamanan, dll.

Apa visi Anda untuk masa depan pencarian?

Saya pikir masa depan pencarian akan didorong oleh AI, dan saya tidak pikir ini sangat jauh. Di masa depan itu, saya berharap basis data vektor akan menjadi primitif dasar. Kami suka memikirkan basis data vektor sebagai memori jangka panjang (atau basis pengetahuan eksternal) AI.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Pinecone.