Доктор Рам Шріхарша, Віце-президент з інженерії в Pinecone – Серія інтерв’ю

Доктор Рам Шріхарша – Віце-президент з інженерії та досліджень у Pinecone.

До того, як він приєднався до Pinecone, Рам обіймав посади віце-президента в Yahoo, Databricks та Splunk. У Yahoo він був головним інженером-програмістом та дослідником; у Databricks він очолював розробку єдиної платформи аналітики для геноміки; а під час трьох років у Splunk він обіймав різні посади, включаючи старшого головного науковця, віце-президента з інженерії та видатного інженера.

Pinecone – це повністю керований векторний база даних, який полегшує додавання векторного пошуку до застосунків у виробництві. Він поєднує бібліотеки векторного пошуку, можливості, такі як фільтрація, та розподілені інфраструктури для забезпечення високої продуктивності та надійності у будь-якому масштабі.

Що спочатку привернуло вашу увагу до машинного навчання?

Високовимірна статистика, теорія навчання та подібні теми були тим, що привернуло мою увагу до машинного навчання. Вони математично добре визначені, можуть бути обґрунтовані та мають деякі фундаментальні ідеї щодо того, що таке навчання, та як проектувати алгоритми, які можуть навчатися ефективно.

Раніше ви були Віце-президентом з інженерії у Splunk, платформі даних, яка допомагає перетворити дані на дії для спостереження, ІТ, безпеки та іншого. Які були деякі з ваших ключових висновків з цього досвіду?

Я не усвідомлював, доки не прийшов до Splunk, наскільки різноманітні випадки використання корпоративного пошуку: люди використовують Splunk для аналітики журналів, спостереження та аналітики безпеки серед безлічі інших випадків використання. І те, що є спільним для багатьох цих випадків використання, – це ідея виявлення подібних подій або дуже несхожих (або аномальних) подій у неструктурованих даних. Це виявилося складною проблемою, а традиційні засоби пошуку таких даних не дуже масштабовані. Під час моєї роботи у Splunk я ініціював дослідження цих областей щодо того, як ми могли б використовувати машинне навчання (та глибоке навчання) для аналітики журналів, аналітики безпеки тощо. Через цю роботу я прийшов до висновку, що векторні вкладення та векторний пошук стануть фундаментальною основою для нових підходів до цих областей.

Можете описати нам, що таке векторний пошук?

У традиційному пошуку (інакше відомому як пошук за ключовими словами) ви шукаєте ключові слова, які збігаються між запитом та документами (це можуть бути твіти, веб-документи, юридичні документи тощо). Для цього ви розбиваєте свій запит на токени, отримуєте документи, які містять заданий токен, та об’єднуєте та ранжуєте їх, щоб визначити найбільш відповідні документи для заданого запиту.

Головною проблемою, звичайно, є те, що для отримання відповідних результатів ваш запит повинен містити ключові слова, які збігаються з документом. Класична проблема традиційного пошуку полягає в тому, що якщо ви шукаєте “поп”, ви будете збігати з “музикою поп”, але не збігатимете з “газованим напоєм”, тощо, оскільки немає ключового перекриття між “поп” та документами, які містять “газований напій”, хоча ми знаємо, що в багатьох регіонах США “поп” означає те саме, що й “газований напій”.

У векторному пошуку ви починаєте з того, що перетворюєте як запити, так і документи на вектор у деякому високовимірному просторі. Це зазвичай робиться шляхом проходження тексту через глибинну модель, таку як LLM OpenAI або інші мовні моделі. Що ви отримуєте в результаті, – це масив чисел з рухомою комою, який можна вважати вектором у деякому високовимірному просторі.

Основна ідея полягає в тому, що близькі вектори у цьому високовимірному просторі також семантично схожі. Вернувшись до нашого прикладу з “газованим напоєм” та “попом”, якщо модель навчена на правильному корпусі, вона, ймовірно, вважатиме “поп” та “газований напій” семантично схожими, а відповідні вкладення будуть близькими один до одного у просторі вкладень. Якщо це так, то отримання найближчих документів для заданого запиту стає проблемою пошуку найближчих сусідів відповідного вектора запиту у цьому високовимірному просторі.

Можете описати, що таке векторна база даних, та як вона дозволяє створювати високопродуктивні векторні пошукові застосунки?

Векторна база даних зберігає, індексує та керує цими вкладеннями (або векторами). Основні проблеми, які векторна база даних вирішує, полягають у наступному:

• Створення ефективного пошукового індексу над векторами для відповіді на запити найближчих сусідів
• Створення ефективних допоміжних індексів та структур даних для підтримки фільтрації запитів. Наприклад, якщо ви хочете шукати лише над підмножиною корпусу, ви повинні能够 використовувати існуючий пошуковий індекс без необхідності його перебудови

Підтримка ефективних оновлень та збереження свіжості даних та пошукового індексу, а також забезпечення їхньої цілісності, надійності тощо.

Які різні типи алгоритмів машинного навчання використовуються у Pinecone?

Ми в основному працюємо над алгоритмами приблизного пошуку найближчих сусідів та розробляємо нові алгоритми для ефективного оновлення, запиту та іншого керування великими обсягами даних у найбільш економічно вигідній формі.

Ми також працюємо над алгоритмами, які поєднують густу та розріджену витягання для покращення релевантності пошуку.

Які деякі з проблем, пов’язаних із побудовою масштабованого пошуку?

Хоча приблизний пошук найближчих сусідів досліджувався протягом десятиліть, ми вважаємо, що залишається багато чого, що потрібно відкрити.

Зокрема, коли мова йде про проектування великомасштабного пошуку найближчих сусідів, який є економічно ефективним, виконання ефективної фільтрації у великому масштабі, або проектування алгоритмів, які підтримують високий об’єм оновлень та свіжість індексів, – все це складні проблеми сьогодні.

Які деякі з різних типів випадків використання, для яких можна використовувати цю технологію?

Спектр випадків використання векторних баз даних зростає щоднем. Окрім їхнього використання у семантичному пошуку, ми також бачимо їхнє використання у пошуку зображень, пошуку зображень, генерації штучного інтелекту, аналітиці безпеки тощо.

Яке ваше бачення майбутнього пошуку?

Я думаю, що майбутнє пошуку буде керованим штучним інтелектом, і я не думаю, що це дуже далеко. У цьому майбутньому я очікую, що векторні бази даних будуть фундаментальною основою. Ми вважаємо векторні бази даних довгостроковой пам’яттю (або зовнішньою базою знань) штучного інтелекту.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, рекомендуємо відвідати Pinecone.