Франк Лю, Директор з операцій у Zilliz – Серія інтерв’ю

Франк Лю є Директором з операцій у Zilliz, провідному постачальнику векторних баз даних та технологій штучного інтелекту. Вони також є інженерами та вченими, які створили LF AI Milvus®, найпопулярнішу відкриту векторну базу даних у світі.

Що спочатку привернуло вас до машинного навчання?

Мій перший досвід потужності ML/ШІ був під час навчання в Стенфорді, хоча це було трохи не в моїй спеціальності (електротехніка). Спочатку мене привабила електротехніка як галузь, оскільки можливість спростити складні електричні та фізичні системи до математичних наближень здавалася мені дуже потужною, а статистика та машинне навчання здавалися мені такими ж. Я закінчив навчання з більшою кількістю курсів з комп’ютерного зору та машинного навчання під час аспірантури, і я написав свою магістерську дисертацію на тему використання ML для оцінки естетичної краси зображень. Все це призвело до моєї першої роботи в команді комп’ютерного зору та машинного навчання в Yahoo, де я був у гібридній ролі дослідження та розробки програмного забезпечення. Ми ще були в дні до трансформерів AlexNet та VGG, і бачити, як вся галузь та індустрія рухаються так швидко, від підготовки даних до масивної паралельної тренування моделей до виробничої реалізації моделей, було просто дивовижним. У багатьох аспектах це здається трохи абсурдним використовувати фразу “тоді” для опису чогось, що відбулося менше 10 років тому, але такий є прогрес, досягнутий у цій галузі.

Після Yahoo я служив технічним директором стартапу, який я заснував, де ми використовували ML для індор-локалізації. Там нам довелося оптимізувати послідовні моделі для дуже малих мікроконтролерів – це була зовсім інша, але не менш пов’язана інженерна задача порівняно з сучасними великими моделями LLM та моделями дифузії. Ми також будували апаратне забезпечення, панелі для візуалізації та прості хмарні додатки, але ШІ/ML завжди служили основним компонентом роботи, яку ми робили.

Хоча я вже близько 7 або 8 років працюю в галузі ML або суміжних галузях, я все ще зберігаю велику любов до проєктування схем та цифрової логіки. Маємоши досвід у галузі електротехніки, це дуже корисно для багатьох робіт, у яких я зараз займаюсь. Багато важливих концепцій у цифровому проєктуванні, таких як віртуальна пам’ять, передбачення гілок та паралельне виконання в HDL, дають повний огляд багатьох аспектів ML та розподілених систем сьогодні. Хоча я розумію привабливість інформатики, я сподіваюсь побачити відродження традиційних інженерних галузей – електротехніки, механіки, хімічної інженерії тощо – у найближчі пару років.

Для читачів, які незнайомі з цим терміном, що таке неструктуровані дані?

Неструктуровані дані – це “складні” дані, які не можуть бути збережені у попередньо визначеному форматі або не можуть бути вміщені в існуючу модель даних. Для порівняння, структуровані дані – це будь-який тип даних, який має попередньо визначену структуру – числові дані, рядки, таблиці, об’єкти та ключ/значення – все це приклади структурованих даних.

Щоб真正но зрозуміти, що таке неструктуровані дані та чому вони традиційно були важкими для обчислювальної обробки, допоможе порівняти їх зі структурованими даними. У найпростіших термінах традиційні структуровані дані можуть бути збережені за допомогою реляційної моделі. Наприклад, реляційна база даних з таблицею для зберігання інформації про книги: кожен рядок у таблиці може представляти окрему книгу, індексовану за номером ISBN, а стовпці позначатимуть відповідну категорію інформації, таку як назва, автор, дата публікації тощо. Сьогодні існують більш гнучкі моделі даних – ширококолоночні магазини, об’єктні бази даних, графові бази даних тощо. Але загальна ідея залишається тією ж: ці бази даних призначені для зберігання даних, які відповідають певній моделі даних.

Неструктуровані дані, з іншого боку, можна вважати псевдовипадковим блоком бінарних даних. Вони можуть представляти все, бути довільно великими або малими, і можуть бути перетворені та прочитані одним із багатьох різних способів. Це робить їх неможливими для розміщення в будь-якій моделі даних, не кажучи вже про таблицю в реляційній базі даних.

Які приклади цього типу даних?

Дані, створені людиною – зображення, відео, аудіо, природна мова тощо – є хорошими прикладами неструктурованих даних. Але існують також приклади неструктурованих даних, менш звичайні. Профілі користувачів, структури білків, геномі послідовності та навіть людиночитаемий код також є хорошими прикладами неструктурованих даних. Основна причина, через яку неструктуровані дані традиційно були такими важкими для управління, полягає в тому, що неструктуровані дані можуть мати будь-яку форму та можуть вимагати зовсім різні часи виконання для обробки.

Як приклад, два знімки однієї й тієї ж сцени можуть мати зовсім різні значення пікселів, але обидва мають схожий загальний зміст. Природна мова – це ще один приклад неструктурованих даних, який я люблю називати. Фрази “Електротехніка” та “Інформатика” дуже близько пов’язані – настільки, що будівлі ЕЕ та ЦС у Стенфорді розташовані поруч одна з одною – але без способу закодувати семантичне значення за цими двома фразами, комп’ютер може подумати, що “Інформатика” та “Соціальна наука” більш пов’язані.

Що таке векторна база даних?

Щоб зрозуміти векторну базу даних, спочатку потрібно зрозуміти, що таке вкладення. Я повернусь до цього згодом, але коротко кажучи, вкладення – це високовимірний вектор, який може представляти семантику неструктурованих даних. Загалом, два вкладення, які близькі один до одного за відстанню, дуже ймовірно відповідають семантично подібним вхідним даним. З сучасним ML у нас є можливість закодувати та перетворити різноманітні типи неструктурованих даних – зображення та текст, наприклад – у семантично потужні векторні вкладення.

З точки зору організації неструктуровані дані стають дуже важкими для управління, коли їх кількість зростає понад певний рівень. Саме тут вступає в дію векторна база даних, така як Zilliz Cloud. Векторна база даних призначена для зберігання, індексування та пошуку великих кількостей неструктурованих даних за допомогою вкладень як основної репрезентації. Пошук у векторній базі даних зазвичай здійснюється за допомогою запитів-векторів, а результатом запиту є перші N найбільш схожих результатів на основі відстані.

Найкращі векторні бази даних мають багато функцій зручності традиційних реляційних баз даних: горизонтальне масштабування, кешування, реплікація, відключення та виконання запитів – це лише деякі з багатьох функцій, які справжня векторна база даних повинна реалізувати. Як визначення категорії, ми були активні в академічних колах, опублікувавши статті в SIGMOD 2021 та VLDB 2022, двох найкращих конференціях з баз даних сьогодні.

Чи можете ви обговорити, що таке вкладення?

Загалом кажучи, вкладення – це високовимірний вектор, який виникає з активації проміжного шару у багаторівневій нейронній мережі. Багато нейронних мереж навчаються виводити вкладення самі, а деякі застосування використовують конкатеновані вектори з кількох проміжних шарів як вкладення, але я не буду занурюватися у це зараз. Інший менш поширений, але не менш важливий спосіб генерації вкладень – через ручні ознаки. Натомість ніж мати модель ML, яка автоматично виводить правильні репрезентації для вхідних даних, хороша стара інженерія ознак може працювати для багатьох застосунків. Незалежно від основного методу, вкладення для семантично подібних об’єктів близькі один до одного за відстанню, і ця властивість є тим, що живить векторні бази даних.

Які найпопулярніші випадки використання цієї технології?

Векторні бази даних ідеальні для будь-якого застосування, яке вимагає певної форми семантичного пошуку – рекомендації продуктів, аналіз відео, пошук документів, виявлення загроз та шахрайства та чат-боти, підтримувані ШІ, – це деякі з найпопулярніших випадків використання векторних баз даних сьогодні. Як приклад, Milvus, відкрита векторна база даних, створена Zilliz та основа Zilliz Cloud, була використана понад тисячою підприємств у різних випадках використання.

Мені завжди приємно обговорювати ці застосування та допомагати людям зрозуміти, як вони працюють, але я також дуже люблю обговорювати менш відомі випадки використання векторних баз даних. Відкриття нових ліків – це один з моїх улюблених “нішевих” випадків використання векторних баз даних. Виклик для цього застосування полягає у пошуку потенційних кандидатів на ліки для лікування певної хвороби чи симптому серед бази даних з 800 мільйонами сполук. Одна фармацевтична компанія, з якою ми спілкувалися, змогла значно покращити процес відкриття ліків, а також скоротити апаратні ресурси, поєднанням Milvus з хемінформатичною бібліотекою під назвою RDKit.

Інтерактивний інструмент Cleveland Museum of Art’s (CMA) AI ArtLens – це ще один приклад, який я люблю згадувати. AI ArtLens – це інструмент, який приймає запит-зображення як вхідні дані та витягує візуально подібні зображення з бази даних музею. Це зазвичай називається зворотнім пошуком зображень і є досить поширеним випадком використання векторних баз даних, але унікальна цінність, яку Milvus надав CMA, полягала у можливості запустити додаток протягом тижня з дуже маленькою командою.

Чи можете ви обговорити, що таке відкрита платформа Towhee?

Під час спілкування з людьми з спільноти Milvus ми виявили, що багато з них хотіли мати уніфікований спосіб генерації вкладень для Milvus. Це було правдою майже для всіх різних організацій, з якими ми спілкувалися, але особливо для компаній, які не мали багатьох інженерів-шляхів ML. З Towhee ми намагаємось вирішити цю проблему за допомогою того, що ми називаємо “векторною ETL-даних”. Хоча традиційні конвеєри ETL зосереджені на поєднанні та перетворенні структурованих даних з кількох джерел у використовуваний формат, Towhee призначена для роботи з неструктурованими даними та явно включає ML у конвеєр ETL. Towhee досягає цього, надаючи сотні моделей, алгоритмів та перетворень, які можуть бути використані як будівельні блоки у конвеєрі векторних даних ETL. Окрім цього, Towhee також пропонує легке у використання Python API, яке дозволяє розробникам будувати та тестувати ці конвеєри ETL у одному рядку коду.

Хоча Towhee – це окремий проєкт, це також частина ширшої екосистеми векторних баз даних, центрованої навколо Milvus, яку створює Zilliz. Ми бачимо Milvus і Towhee як два висококомплементарні проєкти, які, коли використовуються разом, можуть真正но демократизувати обробку неструктурованих даних.

Zilliz недавно підняла $60M у серії B. Як це прискорить місію Zilliz?

По-перше, я хотів би подякувати Prosperity7 Ventures, Pavilion Capital, Hillhouse Capital, 5Y Capital, Yunqi Capital та інших за те, що вони повірили в місію Zilliz та підтримали нас цим розширенням серії B. Ми тепер підняли загалом $113M, і цей останній раунд фінансування підтримає наші зусилля щодо масштабування інженерних та маркетингових команд. У особливості, ми покращимо нашу керовану хмарну пропозицію, яка зараз знаходиться на ранній стадії доступу, але запланована до відкриття для всіх пізніше цього року. Ми також продовжимо інвестувати в передові дослідження баз даних та ШІ, як ми робили протягом останніх 4 років.

Чи є щось інше, що ви хотіли б поділитися про Zilliz?

Як компанія, ми ростемо швидко, але те, що真正но відрізняє нашу поточну команду від інших у сфері баз даних та ML, – це наш унікальний запал до того, що ми будемо будувати. Ми на місії демократизувати обробку неструктурованих даних, і це абсолютно дивовижно бачити так багато талановитих людей у Zilliz, які працюють над однією спільною метою. Якщо будь-що з того, що ми робимо, здається вам цікавим, не вагайтесь зв’язатися з нами. Ми були б раді бачити вас на борту.

Якщо ви хочете дізнатися трохи більше, я також особисто відкритий до обговорення Zilliz, векторних баз даних або пов’язаних з ними досягнень у сфері ШІ/ML. Моя (фігуративна) дверь завжди відкрита, тому не вагайтесь зв’язатися зі мною безпосередньо у Twitter/LinkedIn.

Останнє, але не менш важливе, дякую за читання!

Дякую за велике інтерв’ю, читачам, які хочуть дізнатися більше, слід відвідати Zilliz.