Едо Ліберті, засновник і головний науковий співробітник компанії Pinecone – Інтерв’ю

Едо Ліберті, засновник і головний науковий співробітник компанії Pinecone, є провідним експертом у галузі великомасштабних систем обробки даних і машинного навчання. Перед тим, як заснувати Pinecone – векторну базу даних, створену для продуктивності і масштабованості, він був директором досліджень у компанії AWS і головою лабораторії Amazon (AMZN ) AI, де його команда розробила основні технології для SageMaker, OpenSearch, Kinesis та інших. Раніше він очолював дослідницьку лабораторію Yahoo у Нью-Йорку, де займався розробкою платформ машинного навчання та їх застосуваннями у сфері пошуку, реклами та безпеки. Його робота зосереджена на алгоритмах і математичних основах для обробки величезних наборів даних, включаючи зменшення розмірності, кластеризацію, потокову обробку та великомасштабну лінійну алгебру.

Pinecone – це повністю керована векторна база даних, створена для забезпечення масштабованого і ефективного пошуку великих динамічних наборів даних. Вона підтримує як густі, так і розріджені вкладення, індексування в реальному часі та фільтрацію на основі метаданих, а також безшовно інтегрується з провідними хмарами, моделями та фреймворками. З допомогою серверної автоматики, функцій безпеки рівня підприємства та стандартів відповідності, таких як SOC 2, ISO 27001, GDPR і HIPAA, Pinecone забезпечує надійну основу для розгортання великомасштабних застосунків штучного інтелекту.

Ви заснували Pinecone у 2019 році після того, як очолювали дослідження у лабораторії Amazon AI та будували системи, такі як SageMaker. Що спонукало вас до створення Pinecone і зосередження уваги конкретно на векторних базах даних?

У компанії AWS наша команда з машинного навчання створила чудові системи, але коли мова йшла про пам’ять, не було способу семантично шукати через величезні об’єми неструктурованих даних. Для цього були потрібні надзвичайно кваліфіковані інженери, які знали, як будувати складні рішення на основі векторного пошуку. Я знав, що якщо буде спосіб дати людям можливість легко доступитися до семантичної багатства, яке вкладають вектори, і поєднати це з просунутими моделями, то будь-хто зможе прискорити цінність штучного інтелекту для себе. Тому я покинув AWS з метою真正ої трансформації того, як зробити найпростішим способом отримання найбільшої цінності з власних неструктурованих даних за допомогою сили штучного інтелекту.

Pinecone перетворилася на визначальну компанію у сфері векторних баз даних. Оглянувшись назад, які були найбільші технічні або ринкові перешкоди, які вам довелося подолати, щоб створити цю нову категорію?

Найбільша проблема? Ніхто не знав, що таке векторна база даних! Нам довелося просвітити ринок щодо того, що ми будували і чому це було важливо. Ми запитали наших клієнтів, як вони самі називають це, і вони сказали нам, що це векторна база даних.

Як тільки інші почали це розуміти, люди запитували, чому вони не можуть просто використовувати відкритий код? І нам доводилося пояснювати всі обмеження відкритого коду та компроміси між масштабованістю та продуктивністю, які ви отримуєте – і після всього цього вам все одно потрібно досвідчені інженери, щоб побудувати вашу інфраструктуру. Тому ми завжди були керованою службою і зосереджувалися на досвіді користувача. Наша система надзвичайно складна під капотом, оскільки вам потрібно цю спеціалізовану інфраструктуру для пошуку подібності у мільярдах масштабів. Але ми робимо це доступним за допомогою виклику API, який може використовувати будь-який розробник.

Це означало абстрагування всього складного з приблизних алгоритмів найближчих сусідів, управління індексами та розподілених систем. Розробникам не хочеться думати про параметри HNSW, їм просто хочеться, щоб все працювало.

Ви недавно перейшли з посади генерального директора на посаду головного наукового співробітника, запросивши Аша Ашутоша на керівництво компанією. Що мотивувало це рішення, і як ви бачите свою роль у наступному етапі розвитку Pinecone?

Pinecone, як компанія, є компанією штучного інтелекту і дослідницькою компанією. Ми дійшли до того, де ми є сьогодні, тому що ми переозначили пошук, системи та алгоритми. І ми були дуже активні в академічному плані, публікуючи технічні звіти та статті, виступаючи з доповідями та просвітницькою діяльністю на ринку, навіть пишучи підручники та проводячи університетські курси з штучного інтелекту та пам’яті. Коли компанія росте, нам потрібно формалізувати ці зусилля під дослідницькою лабораторією, яка відокремлена від решти бізнесу. Подумайте про DeepMind і Google (GOOGL ) як приклад. У майбутньому я зосереджу свою енергію на керівництві нашими дослідженнями, наданні знань штучному інтелекту та створенні наступної серії контекстних продуктів від Pinecone.

Водночас Аш буде фантастичним генеральним директором і лідером для Pinecone. Він заснував і розширив кілька інфраструктурних компаній і знає, як оперувати компанією, такою як Pinecone, дуже ефективно. Він глибоко знається на нашій технології та нашому ринку. І він інтенсивно орієнтований на клієнта. Аш і я будемо глибоко партнерувати у зростанні компанії та нашого бізнесу.

У своєму блоговому дописі ви написали про зосередження на “наданні знань штучному інтелекту”. Що це означає на практиці, і як технологія Pinecone унікально позиціонує для забезпечення цього?

Штучний інтелект без пам’яті – це як блискучий людина з амнезією: багато інтелекту, але жодного контексту. “Надання знань штучному інтелекту” означає надання системам штучного інтелекту можливості доступу, розуміння та висновків над величезними об’ємами інформації в реальному часі.

Ми забезпечуємо можливість застосуванням штучного інтелекту надавати актуальні висновки в реальному часі, отримані з семантично зрозумілих і організованих даних, і забезпечуємо, щоб системи штучного інтелекту не просто здогадувалися, а були здатні витягувати та синтезувати знання на вимогу. Це призводить до більш точних, інформованих та актуальних висновків для кінцевих користувачів.

Ми робимо це, забезпечуючи всі компоненти та можливості для високоякісного, точного кінцевого пошуку в одному місці, разом з лідерською продуктивністю для великомасштабного пошуку.

Викладаючи “Довготривалу пам’ять у штучному інтелекті” у Принстоні, як ви бачите взаємозв’язок між векторними базами даних і майбутнім моделей штучного інтелекту? Віриєте ви, що пам’ять і контекст – це відсутні інгредієнти для сучасних великих моделей?

Абсолютно. Великомасштабні мови моделі – це машини, які шукають закономірності – блискучі, але все ж фундаментально обмежені їхнім навчальним даними та вікном контексту. Курс, який я викладав з Маттієм Дузе з Meta, зосереджувався на алгоритмах, які роблять можливим векторний пошук над величезними об’ємами даних. Майбутнє не в більших моделях, а в більш розумному пошуку над більшими даними в реальному часі.

Багато підприємств мають труднощі з переходом від пілотних проектів штучного інтелекту до розгортання у промислових масштабах. Як Pinecone допомагає подолати цю прогалину, і які найкращі практики ви спостерігали у успішних клієнтів?

Прогалина зазвичай зводиться до трьох речей: продуктивності (і вартості) у масштабах, безпеки та складності. Демонстрація, яка працює з 10 мільйонами документів, розбивається на 10 мільярдів. Виконання чогось протягом години відрізняється від виконання його 24/7 без терпимості до простою. Тому ми завжди зосереджувалися на нашій серверній архітектурі, функціях рівня підприємства та легкості використання.

Найважливіше – просто почати. Наші клієнти часто здивовані тим, скільки вони можуть зробити, не навіть спілкуючись з нами. Ми спроєктували це спеціально, але завжди тут, коли наші клієнти нам потрібні.

Ви провели свою кар’єру, рухаючись між академією, великими дослідницькими центрами (Yahoo, AWS) та підприємництвом. Як ці різні середовища сформували ваш підхід до будівництва Pinecone?

Академія навчила мене думати з першої засади. Як абстрагувати та розробляти великі рішення. У Yahoo та AWS я навчився, як будувати прості платформи даних, які інженери люблять будувати.

Підприємництво – це місце, де ви вчитеся, що найкраща технологія перемагає лише тоді, коли вона розв’язує реальні проблеми таким чином, який люди можуть фактично використовувати.

Ця суміш є важливою для того, що ми будуємо. Ми не просто пишемо дослідницькі статті або будуємо технологію для технології самого по собі. Кожна інновація повинна зробити життя розробників легшим і застосунків підприємств більш потужними.

Зближення пошуку та штучного інтелекту здається одним з найбільших зсувів у сфері обчислювальної техніки. Куди, на вашу думку, це рухається у найближчі п’ять років, і як робота Pinecone допоможе сформувати це майбутнє?

Пошук стає розмовним і контекстним. За п’ять років ви не “шукатимете” – ви будете мати діалог з системами штучного інтелекту, які розуміють не тільки ваш запит, а й ваш намір, ваш контекст, вашу історію. Кожна взаємодія буде інформована величезними базами знань, які оновлюються в реальному часі.

Ми будуємо інфраструктуру для цього. Наша векторна база даних – це лише початок. Я бачу майбутнє, де кожна aplicación має вбудований контекст, де штучний інтелект не “галлюцинує”, бо він заснований на даних, де межа між пошуком і знанням зникає.

Як головний науковий співробітник, ви будете більш безпосередньо займатися даними, моделями та прототипуванням. Які області досліджень вас особисто найбільш цікавлять зараз?

О, де я навіть почну? На короткій та середній перспективі я занурююсь у ефективність та легкість використання. Чи можемо ми зробити векторний пошук у 10 разів швидшим, а також у 10 разів дешевшим? Чи можемо ми зробити наші API ще простішими, ніж вони є сьогодні? Це складні проблеми.

На довгій перспективі я одержимий перетином пошуку та висновків. Як побудувати системи, які не тільки знають відповідні факти, а й розуміють відносини між ними? І потім використовувати цей контекст для створення освічених систем штучного інтелекту та більш потужних агентів.

Нарешті, на особистому рівні: відступаючи від ролі генерального директора, що вас найбільш приваблює у цьому переході, і які прориви ви сподіваєтеся розблокувати на наступному етапі розвитку Pinecone?

Мене найбільше радує, коли я глибоко займаюсь кодом, працюю з нашою дослідницькою командою, маю ті “вау, це справді працює!” моменти о 2 годині ночі.

Моя мрія? Зробити пошук настільки хорошим, що він стане невидимим. Де розробники можуть будувати контекстні застосування без думання про вкладення чи індекси чи будь-що інше з цього, і все просто працює.

Ми зараз перебуваємо в цьому неймовірному моменті, коли штучний інтелект та дані сходяться. Потенціал безмежний, і я можу проводити свої дні, роблячи це майбутнє реальністю зараз.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Pinecone.