Етьєн Бернар, співзасновник та CEO NuMind – Серія інтерв’ю

Етьєн Бернар – співзасновник та CEO компанії NuMind, яка займається розробкою інструментів машинного навчання. Етьєн є експертом у сфері штучного інтелекту та машинного навчання. Після закінчення аспірантури (ENS) та постдокторантури (MIT) у галузі статистичної фізики, Етьєн приєднався до компанії Wolfram Research, де став керівником відділу машинного навчання та пропрацював там 7 років. Під час цього часу Етьєн очолював розробку автоматичних інструментів навчання, дружнього інтерфейсу глибокого навчання та різних застосунків машинного навчання.

Що спочатку привернуло вашу увагу до машинного навчання?

Перший раз я почув термін “машинне навчання” у 2009 році, якщо пам’ять не зраджує, завдяки конкурсу Netflix. Мене зацікавила ідея, що машини можуть навчатися, і це було дуже потужно. Вже тоді було зрозуміло, що це призведе до багатьох важливих застосунків, включаючи створення штучного інтелекту. Я вирішив зануритися у це питання і не повернувся.

Після закінчення аспірантури (ENS) та постдокторантури (MIT) у галузі статистичної фізики, ви приєдналися до компанії Wolfram Research, де стали керівником відділу машинного навчання та пропрацювали там 7 років. Які були деякі з найцікавіших проектів, над якими ви працювали?

Мої улюблені проекти в Wolfram були пов’язані з розробкою автоматичних функцій машинного навчання для мови Wolfram (також відомої як Mathematica). Перший такий проект був функцією Classify, яка приймала дані та повертала класифікатор. Для мене машинне навчання завжди було про автоматизацію. Ви не налаштуєте гіперпараметри свого людського студента, і не повинні цього робити для машини! Це було досить складно з наукової та програмної точки зору створити真正о надійні та ефективні автоматичні функції машинного навчання.

Створення високорівневого нейронного мережевого框架 також було дуже цікавим проектом. Було багато складних дизайнерських рішень щодо того, як представляти нейронні мережі символічно, як візуалізувати їх та маніпулювати ними (наприклад, можна було вирізати деякі частини, приклеїти інші, заміняти шари тощо). Я думаю, ми зробили хорошу роботу, і якщо це було б відкритим кодом, я впевнений, що воно було б широко використано 😉

Під час цього періоду часу ви також написали фундаментальну книгу під назвою “Введення у машинне навчання“, які були деякими з викликів при написанні такої комплексної книги?

О, їх було багато! На написання книги пішло два роки. Я міг би вирішити просто написати “книгу-інструкцію”, яка була б простішою, але частина моєї роботи в Wolfram полягала у вивченні машинного навчання, і я відчував потребу передати це знання. Тому основною складністю було визначити, про що саме говорити та в якому порядку, щоб зробити це цікавим та легко зрозумілим. Потім були педагогічні деталі: чи використовувати математичну формулу для цього концепту, чи код, чи просто візуалізацію? Я хотів зробити цю книгу якомога доступнішою, і це давало мені багато головних болів. Загалом я задоволений результатом. Сподіваюсь, вона буде корисною для багатьох!

Чи можете ви розповісти про історію створення NuMind?

Так. Я хотів створити стартап уже давно, спочатку у 2012 році, щоб створити інструмент автоматичного машинного навчання, але робота у Wolfram була надто цікавою. Потім близько 2019-2020 років з’явилися перші великі мовні моделі (LLM), такі як GPT-2 та GPT-3. Це було для мене шоком, як добре вони могли зрозуміти та згенерувати текст. Водночас я бачив, як болісно було створювати моделі NLP: потрібно було мати команду аннотаторів, експертів, які проводили безліч експериментів тощо. Я подумав, що повинно бути спосіб використовувати ці LLM через інструмент, щоб суттєво поліпшити досвід створення моделей NLP. Мій співзасновник, Самуель (який happens to be мій двоюрідний брат), розділив цю саму бачення, і ми вирішили створити цей інструмент.

Метою NuMind є поширення використання машинного навчання та штучного інтелекту загалом шляхом створення простих, але потужних інструментів. Які інструменти зараз доступні?

Так. Наш перший інструмент призначений для створення користувацьких моделей NLP. Наприклад, якщо ви хочете проаналізувати настрій ваших користувачів з їхньої відгуку. Використання готової моделі зазвичай не дуже добре, оскільки вона була навчена на іншому типі даних та для трохи іншого завдання (задачі аналізу настрою досить різноманітні!). Замість цього ви хочете тренувати користувацьку модель, яка добре працює з вашими даними. Наш інструмент дозволяє зробити це дуже просто та ефективно. По суті, ви завантажуєте свої дані, виконуєте невелику кількість анотацій та отримуєте модель, яку можна розгорнути через API. Це стало можливим завдяки використанню LLM та новому парадигмі навчання, яке ми називаємо Інтерактивним розробленням штучного інтелекту.

Які користувацькі моделі ви бачите, розроблені клієнтами NuMind у першому раунді?

Було кілька моделей аналізу настрою. Наприклад, один клієнт моніторить настрій групових чатів, де люди допомагають один одному боротися з залежностями. Цей аналіз необхідний, щоб втрутитися у разі, якщо настрій погіршується. Інший клієнт використовує нас, щоб знайти, які вакансії найкраще підходять для певного резюме – і, до речі, я вважаю, що є великий потенціал у таких собі матч-штучних інтелектах. У нас також є клієнти, які витягують інформацію з медичних та юридичних документів.

Як багато часу компанії можуть зберегти, використовуючи інструменти NuMind?

Це залежить від застосування, звичайно, але порівняно з традиційними рішеннями (маркування даних та навчання моделі окремо), ми бачимо до 10-кратне прискорення отримання моделі та її розгортання. Я очікую, що цей показник покращиться, коли ми продовжимо розробляти продукт. Врешті-решт, я вважаю, що проекти, які раніше займали місяці, тепер будуть виконані за дні та з кращою продуктивністю.

Чи можете ви пояснити, як працює Інтерактивне розроблення штучного інтелекту NuMind?

Ідея Інтерактивного розроблення штучного інтелекту походить від того, як люди вчать один одного. Наприклад, якщо ви наймаєте стажера для класифікації ваших електронних листів. Ви спочатку описуєте завдання та його мету. Потім ви можете дати кілька хороших прикладів, деякі крайні випадки, можливо. Потім ваш стажер починає маркувати електронні листи, і починається розмова. Ваш стажер повертається з питаннями, такими як “Як мені маркувати цей лист?” або “Я думаю, нам слід створити новий маркер для цього”, або навіть питає вас “чому” ми повинні маркувати певним чином. Подібним чином ви можете запитати у вашого стажера питання, щоб ідентифікувати та виправити прогалини у його знаннях. Це спосіб навчання дуже природний і дуже ефективний з точки зору обміну інформацією. Ми намагаємося змоделювати цей робочий процес, щоб люди могли ефективно вчити машини.

З технічної точки зору, цей робочий процес являє собою низьколітаючу, високошвидкісну, багатомодальну та двонаправлену комунікацію між людиною та машиною, і ми вирішили назвати це Інтерактивним розробленням штучного інтелекту, щоб підкреслити двонаправленість та низьку затримку. Я бачу це як третю парадигму навчання машин, після класичного програмування та класичного машинного навчання (де ви просто даєте комп’ютеру багато прикладів завдання, щоб він міг сам визначити, що робити).

Ця нова парадигма відкривається завдяки LLM. Насправді, вам потрібно мати щось вже досить розумне у машині, щоб ефективно взаємодіяти з нею. Я вважаю, що ця парадигма стане звичайною у ближчому майбутньому, і ми вже бачимо її ознаки у чат-LLM та нашому інструменті, звичайно.

Ми застосовуємо цю парадигму для навчання завдань NLP, але це можна (і буде) використовувати для багатьох інших завдань, включаючи розробку програмного забезпечення.

Чи є ще щось, що ви хотіли б поділитися про NuMind?

Можливо, те, що це інструмент, який може бути використаний як експертами, так і неекспертами у сфері машинного навчання, що він багатомовний, що ви володієте своїми моделями, і що дані можуть залишатися на вашій машині!

Інакше ми перебуваємо у приватній бета-фазі, тому якщо у вас є потреби у сфері NLP, ми були б раді поговорити та визначити, чи можемо ми вам допомогти!

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати NuMind.