Этьен Бернар, сооснователь и генеральный директор NuMind – Интервью

Этьен Бернар – сооснователь и генеральный директор NuMind, компании, основанной в июне 2022 года и специализирующейся на разработке инструментов машинного обучения. Этьен – эксперт в области ИИ и машинного обучения. После защиты диссертации (ENS) и постдокторантуры (MIT) по статистической физике Этьен присоединился к компании Wolfram Research, где стал руководителем отдела машинного обучения и проработал там 7 лет. В это время Этьен возглавлял разработку автоматических инструментов обучения, дружественного фреймворка глубокого обучения и различных приложений машинного обучения.

Что изначально привлекло вас к машинному обучению?

Впервые я услышал термин “машинное обучение” в 2009 году, если я правильно помню, благодаря конкурсу Netflix. Мне показалась fascinующей идея, что машины могут учиться, и я сразу понял, что это приведет к множеству важных применений, включая создание искусственного интеллекта. Я сразу же решил глубже изучить эту область и не разочаровался.

После защиты диссертации (ENS) и постдокторантуры (MIT) по статистической физике вы присоединились к компании Wolfram Research, где стали руководителем отдела машинного обучения и проработали там 7 лет. Расскажите о некоторых из наиболее интересных проектов, над которыми вы работали.

Мои любимые проекты в Wolfram были связаны с разработкой автоматических функций машинного обучения для языка Wolfram (также известного как Mathematica). Первым таким проектом была разработка функции Classify, которая принимала данные и возвращала классификатор. Для меня машинное обучение всегда было связано с автоматизацией. Вы не настраиваете гиперпараметры для своего человеческого студента, и не должны делать этого для машины тоже! Создание真正щих автоматических и эффективных функций машинного обучения было довольно сложной задачей с научной и программной точки зрения.

Разработка высокоуровневого фреймворка нейронных сетей также была очень интересным проектом. Много трудных решений о том, как представлять нейронные сети символически, как их визуализировать и как манипулировать ими (например, можно ли отрезать некоторые части, приклеить другие, заменить слои и т. д.). Я думаю, мы сделали приличную работу, и если бы это было открытое программное обеспечение, я уверен, что оно было бы широко использовано 😉

В это время вы также написали фундаментальную книгу под названием “Введение в машинное обучение“, какие были некоторые из сложностей при написании такой всесторонней книги?

О, их было много! На написание книги ушло два года. Я мог бы решить написать просто “как сделать” книгу, что было бы проще, но часть моего пути в Wolfram была связана с изучением машинного обучения, и я чувствовал необходимость передать это знание. Основная сложность заключалась в том, чтобы определить, о чем именно говорить и в каком порядке, чтобы сделать книгу интересной и понятной. Затем были педагого-психологические детали: должен ли я использовать математическую формулу для этой концепции? Или код? Или просто визуализацию? Я хотел сделать эту книгу как можно более доступной, и это дало мне много головных болей. В целом я доволен результатом. Надеюсь, она будет полезна многим!

Расскажите о истории создания NuMind.

Хорошо. Я хотел создать стартап уже давно, изначально в 2012 году, чтобы создать инструмент автоматического машинного обучения, но работа в Wolfram была слишком интересной. Затем, около 2019-2020 годов, появились первые крупные языковые модели (LLM), такие как GPT-2 и GPT-3. Мне было шоком, насколько хорошо они могли понимать и генерировать текст. В то же время я видел, насколько болезненно было создание моделей NLP: вам нужно было иметь команду аннотаторов, экспертов, проводящих множество экспериментов и т. д. Я подумал, что должно быть способ использовать эти LLM через инструмент, чтобы значительно улучшить опыт создания моделей NLP. Мой сооснователь, Самуэль (который happens to быть моим кузеном), разделял эту же видение, и мы решили создать этот инструмент.

Цель NuMind – распространить использование машинного обучения и искусственного интеллекта в целом, создавая простые, но мощные инструменты. Какие инструменты в настоящее время доступны?

Да. Наш первый инструмент предназначен для создания пользовательских моделей NLP. Например, если вы хотите проанализировать настроения ваших пользователей по их отзывам. Использование готовой модели обычно не очень хорошо, поскольку она была обучена на другом типе данных и для немного другого задания (задачи анализа настроений удивительно различны!). Вместо этого вы хотите обучить пользовательскую модель, которая работает хорошо на ваших данных. Наш инструмент позволяет сделать это очень просто и эффективно. По сути, вы загружаете свои данные, выполняете небольшое количество аннотаций и получаете модель, которую можно развернуть через API. Это возможно благодаря использованию LLM и новому парадигме обучения, который мы называем Interactive AI Development.

Какие пользовательские модели вы видите, разрабатываемые из первой партии клиентов NuMind?

Было несколько анализаторов настроений. Например, один клиент отслеживает настроения групповых чатов, где люди помогают друг другу бороться с зависимостью. Этот анализ необходим, чтобы вмешаться в редких случаях, когда настроение снижается. Другой клиент использует нас, чтобы найти, какие вакансии лучше всего подходят для данного резюме – и, кстати, я считаю, что есть большой потенциал в таких сватовских ИИ. У нас также есть клиенты, которые извлекают информацию из медицинских и юридических документов.

Какое время экономии могут увидеть компании, используя инструменты NuMind?

Это зависит от приложения, конечно, но по сравнению с традиционными решениями (маркировка данных и обучение модели отдельно) мы видим до 10-кратное ускорение получения модели и ее запуска в производство. Я ожидаю, что это число улучшится, когда мы продолжим разрабатывать продукт. В конечном итоге я считаю, что проекты, которые ранее занимали месяцы, теперь будут завершены за несколько дней, и с лучшей производительностью.

Можете ли вы объяснить, как работает Interactive AI Development от NuMind?

Идея Interactive AI Development происходит от того, как люди учат друг друга. Например, если вы нанимаете стажера для классификации ваших электронных писем. Вы сначала описываете задачу и ее цель. Затем вы можете дать несколько хороших примеров, некоторые краевые случаи, может быть. Затем ваш стажер начинает маркировать электронные письма, и начинается разговор. Ваш стажер возвращается с вопросами, такими как “Как мне маркировать это?” или “Я думаю, мы должны создать новую марку для этого”, или даже спрашивает вас “почему” мы должны маркировать определенным образом. Аналогично вы можете задать вопросы вашему стажеру, чтобы выявить и исправить пробелы в его знаниях. Этот способ обучения очень естественен и чрезвычайно эффективен с точки зрения обмена информацией. Мы пытаемся имитировать этот рабочий процесс, чтобы люди могли эффективно учить машины.

С технической точки зрения, этот рабочий процесс представляет собой низкозадержную, высокополосную, многомодальную и двустороннюю связь между человеком и машиной, и мы решили назвать ее Interactive AI Development, чтобы подчеркнуть двусторонность и низкую задержку. Я считаю, что это третий парадигма обучения машин, после классического программирования и классического машинного обучения (где вы просто даете компьютеру кучу примеров задачи, чтобы он мог понять, что делать).

Эта новая парадигма разблокируется с помощью LLM. Действительно, вам нужно иметь что-то уже достаточно умное в машине, чтобы эффективно взаимодействовать с ней. Я считаю, что эта парадигма станет обычной в ближайшем будущем, и мы уже видим ее намеки в чат-основанных LLM и в нашем инструменте, конечно.

Мы применяем эту парадигму для обучения задач NLP, но это можно (и будет) использовать для гораздо большего, включая разработку программного обеспечения.

Есть ли что-то еще, что вы хотели бы поделиться о NuMind?

Может быть, то, что это инструмент, который может быть использован как экспертами, так и неэкспертами в машинном обучении, что он многоязычен, что вы владеете своими моделями, и что данные могут оставаться на вашей машине!

В противном случае мы находимся в частной бета-фазе, поэтому, если у вас есть какие-либо потребности в NLP, мы будем рады поговорить и выяснить, можем ли мы вам помочь!

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить NuMind.