Рики Коста, генеральный директор Quantum Stat – Интервью

Рики Коста – генеральный директор Quantum Stat, компании, которая предлагает бизнес-решения для NLP и инициатив в области искусственного интеллекта

Что изначально заинтересовало вас в искусственном интеллекте?

Случайность. Я читал книгу о вероятности, когда наткнулся на знаменитую теорему. В то время я наивно задумался, можно ли применить эту теорему к проблеме обработки естественного языка, которую я пытался решить на работе. Оказалось, что алгоритм уже существовал, хотя я об этом не знал, – это был Наивный Байес, очень известная и простая генеративная модель, используемая в классическом машинном обучении. Эта теорема была теоремой Байеса. Я почувствовал, что это совпадение было подсказкой, и оно посеяло семя любопытства, чтобы узнать больше.

Вы являетесь генеральным директором Quantum Stat, компании, которая предлагает решения для обработки естественного языка. Как вы оказались в этой позиции?

Когда происходит революция в новой технологии, некоторые компании более осторожны, чем другие, когда сталкиваются с неизвестным. Я основал свою компанию, потому что преследование неизвестного мне кажется интересным. Кроме того, я чувствовал, что сейчас подходящее время, чтобы заняться областью NLP, учитывая все удивительные исследования, которые были проведены за последние 2 года. Сообщество NLP теперь имеет возможность добиться гораздо больше с меньшими затратами, благодаря появлению новых методов NLP, которые требуют меньше данных для масштабирования производительности.

Для читателей, которые могут быть не знакомы с этой областью, можете ли вы рассказать нам, что такое обработка естественного языка?

NLP – это под область искусственного интеллекта и аналитики, которая пытается понять естественный язык в тексте, речи или многомодальной обработке (текст и изображения/видео) и вычислять его до такой степени, чтобы получать информацию и/или предоставлять ценную услугу. Ценность может прийти с различных сторон, от извлечения информации из внутренней файловой системы компании до классификации настроений в новостях или бота GPT-2 в Twitter, который помогает с вашим маркетингом в социальных сетях (как тот, который мы построили несколько недель назад).

У вас есть степень бакалавра искусств в колледже Хантера по экспериментальной психологии. Чувствуете ли вы, что понимание человеческого мозга и психологии является активом, когда речь идет об понимании и расширении области обработки естественного языка?

Это противоречиво, но, к сожалению, нет. Аналогия нейронов и глубоких нейронных сетей используется только для иллюстрации и создания интуиции. Можно, вероятно, узнать гораздо больше из науки о сложности и инженерии. Трудность с пониманием того, как работает мозг, заключается в том, что мы имеем дело с сложной системой. “Интеллект” – это возникающее явление из сложности мозга, взаимодействующего с его окружением, и очень трудно определить. Психология и другие социальные науки, которые зависят от “редукционизма” (сверху вниз), не работают в этом сложном парадигме. Вот интуиция: представьте, что кто-то пытается свести песню “Let it Be” группы The Beatles к гамме до мажор. Нет ничего в этой гамме, что предсказывает, что “Let it Be” возникнет из нее. То же самое происходит, когда кто-то пытается свести поведение к нейронной активности в мозге.

Можете ли вы рассказать нам, почему большие данные так важны, когда речь идет о глубоком обучении и, более конкретно, обработке естественного языка?

Как оно стоит, потому что модели глубокого обучения интерполируют данные, чем больше данных вы подаете в модель, тем меньше она будет видеть краевых случаев, когда делает вывод в дикой природе. Эта архитектура “стимулирует” большие наборы данных, чтобы быть вычисленными моделями, чтобы увеличить точность вывода. Однако, если мы хотим добиться более интеллектуального поведения моделей искусственного интеллекта, нам нужно смотреть за пределы того, сколько данных у нас есть, и больше к тому, как мы можем улучшить способность модели рассуждать более эффективно, что интуитивно не должно требовать много данных. С точки зрения сложности эксперименты с клеточными автоматами, проведенные в прошлом веке физиками Джоном фон Нейманом и Стивеном Вольфрамом, показывают, что сложность может возникнуть из простых начальных условий и правил. Что эти условия/правила должны быть в отношении искусственного интеллекта, это то, что все ищут.

Вы недавно запустили базу данных “Big Bad NLP”. Что это за база данных и почему она важна для тех, кто работает в индустрии искусственного интеллекта?

Эта база данных была создана для разработчиков NLP, чтобы они могли получить беспрепятственный доступ ко всем соответствующим наборам данных в отрасли. Эта база данных помогает индексировать наборы данных, что имеет приятный побочный эффект, позволяя пользователям запрашивать их. Предварительная обработка данных занимает большинство времени в процессе развертывания, и эта база данных пытается смягчить эту проблему как можно больше. Кроме того, это бесплатная платформа для любого, будь то академический исследователь, практикант или независимый гуру искусственного интеллекта, который хочет быстро ознакомиться с данными NLP. Ссылка

Quantum Stat в настоящее время предлагает решения от начала до конца. Какие это решения?

Мы помогаем компаниям облегчить их трубопровод моделирования NLP, предлагая разработку на любой стадии. Мы можем покрыть широкий спектр услуг, начиная от очистки данных на стадии предварительной обработки и заканчивая развертыванием модели на сервере в производстве (эти услуги также выделены на нашей домашней странице). Не все проекты искусственного интеллекта доходят до конца из-за неизвестной природы того, как ваша конкретная архитектура данных/проекта работает с современной моделью. Учитывая эту неопределенность, наши услуги дают компаниям возможность итерировать свой проект за долю стоимости найма полного штатного инженера-машиностроителя.

Какое недавнее достижение в области искусственного интеллекта вы считаете наиболее интересным?

Самым важным достижением в последнее время является модель трансформера, о которой вы, возможно, слышали: BERT, RoBERTa, ALBERT, T5 и так далее. Эти модели трансформера очень привлекательны, потому что они позволяют исследователю добиться лучших результатов с меньшими наборами данных. До трансформеров разработчику требовался очень большой набор данных, чтобы обучить модель с нуля. Поскольку эти трансформеры предварительно обучены на миллиардах слов, они позволяют быстрее итерировать проекты искусственного интеллекта, и это то, чем мы в основном занимаемся сейчас.

Есть ли что-то еще, что вы хотели бы поделиться о Quantum Stat?

Мы работаем над новым проектом, связанным с анализом настроений финансового рынка, который будет выпущен скоро. Мы использовали несколько трансформеров, чтобы дать беспрецедентный взгляд на то, как финансовые новости разворачиваются в реальном времени. Следите за нами!

Чтобы узнать больше, посетите Quantum Stat или прочитайте нашу статью о базе данных Big Bad NLP.