Омри Геллер, генеральный директор и сооснователь Run:AI – Интервью

Омри Геллер является генеральным директором и сооснователем компании Run:AI

Run:AI виртуализирует и ускоряет искусственный интеллект, объединяя ресурсы вычислений GPU для обеспечения видимости и контроля над приоритизацией и распределением ресурсов. Это гарантирует, что проекты искусственного интеллекта соответствуют бизнес-целям и обеспечивают значительное улучшение производительности команд по науке о данных, позволяя им создавать и обучать модели параллельно без ограничений ресурсов.

Что изначально привлекло вас к искусственному интеллекту?

Когда я начал изучать электронную и электрическую инженерию в Тель-Авивском университете, я открыл для себя fasciniruyushchie вещи об искусственном интеллекте, которые, я знал, помогут нам сделать следующий шаг в возможностях вычислений. С тех пор я знал, что хочу инвестировать себя в область искусственного интеллекта. Будь то исследование в области искусственного интеллекта или открытие компании, которая поможет внедрить новые способы применения искусственного интеллекта в мире.

Всегда ли вы были интересны компьютерному оборудованию?

Когда я получил свой первый компьютер с процессором Intel (INTC ) 486 в шесть или семь лет, я сразу же заинтересовался в том, чтобы понять, как все работает, хотя я, возможно, был слишком молод, чтобы действительно понять это.除了 спорта, компьютеры стали одним из моих главных хобби в детстве. С тех пор я собирал компьютеры, работал с ними и изучал эту область из-за увлечения, которое у меня было в детстве.

Какова была ваша идея при запуске Run:AI?

Я знал с самого начала, что хочу инвестировать себя в область искусственного интеллекта. В последние годы отрасль пережила огромный рост в области искусственного интеллекта, и большая часть этого роста произошла благодаря компьютерным ученым, таким как я, и оборудованию, которое может поддерживать больше приложений. Стало ясно, что я обязательно начну компанию – вместе с моим сооснователем Роненом Даром – чтобы продолжать инновации и помогать внедрять искусственный интеллект в больше корпоративных компаний.

Run:AI позволяет специалистам по машинному обучению получить новый тип контроля над распределением дорогих ресурсов GPU. Можете ли вы объяснить, как это работает?

Нам нужно понять, что инженеры-машинобудители, исследователи и ученые-исследователи нуждаются в потреблении вычислительной мощности гибким образом. Не только современные вычисления очень требовательны к ресурсам, но также существуют новые рабочие процессы, которые используются в науке о данных. Эти рабочие процессы основаны на том, что наука о данных основана на экспериментах и запуске экспериментов.

Чтобы разработать новые решения для запуска более эффективных экспериментов, нам нужно изучить эти тенденции рабочих процессов во времени. Например: ученый-исследователь использует восемь GPU в один день, но на следующий день он может использовать ноль, или он может использовать один GPU в течение длительного периода, но затем ему нужно использовать 100 GPU, потому что он хочет запустить 100 экспериментов параллельно. Как только мы поймем этот рабочий процесс для оптимизации мощности одного пользователя, мы можем начать масштабировать его для нескольких пользователей.

С традиционным вычислением определенное количество GPU назначается каждому пользователю, не учитывая, используются ли они или нет. С этим методом часто дорогие GPU простаивают бездейственно, без возможности доступа к ним для других пользователей, что приводит к низкой отдаче от вложений в GPU. Мы понимаем финансовые приоритеты компании и предлагаем решения, которые позволяют динамически распределять эти ресурсы в соответствии с потребностями пользователей. Предоставляя гибкую систему, мы можем выделить дополнительную мощность конкретному пользователю, когда это необходимо, используя GPU, которые не используются другими пользователями, создавая максимальную отдачу от вложений в вычислительные ресурсы компании и ускоряя инновации и время выхода на рынок решений искусственного интеллекта.

Одной из функций Run:AI является снижение слепых зон, создаваемых статическим распределением GPU. Как это достигается?

У нас есть инструмент, который дает нам полную видимость кластера ресурсов. Используя этот инструмент, мы можем наблюдать и понять, есть ли слепые зоны, и затем использовать простаивающие GPU для пользователей, которым необходимо распределение. Тот же инструмент, который обеспечивает видимость кластера и контроль над кластером, также гарантирует, что эти слепые зоны смягчаются.

В недавней речи вы подчеркнули некоторые различия между рабочими процессами построения и обучения, можете ли вы объяснить, как Run:AI использует механизм управления очередью GPU для распределения ресурсов для обоих?

Модель искусственного интеллекта строится в два этапа. Первый этап – это этап построения, где ученый-исследователь пишет код для построения самой модели, так же, как инженер строит машину. Второй этап – это этап обучения, где построенная модель начинает учиться и «обучаться» на оптимизацию конкретной задачи. Аналогично тому, как кто-то учится водить машину после того, как она собрана.

Для построения модели самой по себе не требуется много вычислительной мощности. Однако в конечном итоге для начала внутренних тестов может потребоваться более сильная обработка. Например, так же, как инженер в конечном итоге захочет протестировать двигатель, прежде чем установить его. Из-за этих различных потребностей на каждом этапе Run:AI позволяет распределять GPU независимо от того, строятся или обучаются модели, однако, как упоминалось ранее, обычно требуется более высокая мощность GPU для обучения модели, а не для ее построения.

Как много сырой вычислительной мощности/ресурсов можно сэкономить разработчиками искусственного интеллекта, которые хотят интегрировать Run:AI в свои системы?

Наши решения в Run:AI могут улучшить цифровизацию ресурсов примерно на два-три раза, что означает 2-3 раза лучшую общую производительность.

Спасибо за интервью, читатели, которые хотят узнать больше, могут посетить Run:AI.