Omri Geller, CEO & Co-Founder of Run:AI – Интервью Серия

Omri Geller является CEO и сооснователем в Run:AI

Run:AI виртуализирует и ускоряет ИИ, объединяя ресурсы вычислений GPU для обеспечения видимости и, в конечном итоге, контроля над приоритезацией и распределением ресурсов. Это обеспечивает сопоставление проектов ИИ с бизнес-целями и дает значительное улучшение производительности команд по науке о данных, позволяя им строить и обучать параллельные модели без ограничений ресурсов.

Что именно изначально привлекло вас к Искусственному Интеллекту?

Когда я начал свое обучение на факультете электротехники и электроники в Тель-Авивском университете, я открыл для себя fascинirующие вещи об ИИ, которые, я знал, помогут нам сделать следующий шаг в возможностях вычислений. С того момента я знал, что хочу инвестировать себя в область ИИ. Будь то исследование ИИ или открытие компании, которая поможет внедрить новые способы применения ИИ в мире.

Всегда ли вы были интересованы компьютерным оборудованием?

Когда я получил свой первый компьютер с процессором Intel 486 в шесть или семь лет, я сразу же заинтересовался в том, чтобы понять, как все работает, хотя, вероятно, я был слишком молод, чтобы действительно понять это. Помимо спорта, компьютеры стали одним из моих главных хобби, выросших. С тех пор я строил компьютеры, работал с ними и продолжил изучать эту область из-за увлечения, которое у меня было в детстве.

Какова была ваша вдохновение за запуском Run:AI?

Я знал с самого начала, что хочу инвестировать себя в область ИИ. В последние несколько лет отрасль пережила огромный рост ИИ, и многое из этого роста пришло от компьютерных ученых, таких как я, и оборудования, которое могло поддерживать больше приложений. Стало ясно, что я неизбежно начну компанию – и вместе с моим сооснователем Роненом Даром – чтобы продолжать инновации и помогать внедрять ИИ в больше корпоративных компаний.

Run:AI позволяет специалистам по машинному обучению получить новый тип контроля над распределением дорогих ресурсов GPU. Можете ли вы объяснить, как это работает?

Нам нужно понять, что инженеры-машинщики, такие как исследователи и ученые-исследователи, должны потреблять вычислительную мощность гибким образом. Не только сегодняшние новые вычисления очень требовательны к ресурсам, но также существуют новые рабочие процессы, используемые в науке о данных. Эти рабочие процессы основаны на том факте, что наука о данных основана на экспериментах и запуске экспериментов.

Чтобы разработать новые решения для запуска более эффективных экспериментов, нам нужно изучить эти рабочие процессы во времени. Например: ученый-исследователь использует восемь GPU в один день, но на следующий день он может использовать ноль, или он может использовать один GPU в течение длительного периода времени, но затем ему нужно использовать 100 GPU, потому что он хочет запустить 100 экспериментов параллельно. Как только мы понимаем этот рабочий процесс для оптимизации мощности обработки одного пользователя, мы можем начать масштабировать его для нескольких пользователей.

С традиционным вычислением определенное количество GPU назначается каждому пользователю, не учитывая, используются ли они или нет. С этим методом часто дорогие GPU простаивают без доступа к ним других пользователей, что приводит к низкой отдаче от вложений в GPU. Мы понимаем финансовые приоритеты компании и предлагаем решения, которые позволяют динамически распределять эти ресурсы в соответствии с потребностями пользователей. Предлагая гибкую систему, мы можем выделить дополнительную мощность конкретному пользователю, когда это необходимо, используя GPU, которые не используются другими пользователями, создавая максимальную отдачу от вложений в вычислительные ресурсы компании и ускоряя инновации и время выхода на рынок решений ИИ.

Одной из функций Run:AI является возможность уменьшить слепые пятна, созданные статическим распределением GPU. Как это достигается?

У нас есть инструмент, который дает нам полную видимость кластера ресурсов. Используя этот инструмент, мы можем наблюдать и понимать, есть ли слепые пятна, и затем использовать эти простаивающие GPU для пользователей, которым необходимо распределение. Тот же инструмент, который обеспечивает видимость кластера и контроль над кластером, также гарантирует, что эти слепые пятна смягчаются.

В недавней речи вы подчеркнули некоторые различия между рабочими процессами построения и обучения, можете ли вы объяснить, как Run:AI использует механизм управления очередью GPU для распределения ресурсов для обоих?

Модель ИИ строится в два этапа. Первый – это этап построения, где ученый-исследователь пишет код для построения самой модели, так же, как инженер строит машину. Второй – это этап обучения, где построенная модель начинает учиться и «обучаться» на оптимизацию конкретной задачи. Аналогично тому, как человек учится водить машину после ее сборки.

Чтобы построить саму модель, не требуется много вычислительной мощности. Однако в конечном итоге может потребоваться более сильная обработка для начала небольших внутренних тестов. Например, так же, как инженер в конечном итоге хочет протестировать двигатель, прежде чем установить его. Из-за этих различных потребностей на каждом этапе Run.AI позволяет распределять GPU независимо от того, строят ли они или обучают модель, однако, как упоминалось ранее, более высокое использование GPU обычно требуется для обучения модели, а менее – для построения ее.

Как много сырой вычислительный времени/ресурсов можно сэкономить разработчиками ИИ, которые хотят интегрировать Run.AI в свои системы?

Наши решения в Run.ai могут улучшить цифровизацию ресурсов примерно в два-три раза, что означает 2-3 раза лучшую общую производительность.

Спасибо за интервью, читатели, которые хотят узнать больше, могут посетить Run:AI.