Омри Геллер, генеральный директор и соучредитель Run:AI — серия интервью

Омри Геллер — генеральный директор и соучредитель компании Запуск: AI

Run:AI виртуализирует и ускоряет ИИ, объединяя вычислительные ресурсы графического процессора, чтобы обеспечить прозрачность и, в конечном счете, контроль над приоритизацией и распределением ресурсов. Это гарантирует, что проекты искусственного интеллекта сопоставляются с бизнес-целями, и значительно повышает производительность групп специалистов по обработке и анализу данных, позволяя им создавать и обучать параллельные модели без ограничения ресурсов.

Что изначально привлекло вас в искусственном интеллекте?

Когда я начал получать степень бакалавра в области электротехники и электроники в Тель-Авивском университете, я обнаружил удивительные вещи об искусственном интеллекте, которые, как я знал, помогут нам сделать следующий шаг в вычислительных возможностях. С этого момента я понял, что хочу инвестировать в область ИИ. Будь то исследования ИИ или открытие компании, которая помогла бы представить новые способы применения ИИ в мире.

Вы всегда интересовались компьютерным оборудованием?

Когда я получил свой первый компьютер с процессором Intel 486 в возрасте шести или семи лет, мне сразу же стало интересно разобраться, как все работает, хотя я, наверное, был еще слишком мал, чтобы понять это по-настоящему. Помимо спорта, компьютеры стали одним из моих самых больших увлечений в детстве. С тех пор я собирал компьютеры, работал с ними и продолжал учиться в этой области из-за страсти, которая была у меня в детстве.

Что вас вдохновило на запуск Run:AI?

Я с самого начала знал, что хочу инвестировать в область ИИ. За последние пару лет в отрасли наблюдался огромный рост ИИ, и большая часть этого роста была обеспечена как учеными-компьютерщиками, такими как я, так и аппаратным обеспечением, которое могло поддерживать больше приложений. Мне стало ясно, что я неизбежно создам компанию — и вместе с моим соучредителем Роненом Даром — чтобы продолжать внедрять инновации и помогать внедрять ИИ в большее количество корпоративных компаний.

Run:AI позволяет специалистам по машинному обучению получить новый тип контроля над распределением дорогостоящих ресурсов графического процессора. Можете ли вы объяснить, как это работает?

Нам нужно понять, что инженерам по машинному обучению, как и исследователям и специалистам по данным, необходимо гибко потреблять вычислительную мощность. Сегодняшние новейшие вычисления не только очень ресурсоемки, но и новые рабочие процессы, которые используются в науке о данных. Эти рабочие процессы основаны на том факте, что наука о данных основана на экспериментах и ​​проведении экспериментов.

Чтобы разработать новые решения для проведения более эффективных экспериментов, нам необходимо изучить эти тенденции рабочего процесса во времени. Например: специалист по данным использует восемь графических процессоров за один день, но на следующий день он может использовать ноль, или он может использовать один графический процессор в течение длительного периода времени, но затем ему нужно использовать 100 графических процессоров, потому что он хочет провести 100 экспериментов. в параллели. Как только мы поймем этот рабочий процесс для оптимизации вычислительной мощности одного пользователя, мы сможем начать масштабировать его для нескольких пользователей.

При традиционных вычислениях каждому пользователю выделяется определенное количество графических процессоров, независимо от того, используются они или нет. При использовании этого метода часто дорогие графические процессоры простаивают, и никто другой не может получить к ним доступ, что приводит к низкой рентабельности инвестиций для графического процессора. Мы понимаем финансовые приоритеты компании и предлагаем решения, позволяющие динамически распределять эти ресурсы в соответствии с потребностями пользователей. Предлагая гибкую систему, мы можем при необходимости выделять дополнительную мощность конкретному пользователю, используя графические процессоры, не используемые другими пользователями, обеспечивая максимальную окупаемость вычислительных ресурсов компании и ускоряя инновации и время выхода на рынок решений ИИ.

Одна из функций Run:AI заключается в том, что она позволяет уменьшить слепые зоны, создаваемые статическим распределением ресурсов графического процессора. Как это достигается?

У нас есть инструмент, который дает нам полное представление о кластере ресурсов. Используя этот инструмент, мы можем наблюдать и понимать, есть ли слепые зоны, а затем использовать эти простаивающие графические процессоры для пользователей, которым необходимо выделение. Тот же инструмент, который обеспечивает видимость кластера и контроль над кластером, также обеспечивает устранение этих слепых зон.

В недавнем выступлении вы подчеркнули некоторые различия между рабочими процессами сборки и обучения. Можете ли вы объяснить, как Run:AI использует механизм управления очередями графического процессора для распределения ресурсов для обоих?

Модель ИИ строится в два этапа. Во-первых, есть этап сборки, на котором специалист по данным пишет код для создания фактической модели, точно так же, как инженер строит автомобиль. Второй этап — это этап обучения, когда готовая модель начинает обучаться и «обучаться» тому, как оптимизировать конкретную задачу. Подобно тому, как кто-то учится водить машину после того, как она была собрана.

Для построения самой модели не требуется больших вычислительных мощностей. Однако в конечном итоге может потребоваться более высокая вычислительная мощность, чтобы начать небольшие внутренние тесты. Например, как инженер в конечном итоге захочет протестировать двигатель перед его установкой. Из-за этих различных потребностей на каждом этапе Run.AI позволяет выделять GPU независимо от того, строят ли они или обучают модель, однако, как упоминалось ранее, для обучения модели обычно требуется более высокое использование GPU, а для ее построения требуется меньше. .

Сколько необработанного вычислительного времени/ресурсов могут сэкономить разработчики ИИ, которые хотят интегрировать Run.AI в свои системы?

Наши решения в Run.ai могут улучшить оцифровку ресурсов примерно в два-три раза, что означает повышение общей производительности в 2-3 раза.

Спасибо за интервью, читатели, которые хотят узнать больше, могут посетить Запуск: AI.