Омрі Геллер, генеральний директор та співзасновник Run:AI – Серія інтерв’ю

Омрі Геллер є генеральним директором і співзасновником у Run:AI

Run:AI виртуалізує і прискорює штучний інтелект за допомогою пулу ресурсів обчислень GPU, забезпечуючи видимість і контроль над пріоритезацією та розподілом ресурсів. Це забезпечує те, що проекти штучного інтелекту відображаються на бізнес-цілях і дає значне покращення продуктивності команд з науки про дані, дозволяючи їм створювати і тренувати конкуруючі моделі без обмежень ресурсів.

Що спочатку привернуло вашу увагу до штучного інтелекту?

Коли я розпочав навчання на факультеті електронної та електричної інженерії в університеті Тель-Авіва, я відкрив для себе цікаві речі про штучний інтелект, які, як я знав, допоможуть нам зробити наступний крок у можливостях обчислень. Відтоді я знав, що хочу інвестувати себе в сфері штучного інтелекту. Чи це було дослідження штучного інтелекту, чи відкриття компанії, яка допоможе знайти нові способи застосування штучного інтелекту у світі.

Чи завжди у вас був інтерес до комп’ютерного обладнання?

Коли я отримав свій перший комп’ютер з процесором Intel (INTC ) 486 у віці шести чи семи років, я відразу ж став цікавитися тим, як усе працює, хоча, можливо, я був ще занадто молодим, щоб справді зрозуміти це. Окрім спорту, комп’ютери стали однією з моїх найбільших хобі, зростаючи. З того часу я збудував комп’ютери, працював з ними і вступив до університету через свою пристрасть до цього як дитини.

Яка була ваша ідея створення Run:AI?

Я знав з самого початку, що хочу інвестувати себе в сфері штучного інтелекту. За останні кілька років галузь зазнала величезного зростання штучного інтелекту, і значна частина цього зростання прийшла як від комп’ютерних вчених, таких як я, так і від апаратного забезпечення, яке могло підтримувати більше застосунків. Стало зрозумілішим для мене, що я врешті-решт створю компанію – разом зі своїм співзасновником Роненом Даром – для того, щоб продовжувати інновувати і допомогти привести штучний інтелект до більшої кількості підприємств.

Run:AI дозволяє спеціалістам з машинного навчання отримати новий тип контролю над розподілом дорогих ресурсів GPU. Як це працює?

Що нам потрібно зрозуміти, так це те, що інженери з машинного навчання, як дослідники і вчені-дані, потребують споживати обчислювальну потужність гнучким способом. Не тільки сучасні обчислення дуже обчислювально-інтенсивні, але також існують нові робочі процеси, які використовуються в науці про дані. Ці робочі процеси засновані на тому, що наука про дані заснована на експериментах і виконанні експериментів.

Для розробки нових рішень для виконання більш ефективних експериментів нам потрібно вивчити ці тенденції робочих процесів у часі. Наприклад: вчений-дані використовує вісім GPU протягом одного дня, але наступного дня він може не використовувати жодного, або він може використовувати один GPU протягом тривалого періоду часу, але потім йому потрібно використовувати 100 GPU, оскільки він хоче виконувати 100 експериментів паралельно. Як тільки ми зрозуміємо цей робочий процес для оптимізації обчислювальної потужності одного користувача, ми можемо почати масштабувати його для кількох користувачів.

У традиційному обчисленні певна кількість GPU виділяється кожному користувачеві, не беручи до уваги, чи вони використовуються чи ні. За допомогою цього методу дорогі GPU часто залишаються без діла, не даючи нікому іншого доступу до них, що призводить до низької віддачі від інвестицій в GPU. Ми розуміємо фінансові пріоритети компанії і пропонуємо рішення, які дозволяють динамічно розподіляти ці ресурси згідно з потребами користувачів. Надавши гнучку систему, ми можемо виділити додаткову потужність конкретному користувачеві, коли це потрібно, використовуючи GPU, які не використовуються іншими користувачами, створюючи максимальну віддачу від інвестицій компанії в обчислювальні ресурси і прискорюючи інновації та час виходу на ринок рішень штучного інтелекту.

Одна з функцій Run:AI полягає в тому, що вона дозволяє зменшити сліпі плями, створені статичним розподілом GPU. Як це досягається?

У нас є інструмент, який надає нам повну видимість у кластер ресурсів. Використовуючи цей інструмент, ми можемо спостерігати і зрозуміти, чи існують сліпі плями, і потім використовувати ці бездіяльні GPU для користувачів, яким потрібно виділення. Той самий інструмент, який забезпечує видимість кластера і контроль над кластером, також гарантує, що ці сліпі плями пом’якшуються.

У недавній промові ви підкреслили деякі відмінності між процесами побудови і навчання, можете пояснити, як Run:AI використовує механізм управління чергою GPU для розподілу ресурсів для обох?

Модель штучного інтелекту будується у двох етапах. Перший етап – це стадія побудови, на якій вчений-дані пише код для побудови фактичної моделі, так само, як інженер би побудував автомобіль. Другий етап – це стадія навчання, на якій завершена модель починає вивчати і «навчатися» на оптимізацію конкретної задачі. Подібно до того, як хтось вивчає водіння автомобіля після його зборки.

Для побудови самої моделі не потрібно багато обчислювальної потужності. Однак згодом вона може потребувати більшої обчислювальної потужності для початку внутрішніх тестів. Наприклад, так само, як інженер би хотів протестувати двигун, перш ніж встановити його. Через ці різні потреби на кожному етапі Run.AI дозволяє виділяти GPU незалежно від того, чи будується, чи тренується модель, однак, як згадувалося раніше, для навчання моделі зазвичай потрібно більше GPU, ніж для її побудови.

Як багато сирої обчислювальної потужності/ресурсів можна зберегти розробникам штучного інтелекту, які бажають інтегрувати Run.AI у свої системи?

Наші рішення в Run.ai можуть покращити цифровізація ресурсів приблизно на два-три рази, тобто 2-3 рази краща загальна продуктивність.

Дякуємо за інтерв’ю, читачам, які бажають дізнатися більше, можуть відвідати Run:AI.