Фонд PyTorch інтегрує Ray, розподілений комп’ютерний фреймворк, для створення уніфікованої інфраструктури штучного інтелекту

Відкрита екосистема штучного інтелекту зробила вирішальний крок вперед сьогодні, коли фундація PyTorch оголосила, що Ray, розподілений комп’ютерний фреймворк, який спочатку був розроблений компанією Anyscale, офіційно приєднався до її складу. Цей крок є значним кроком до створення уніфікованої, взаємозамінної та готової до виробництва інфраструктури штучного інтелекту – однієї, яка поєднує фундаментальні шари розробки моделей (PyTorch), розподіленого висновку (vLLM) та великомасштабного виконання (Ray).

Уніфікована основа для відкритого штучного інтелекту

Фундація PyTorch, розміщена під егідою фундації Linux, діє як центральний хаб для деяких з найважливіших відкритих технологій штучного інтелекту. Її місія полягає в тому, щоб зменшити фрагментацію та сприяти співробітництву на кожному етапі розробки штучного інтелекту. Інтегруючи Ray поряд з PyTorch та vLLM, фундація надає те, чого давно потребує галузь – цілісний, кінцевий стек для створення, навчання та розгортання штучного інтелекту у великому масштабі.

Додання Ray також представляє собою кульмінацію років академічного та промислового розвитку. Народившись у лабораторії RISELab університету Каліфорнії в Берклі, Ray був розроблений для спрощення розподіленого обчислення для завдань штучного інтелекту та машинного навчання. Він дозволяє розробникам масштабувати завдання безперебійно з одного ноутбука до тисяч машин без переписування коду або керування складними системами. На сьогодні Ray має понад 39 000 зірок на GitHub та понад 214 мільйонів завантажень, що робить його одним з найбільш широко прийнятих розподілених комп’ютерних фреймворків у світі.

Як Ray доповнює PyTorch та vLLM

Ray розміщується між фреймворками навчання та висновку (такими як PyTorch, DeepSpeed та vLLM) та шаром оркестрації контейнерів (наприклад, Kubernetes або Slurm). Це положення дозволяє Ray координувати розподілені завдання ефективно, одночасно мостячи розрив між навчанням моделей та розгортанням у великому масштабі.

Ключові можливості Ray включають:

• Мультимодальне оброблення даних: обробляє великі, різноманітні набори даних – текст, зображення, аудіо та відео – паралельно, максимізуючи пропускну здатність та ефективність.
• Предварительное навчання та післяналаштування: масштабує PyTorch та інші фреймворки на тисячах графічних процесорів як для попереднього навчання, так і для завдань тонкого налаштування.
• Розподілений висновок: розгортає моделі у виробництві з високим пропуском та низькою затримкою, динамічно керуючи навантаженням у гетерогенних кластерах.

Разом ці функції роблять Ray “клейом”, який зв’язує створення моделей, оптимізацію та службу, ефективно формуючи шар розподіленого обчислення сучасної інфраструктури штучного інтелекту.

Що це означає для розробників та підприємств

У сучасній економіці, керованій штучним інтелектом, організації стикаються з величезними викликами щодо масштабування, блокування постачальників та неефективності обчислень. Пропріетарні системи часто фрагментують робочі процеси та сповільнюють інновації. З приєднанням Ray до фундації PyTorch розробники отримують повністю відкритий, взаємозамінний комп’ютерний стек, який усуває багато з цих болісних моментів.

Як пояснив Метт Вайт, генеральний менеджер штучного інтелекту в фундації Linux, це співробітництво “об’єднує критичні компоненти, необхідні для створення систем штучного інтелекту наступного покоління”. Об’єднання дозволяє командам розробляти просунуті системи штучного інтелекту – від великих мовних моделей до мультимодальних застосунків – без використання закритих, пропріетарних інфраструктур. Замість цього розробники можуть навчати та розгортати моделі штучного інтелекту, використовуючи екосистему, яка масштабується, модульна та керується спільнотою.

Ширші наслідки для відкритого штучного інтелекту

Співробітництво між PyTorch, vLLM та Ray вказує на нову еру відкритої взаємозамінності обчислень. З нейтральним керуванням фонду Linux галузь штучного інтелекту отримує сталеву модель для розробки спільної інфраструктури – подібно до того, як Kubernetes стандартизував оркестрацію хмар.
Лідери галузі підтримали цей настрій. Кріс Анісзчик з фонду Cloud Native Computing сказав, що “Ray та Kubernetes є природно доповнювальними”, поєднуючи оркестрацію та розподілені обчислення для живлення систем штучного інтелекту наступного покоління. Директор інженерії компанії Uber, Чжито Лі, додав, що Ray вже є “ключовою частиною” їхньої платформи штучного інтелекту, живлячи великомасштабне навчання та оброблення даних. А Джо Спісак з фундації PyTorch назвав додавання Ray “значним етапом для відкритого штучного інтелекту”, підкресливши, як це створює уніфікований, керований спільнотою комп’ютерний стек.

Погляд у майбутнє

Ко-засновник Anyscale Роберт Нісіхара підсумував цей етап лаконічно:

Наша мета – зробити розподілене обчислення таким же простим, як написання коду на Python. Приєднання до фонду PyTorch забезпечує, що Ray продовжить бути відкритим, керованим спільнотою основою для розробників.

Розробники та учасники можуть взаємодіяти з проєктом через репозиторій Ray на GitHub або відвідати конференцію Ray Summit 2025 у Сан-Франциско цього листопада, де спільнота буде далі досліджувати, що це нове відкрите співробітництво означає для майбутнього масштабованості та доступності штучного інтелекту.

У сутності, додавання Ray завершує відсутній шар у відкритій екосистемі штучного інтелекту – поєднуючи модель, висновок та розподілене виконання під однією фундацією. Це є вирішальним кроком до майбутнього, де інфраструктура штучного інтелекту не тільки потужніша, але також більш відкрита, ефективна та дружня до розробників.