Фонд PyTorch інтегрує Ray, розподілений комп’ютерний фреймворк, для створення уніфікованого штабеля інфраструктури штучного інтелекту

Відкритий екосистема штучного інтелекту зробила вирішальний крок вперед сьогодні, коли Фонд PyTorch оголосив, що Ray, розподілений комп’ютерний фреймворк, розроблений компанією Anyscale, офіційно увійшов до його складу. Цей крок означає значний крок до створення уніфікованого, інтероперабельного та готового до виробництва штабеля обчислень штучного інтелекту – одного, що поєднує фундаментальні шари розробки моделей (PyTorch), розподіленого висновку (vLLM) та великомасштабного виконання (Ray).

Уніфікований фонд для відкритого штучного інтелекту

Гостований під егідою Linux Foundation, Фонд PyTorch діє як центральний хаб для деяких з найважливіших відкритих джерел технологій штучного інтелекту. Його місія – зменшити фрагментацію та сприяти співробітництву на кожному етапі розробки штучного інтелекту. Інтегруючи Ray поряд з PyTorch і vLLM, фонд надає те, чого давно потребує галузь – суцільний, кінцевий штабель для створення, навчання та розгортання штучного інтелекту у великому масштабі.

Додання Ray також представляє собою кульмінацію років академічного та промислового розвитку. Народившись у RISELab Університету Каліфорнії в Берклі, Ray був розроблений для спрощення розподіленого комп’ютерного забезпечення для завдань штучного інтелекту та машинного навчання. Він дозволяє розробникам масштабувати завдання безперешкодно з одного ноутбука до тисяч машин без переписування коду або управління складними системами. Станом на сьогодні, Ray має понад 39 000 зірок на GitHub та понад 214 мільйонів завантажень, що робить його одним з найбільш широко прийнятих розподілених комп’ютерних фреймворків у світі.

Як Ray доповнює PyTorch і vLLM

Ray знаходиться між фреймворками навчання та висновку (наприклад, PyTorch, DeepSpeed та vLLM) та шаром оркестрації контейнерів (наприклад, Kubernetes або Slurm). Це положення дозволяє Ray координувати розподілені робочі навантаження ефективно, одночасно мостячи розрив між навчанням моделей та розгортанням у великому масштабі.

Ключові можливості Ray включають:

• Мультимодальне оброблення даних: обробляє величезні, різноманітні набори даних – текст, зображення, аудіо та відео – паралельно, максимізуючи пропускну здатність та ефективність.
• Предварительное навчання та післяналаштування: масштабує PyTorch та інші фреймворки на тисячах GPU як для завдань попереднього навчання, так і для завдань тонкого налаштування.
• Розподілений висновок: розгортає моделі у виробництві з високим пропусканням та низькою затримкою, динамічно керуючи сплесками робочих навантажень у гетерогенних кластерах.

Разом ці функції роблять Ray “клей”, який поєднує створення моделей, оптимізацію та подачу, ефективно утворюючи розподілений двигун обчислень сучасної інфраструктури штучного інтелекту.

Що це означає для розробників та підприємств

У сучасній економіці, керованій штучним інтелектом, організації стикаються з величезними проблемами щодо масштабування, блокування постачальників та неефективності обчислень. Пропрієтарні системи часто фрагментують робочі процеси та сповільнюють інновації. З тим, як Ray увійшов до складу Фонду PyTorch, розробники отримують повністю відкритий, інтероперабельний комп’ютерний штабель, який усуває багато з цих болючих моментів.

Як пояснив Метт Вайт, GM штучного інтелекту в Linux Foundation, це співробітництво “об’єднує критичні компоненти, необхідні для створення систем штучного інтелекту наступного покоління“. Об’єднання дозволяє командам розробляти передові системи штучного інтелекту – від великих мовних моделей до мультимодальних застосунків – без використання закритої, пропрієтарної інфраструктури. Замість цього розробники можуть тренувати та розгортати моделі штучного інтелекту, використовуючи екосистему, яка масштабується, модульна та керується спільнотою.

Ширші наслідки для відкритого штучного інтелекту

Співробітництво між PyTorch, vLLM та Ray вказує на нову еру відкритої інтероперабельності обчислень. З Linux Foundation, яка забезпечує нейтральне управління, галузь штучного інтелекту отримує сталий модель для розробки спільної інфраструктури – подібно до того, як Kubernetes стандартизував оркестрацію хмарних обчислень.

Лідери галузі підтримали цей настрій. Кріс Анісзчик з Cloud Native Computing Foundation зазначив, що “Ray і Kubernetes є природно доповнювальними“, поєднуючи оркестрацію та розподілені обчислення для забезпечення наступного покоління систем штучного інтелекту. Директор з інженерії Uber Житao Лі додав, що Ray вже є “ключовою частиною” їхньої платформи штучного інтелекту, забезпечуючи великомасштабне навчання та оброблення даних. А Джо Спісак з Meta, член ради Фонду PyTorch, назвав додавання Ray “значним етапом для відкритого штучного інтелекту“, підкресливши, як це створює уніфікований, керований спільнотою комп’ютерний штабель.

Погляд у майбутнє

Со-засновник Anyscale Роберт Нісіхара підвів підсумок цьому етапу лаконично:

«Наша мета – зробити розподілене комп’ютерне забезпечення таким же простим, як написання коду на Python. Входження до складу Фонду PyTorch забезпечує, що Ray продовжить бути відкритим, керованим спільнотою хребтом для розробників».

Розробники та учасники можуть взаємодіяти з проєктом через репозиторій Ray на GitHub або відвідати Ray Summit 2025 у Сан-Франциско цього листопада, де спільнота进一步 дослідить, що це нове відкрите джерело означає для майбутнього масштабованості та доступності штучного інтелекту.

По суті, додавання Ray завершує відсутній шар у відкритому екосистемі штучного інтелекту – поєднуючи моделювання, висновок та розподілене виконання під одним фондом. Це є вирішальним кроком до майбутнього, у якому інфраструктура штучного інтелекту не тільки більш потужна, але також більш відкрита, ефективна та дружня до розробників.