Перетинаючи домінування Nvidia: Гибкі стратегії розробки ML для не-біг-тек гравців (серед проблем постачання та вартості)

Будувати бізнес у грі серед справжніх великих гравців ніколи не було легким завданням. У 2023 році конкуренція в сфері штучного інтелекту досягла безпрецедентних висот, підігріта справжніми, розумовими проривами. Випуск OpenAI GPT-4, інтеграція ChatGPT з Bing, запуск Google Bard та суперечливий “відкритий” Meta Llama 2 випуск. Це звучить як довгий список великих імен, правда? Наскільки це може звучати цікаво, більша частина інновацій лежить там, де течуть гроші, а конкуренція, яку повинні пройти менші гравці, стає все більш інтенсивною з кожним днем.

У постійно змінюваному ландшафті технологічної галузі Nvidia (NVDA ) продовжує зміцнювати свою позицію як ключовий гравець у сфері інфраструктури штучного інтелекту. Під час фінансової звітності у серпні телефонної конференції Дженсен Хуанг, президент Nvidia, підкреслив стрімкий попит на процесори Nvidia. Це твердження підтверджується даними звітності Nvidia за 3 квартал, які розкривають вражаючу річну продуктивність, очевидну вже у листопаді. Тим часом прогнози Gartner вказують на значне збільшення витрат на чіпи протягом наступних чотирьох років. Наразі програмне забезпечення Nvidia та процесори залишаються неперевершеними, залишаючи галузь невпевненою щодо того, коли з’явиться гідний конкурент.

Нещодавні повідомлення від Bloomberg та Financial Times пролили світло на переговори Сема Альтмана, генерального директора OpenAI, з середньоазійськими інвесторами щодо початку виробництва чіпів, спрямованого на зменшення залежності галузі штучного інтелекту від чіпів Nvidia. Виклик Nvidia, з її майже 1,5-білійонною ринковою капіталізацією, ймовірно, коштуватиме Альтману між 5 трильйонами та 7 трильйонами доларів та займе кілька років.

Незважаючи на це, питання щодо ефективності моделей машинного навчання для бізнесу є тим, що компанії повинні зробити зараз. Для бізнесу поза межами великого технологічного сектора розробка ефективних моделей машинного навчання є не тільки бізнес-процесом, а й життєво важливою стратегією виживання. Ця стаття досліджує чотири практичні стратегії, які дозволяють підприємствам усіх розмірів розробляти свої моделі без великих інвестицій у дослідження та розробку та залишаються гнучкими, щоб уникнути залежності від постачальників.

Чому Nvidia домінує на ринку штучного інтелекту

Коротко кажучи, Nvidia створила ідеальний робочий процес навчання моделей, досягнувши синергії між високопродуктивними графічними процесорами та власнім програмним стеком для навчання моделей, широко відомим інструментарієм CUDA.

CUDA (представлений у 2007 році) є комплексним інструментарієм паралельних обчислень та API для оптимального використання процесорів графічної картки Nvidia. Основна причина його популярності полягає в його неперевершеній здатності прискорювати складні математичні обчислення, необхідні для глибокого навчання. Крім того, він пропонує багатий екосистему, такий як cuDNN для глибоких нейронних мереж, що підвищує продуктивність та зручність використання. Він є важливим для розробників через свою безшовну інтеграцію з основними фреймворками глибокого навчання, що дозволяє швидко розробляти та ітерувати моделі.

Комбінація такого потужного програмного стека з високоефективним апаратним забезпеченням виявилася ключем до захоплення ринку. Хоча деякі вважають, що домінування Nvidia може бути тимчасовим явищем, важко зробити такі прогнози в сучасному ландшафті.

Важка ціна домінування Nvidia

Домінування Nvidia у сфері розробки машинного навчання викликало численні побоювання, не тільки в етичних аспектах, але також щодо розриву у бюджетах на дослідження та розробку, який є однією з причин, чому входження на ринок стало експоненціально складніше для менших гравців, не кажучи вже про стартапи. Додайте до цього зниження інтересу інвесторів через вищі ризики, і завдання отримання великих інвестицій у дослідження та розробку (як у випадку з Nvidia) стає абсолютно неможливим, створюючи дуже нерівний граунд.

Водночас така велика залежність від апаратного забезпечення Nvidia створює ще більший тиск на стабільність ланцюга постачання та відкриває ризик для порушень та залежності від постачальників, що знижує гнучкість ринку та підвищує бар’єри для входження на ринок.

“Деякі компанії збирають гроші, щоб забезпечити себе на випадок, якщо вони не залишать користувачів у скруті. Скрізь терміни типу “оптимізація” та “менший розмір моделі” знаходяться в моді, оскільки компанії намагаються скоротити свої потреби у графічних процесорах, а інвестори цього року вклали сотні мільйонів доларів у стартапи, чиє програмне забезпечення допомагає компаніям впоратися з наявними графічними процесорами.”

Недостаток чіпів Nvidia залишає стартапи штучного інтелекту в скруті Від Пейреша Деві

Зараз час приймати стратегічні підходи, оскільки це може бути саме те, що дозволить вашому підприємству процвітати серед широкого впливу Nvidia на розвиток машинного навчання.

Стратегії, які можуть адаптуватися не-біг-тек гравці до домінування Nvidia:

1. Почніть дослідження AMD’s RocM

AMD активно скорочує розрив у сфері розробки штучного інтелекту з Nvidia, досягнувши цього завдяки своїй послідовній підтримці Rocm у основних бібліотеках PyTorch протягом останнього року. Ці зусилля призвели до покращення сумісності та продуктивності, яку демонструє особливо мікросхема MI300, останній випуск AMD. MI300 продемонстрував потужну продуктивність у завданнях інференсу великих мовних моделей, особливо у моделях типу LLama-70b. Це підкреслює значний прогрес у обробній потужності та ефективності, досягнутий AMD.

2. Знайдіть інші апаратні альтернативи

Крім успіхів AMD, Google представила Tensor Processing Units (TPU), спеціалізоване апаратне забезпечення, розроблене явно для прискорення завдань машинного навчання, пропонуючи потужну альтернативу для навчання великомасштабних моделей штучного інтелекту.

Поза цими промисловими гігантами, менші, але впливові гравці, такі як Graphcore та Cerebras (CBRS ), роблять помітний внесок у сфері апаратного забезпечення штучного інтелекту. Інтелектуальний процесор Graphcore (IPU), розроблений для ефективності у обчисленнях штучного інтелекту, привернув увагу своїм потенціалом для високопродуктивних завдань, як це демонструє експеримент Twitter. Cerebras, з іншого боку, пوشає межі зі своїми передовими чіпами, підкреслюючи масштабованість та сурову обчислювальну потужність для застосунків штучного інтелекту.

Колективні зусилля цих компаній свідчать про зміщення до більш різноманітної екосистеми апаратного забезпечення штучного інтелекту. Ця диверсифікація пропонує життєві стратегії для зменшення залежності від Nvidia, надаючи розробникам та дослідникам широкий спектр платформ для розробки штучного інтелекту.

3. Почніть інвестувати в оптимізацію продуктивності

Крім дослідження апаратних альтернатив, оптимізація програмного забезпечення виявляється важливим фактором у зменшенні впливу домінування Nvidia. Використовуючи ефективні алгоритми, зменшуючи непотрібні обчислення та реалізуючи техніки паралельного оброблення, не-біг-тек гравці можуть максимізувати продуктивність своїх моделей машинного навчання на існуючому апаратному забезпеченні, пропонуючи практичний підхід до подолання розриву без залежності лише від дорогих апгрейдів апаратного забезпечення.

Ілюстрацією цього підходу є технологія AutoNAC від Deci Ai. Ця інновація продемонструвала здатність прискорити інференсу моделей у 3-10 разів, як це підтверджується широко визнаним бенчмарком MLPerf. Показуючи такі досягнення, стає очевидним, що оптимізація програмного забезпечення може суттєво підвищити ефективність розробки машинного навчання, пропонуючи життєву альтернативу для пом’якшення впливу домінування Nvidia у сфері.

4. Почніть співпрацю з іншими організаціями для створення децентралізованих кластерів

Цей співпрацький підхід може включати обмін результатами досліджень, спільні інвестиції в альтернативні апаратні варіанти та сприяння розвитку нових технологій машинного навчання через відкриті проекти. Децентралізуючи інференсу та використовуючи розподілені обчислювальні ресурси, не-біг-тек гравці можуть рівнізувати поле гри та створити більш конкурентний ландшафт у сфері розробки машинного навчання.

Сьогодні стратегія спільного використання обчислювальних ресурсів набуває імпульсу по всій технологічній галузі. Google Kubernetes Engine (GKE) демонструє це, підтримуючи багаторазове використання кластерів, забезпечуючи ефективне використання ресурсів та інтеграцію з сервісами третіх сторін. Цей тренд далі підтверджується спільними ініціативами, такими як Petals, які пропонують розподілену мережу для виконання моделей штучного інтелекту, роблячи високопотужні обчислення доступними без великих інвестицій. Крім того, платформи типу Together.ai пропонують безсерверний доступ до широкого спектра відкритих моделей, спрощуючи розвиток та сприяння співпраці. Розглядаючи такі платформи, ви можете отримати доступ до обчислювальних ресурсів та можливостей співпраці, що допоможе оптимізувати ваш процес розробки та зменшити витрати, незалежно від розміру організації.

Висновок

На глобальному рівні необхідність цих стратегій стає очевидною. Коли одна сутність домінує на ринку, це гальмує розвиток та перешкоджає встановленню розумних цін.

Не-біг-тек гравці можуть протидіяти домінуванню Nvidia, досліджуючи альтернативи типу RocM від AMD, інвестуючи в оптимізацію продуктивності за допомогою ефективних алгоритмів та паралельного оброблення, а також сприяння співпраці з іншими організаціями для створення децентралізованих кластерів. Це сприяє більшому різноманіттю та конкурентному ландшафту у сфері апаратного забезпечення та розробки штучного інтелекту, дозволяючи меншим гравцям мати свій голос у майбутньому розвитку штучного інтелекту.

Ці стратегії спрямовані на зменшення залежності від цін та постачання Nvidia, підвищуючи привабливість інвестицій, мінімізуючи ризик сповільнення розвитку бізнесу через конкуренцію на ринку апаратного забезпечення, та сприяння органічному зростанню всієї галузі.