Девід Дріґґерс, технічний директор Cirrascale – Серія інтерв’ю

Девід Дріґґерс є технічним директором компанії Cirrascale Cloud Services, провідним постачальником рішень інфраструктури глибокого навчання. Керівництво компанії ґрунтується на цінностях цілісності, гнучкості та орієнтації на клієнта. Cirrascale пропонує інноваційні, хмарні рішення Інфраструктура-Як-Сервіс (IaaS). У партнерстві з лідерами екосистеми штучного інтелекту, такими як Red Hat і WekaIO, Cirrascale забезпечує безперешкодний доступ до передових інструментів, що дозволяє клієнтам рухатися вперед у сфері глибокого навчання, зберігаючи при цьому передбачувані витрати.

Cirrascale є єдиним постачальником GPUaaS, який співпрацює з великими напівпровідниковими компаніями, такими як NVIDIA (NVDA ), AMD, Cerebras (CBRS ) і Qualcomm. Як ця унікальна позиція вигідна для ваших клієнтів у плані продуктивності та масштабованості?
Під час еволюції галузі від навчання моделей до їх розгортання, яке називається Інференням, немає універсального рішення, яке підходить всім. В залежності від розміру та вимог до затримки моделі, різні прискорювачі пропонують різні переваги, які можуть бути важливими. Час відповіді, вигоди від вартості за токен або продуктивності на ват можна впливати на вартість і досвід користувача. Оскільки Інферення використовується у виробництві, ці особливості/возможності мають значення.

Що відрізняє хмару інновацій штучного інтелекту Cirrascale від інших постачальників GPUaaS у підтримці робочих процесів штучного інтелекту та глибокого навчання?
Хмара інновацій штучного інтелекту Cirrascale дозволяє користувачам у безпечному, допоміжному та повністю підтримуваному порядку пробувати нові технології, які недоступні в інших хмарах. Це може допомогти не тільки у рішеннях щодо хмарних технологій, але й у потенційних покупках на місці.

Як платформа Cirrascale забезпечує безперешкодну інтеграцію для стартапів та підприємств з різними потребами у прискоренні штучного інтелекту?
Cirrascale використовує підхід рішення для нашої хмари. Це означає, що для стартапів та підприємств ми пропонуємо комплексне рішення, яке включає в себе як Dev-Ops, так і Infra-Ops. Хоча ми називаємо це “голим металом”, щоб відрізнити наші пропозиції від спільних або віртуалізованих, Cirrascale повністю конфігурує всі аспекти пропозиції, включаючи повну конфігурацію серверів, мереж, зберігання, безпеки та вимог доступу користувачів до того, як передати послугу нашим клієнтам. Нашим клієнтам можна негайно почати використовувати послугу, не потрібно конфігурувати все самостійно.

Широке впровадження штучного інтелекту в підприємства зустрічає бар’єри, такі як якість даних, обмеження інфраструктури та високі витрати. Як Cirrascale подолує ці виклики для підприємств, які розширюють ініціативи штучного інтелекту?
Хоча Cirrascale не пропонує послуги щодо якості даних, ми співпрацюємо з компаніями, які можуть допомогти з питаннями даних. Що стосується інфраструктури та витрат, Cirrascale може розробити рішення, спеціально створене для конкретних потреб клієнта, що призводить до кращої загальної продуктивності та витрат, пов’язаних з вимогами клієнта.

Як ви бачите зміну ландшафту корпоративного штучного інтелекту в найближчому майбутньому, особливо з урахуванням досягнень Google (GOOGL ) у сфері квантових обчислень (Willow) та моделей штучного інтелекту (Gemini 2.0)?
Квантові обчислення ще досить далеко від готовності для більшості людей через відсутність програмістів та готових програм, які можуть використати ці можливості. Gemini 2.0 та інші великомасштабні пропозиції, такі як GPT4 і Claude, безумовно, отримають певне визнання серед корпоративних клієнтів, але велика частина корпоративного ринку наразі не готова довіряти свої дані третім сторонам, особливо тим, які можуть використовувати ці дані для навчання своїх моделей.

Знаходження правильного балансу між потужністю, ціною та продуктивністю є критично важливим для масштабування рішень штучного інтелекту. Які ваші головні рекомендації для компаній, які орієнтуються в цьому балансі?
Тестування, тестування, тестування. Для компанії дуже важливо тестувати свою модель на різних платформах. Виробництво відрізняється від розробки – вартість має значення у виробництві. Навчання може бути одноразовим, але інферування триває вічно. Якщо вимоги до продуктивності можна задовольнити за нижчу ціну, ці заощадження потрапляють до нижньої частини балансу та можуть навіть зробити рішення життєздатним. Часто розгортання великої моделі є надто дорогою, щоб зробити її практичною для використання. Користувачам також слід шукати компанії, які можуть допомогти з цим тестуванням, оскільки часто інженер з машинного навчання може допомогти з розгортанням проти науковця-дослідника, який створив модель.

Як Cirrascale адаптує свої рішення, щоб задовольнити зростаючий попит на генеративні застосування штучного інтелекту, такі як великомасштабні мови моделей (LLM) та моделі генерації зображень?
Cirrascale пропонує найширший асортимент прискорювачів штучного інтелекту, а з поширенням LLM та моделей генерації штучного інтелекту (GenAI), які варіюються як за розміром, так і за масштабом (наприклад, багатомодальні сценарії), і пакетної чи реальної обробки, це справді ситуація “конь для курсу”.

Чи можете ви надати приклади того, як Cirrascale допомагає підприємствам подолати бар’єри затримки та передачі даних у робочих процесах штучного інтелекту?
Cirrascale має численні центри даних у різних регіонах та не розглядає мережевий зв’язок як джерело прибутку. Це дозволяє нашим користувачам “правильно розмістити” необхідні зв’язки для руху даних, а також використовувати більше одного місця, якщо затримка є критичною особливістю. Крім того, профільючи фактичні робочі навантаження, Cirrascale може допомогти з балансуванням затримки, продуктивності та витрат, щоб надати найкращу вартість після задоволення вимог до продуктивності.

Які нові тенденції у сфері апаратного забезпечення чи інфраструктури штучного інтелекту вас найбільш цікавлять, і як Cirrascale готується до них?
Нас найбільш цікавлять нові процесори, спеціально створені для інферування, а не загальні процесори на основі GPU, які досить добре підходять для навчання, але не оптимізовані для випадків інферування, які мають суттєво різні вимоги до обчислень, ніж навчання.

Дякуємо за чудове інтерв’ю. Читачам, які бажають дізнатися більше, слід відвідати Cirrascale Cloud Services.