Дэвид Дриггерс, технический директор Cirrascale – Интервью

Дэвид Дриггерс является техническим директором в Cirrascale Cloud Services, ведущим поставщиком решений для глубокого обучения. Руководствуясь ценностями честности, гибкости и ориентации на клиента, Cirrascale предоставляет инновационные, облачные решения Infrastructure-as-a-Service (IaaS). В сотрудничестве с лидерами экосистемы искусственного интеллекта, такими как Red Hat и WekaIO, Cirrascale обеспечивает беспрепятственный доступ к передовым инструментам, позволяя клиентам стимулировать прогресс в области глубокого обучения, сохраняя при этом предсказуемые затраты.

Cirrascale является единственным поставщиком GPUaaS, сотрудничающим с крупными полупроводниковыми компаниями, такими как NVIDIA (NVDA ), AMD, Cerebras (CBRS ) и Qualcomm. Как это уникальное положение выгодно для ваших клиентов в плане производительности и масштабируемости?
По мере эволюции от обучения моделей к их развертыванию, называемому Инференцией, нет универсального решения. В зависимости от размера и требований к задержке модели, разные ускорители предлагают разные преимущества, которые могут быть важными. Время ответа, преимущества стоимости за токен или производительность на ватт могут повлиять на стоимость и опыт пользователя. Поскольку Инференция используется в производстве, эти функции/возможности имеют значение.

Что отличает AI Innovation Cloud от Cirrascale от других поставщиков GPUaaS в поддержке рабочих процессов искусственного интеллекта и глубокого обучения?
AI Innovation Cloud от Cirrascale позволяет пользователям пробовать новые технологии в безопасной, поддерживаемой и полностью контролируемой форме, которые недоступны в других облаках. Это может помочь не только в принятии решений о облачных технологиях, но и в потенциальных покупках на месте.

Как платформа Cirrascale обеспечивает бесшовную интеграцию для стартапов и предприятий с разнообразными потребностями в ускорении искусственного интеллекта?
Cirrascale использует подход к решению для нашего облака. Это означает, что для стартапов и предприятий мы предлагаем комплексное решение, включающее как Dev-Ops, так и Infra-Ops. Хотя мы называем это “безопасным” для отличия наших предложений от общих или виртуализированных, Cirrascale полностью настраивает все аспекты предложения, включая полную настройку серверов, сетей, хранилищ, безопасности и требований доступа пользователей до передачи услуги нашим клиентам. Наши клиенты могут сразу же начать использовать услугу, не тратя время на настройку всего самостоятельно.

Широкое внедрение искусственного интеллекта в компаниях сталкивается с барьерами, такими как качество данных, ограничения инфраструктуры и высокие затраты. Как Cirrascale решает эти проблемы для бизнеса, масштабирующего инициативы по искусственному интеллекту?
Хотя Cirrascale не предлагает услуги по качеству данных, мы сотрудничаем с компаниями, которые могут помочь с проблемами данных. Что касается инфраструктуры и затрат, Cirrascale может создать решение, адаптированное к конкретным потребностям клиента, что приводит к лучшей общей производительности и связанным затратам, соответствующим требованиям клиента.

Как вы видите сдвиг ландшафта корпоративного искусственного интеллекта в ближайшем будущем, учитывая достижения Google (GOOGL ) в области квантовых вычислений (Willow) и моделей искусственного интеллекта (Gemini 2.0)?
Квантовые вычисления еще довольно далеки от основного времени для большинства людей из-за нехватки программистов и готовых программ, которые могут использовать эти функции. Gemini 2.0 и другие крупномасштабные предложения, такие как GPT4 и Claude, безусловно, получат некоторое распространение среди корпоративных клиентов, но значительная часть корпоративного рынка в настоящее время не готова доверять свои данные третьим лицам, особенно тем, которые могут использовать эти данные для обучения своих моделей.

Найти правильный баланс между мощностью, ценой и производительностью имеет решающее значение для масштабирования решений искусственного интеллекта. Каковы ваши главные рекомендации для компаний, ориентирующихся в этом балансе?
Тестировать, тестировать, тестировать. Для компании крайне важно протестировать свою модель на разных платформах. Производство отличается от разработки – стоимость имеет значение в производстве. Обучение может быть одноразовым, но инференция продолжается всегда. Если требования к производительности можно удовлетворить при более низкой стоимости, эти экономии переходят на дно линии и могут даже сделать решение жизнеспособным. Часто развертывание большой модели слишком дорого, чтобы сделать ее практичной для использования. Конечные пользователи также должны искать компании, которые могут помочь с этим тестированием, поскольку часто инженер по машинному обучению может помочь с развертыванием, а не ученый, создавший модель.

Как Cirrascale адаптирует свои решения, чтобы удовлетворить растущий спрос на приложения генеративного искусственного интеллекта, такие как модели языковых моделей и генерации изображений?
Cirrascale предлагает самый широкий спектр ускорителей искусственного интеллекта, и с распространением моделей языковых моделей и генеративных моделей искусственного интеллекта, варьирующихся по размеру и объему (как в многофакторных сценариях), и пакетной или реальной обработки, это действительно ситуация “лошадь для курса”.

Можете ли вы предоставить примеры того, как Cirrascale помогает бизнесу преодолевать проблемы задержки и передачи данных в рабочих процессах искусственного интеллекта?
Cirrascale имеет множество центров обработки данных в различных регионах и не рассматривает сетевую связь как центр прибыли. Это позволяет нашим пользователям “правильно подобрать” необходимые соединения для передачи данных, а также использовать более одного местоположения, если задержка является критической функцией. Кроме того, профиляя фактические рабочие нагрузки, Cirrascale может помочь с балансом задержки, производительности и стоимости, чтобы предоставить лучшую ценность после выполнения требований к производительности.

Какие появляющиеся тенденции в аппаратном или инфраструктурном обеспечении искусственного интеллекта вас больше всего волнуют, и как Cirrascale готовится к ним?
Нас больше всего волнуют новые процессоры, специально разработанные для инференции, а не общие процессоры на основе GPU, которые хорошо подходят для обучения, но не оптимизированы для случаев использования инференции, которые имеют внутренне разные требования к вычислениям, чем обучение.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, должны посетить Cirrascale Cloud Services.