Cirrascale 首席技术官 David Driggers – 采访系列

David Driggers 是 Cirrascale Cloud Services 的首席技术官，Cirrascale Cloud Services 是一家领先的深度学习基础设施解决方案提供商。受诚信、敏捷和客户导向的价值观指导，Cirrascale 提供创新、基于云的基础设施即服务（IaaS）解决方案。通过与 AI 生态系统领导者如 Red Hat 和 WekaIO 合作，Cirrascale 确保客户可以无缝访问高级工具，从而在保持可预测成本的同时推动深度学习的进步。

Cirrascale 是唯一一家与主要半导体公司如 NVIDIA (NVDA ) 、AMD、Cerebras (CBRS ) 和 Qualcomm 合作的 GPUaaS 提供商。这种独特的定位如何让您的客户在性能和可扩展性方面受益？

随着行业从训练模型转向部署模型（称为推理），没有一个通用解决方案。根据模型的大小和延迟要求，不同的加速器提供了不同的价值，这些价值可能很重要。响应时间、每个令牌的成本优势或每瓦的性能都可能影响成本和用户体验。由于推理是用于生产，因此这些功能/能力很重要。

是什么让 Cirrascale 的 AI 创新云与其他 GPUaaS 提供商在支持 AI 和深度学习工作流方面不同？

Cirrascale 的 AI 创新云允许用户在安全、辅助和完全支持的方式下尝试新的技术，这些技术在其他云中是不可用的。这不仅可以帮助云技术决策，还可以帮助潜在的现场购买。

如何确保 Cirrascale 的平台为具有不同 AI 加速需求的初创企业和企业提供无缝集成？

Cirrascale 采用解决方案方法来构建我们的云。这意味着对于初创企业和企业，我们提供一个包括 Dev-Ops 和 Infra-Ops 的整体解决方案。虽然我们称之为裸机，以区别于共享或虚拟化的服务，但 Cirrascale 完全配置了所有服务，包括服务器、网络、存储、安全和用户访问要求，然后将服务交给我们的客户。我们的客户可以立即开始使用服务，而无需自己配置所有内容。

企业范围内的 AI 采用面临着数据质量、基础设施约束和高成本等障碍。Cirrascale 如何解决这些挑战以帮助企业扩大 AI 计划？

虽然 Cirrascale 不提供数据质量服务，但我们与可以帮助解决数据问题的公司合作。至于基础设施和成本，Cirrascale 可以根据客户的具体需求量身定制解决方案，从而实现更好的整体性能和相关成本，这些成本是根据客户的具体需求量身定制的。

随着谷歌在量子计算（Willow）和 AI 模型（Gemini 2.0）方面的进步，您如何看待企业 AI 的未来发展？

量子计算对于大多数人来说仍然还没有准备好，因为缺乏可以利用其功能的程序员和现成程序。Gemini 2.0 和其他大规模产品，如 GPT4 和 Claude，肯定会在企业客户中获得一定的采用率，但企业市场的大部分还没有准备好将数据托管给第三方，尤其是可能使用这些数据来训练其模型的第三方。

在扩大 AI 解决方案时，找到权力、价格和性能的正确平衡至关重要。您对在这一平衡中摸索的公司有何建议？

测试、测试、测试。对于公司来说，测试其模型在不同平台上的性能至关重要。生产环境与开发环境不同，成本在生产环境中很重要。训练可能是一次性的，但推理是永久的。如果可以以较低的成本满足性能要求，那么这些节省的成本将直接体现在利润中，甚至可能使解决方案变得可行。通常，部署大型模型的成本太高，难以使其在实践中使用。最终用户还应寻找能够帮助进行此类测试的公司，因为机器学习工程师通常可以帮助部署模型，而数据科学家创建了该模型。

Cirrascale 如何调整其解决方案以满足对生成性 AI 应用程序（如 LLM 和图像生成模型）的日益增长的需求？

Cirrascale 提供最广泛的 AI 加速器，随着 LLM 和 GenAI 模型的普及，这些模型的大小和范围各不相同（例如多模态场景），以及批处理和实时处理，这确实是一个“马为所用”的场景。

您能否提供 Cirrascale 帮助企业克服 AI 工作流中延迟和数据传输瓶颈的例子？

Cirrascale 在多个地区拥有众多数据中心，我们不将网络连接视为利润中心。这使我们的用户能够“合理调整”所需的连接，以便移动数据，并且可以利用多个位置如果延迟是一个关键特性。另外，通过分析实际工作负载，Cirrascale 可以帮助平衡延迟、性能和成本，以提供最佳价值，同时满足性能要求。

您对哪些新兴的 AI 硬件或基础设施趋势最为兴奋，并且 Cirrascale 如何为这些趋势做准备？

我们最为兴奋的是专门为推理而设计的新处理器，而不是适合训练的通用 GPU 处理器，但不适合推理用例，这些用例具有与训练不同的计算需求。

感谢这次精彩的采访，希望了解更多的读者请访问 Cirrascale Cloud Services。