David Driggers, CTO de Cirrascale – Serie de entrevistas

David Driggers es el Director de Tecnología de Cirrascale Cloud Services, un proveedor líder de soluciones de infraestructura de aprendizaje profundo. Guiado por valores de integridad, agilidad y enfoque en el cliente, Cirrascale ofrece soluciones innovadoras y basadas en la nube de Infrastructure-as-a-Service (IaaS). En asociación con líderes del ecosistema de inteligencia artificial como Red Hat y WekaIO, Cirrascale garantiza un acceso sin problemas a herramientas avanzadas, lo que permite a los clientes impulsar el progreso en el aprendizaje profundo mientras mantiene costos predecibles.

Cirrascale es el único proveedor de GPUaaS que se asocia con empresas semiconductoras importantes como NVIDIA (NVDA ), AMD, Cerebras (CBRS ) y Qualcomm. ¿Cómo beneficia esta posición única a sus clientes en términos de rendimiento y escalabilidad?

A medida que la industria evoluciona desde la formación de modelos hasta la implementación de estos modelos llamados Inferencia, no hay un tamaño que se adapte a todos. Dependiendo del tamaño y los requisitos de latencia del modelo, diferentes aceleradores ofrecen diferentes valores que podrían ser importantes. El tiempo de respuesta, las ventajas de costo por token o el rendimiento por vatio pueden afectar el costo y la experiencia del usuario. Dado que la Inferencia es para producción, estas características/capacidades son importantes.

¿Qué distingue a la nube de innovación de inteligencia artificial de Cirrascale de otros proveedores de GPUaaS en el apoyo a flujos de trabajo de inteligencia artificial y aprendizaje profundo?

La nube de innovación de inteligencia artificial de Cirrascale permite a los usuarios probar de manera segura, asistida y completamente compatible con nuevas tecnologías que no están disponibles en ninguna otra nube. Esto puede ayudar no solo en las decisiones de tecnología en la nube, sino también en las posibles compras en el sitio.

¿Cómo garantiza la plataforma de Cirrascale una integración sin problemas para startups y empresas con diversas necesidades de aceleración de inteligencia artificial?

Cirrascale adopta un enfoque de solución para nuestra nube. Esto significa que, tanto para startups como para empresas, ofrecemos una solución integral que incluye tanto Dev-Ops como Infra-Ops. Mientras que llamamos a esto “metal desnudo” para distinguir nuestras ofertas como no compartidas ni virtualizadas, Cirrascale configura completamente todos los aspectos de la oferta, incluida la configuración completa de los servidores, la red, el almacenamiento, la seguridad y los requisitos de acceso de usuario antes de entregar el servicio a nuestros clientes. Nuestros clientes pueden comenzar a utilizar el servicio de inmediato en lugar de tener que configurar todo ellos mismos.

La adopción de inteligencia artificial a nivel empresarial enfrenta barreras como la calidad de los datos, las limitaciones de la infraestructura y los altos costos. ¿Cómo aborda Cirrascale estos desafíos para las empresas que escalan iniciativas de inteligencia artificial?

Si bien Cirrascale no ofrece servicios de calidad de datos, nos asociamos con empresas que pueden ayudar con problemas de datos. En cuanto a la infraestructura y los costos, Cirrascale puede adaptar una solución específica a las necesidades específicas de un cliente, lo que resulta en un mejor rendimiento general y costos relacionados con los requisitos del cliente.

Con los avances de Google (GOOGL ) en computación cuántica (Willow) y modelos de inteligencia artificial (Gemini 2.0), ¿cómo ve el panorama de la inteligencia artificial empresarial cambiando en el futuro cercano?

La computación cuántica todavía está bastante lejos de ser apta para la mayoría de la gente debido a la falta de programadores y programas de venta que puedan aprovechar sus características. Gemini 2.0 y otras ofertas a gran escala como GPT4 y Claude seguramente tendrán una adopción por parte de los clientes empresariales, pero una gran parte del mercado empresarial no está preparada en este momento para confiar sus datos a terceros, y especialmente a aquellos que pueden utilizar esos datos para entrenar sus modelos.

Encontrar el equilibrio adecuado de potencia, precio y rendimiento es fundamental para escalar soluciones de inteligencia artificial. ¿Cuáles son sus principales recomendaciones para las empresas que navegan por este equilibrio?

Probar, probar, probar. Es fundamental para una empresa probar su modelo en diferentes plataformas. La producción es diferente al desarrollo; el costo es importante en la producción. La formación puede ser de una vez, pero la inferencia es para siempre. Si los requisitos de rendimiento se pueden cumplir a un costo más bajo, esos ahorros van a la línea de fondo y pueden hacer que la solución sea viable. Con frecuencia, la implementación de un modelo grande es demasiado costosa para ser práctica. Los usuarios finales también deben buscar empresas que puedan ayudar con esta prueba, ya que a menudo un ingeniero de aprendizaje automático puede ayudar con la implementación en lugar del científico de datos que creó el modelo.

¿Cómo se están adaptando las soluciones de Cirrascale para satisfacer la creciente demanda de aplicaciones de inteligencia artificial generativa, como LLM y modelos de generación de imágenes?

Cirrascale ofrece la gama más amplia de aceleradores de inteligencia artificial, y con la proliferación de LLM y modelos de inteligencia artificial generativa que varían en tamaño y alcance (como escenarios multimodales), y batch versus tiempo real, realmente es un caso de “un caballo para cada carrera”.

¿Puede proporcionar ejemplos de cómo Cirrascale ayuda a las empresas a superar los cuellos de botella de latencia y transferencia de datos en flujos de trabajo de inteligencia artificial?

Cirrascale tiene numerosos centros de datos en varias regiones y no considera la conectividad de red como un centro de beneficios. Esto permite a nuestros usuarios “dimensionar correctamente” las conexiones necesarias para mover datos, así como utilizar más de una ubicación si la latencia es una característica crítica. Además, al perfilar las cargas de trabajo reales, Cirrascale puede ayudar a equilibrar la latencia, el rendimiento y el costo para ofrecer el mejor valor después de cumplir con los requisitos de rendimiento.

¿Qué tendencias emergentes en hardware o infraestructura de inteligencia artificial lo emocionan más, y cómo se está preparando Cirrascale para ellas?

Estamos más emocionados con los nuevos procesadores que están diseñados específicamente para la inferencia en comparación con procesadores de GPU genéricos que casualmente se adaptan bien para la formación, pero no están optimizados para casos de uso de inferencia que tienen requisitos de cómputo inherentemente diferentes a los de la formación.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Cirrascale Cloud Services.