Saurabh Giri, CPTO của Voltage Park – Loạt phỏng vấn

Saurabh Giri giữ vị trí Giám đốc Sản phẩm và Công nghệ tại Voltage Park và là giám đốc điều hành trong hội đồng quản trị của công ty. Ông chịu trách nhiệm thúc đẩy tầm nhìn chiến lược của công ty, xác định lộ trình sản phẩm và điều hành hoạt động kỹ thuật. Trước đây, Saurabh đã lãnh đạo các đội xây dựng, ra mắt và vận hành Amazon (AMZN ) Bedrock, nền tảng trí tuệ nhân tạo của Amazon. Sớm trong sự nghiệp của mình, Saurabh đã đồng sáng lập và giữ vị trí CEO của một nền tảng thanh toán thế hệ tiếp theo; đồng sáng lập một công ty giao dịch thuật toán chuyên về tạo thị trường và arbitrage đường cong trong thị trường tương lai; và tư vấn cho các hội đồng quản trị và đội ngũ quản lý về chiến lược, hoạt động và vấn đề tài chính.

Voltage Park có sứ mệnh giúp các doanh nghiệp chuyển đổi dữ liệu thành thông tin kinh doanh bằng cách sử dụng trí tuệ nhân tạo, bằng cách làm cho cơ sở hạ tầng trí tuệ nhân tạo trở nên dễ tiếp cận với mọi người. Với hàng chục nghìn GPU trên sáu trung tâm dữ liệu, Voltage Park cung cấp phần cứng và dịch vụ khách hàng hàng đầu thế giới với giá cả cạnh tranh – bất kể khách hàng là nhà nghiên cứu, startup hay doanh nghiệp lớn.

Bạn đã làm việc tại cả startup và một trong những nhà cung cấp đám mây lớn nhất thế giới. Điều gì đã thu hút bạn đến thế giới cơ sở hạ tầng và trí tuệ nhân tạo?

Trí tuệ nhân tạo tạo ra sẽ mang lại sự thay đổi lớn trong một bước tiến cách mạng mà ít công nghệ có trong thế kỷ qua. Những gì có thể thực hiện được ngày nay với các mô hình tiên phong như OpenAI’s GPT-5 sẽ không thể tưởng tượng được mười năm trước và thậm chí còn gây ngạc nhiên chỉ ba năm trước.

Chúng ta vẫn còn trong giai đoạn đầu. Sự thu hút đối với tôi là cơ hội để định hình lớp cơ sở hạ tầng quyết định cách công nghệ sâu sắc như vậy sẽ được khai thác – cho khoa học, cho ngành công nghiệp và cho xã hội nói chung.

Tại AWS, bạn đã giúp xây dựng Amazon Bedrock. Những bài học về kỹ thuật sản phẩm từ kinh nghiệm đó bạn đang áp dụng tại Voltage Park?

Amazon Bedrock đã phá vỡ nhiều ranh giới và tôi thực sự tự hào về những gì đội Bedrock đã đạt được nhanh chóng. Sự hiểu biết cốt lõi của Bedrock là các nhà xây dựng cần một lớp trừu tượng làm cho việc lựa chọn mô hình và phương thức trở nên minh bạch – giải phóng họ tập trung vào xây dựng giải pháp thay vì quản lý sự phức tạp của cơ sở hạ tầng. Đó là nền tảng công nghiệp đầu tiên cung cấp quyền truy cập liền mạch vào nhiều mô hình nền tảng – văn bản, tầm nhìn và đa phương thức – mà không yêu cầu các đội phải điều hướng các API hoặc hạn chế phần cứng cụ thể.

Khả năng của mô hình nền tảng đang phát triển với tốc độ đáng kinh ngạc – nhanh hơn so với các chuyển đổi công nghệ trước đây như điện toán đám mây, di động hoặc thậm chí internet itself. Đội Bedrock của tôi đã tung ra sự đổi mới với tốc độ đó, dự đoán nơi khả năng của mô hình sẽ nằm hai hoặc ba thế hệ trước và xây dựng cho tương lai đó.

Tại Voltage Park, chúng tôi đang áp dụng cùng một nguyên tắc: Di chuyển nhanh để cung cấp cơ sở hạ tầng và phần mềm tiên tiến, giải quyết các điểm đau hiện tại trong khi kỹ thuật cho nơi công nghệ đang đi và những gì khách hàng sẽ cần khi công nghệ tương lai đến.

Điều gì là những thay đổi kỹ thuật và văn hóa lớn nhất khi chuyển từ một nhà cung cấp đám mây hyperscale sang một startup hiệu quả về vốn như Voltage Park?

Tại một nhà cung cấp đám mây hyperscale, kỹ thuật tồn tại trong một hệ sinh thái trưởng thành rộng lớn – công cụ, tuân thủ, tiếp thị, giao hàng khách hàng – nơi tổng thể vượt quá tổng các phần. Trong một startup, bạn trao đổi những luồng gió đó để có được tốc độ, sự gắn kết và tác động. Không có bộ máy quan liêu cồng kềnh để làm chậm bạn lại, nhưng cũng không có khung sườn được xây dựng sẵn – bạn phải tạo ra khung sườn của riêng mình. Phần thưởng là sự gắn kết văn hóa và khả năng tung ra các sản phẩm có tác động cao trong một phần nhỏ thời gian.

Voltage Park sở hữu hơn 24.000 GPU H100 và cung cấp quyền truy cập kim loại trần với giá cả cạnh tranh. Những phân khúc khách hàng nào bạn đang nhắm đến?

Nền tảng của chúng tôi bao gồm kim loại trần, máy ảo, Kubernetes được quản lý, Slurm được quản lý và một chồng phần mềm bổ sung được thiết kế cho các công việc trí tuệ nhân tạo. Chúng tôi phục vụ bất kỳ ai xây dựng sản phẩm trí tuệ nhân tạo hoặc xây dựng với trí tuệ nhân tạo: nhà nghiên cứu, startup và doanh nghiệp. Một số nhà xây dựng mô hình tinh vi nhất trên thế giới ngày nay, chẳng hạn như Cursor, đang đẩy ranh giới của khoa học và kỹ thuật học máy, đang đào tạo mô hình của họ trên Voltage Park. Tương tự, nhiều công ty sản phẩm trí tuệ nhân tạo nổi tiếng đang chạy các công việc suy luận trên Voltage Park. Đối với các doanh nghiệp, chúng tôi đang giảm cả ngưỡng chi phí và ngưỡng chuyên môn để chuyển từ nguyên mẫu sang sản xuất một cách dễ dàng và mở rộng công việc một cách đáng tin cậy.

Làm thế nào bạn đang quản lý việc sử dụng điện, hiệu quả chi phí và tính bền vững khi mở rộng cơ sở hạ tầng của mình?

Chúng tôi đã đầu tư và tiếp tục đầu tư đáng kể vào việc vận hành các trung tâm dữ liệu một cách hiệu quả. Chúng tôi đã đạt được những lợi ích đáng kể về việc sử dụng điện và chi phí thông qua các đổi mới như bảo trì dự đoán dựa trên trí tuệ nhân tạo, giảm thời gian ngừng hoạt động và tránh lãng phí so với dịch vụ phản ứng. Hầu hết cơ sở hạ tầng hiện tại của chúng tôi được cung cấp năng lượng bởi năng lượng tái tạo và xanh với tỷ lệ 99% trở lên, và tỷ lệ đó sẽ tăng khi chúng tôi mở rộng.

Làm thế nào các quan hệ đối tác và tiêu chuẩn đang định hình sự tiến hóa của Voltage Park như một nhà cung cấp cơ sở hạ tầng trí tuệ nhân tạo toàn diện?

Chúng tôi hợp tác với các công ty đang chuyển trí tuệ nhân tạo từ lý thuyết sang biến đổi. Một ví dụ tốt là khoản đầu tư của chúng tôi vào Matrice.ai, nơi chúng tôi dẫn đầu vòng mở rộng hạt giống. Chuyên môn về miền của họ trong các mô hình tầm nhìn cho phép khách hàng của chúng tôi chuyển đổi pixel thành thông tin với các giải pháp cụ thể theo chiều dọc trên nhiều ngành công nghiệp. Chúng tôi sẽ tiếp tục cung cấp xương sống cơ sở hạ tầng trí tuệ nhân tạo cho các nhà cung cấp mô hình để triển khai mô hình của họ trong một chồng phần cứng và phần mềm mô-đun mang lại hiệu suất mà không ảnh hưởng đến bảo mật hoặc quyền riêng tư của dữ liệu.

Chúng tôi cũng là một người đóng góp tích cực cho cộng đồng mã nguồn mở – hỗ trợ, ví dụ, SGLang như đối tác cơ sở hạ tầng của họ để mang lại các dự án mã nguồn mở chất lượng cao như SpecForge đến cộng đồng. Và chúng tôi đã hợp tác với Quỹ Khoa học Quốc gia Hoa Kỳ để hỗ trợ Dự án thí điểm Tài nguyên Nghiên cứu Trí tuệ Nhân tạo Quốc gia (NAIRR), một sáng kiến công-tư nhằm mở rộng quyền truy cập vào các công cụ trí tuệ nhân tạo tiên tiến cho các nhà nghiên cứu và giáo viên trên toàn quốc.

Những tính năng quản lý, kiểm toán hoặc bảo mật cấp doanh nghiệp nào bạn đang ưu tiên cho các nhà phát triển trí tuệ nhân tạo?

Bảo mật, quyền riêng tư của dữ liệu và tuân thủ là các tính năng cơ bản của nền tảng nhà máy trí tuệ nhân tạo của chúng tôi, và khách hàng của chúng tôi có sự yên tâm khi làm việc với một chồng phần mềm cấp doanh nghiệp. Khi chúng tôi xây dựng phần mềm của mình để giải quyết các điểm đau của khách hàng, chúng tôi đang thêm các tính năng như quyền và phép truy cập tài nguyên và dữ liệu chi tiết, theo dõi phân cấp, hàng rào an toàn và tích hợp liền mạch với đường ống dữ liệu doanh nghiệp, API và khung tác nhân. Mục tiêu là cung cấp cho khách hàng sự linh hoạt của đám mây với sự kiểm soát của môi trường trên cơ sở.

Lời khuyên của bạn cho các nhà nghiên cứu trí tuệ nhân tạo và các đội cơ sở hạ tầng nhằm mở rộng quy mô hiệu quả trong môi trường tính toán bị giới hạn hiện nay?

Các nhà nghiên cứu trí tuệ nhân tạo và công ty nên cố gắng giảm thiểu thời gian họ dành để đối phó với các thách thức về cơ sở hạ tầng, vì đó là những điều không phân biệt, và tận dụng các nguyên tắc cấp cao hơn như Kubernetes được quản lý và Slurm. Chọn các đối tác cung cấp giá cả minh bạch, hỗ trợ vận hành chuyên gia và chuyên môn kỹ thuật xuất sắc để giúp giải quyết các vấn đề. Những yếu tố đó sẽ tăng tốc cả quá trình thử nghiệm và mở rộng quy mô của bạn.

Trong ba năm, bạn nhìn thấy Voltage Park ở đâu – xa hơn xuống chồng về dịch vụ trí tuệ nhân tạo đầy đủ hoặc phân nhánh sang các lĩnh vực mới như tính toán biên?

Ba năm trong phong cảnh trí tuệ nhân tạo là một kỷ nguyên. Chúng tôi là một công ty lấy khách hàng làm trung tâm và trong ba năm, như bây giờ, sẽ tập trung vào các điểm đau thực tế của khách hàng, cho dù trong contexto của việc xây dựng sản phẩm trí tuệ nhân tạo hay tiêu thụ chúng. Tôi kỳ vọng rằng chúng tôi sẽ có nhiều sự tinh vi hơn trong chiều rộng và chiều sâu của chồng phần mềm của chúng tôi, và một hồ sơ theo dõi về việc giúp các công ty hàng đầu thế giới tăng tốc việc áp dụng trí tuệ nhân tạo trên quy mô lớn.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Voltage Park.