OpenAI Taps Cerebras cho $10 tỷ trong tính toán thấp độ trễ

OpenAI đã công bố một thỏa thuận nhiều năm với công ty khởi nghiệp chip Cerebras Systems (CBRS ) sẽ cung cấp 750 megawatt điện toán AI chuyên dụng cho nhà sản xuất ChatGPT, trong đó cả hai công ty mô tả là triển khai suy luận tốc độ cao lớn nhất từ trước đến nay.

Thỏa thuận, được định giá hơn 10 tỷ đô la theo nguồn tin熟悉 với các điều khoản, đánh dấu việc OpenAI đặt cược cơ sở hạ tầng quan trọng nhất ngoài mối quan hệ chính với Microsoft (MSFT ). Cerebras sẽ xây dựng và lưu trữ các hệ thống theo từng giai đoạn cho đến năm 2028, với công suất đầu tiên sẽ được đưa trực tuyến trong năm nay.

Sự hợp tác này nhằm giải quyết một vấn đề cụ thể: tốc độ. Mặc dù OpenAI đã mở rộng ChatGPT lên 800 triệu người dùng mỗi tuần, công ty phải đối mặt với các hạn chế tính toán làm chậm thời gian phản hồi – đặc biệt là đối với các khối lượng công việc đòi hỏi cao như tạo mã, nhiệm vụ đại lý và tương tác giọng nói thời gian thực.

“Cerebras thêm một giải pháp suy luận thấp độ trễ chuyên dụng vào nền tảng của chúng tôi,” said Sachin Katti, người đứng đầu chiến lược tính toán của OpenAI. “Điều đó có nghĩa là phản hồi nhanh hơn, tương tác tự nhiên hơn và một nền tảng vững chắc hơn để mở rộng AI thời gian thực cho nhiều người hơn.”

Tại sao Wafer-Scale Silicon quan trọng

Đề xuất của Cerebras tập trung vào các bộ xử lý wafer-scale – các chip có kích thước như đĩa ăn tối loại bỏ các độ trễ giao tiếp vốn có trong các hệ thống được khâu từ nhiều GPU nhỏ hơn. Công ty này tuyên bố kiến trúc của họ cung cấp tốc độ suy luận lên đến 15 lần so với các giải pháp dựa trên GPU, với các mô hình như GPT-OSS-120B chạy với khoảng 3.000 token mỗi giây.

Đối với OpenAI, tốc độ đó trực tiếp chuyển thành trải nghiệm người dùng. Khi AI phản hồi trong thời gian thực – mà không có độ trễ làm cho các cuộc trò chuyện cảm giác giả tạo – người dùng tham gia sâu hơn và đạt được nhiều hơn. Công ty đã thử nghiệm silicon của Cerebras với các mô hình mở trước lễ Tạ ơn và các cuộc trò chuyện kỹ thuật giữa các nhóm nhanh chóng leo thang lên một tờ giấy ký kết, theo CEO Andrew Feldman của Cerebras.

“Giống như băng thông rộng đã thay đổi internet, suy luận thời gian thực sẽ thay đổi AI,” Feldman nói. “Điều này cho phép xây dựng và tương tác với các mô hình AI theo những cách hoàn toàn mới.”

So sánh này không phải là cường điệu. Internet băng thông rộng đầu tiên hỗ trợ email và duyệt web cơ bản; băng thông rộng cho phép phát trực tuyến video, cuộc gọi thoại và cuối cùng là nền kinh tế ứng dụng điện thoại thông minh. OpenAI dường như đang đặt cược rằng suy luận đủ nhanh sẽ mở khóa các ứng dụng mà độ trễ hiện tại làm không thực tế – đặc biệt là đối với các đại lý AI phải liên kết nhiều hoạt động mà không có sự kiên nhẫn của con người.

Cuộc đua cơ sở hạ tầng trở nên gay gắt

Thỏa thuận Cerebras đến khi giá trị cơ sở hạ tầng AI đã bùng nổ, với Databricks gần đây tăng lên 134 tỷ đô la và Cerebras bản thân được cho là đang đàm phán tài trợ mới với giá trị 22 tỷ đô la. Nhu cầu tính toán của các mô hình AI tiên phong không có dấu hiệu đạt đỉnh, và các công ty đang tranh giành để khóa công suất trước khi đối thủ làm như vậy.

Đối với Cerebras, quan hệ đối tác OpenAI giải quyết một vấn đề tập trung kinh doanh. Các Tiểu vương quốc Ả Rập Thống nhất’ G42 chiếm 87% doanh thu của Cerebras trong nửa đầu năm 2024 – một khách hàng tập trung khiến các nhà đầu tư lo lắng. Thêm OpenAI làm khách hàng lớn trước khi có thể IPO làm giảm thiểu rủi ro kinh doanh.

Đối với OpenAI, thỏa thuận này đa dạng hóa cơ sở hạ tầng AI của công ty ngoài đám mây Azure của Microsoft. Mặc dù Microsoft vẫn là nhà cung cấp tính toán chính của OpenAI, quan hệ đối tác Cerebras mang lại cho OpenAI công suất thấp độ trễ chuyên dụng được tối ưu hóa cụ thể cho suy luận – một khối lượng công việc khác với các lần chạy huấn luyện mà cơ sở hạ tầng của Microsoft xử lý.

Thời gian cũng rất quan trọng. OpenAI gần đây đã phát hành GPT-5.2 giữa sự cạnh tranh gay gắt từ Gemini của Google. Khi các mô hình trở nên mạnh mẽ hơn, các công ty triển khai chúng đang phát hiện ra rằng trí thông minh thô không đủ – người dùng cũng mong đợi phản hồi gần như tức thời. Một AI thông minh có thể trả lời trong mười giây cảm giác bị hỏng; cùng một AI trả lời trong chưa đầy một giây cảm giác .

Sam Altman, CEO của OpenAI, đã là một nhà đầu tư vào Cerebras, và OpenAI từng xem xét việc mua lại công ty này hoàn toàn. Thỏa thuận này cho thấy mối quan hệ đang phát triển thành một thing chiến lược hơn: một quan hệ đối tác mà số phận của cả hai công ty trở nên gắn kết trong cuộc đua để làm cho AI cảm giác thực sự đối thoại.