Tại Sao Cuộc Đua Chip AI Hiện Nay Được Xây Dựng Trên Phần Mềm

Mỗi bộ tăng tốc AI mới được ra mắt đều đi kèm với một câu chuyện về việc đánh giá hiệu suất: thông lượng cực đại, teraops trên watt, những con số ấn tượng hứa hẹn rằng chip này sẽ thay đổi mọi thứ. Tuy nhiên, những con số này thường bỏ qua một yếu tố quan trọng: liệu khách hàng có thể thực sự sử dụng chip trong sản xuất hay không. Hầu hết các trường hợp, họ không thể, và đó là câu chuyện thực sự về vị trí của ngành công nghiệp phần cứng AI ngày nay. Ngành công nghiệp này đang phải đối mặt với một vấn đề về độ chín muồi của phần mềm, và hầu hết các công ty vẫn chưa sẵn sàng nói về điều này một cách công khai.

Khoảng Trống Không Ai Nói Về

Chu kỳ phát triển silicon kéo dài từ hai đến bốn năm, trong khi cảnh quan mô hình AI thay đổi trên chu kỳ tính bằng tháng và có xu hướng giảm xuống vài tuần. Dưới đây là vấn đề về chuỗi giá trị: các trường hợp sử dụng cuối cùng, từ phương tiện, nhà máy đến bệnh viện và thiết bị, đang trưởng thành về mặt chức năng và bắt đầu tạo ra tác động có thể đo lường được đến lợi nhuận. Sự trưởng thành này tạo ra nhu cầu về các bản điều chỉnh phần mềm, điều này lại yêu cầu thay đổi phần cứng. Mỗi một trong ba lớp này hoạt động ở tốc độ cơ bản khác nhau, và sự không phù hợp này là nguyên nhân gốc rễ của sự ma sát đang xây dựng trên thị trường. Bộ phần mềm cần thiết để chạy suy luận ngôn ngữ lớn khác biệt cơ bản so với những gì được xây dựng cho các công việc học máy trước đó. Thời gian phát triển phần cứng chưa được nén để phù hợp với chu kỳ này. Các công ty đang vận chuyển silicon mới ngày nay giao nó cho khách hàng với phần mềm không thể hoàn toàn mở khóa khả năng của chip, tạo ra một mô hình lặp lại trên thị trường: silicon ấn tượng, phần mềm chưa trưởng thành, việc áp dụng chậm và doanh thu bị bỏ lỡ. Chip thực hiện những gì nó được thiết kế để làm. Vấn đề là khách hàng không thể dễ dàng sử dụng nó.

Xem xét những gì đã xảy ra với ngành công nghiệp ô tô. Xe ô tô bản thân đã được giải quyết phần lớn vào giữa thế kỷ XX, nhưng khi phần mềm trở thành yếu tố phân biệt, các công ty có di sản sản xuất sâu sắc nhất đã gặp khó khăn nhất trong việc thích nghi. Ford và GM biết cách xây dựng động cơ, nhưng không có ký ức cơ để xây dựng hệ điều hành. Ngành công nghiệp phần cứng AI đang trải qua sự chuyển đổi tương tự ngay bây giờ, và sự tương tự này khá chính xác. NVIDIA (NVDA ) đóng vai trò của người phá vỡ phần mềm bản địa, trong khi các công ty bán dẫn truyền thống vẫn đang cố gắng tìm cách bán các hệ sinh thái nhà phát triển cùng với silicon.

Sự thống trị của NVIDIA gần như không liên quan gì đến việc có những chip tốt nhất. CUDA (Kiến trúc Thiết bị và Máy tính Đơn nhất) đã 20 năm tuổi, với tất cả các khoản nợ kỹ thuật tích lũy mà điều đó ngụ ý, nhưng những gì NVIDIA thực sự xây dựng là hệ điều hành của tính toán AI: một hệ sinh thái dự đoán, trưởng thành mà các nhà phát triển và OEM có thể dựa vào trong sản xuất.

Khách hàng chọn các nền tảng dựa trên độ chín muồi của phần mềm và rủi ro tích hợp, vì vậy khi một bộ tăng tốc mới đến mà không có một chồng phần mềm cấp sản xuất, cuộc trò chuyện thương mại kết thúc trước khi nó bắt đầu.

Thời gian đến mô hình đầu tiên, được định nghĩa là làm thế nào nhanh chóng một khách hàng có thể chạy một công việc AI thực sự trên một bộ tăng tốc nhất định, là một chỉ số thương mại có ý nghĩa hơn nhiều so với thông lượng cực đại. Đó là cuộc trò chuyện mà hầu hết các công ty phần cứng ít chuẩn bị nhất để tham gia.

Thị Trường Thực Sự Là Suy Luận

Ngôn ngữ bản địa của kinh doanh là P&L, và mọi công ty triển khai AI cần trả lời cùng một câu hỏi: tiền ở đâu, và điều gì ngăn cản tôi thu được nó? Việc đào tạo là một bước cần thiết, nhưng AI thương mại sống trong suy luận, và thị trường đó hầu như chưa bắt đầu.

Sự bất đối xứng về quy mô ở đây rất đáng chú ý. Việc đào tạo bao gồm một trường hợp sử dụng; suy luận bao gồm vô số trường hợp. Mỗi ứng dụng của AI trong xe, nhà máy, bệnh viện, điện thoại hoặc kho chứa yêu cầu suy luận. Một chip chạy hệ thống an toàn trong xe ô tô không thể tiêu thụ điện năng của trung tâm dữ liệu, và một thiết bị chạy suy luận thời gian thực trên sàn nhà máy không thể chấp nhận độ trễ cao. Thị trường suy luận biên yêu cầu silicon được thiết kế đặc biệt cho hiệu quả năng lượng, các hạn chế vật lý và các yêu cầu về an toàn và độ tin cậy của các ngành công nghiệp triển khai nó.

Quyết định gần đây của Google khi chia bộ xử lý TPU thế hệ thứ tám thành hai chip riêng biệt, một cho đào tạo và một cho suy luận, đáng để suy ngẫm. Sự lựa chọn kiến trúc này thừa nhận rằng hai công việc đã phân kỳ đến mức tối ưu hóa cho cả hai trong một thiết kế đơn lẻ hiện có nghĩa là xuất sắc trong cả hai. Khi một công ty chạy một số cơ sở hạ tầng AI lớn nhất quyết định rằng sự chuyên môn hóa quan trọng hơn sự hợp nhất, nó cho thấy nơi mà phần còn lại của thị trường đang hướng tới: silicon suy luận chuyên dụng được triển khai ở biên, với số lượng lớn, dưới các hạn chế thực tế mà các điểm chuẩn trung tâm dữ liệu không được thiết kế để đo lường.

Chúng ta đang trong một cuộc chiến giành giật suy luận, trong khi hầu hết thị trường vẫn được tổ chức xung quanh đào tạo.

Giới Hạn Cấu Trúc Của Di Sản

Các công ty được vị trí tốt nhất để sản xuất hàng loạt vẫn còn cấu trúc không thể phục vụ các thị trường nơi suy luận sẽ sống. Khách hàng ô tô cần nhà cung cấp đảm bảo sẵn sàng của linh kiện trong một thập kỷ. Các công ty bán dẫn chung như Intel (INTC ) đơn giản là không cam kết như vậy. Sự hạn chế cấu trúc này để lại một ngành công nghiệp không được phục vụ, và không có sự thương lượng nào có thể thay đổi điều đó.

Nền tảng AI biên của NVIDIA đang phải đối mặt với một thách thức từ các giải pháp tương thích PIN cung cấp hiệu suất tốt hơn trên mỗi watt mà không yêu cầu bất kỳ thay đổi nào đối với chồng phần mềm. Một khách hàng có thể thay thế chip và giữ mọi thứ khác, khiến đây trở thành một cuộc tấn công thương mại trực tiếp vào phần defensible nhất của vị trí biên của NVIDIA.

Các công ty đã chứng minh khái niệm của họ trên CUDA đang phát hiện ra rằng việc triển khai kinh tế ở quy mô đòi hỏi phải tái kiến trúc lại silicon tiêu thụ thấp hơn, vì khi các tổ chức triển khai hàng chục nghìn thiết bị, chi phí mỗi đơn vị và tiêu thụ năng lượng trở thành các yếu tố quyết định. Chuỗi đang diễn ra trên thị trường suy luận là thẳng thắn: sử dụng thứ gì đó hoạt động, thử nghiệm nó, sau đó tìm cách triển khai nó một cách kinh tế, vì bạn cần kiếm tiền từ nó. Với tốc độ áp dụng AI, cửa sổ để thiết lập lợi thế phần mềm và hệ sinh thái được đo bằng quý.

Khoản Đầu Tư Kỹ Thuật Mà Hầu Hết Các Công Ty Đang Bỏ Qua

Các công ty phần cứng AI tiếp tục vận chuyển các chip mạnh mẽ với phần mềm không thể chạy chúng một cách đầy đủ. Phần mềm hệ thống cấp sản xuất, bao gồm thời gian chạy suy luận, tối ưu hóa trình biên dịch và kích hoạt công việc, đòi hỏi kỹ thuật chuyên sâu và chuyên môn hóa mà hầu hết các công ty phần cứng đơn giản là không có trong nhà.

Xây dựng khả năng đó có nghĩa là phải thuê các kỹ sư trình biên dịch và kiến trúc sư thời gian chạy có thể đóng khoảng cách giữa những gì một chip có khả năng về mặt lý thuyết và những gì một khách hàng có thể triển khai một cách thực tế. Các công ty cũng cần đầu tư vào công cụ trước khi doanh thu hợp lý hóa nó, vì vào thời điểm doanh thu đến, cửa sổ đã đóng. Các công ty bỏ qua khoản đầu tư đó không chỉ bị tụt lại phía sau. Họ mất các giao dịch.

Các chip đạt được quy mô là những chip có thể triển khai được nhất, và khả năng triển khai là một chức năng của chất lượng phần mềm. Các khách hàng lớn ở hạ nguồn, từ OEM và hyperscalers đến khách hàng doanh nghiệp, đã bị cháy trước bởi silicon có hiệu suất benchmark tốt và tích hợp kém. Họ chọn dựa trên sự trưởng thành của hệ sinh thái và rủi ro tích hợp. Các công ty coi phần mềm là một ưu tiên kỹ thuật hàng đầu chuyển đổi nhiều phi công thành hợp đồng sản xuất và đạt doanh thu nhanh hơn. Những công ty coi phần mềm như một điều sau khi vận chuyển xem silicon vượt trội về mặt kỹ thuật bị mất giao dịch với các chip kém hơn được hỗ trợ bởi các chồng phần mềm trưởng thành hơn.

Đồng Hồ Đã Được Bật

Các công ty phần cứng AI được định vị để chiếm thị phần đáng kể trong giai đoạn tiếp theo đang xây dựng các lợi thế hệ sinh thái ngày nay sẽ khó khăn cho các người mới tham gia sau này để sao chép. Sự linh hoạt của phần mềm, khả năng thích nghi với các kiến trúc mô hình mới mà không cần chờ đợi bản tape-out tiếp theo, tách silicon vẫn còn liên quan về mặt thương mại khỏi silicon luân phiên qua các phi công mà không bao giờ tạo ra doanh thu cần thiết để tài trợ cho thế hệ tiếp theo.

Các quyết định đang được đưa ra ngay bây giờ, trong các nhóm kỹ thuật, thỏa thuận hợp tác và phi công thương mại trên toàn cảnh quan phần cứng AI, sẽ quyết định những công ty nào vẫn còn liên quan vào năm 2028. Sự khởi đầu 20 năm của CUDA là một hào được xây dựng trên độ sâu của hệ sinh thái, nhưng bất kỳ công ty nào sẵn sàng coi phần mềm như một ưu tiên kỹ thuật được duy trì theo thời gian đều có thể xây dựng cùng một độ sâu theo thời gian.

Câu hỏi mà ngành công nghiệp cần trả lời là những công ty nào đang di chuyển đủ nhanh để xây dựng độ sâu của hệ sinh thái khiến cho chip của họ trở thành lựa chọn mặc định trước khi chip của người khác trở nên quá cố định để thay thế.