Cơ Sở Hạ Tầng Trí Tuệ Nhân Tạo Đã Hỏng. Token Đang Trở Thành Đơn Vị Đo Lường Giá Trị Mới.

Ngành công nghiệp trí tuệ nhân tạo đang gặp phải vấn đề về đo lường.

Trong nhiều năm, thành công đã được định nghĩa bởi khả năng tiếp cận tính toán, chẳng hạn như ai có nhiều GPU nhất, cụm lớn nhất hoặc chạy huấn luyện nhanh nhất. Hàng tỷ đô la đã được đầu tư vào cơ sở hạ tầng để giành chiến thắng trong cuộc đua này.

Tuy nhiên, khi trí tuệ nhân tạo chuyển từ thí nghiệm sang sản xuất, mô hình đó bắt đầu bị phá vỡ.

Doanh nghiệp không mua GPU. Họ thậm chí không mua khả năng suy luận. Họ mua kết quả như tóm tắt, khuyến nghị, quyết định, nội dung. Nói cách khác, họ mua token.

Tuy nhiên, hầu hết cơ sở hạ tầng trí tuệ nhân tạo vẫn được thiết kế như thể tính toán là mục tiêu cuối cùng. Nó không phải như vậy.

Đơn vị giá trị thực sự trong trí tuệ nhân tạo là token. Và các công ty nhận ra sự thay đổi này sớm sẽ định nghĩa kỷ nguyên tiếp theo của thị trường.

Sự trỗi dậy của nhà máy token trí tuệ nhân tạo

Nếu token là sản phẩm, thì cơ sở hạ tầng trí tuệ nhân tạo cần phải hoạt động như một hệ thống sản xuất, không phải là một dự án khoa học. Đó là nơi khái niệm về nhà máy token trí tuệ nhân tạo xuất hiện.

Một nhà máy token trí tuệ nhân tạo không chỉ là một lớp phần mềm khác trong ngăn xếp. Nó là một sự tái cấu trúc của ngăn xếp đó. Thay vì tối ưu hóa hiệu suất mô hình riêng lẻ hoặc sử dụng phần cứng thô, nó tập trung vào một kết quả: sản xuất token hiệu quả ở quy mô lớn.

Điều đó có nghĩa là trừu tượng hóa sự phức tạp của cơ sở hạ tầng, phân bổ động các khối lượng công việc trên các môi trường khác nhau và tối ưu hóa liên tục cho thông lượng, độ trễ, sử dụng và chi phí trên mỗi token.

Mô hình ngày nay基本 là cho thuê GPU với các bước bổ sung. Tổ chức cung cấp phần cứng đắt tiền, khâu lại các công cụ bị phân mảnh và hy vọng rằng việc sử dụng cuối cùng sẽ chứng minh cho khoản đầu tư.

Một nhà máy token đảo ngược hoàn toàn phương trình đó. Nó cung cấp đầu ra, không phải cơ sở hạ tầng, và coi hiệu quả là nguyên tắc thiết kế cốt lõi từ ngày đầu tiên. Điều này không phải là tiến bộ dần dần. Đó là một sự thay đổi từ cơ sở hạ tầng như khả năng đến cơ sở hạ tầng như sản xuất.

Tại sao mô hình cũ không thể tồn tại

Mô hình cơ sở hạ tầng trí tuệ nhân tạo hiện tại không chỉ không hiệu quả. Nó ngày càng không bền vững.

Sự khan hiếm GPU đã暴露 ra những vết nứt đầu tiên. Nhu cầu tiếp tục vượt quá cung, buộc các tổ chức phải triển khai đa nhà cung cấp, phân mảnh. Những gì bắt đầu như một giải pháp tạm thời đã nhanh chóng trở thành tiêu chuẩn: các môi trường khác nhau được khâu lại mà không có một lớp vận hành thống nhất.

Vấn đề là hầu hết các ngăn xếp hiện có không được xây dựng cho thực tế này. Chúng không tối ưu hóa hiệu quả trên các kiến trúc, thích nghi trong thời gian thực hoặc cung cấp tầm nhìn rõ ràng về hiệu suất và chi phí.

Kết quả là sự phức tạp tăng nhanh hơn quy mô.

Mỗi mô hình mới, khuôn khổ, gia tốc hoặc nền tảng đám mây giới thiệu thêm một lớp quản lý. Các nhóm dành rất nhiều thời gian để quản lý điều phối, tương thích, định tuyến, lập lịch và vấn đề quan sát thay vì cải thiện kết quả.

Điều nên là một lợi thế quy mô nhanh chóng trở thành một vấn đề phối hợp.

Đồng thời, kinh tế đang trở nên khó bỏ qua. Các triển khai trí tuệ nhân tạo đầu tiên có thể che giấu sự không hiệu quả đằng sau sự tăng trưởng và thí nghiệm. Cửa sổ đó đang đóng lại.

Các giám đốc điều hành hiện đang đặt ra những câu hỏi khó hơn: Tại sao chi phí suy luận lại không thể đoán trước? Tại sao sử dụng GPU vẫn còn thấp? Tại sao các tổ chức phải trả giá cao cho phần cứng thường xuyên nhàn rỗi? Tại sao lại khó gắn chi tiêu cơ sở hạ tầng với kết quả kinh doanh?

Câu trả lời rất đơn giản: Hệ thống được thiết kế cho khả năng, không phải hiệu quả.

Từ kiến trúc tập trung vào tính toán đến kiến trúc tập trung vào token

Sự chuyển đổi sang các nhà máy token là cả một sự thay đổi về triết lý và kiến trúc.

Trước hết, thị trường đang chuyển từ GPU như một dịch vụ sang kết quả như một dịch vụ. Khách hàng không muốn quản lý cơ sở hạ tầng; họ muốn kết quả đảm bảo. Trạng thái cuối cùng là tiêu thụ dựa trên đầu ra, không phải tài nguyên.

Thứ hai, các ngăn xếp bị phân mảnh đang nhường chỗ cho các mặt điều khiển thống nhất. Trong một môi trường khác nhau, tầm nhìn và kiểm soát là mọi thứ. Các nhà máy token cung cấp thông tin chi tiết về thời gian thực về sử dụng, chi phí và hiệu suất, và khả năng hành động trên đó. Các tổ chức cần hiểu: Ai đang tạo ra token? Với chi phí nào? Trên phần cứng nào? Dưới các khối lượng công việc nào? Và với mức hiệu quả nào? Không có những câu trả lời đó, tối ưu hóa trở thành công việc đoán.

Cuối cùng, sự tập trung của ngành đang chuyển từ thực hiện sang tối ưu hóa liên tục. Thách thức không chỉ đơn giản là chạy các mô hình, mà chạy chúng một cách thông minh, khi các tổ chức xác định: Các khối lượng công việc nào thuộc về phần cứng nào? Làm thế nào để tối đa hóa thông lượng trong khi kiểm soát chi phí? Làm thế nào để ngăn chặn việc sử dụng token không kiểm soát?

Các nhà máy token coi những câu hỏi này là các vấn đề hàng đầu, không phải là những suy nghĩ sau.

Tại sao mô hình giao hàng trí tuệ nhân tạo ngày nay không đạt yêu cầu

Ngăn xếp trí tuệ nhân tạo truyền thống (bao gồm các nhà cung cấp phần cứng, nền tảng đám mây, dịch vụ suy luận) được xây dựng chủ yếu cho sự tăng trưởng nhanh, không phải là hiệu quả hệ thống.

Mỗi lớp thêm giá trị nhưng cũng thêm chi phí, trừu tượng và phân mảnh vận hành. Kết quả là một hệ thống có lợi nhuận chồng chất, tính minh bạch hạn chế và tăng cường khóa nhà cung cấp. Các tổ chức cuối cùng tối ưu hóa trong các silo thay vì trên toàn hệ thống.

Các nhà máy token thách thức cơ bản mô hình đó.

Bằng cách tách phần cứng khỏi giao hàng giá trị, chúng cho phép tối ưu hóa từ đầu đến cuối. Các khối lượng công việc có thể di chuyển linh hoạt trên các môi trường. Các kiến trúc có thể phát triển mà không cần viết lại lớn. Hiệu quả trở nên có thể đo lường, quản lý và cải thiện liên tục.

Đây là cách các doanh nghiệp và các đám mây mới nổi có thể cạnh tranh hiệu quả hơn với các hyperscalers. Không phải bằng cách khớp với quy mô của họ, mà bằng cách vượt trội về hiệu quả.

Ai sẽ chiến thắng

Có lẽ khía cạnh phá vỡ nhất của sự chuyển đổi này là ai nó trao quyền. Bạn không cần sở hữu một trung tâm dữ liệu hoặc thậm chí là GPU để vận hành một nhà máy token.

Điều quan trọng là kiểm soát điều phối, tối ưu hóa và giao hàng. Điều đó mở cửa cho một tập hợp người chơi rộng lớn hơn:

• Doanh nghiệp với các khối lượng công việc trí tuệ nhân tạo lớn và liên tục.
• Các nhà cung cấp đám mây mới tối ưu hóa cho các lĩnh vực hoặc trường hợp sử dụng cụ thể.
• Các nhà cung cấp cơ sở hạ tầng di chuyển lên ngăn xếp.

Trong mô hình này, lợi thế cạnh tranh không đến từ tích lũy tính toán. Nó đến từ sản xuất token tốt hơn, nhanh hơn và rẻ hơn bất kỳ ai khác.

Chiến trường mới: Chi phí trên mỗi token

Giai đoạn cạnh tranh trí tuệ nhân tạo tiếp theo sẽ không được giành chiến thắng chỉ dựa trên chất lượng mô hình. Nó sẽ được giành chiến thắng dựa trên hiệu quả. Cụ thể hơn, chi phí trên mỗi token.

Ai có thể cung cấp đầu ra tương đương hoặc tốt hơn với một phần nhỏ của chi phí? Ai có thể mở rộng quy mô mà không có chi tiêu cơ sở hạ tầng không kiểm soát? Ai có thể biến trí tuệ nhân tạo thành một doanh nghiệp có lợi nhuận và có thể dự đoán?

Đây không phải là những câu hỏi về cơ sở hạ tầng. Đây là những câu hỏi sản xuất đòi hỏi một tư duy sản xuất.

Tương lai không được xây dựng trên GPU

GPU không biến mất, nhưng chúng không còn là câu chuyện. Token mới là câu chuyện.

Các tổ chức vẫn tập trung vào tính toán sẽ phải đối mặt với chi phí tăng cao và lợi nhuận giảm. Những tổ chức chuyển sang các hệ thống tập trung vào token sẽ mở khóa một mô hình cơ bản khác, một mô hình phù hợp với cơ sở hạ tầng với kết quả và chi phí với giá trị.

Các nhà máy token trí tuệ nhân tạo không phải là một khái niệm xa vời. Chúng là một sự tiến hóa không thể tránh khỏi của thị trường. Câu hỏi thực sự duy nhất là ai xây dựng chúng đầu tiên và ai bị bỏ lại.