Cơ Sở Hạ Tầng Trí Tuệ Nhân Tạo Bị Hỏng. Tokens Đang Trở Thành Đoạn Mới Của Giá Trị.

Ngành công nghiệp trí tuệ nhân tạo có một vấn đề đo lường.

Trong nhiều năm, thành công đã được định nghĩa bởi khả năng tiếp cận tính toán, chẳng hạn như ai có nhiều GPU nhất, các cụm lớn nhất hoặc các lần đào tạo nhanh nhất. Hàng tỷ đô la đã được đổ vào cơ sở hạ tầng để giành chiến thắng trong cuộc đua này.

Nhưng khi trí tuệ nhân tạo chuyển từ thí nghiệm sang sản xuất, mô hình đó bắt đầu bị phá vỡ.

Doanh nghiệp không mua GPU. Họ thậm chí không mua khả năng suy luận. Họ mua kết quả như tóm tắt, khuyến nghị, quyết định, nội dung. Nói cách khác, họ mua tokens.

Tuy nhiên, hầu hết cơ sở hạ tầng trí tuệ nhân tạo vẫn được thiết kế như thể tính toán là mục tiêu cuối cùng. Nó không phải như vậy.

Đơn vị giá trị thực sự trong trí tuệ nhân tạo là token. Và những công ty nhận ra sự thay đổi này sớm sẽ định nghĩa kỷ nguyên tiếp theo của thị trường.

Sự trỗi dậy của nhà máy token trí tuệ nhân tạo

Nếu tokens là sản phẩm, thì cơ sở hạ tầng trí tuệ nhân tạo cần phải hành động như một hệ thống sản xuất, không phải là một dự án khoa học. Đó là nơi khái niệm về nhà máy token trí tuệ nhân tạo xuất hiện.

Một nhà máy token trí tuệ nhân tạo không chỉ là một lớp phần mềm khác trong ngăn xếp. Nó là một sự suy nghĩ lại về ngăn xếp đó. Thay vì tối ưu hóa hiệu suất mô hình riêng lẻ hoặc sử dụng phần cứng thô, nó tập trung vào một kết quả: sản xuất token hiệu quả ở quy mô lớn.

Điều đó có nghĩa là trừu tượng hóa sự phức tạp của cơ sở hạ tầng, phân bổ tải công việc động trên các môi trường khác nhau và tối ưu hóa liên tục cho thông lượng, độ trễ, sử dụng và chi phí mỗi token.

Mô hình ngày nay基本 là cho thuê GPU với các bước bổ sung. Các tổ chức cung cấp phần cứng đắt tiền, khâu lại các công cụ bị phân mảnh và hy vọng rằng việc sử dụng cuối cùng sẽ chứng minh cho khoản đầu tư.

Một nhà máy token đảo ngược hoàn toàn phương trình đó. Nó cung cấp đầu ra, không phải cơ sở hạ tầng, và coi hiệu quả là nguyên tắc thiết kế cốt lõi từ ngày đầu tiên. Đây không phải là tiến bộ dần dần. Đây là một sự thay đổi từ cơ sở hạ tầng như khả năng đến cơ sở hạ tầng như sản xuất.

Tại sao mô hình cũ không thể giữ được

Mô hình cơ sở hạ tầng trí tuệ nhân tạo hiện tại không chỉ không hiệu quả. Nó ngày càng không bền vững.

Sự khan hiếm GPU đã暴露 ra những vết nứt đầu tiên. Nhu cầu tiếp tục vượt quá nguồn cung, buộc các tổ chức vào các triển khai đa nhà cung cấp, phân mảnh. Những gì bắt đầu như một giải pháp tạm thời đã nhanh chóng trở thành chuẩn mực: các môi trường dị hình được khâu lại với nhau mà không có một lớp vận hành thống nhất.

Vấn đề là hầu hết các ngăn xếp hiện có không được xây dựng cho thực tế này. Chúng không tối ưu hóa hiệu quả trên các kiến trúc, thích nghi trong thời gian thực hoặc cung cấp cái nhìn rõ ràng về hiệu suất và chi phí.

Kết quả là sự phức tạp tăng nhanh hơn quy mô.

Mỗi mô hình mới, khuôn khổ, gia tốc hoặc nền tảng đám mây giới thiệu một lớp chi phí vận hành khác. Các nhóm dành rất nhiều thời gian để quản lý điều phối, tương thích, định tuyến, lập lịch và các vấn đề quan sát thay vì cải thiện kết quả.

Điều nên là một lợi thế quy mô nhanh chóng trở thành một vấn đề phối hợp.

Đồng thời, kinh tế đang trở nên khó bỏ qua. Các triển khai trí tuệ nhân tạo đầu tiên có thể che giấu sự không hiệu quả đằng sau sự tăng trưởng và thí nghiệm. Cửa sổ đó đang đóng lại.

Các giám đốc điều hành hiện đang đặt ra những câu hỏi khó hơn: Tại sao chi phí suy luận lại không thể đoán trước? Tại sao sử dụng GPU vẫn còn thấp? Tại sao các tổ chức phải trả giá cao cho phần cứng thường ngồi không? Tại sao việc gắn chi tiêu cơ sở hạ tầng với kết quả kinh doanh lại khó khăn?

Câu trả lời rất đơn giản: Hệ thống được thiết kế cho khả năng tiếp cận, không phải hiệu quả.

Từ kiến trúc tập trung vào tính toán đến kiến trúc tập trung vào token

Sự thay đổi sang các nhà máy token là cả một sự thay đổi triết lý và kiến trúc.

Trước hết, thị trường đang chuyển từ GPU-as-a-service sang outcome-as-a-service. Khách hàng không muốn quản lý cơ sở hạ tầng; họ muốn kết quả đảm bảo. Trạng thái cuối cùng hợp lý là tiêu thụ dựa trên đầu ra, không phải tài nguyên.

Thứ hai, các ngăn xếp bị phân mảnh đang nhường chỗ cho các mặt điều khiển thống nhất. Trong một môi trường dị hình, khả năng hiển thị và kiểm soát là mọi thứ. Các nhà máy token cung cấp thông tin chi tiết về thời gian thực về việc sử dụng, chi phí và hiệu suất, và khả năng hành động trên nó. Các tổ chức cần hiểu: Ai đang tạo ra tokens? Với chi phí nào? Trên phần cứng nào? Dưới tải công việc nào? Và với mức hiệu quả nào? Nếu không có những câu trả lời đó, tối ưu hóa sẽ trở thành việc đoán mò.

Cuối cùng, sự tập trung của ngành đang chuyển từ thực thi sang tối ưu hóa liên tục. Thách thức không chỉ là chạy các mô hình, mà chạy chúng một cách thông minh, khi các tổ chức xác định: Những tải công việc nào thuộc về phần cứng nào? Làm thế nào để tối đa hóa thông lượng trong khi kiểm soát chi phí? Làm thế nào để ngăn chặn việc sử dụng token không kiểm soát?

Các nhà máy token coi những câu hỏi này là các vấn đề hàng đầu, không phải là các ý tưởng phụ.

Tại sao mô hình giao hàng trí tuệ nhân tạo hiện tại không đạt yêu cầu

Ngăn xếp trí tuệ nhân tạo truyền thống (bao gồm các nhà cung cấp phần cứng, nền tảng đám mây, dịch vụ suy luận) được xây dựng chủ yếu cho sự tăng trưởng nhanh, không phải hiệu quả hệ thống.

Mỗi lớp thêm giá trị nhưng cũng thêm chi phí, trừu tượng và phân mảnh vận hành. Kết quả là một hệ thống có lợi nhuận xếp chồng, tính minh bạch hạn chế và sự gắn kết của nhà cung cấp ngày càng tăng. Các tổ chức cuối cùng tối ưu hóa trong các silo thay vì trên toàn hệ thống.

Các nhà máy token thách thức cơ bản mô hình đó.

Bằng cách tách phần cứng khỏi việc giao hàng giá trị, chúng cho phép tối ưu hóa từ đầu đến cuối. Các tải công việc có thể di chuyển linh hoạt trên các môi trường. Các kiến trúc có thể phát triển mà không cần viết lại lớn. Hiệu quả trở nên có thể đo lường, quản lý và cải thiện liên tục.

Đây là cách các doanh nghiệp và các đám mây mới nổi có thể cạnh tranh hiệu quả hơn với các hyperscalers. Không phải bằng cách khớp với quy mô của họ, mà bằng cách vượt trội về hiệu quả.

Ai sẽ thắng

Có lẽ khía cạnh phá vỡ nhất của sự chuyển đổi này là ai nó trao quyền. Bạn không cần phải sở hữu một trung tâm dữ liệu hoặc thậm chí là GPU để vận hành một nhà máy token.

Điều quan trọng là kiểm soát điều phối, tối ưu hóa và giao hàng. Điều đó mở cửa cho một tập hợp các bên tham gia rộng lớn hơn:

• Doanh nghiệp với các tải công việc trí tuệ nhân tạo lớn và liên tục.
• Các nhà cung cấp đám mây mới tối ưu hóa cho các lĩnh vực hoặc trường hợp sử dụng cụ thể.
• Các nhà cung cấp cơ sở hạ tầng di chuyển lên ngăn xếp.

Trong mô hình này, lợi thế cạnh tranh không đến từ việc tích lũy tính toán. Nó đến từ việc sản xuất tokens tốt hơn, nhanh hơn và rẻ hơn bất kỳ ai khác.

Chiến trường mới: Chi phí mỗi token

Giai đoạn cạnh tranh trí tuệ nhân tạo tiếp theo sẽ không chỉ được giành chiến thắng bởi chất lượng mô hình. Nó sẽ được giành chiến thắng bởi hiệu quả. Cụ thể hơn, chi phí mỗi token.

Ai có thể cung cấp đầu ra tương đương hoặc tốt hơn với một phần nhỏ của chi phí? Ai có thể mở rộng quy mô mà không có chi tiêu cơ sở hạ tầng không kiểm soát? Ai có thể biến trí tuệ nhân tạo thành một doanh nghiệp dự đoán được, có lợi nhuận?

Đây không phải là các câu hỏi về cơ sở hạ tầng. Đây là các câu hỏi sản xuất đòi hỏi một tư duy sản xuất.

Tương lai không được xây dựng trên GPU

GPU không biến mất, nhưng chúng không còn là câu chuyện. Tokens mới là câu chuyện.

Các tổ chức vẫn tập trung vào tính toán sẽ phải đối mặt với chi phí tăng và lợi nhuận giảm. Những tổ chức chuyển sang các hệ thống tập trung vào token sẽ mở khóa một mô hình cơ bản khác, một mô hình phù hợp với cơ sở hạ tầng với kết quả và chi phí với giá trị.

Các nhà máy token trí tuệ nhân tạo không phải là một khái niệm xa xôi. Chúng là một sự tiến hóa không thể tránh khỏi của thị trường. Câu hỏi thực sự duy nhất là ai xây dựng chúng đầu tiên và ai bị bỏ lại phía sau.