Tại Sao Giai Đoạn Tiếp Theo Của Cơ Sở Hạ Tầng Trí Tuệ Nhân Tạo Sẽ Yêu Cầu Hơn Cả Các Trung Tâm Dữ Liệu Cấp Độ Lớn

Trí tuệ nhân tạo đang bước vào một giai đoạn mà chiến lược cơ sở hạ tầng trở nên không thể tách rời với khả năng của mô hình. Trong nhiều năm, các trung tâm dữ liệu cấp độ lớn đã thúc đẩy sự phát triển của việc đào tạo quy mô lớn, cho phép các mô hình tiên phong phát triển từ hàng triệu đến hàng nghìn tỷ tham số. Nhưng khi việc áp dụng trí tuệ nhân tạo tăng tốc trên các doanh nghiệp, ngành công nghiệp và hệ thống thời gian thực, sự suy luận đang thay thế việc đào tạo như là tải trọng công việc chiếm ưu thế, và sự suy luận có những yêu cầu cơ bản khác nhau.

Giai đoạn tiếp theo của trí tuệ nhân tạo không thể được hỗ trợ bởi các cơ sở cấp độ lớn alone. Thay vào đó, một mô hình lai đang xuất hiện, nơi các khu học chánh tập trung cho việc đào tạo được bổ sung bởi các trung tâm dữ liệu phân tán, phù hợp với quy mô thương mại cho sự suy luận. Sự thay đổi này được thúc đẩy bởi các hạn chế về độ trễ, nhu cầu về chủ quyền dữ liệu, thực tế về năng lượng và các giới hạn vật lý của việc mở rộng cấp độ lớn tiếp tục.

Sự Divergence Của Đào Tạo Và Suy Luận

Đào tạo vẫn còn là một hoạt động tập trung. Nó đòi hỏi các cụm máy tính lớn, đường ống dữ liệu tốc độ cao và các công việc có thời gian dài, những thứ có lợi từ kinh tế quy mô. Các khu học chánh cấp độ lớn được tối ưu hóa cho điều này với tính toán dày đặc, mạng lưới chuyên dụng và khả năng sẵn sàng toàn cầu. Nhưng sự suy luận lại hành xử khác. Nó là thời gian ngắn, khối lượng lớn, nhạy cảm với độ trễ và thường gắn với địa lý hoặc ranh giới doanh nghiệp. Các phân tích từ công việc gần đây của Akamai về các hệ thống đại lý cho thấy rằng hầu hết các tổ chức hiện đang nhắm đến độ trễ cuối cùng dưới 500 mili giây cho các trường hợp sử dụng trí tuệ nhân tạo quan trọng, và các công việc đa đại lý thường vượt quá ngưỡng đó chỉ đơn giản do thời gian truyền mạng và thực hiện CPU.

Độ trễ không phải là một chỉ số trừu tượng. Trong các hệ thống robot và tự động, các vòng lặp điều khiển thường chạy tại 100 đến 1.000 hertz mỗi 1 đến 10 mili giây. Bất kỳ trí tuệ nào ngoài bo mạch phải tôn trọng các ràng buộc thời gian đó. Một vòng tròn 50 mili giây đến một trung tâm dữ liệu xa sẽ phá vỡ hoàn toàn chế độ điều khiển. Trong giao dịch tài chính và phát hiện gian lận, mili giây quyết định kết quả kinh tế. Trong tự động hóa công nghiệp, sự suy luận chậm có thể làm mất ổn định các quá trình hoặc ảnh hưởng đến an toàn. Và trong các trải nghiệm tương tác như trò chơi, AR/VR và đồng pilot thời gian thực, khả năng phản hồi giảm mạnh trên 100 đến 150 mili giây.

Các hệ thống trí tuệ nhân tạo hiện đại ngày càng phụ thuộc vào các công việc đa đại lý bao gồm các chuỗi gọi tuần tự hàng chục lần. Phân tích của Akamai cho thấy rằng thực hiện CPU có thể chiếm đa số độ trễ tổng thể, và mỗi vòng tròn mạng thêm độ trễ. Một công việc với 50 cuộc gọi tuần tự có thể gặp phải giây độ trễ vận chuyển khi được định tuyến đến một khu vực cấp độ lớn xa. Đặt công việc đó trong một trung tâm dữ liệu siêu địa phương nằm trên cùng một khuôn viên hoặc khu vực đô thị và vật lý sẽ thay đổi. Suy luận địa phương có thể cung cấp độ trễ vòng tròn 1 đến 5 mili giây. Một công việc 50 bước sẽ mất giây trong một khu vực xa, nhưng có thể hoàn thành trong 50 đến 250 mili giây tại địa phương, nằm trong ngân sách độ trễ của doanh nghiệp.

Chủ Quyền Dữ Liệu Và Hiện Thực Lưới Đẩy Đến Các Triển Khai Địa Phương

Độ trễ chỉ là một phần của câu chuyện. Đối với các ngành công nghiệp được quy định như chăm sóc sức khỏe, tài chính và khu vực công, chủ quyền dữ liệu thường là động lực chính cho suy luận địa phương. Chạy các tải trọng công việc trí tuệ nhân tạo sau tường lửa doanh nghiệp sẽ bảo tồn các chu vi bảo mật hiện có, giảm thiểu phơi nhiễm đa thuê bao, đơn giản hóa việc tuân thủ và giữ dữ liệu nhạy cảm khỏi cơ sở hạ tầng đám mây được chia sẻ. Các nhà cung cấp cấp độ lớn cung cấp bảo mật mạnh, nhưng bề mặt tấn công và chuỗi tin cậy vốn rộng hơn. Các doanh nghiệp ngày càng thích kiến trúc suy luận phù hợp với tư thế bảo mật hiện có của họ.

Ngoài những lo ngại về độ trễ và bảo mật, khả năng cung cấp năng lượng đang trở thành một hạn chế quan trọng không kém. Các khu học chánh cấp độ lớn thường phải đối mặt với các độ trễ nhiều năm do các hạn chế về truyền tải và hàng đợi kết nối. Các triển khai quy mô thương mại nhỏ hơn, đặc biệt là những triển khai được đặt gần các tải hiện có hoặc phát điện phân tán, thường có thể được cấp năng lượng nhanh hơn nhiều. Điều này quan trọng vì nhu cầu trí tuệ nhân tạo đang va chạm với một nghịch lý kỳ lạ.

Đồng thời các nhà vận hành cố gắng bảo đảm các kết nối lưới mới, một lượng lớn năng lượng tái tạo đang bị cắt giảm. Toàn cầu, cắt giảm năng lượng tái tạo hiện vượt quá 200 terawatt-giờ mỗi năm. Tại Hoa Kỳ, cắt giảm được ước tính khoảng 20 terawatt-giờ hàng năm. ERCOT alone đã cắt giảm hơn 9 terawatt-giờ phát điện gió và mặt trời trong một năm gần đây. Trong khi đó, CAISO đã loại bỏ 3,4 terawatt-giờ năng lượng mặt trời và gió vào năm 2024, với năng lượng mặt trời chiếm 93% tổng lượng điện bị cắt. Các cuộc khảo sát hệ thống năng lượng nhất quán cho thấy rằng cả năng lượng mặt trời và gió đều phải đối mặt với cắt giảm đáng kể khi sản xuất vượt quá công suất lưới. Cắt giảm năng lượng mặt trời đặc biệt phổ biến ở các khu vực có đỉnh cao vào ban ngày, trong khi cắt giảm gió thường xảy ra trong giờ thấp điểm hoặc trong các hành lang bị hạn chế. Các trung tâm dữ liệu phân tán được đặt gần nơi phát điện, đặc biệt là các khu vực giàu năng lượng mặt trời, có thể chuyển đổi năng lượng bị mắc kẹt thành khả năng suy luận hữu ích.

Các khu học chánh cấp độ lớn sẽ vẫn là điều cần thiết cho việc đào tạo, nhưng chúng đang phải đối mặt với các hạn chế vật lý và kinh tế ngày càng tăng. Việc kết nối với lưới truyền tải có thể là một quá trình dài, đòi hỏi các trạm mới, nâng cấp truyền tải, cấp phép đa cơ quan và xem xét của cộng đồng. Đây là những quá trình thường mất nhiều năm. Các cơ sở cấp độ lớn đòi hỏi diện tích đất lớn, lượng nước đáng kể và các phê duyệt môi trường phức tạp. Các cộng đồng đang ngày càng phản đối việc phát triển trung tâm dữ liệu mới do tiếng ồn, sử dụng nước và tác động đến đất. Và các khu học chánh tập trung tập trung rủi ro đến mức các sự kiện thời tiết, mất điện lưới hoặc sự gián đoạn địa chính trị có thể ảnh hưởng đến một phần lớn của khả năng tính toán toàn cầu. Các kiến trúc phân tán cung cấp sự dư thừa địa lý và khả năng hoạt động mạnh mẽ.

Tương lai Là Một Kiến Trúc Trí Tuệ Nhân Tạo Đa Cấp

Khi nói đến việc đảm bảo tính toán suy luận chạy mượt mà, hiệu suất có thể trở nên quan trọng không kém so với khả năng thô. Suy luận tiêu thụ năng lượng liên tục, và các nhà phân tích ngành cho rằng suy luận cuối cùng có thể đại diện cho đa số tiêu thụ năng lượng liên quan đến trí tuệ nhân tạo. Các lợi ích về hiệu suất từ tích hợp năng lượng tái tạo địa phương, giảm mất truyền tải, triển khai phù hợp, hồ sơ nhiệt cải tiến và tỷ lệ sử dụng cao hơn sẽ trở nên cần thiết để đáp ứng nhu cầu trí tuệ nhân tạo toàn cầu một cách bền vững. Các trung tâm dữ liệu thương mại phân tán được đặt tốt để cung cấp những lợi ích này vì chúng có thể được đặt ở nơi năng lượng dồi dào, rẻ hoặc chưa được sử dụng.

Giai đoạn tiếp theo của cơ sở hạ tầng trí tuệ nhân tạo sẽ là một hỗn hợp lai của các khu học chánh cấp độ lớn thống trị việc đào tạo, các trung tâm dữ liệu thương mại phân tán phục vụ suy luận, và các thiết bị cạnh phục vụ các tải trọng công việc siêu địa phương. Kiến trúc đa cấp này phản ánh các thực tế vật lý về năng lượng, độ trễ, bảo mật và quy mô. Khi trí tuệ nhân tạo trở nên nhúng trong các hệ thống thời gian thực trên mọi ngành công nghiệp, cơ sở hạ tầng phải phát triển tương ứng để đưa suy luận gần hơn với thế giới nó phục vụ.