AI riêng tư cần hạ tầng có thể thích ứng với khối lượng công việc

Hai năm trước, gần như mọi doanh nghiệp tôi từng trò chuyện đều cho rằng AI đồng nghĩa với việc gọi mô hình tiên tiến hàng đầu thông qua API. Giờ đây, quan niệm đó đang dần thay đổi. Các mô hình có trọng số mở đã đủ tốt để đảm nhiệm nhiều công việc thường ngày, và giá trị của một ứng dụng AI trong doanh nghiệp thường nằm ở dữ liệu riêng của công ty, chứ không phải mô hình đứng sau ứng dụng. Một khi nhận ra điều đó, doanh nghiệp sẽ thấy việc đặt mô hình gần dữ liệu và giữ quyền kiểm soát mô hình là điều hết sức hợp lý.

Đó chính là AI riêng tư. Bạn chạy mô hình trong môi trường của mình, tinh chỉnh mô hình bằng thông tin của mình, đồng thời quyết định mô hình hoạt động ở đâu và được phép truy cập những gì. Nếu là ngân hàng hay công ty dược phẩm, hẳn bạn sẽ không bao giờ thấy thoải mái khi đưa nghiên cứu độc quyền hoặc hồ sơ khách hàng vào môi trường thuê riêng của bên khác. Với các doanh nghiệp còn lại, động lực đến từ hóa đơn suy luận khi triển khai ở quy mô lớn, cũng như mong muốn không phải phụ thuộc vào một nhà cung cấp duy nhất cho thứ đang trở thành yếu tố cốt lõi trong hoạt động kinh doanh. Theo nghiên cứu của Linux Foundation, 63% doanh nghiệp được khảo sát đang sử dụng một mô hình AI mở, cho thấy các lựa chọn thay thế này đã được áp dụng rộng rãi đến mức nào.

Điều nhiều người đánh giá thấp là khi đưa mô hình về vận hành nội bộ, bạn cũng phải tự lo phần hạ tầng đi kèm. Điện năng, làm mát, năng lực tính toán, vị trí đặt hệ thống và cách kết nối hệ thống với mọi thứ khác. Trước đây, đó là vấn đề của nhà cung cấp đám mây. Giờ đây, đó là vấn đề của bạn. Hầu hết doanh nghiệp chưa từng phải đưa ra những quyết định này, trong khi công nghệ thay đổi nhanh hơn tốc độ xây dựng cơ sở vật chất. Nếu tính toán quy mô không chính xác, bạn sẽ sở hữu năng lực không phù hợp với khối lượng công việc thực tế sau này. Cần tính đến tính linh hoạt ngay từ đầu. Việc nâng cấp hạ tầng hiện có, nếu khả thi, có thể tốn kém; một số nhà cung cấp đơn giản là không thể thực hiện vì cơ sở của họ vốn không được xây dựng để đáp ứng mật độ như vậy.

Xây dựng năng lực nền, thuê thêm khi nhu cầu tăng đột biến

Trước hết, hãy nhận ra rằng không phải công việc nào cũng cần mô hình lớn nhất. Tóm tắt tài liệu, phân loại phiếu yêu cầu và trả lời câu hỏi dựa trên kho tri thức của chính bạn đều là những tác vụ mà mô hình có trọng số mở có thể xử lý riêng tư với chi phí có thể dự báo. Hãy dành các mô hình tiên tiến hàng đầu cho những công việc thực sự cần đến chúng.

Điều đó cho bạn biết nên xây dựng hạ tầng theo hướng nào. Hãy xây dựng năng lực riêng tư để đáp ứng nhu cầu ổn định mà bạn có thể dự đoán mỗi tuần. Thuê năng lực từ bên ngoài để xử lý các đợt tăng đột biến và những tác vụ nặng vượt quá khả năng hiện có. Doanh nghiệp đã vận hành năng lực tính toán theo cách này từ lâu, và AI không làm thay đổi logic đó; AI chỉ làm tăng mật độ năng lực nền và mở rộng biên độ biến động của nhu cầu đỉnh.

Thách thức là xác định chính xác quy mô năng lực nền, đồng thời khiến môi trường riêng tư và môi trường thuê ngoài hoạt động như một hệ thống thống nhất. Cả hai cần truy cập cùng một dữ liệu và chịu sự kiểm soát như nhau, để doanh nghiệp không phải xây dựng lại quy trình xử lý mỗi khi khối lượng công việc chuyển từ môi trường này sang môi trường kia.

Nên đặt hạ tầng ở đâu?

Hóa ra, quyết định mua GPU lại là phần dễ dàng. Sau đó, bạn phải tìm nơi đặt GPU, cấp điện, làm mát và kết nối chúng với phần còn lại trong hệ thống của mình. Phần cứng AI mật độ cao không thể đưa vào trung tâm dữ liệu doanh nghiệp tiêu chuẩn nếu không thay đổi đáng kể hệ thống điện và làm mát, và cũng không phù hợp với mọi địa điểm bạn vận hành. Trong Khảo sát cơ sở hạ tầng AI năm 2025 của Uptime Institute, 37% số người tham gia cho biết khả năng cung cấp điện là một trong những yếu tố chính ảnh hưởng đến địa điểm họ triển khai các khối lượng công việc suy luận AI.

Hầu hết doanh nghiệp chọn kết hợp giữa trung tâm dữ liệu cho thuê và đám mây. Yếu tố thường quyết định là dữ liệu. Dữ liệu vốn đã phân tán ở nhiều nơi, rất tốn kém để di chuyển, và trong các ngành chịu sự quản lý chặt chẽ, một phần dữ liệu không thể rời khỏi một quốc gia hoặc môi trường nhất định. Gom mọi thứ vào một tòa nhà cạnh các GPU nghe có vẻ gọn gàng, nhưng gần như chẳng bao giờ thành hiện thực.

Vì vậy, câu hỏi không chỉ là năng lực tính toán được đặt ở đâu. Câu hỏi còn là làm thế nào để năng lực tính toán truy cập dữ liệu cần thiết một cách an toàn, mà không phát sinh thêm chi phí và độ phức tạp khiến bạn phải hối tiếc sau ba năm. Hãy xem đây là cuộc chuyển dịch thứ ba. Cuộc chuyển dịch thứ nhất là internet, và kết nối đã giải quyết bài toán đó. Cuộc chuyển dịch thứ hai là đám mây, và hạ tầng kết nối đã giải quyết bài toán, cho phép liên kết các hệ thống bằng phần mềm để doanh nghiệp kết nối với nhiều nhà cung cấp khác nhau từ một địa điểm duy nhất. AI là cuộc chuyển dịch thứ ba, và chỉ riêng hạ tầng kết nối thì không đủ để giải quyết bài toán này. AI cần rất nhiều điện năng, ngay tại nơi có hạ tầng kết nối. Những doanh nghiệp triển khai AI riêng tư thành công sẽ là những doanh nghiệp đặt năng lực tính toán tại nơi hội tụ của nguồn điện và kết nối, thay vì xử lý hai yếu tố này qua hai quy trình mua sắm riêng biệt.

Kết nối AI riêng tư khi khối lượng công việc thay đổi

AI tác nhân khiến bài toán kết nối trở nên cấp thiết hơn. Một ứng dụng thông thường nhận lời nhắc, gọi mô hình rồi trả về câu trả lời. Trong khi đó, tác nhân luôn hoạt động liên tục. Nó gọi nhiều mô hình, truy vấn nhiều hệ thống, lấy dữ liệu từ bất cứ nơi nào dữ liệu đang được lưu trữ và chuyển giao công việc cho các tác nhân khác. Mỗi bước chuyển tiếp như vậy đều vượt qua một ranh giới, làm phát sinh độ trễ và đặt ra câu hỏi ai được phép truy cập những gì.

Giờ hãy đặt mô hình ở một nơi, dữ liệu ở nơi khác, đồng thời đặt ra quy định rằng một phần dữ liệu phải được lưu giữ trong một quốc gia cụ thể hoặc trong môi trường riêng tư. Doanh nghiệp cần kiểm soát thực sự các luồng này: hệ thống nào có thể truy cập dữ liệu nào, điều gì xảy ra khi khối lượng công việc được chuyển đi, và làm thế nào để kết nối một mô hình mới mà không ảnh hưởng đến mọi thứ đang vận hành.

Đó là lý do cơ sở hạ tầng phải có thể lập trình. Các kết nối giữa mô hình, dữ liệu và môi trường cần là những thứ bạn có thể cấu hình và thay đổi, chứ không phải lần nào cũng trở thành một dự án kỹ thuật. Ngày càng thường xuyên, người thực hiện việc cấu hình sẽ không phải là con người. Các tiêu chuẩn như Model Context Protocol (MCP) cung cấp cho tác nhân một cách thức chung để giao tiếp với những công cụ và hệ thống xung quanh. Tác nhân cần kết nối với một nguồn dữ liệu mới hoặc một mô hình mới có thể yêu cầu kết nối đó, giống như khi gọi bất kỳ dịch vụ nào khác, trong khi các chính sách và biện pháp kiểm soát phù hợp vẫn được duy trì. Đó là ý nghĩa thực tế của cơ sở hạ tầng có thể lập trình. Các mô hình mới xuất hiện vài tháng một lần. Những ứng dụng mới sẽ cần những luồng kết nối hiện chưa có. Nếu mỗi thay đổi đều buộc bạn phải xây dựng lại từ đầu, bạn đã đánh mất sự linh hoạt vốn là lý do khiến mình chọn giải pháp riêng tư.

Đảm bảo hiệu quả kinh tế

Xác định đúng năng lực là yếu tố then chốt để thành công, và điều này không chỉ phụ thuộc vào tổng quy mô. Các doanh nghiệp làm tốt việc này hiểu rõ mối quan hệ giữa lượng điện năng họ sử dụng và số token họ tạo ra. Tỷ lệ điện năng trên số token là thước đo hiệu quả kinh tế của AI riêng tư; nếu hiểu rõ tỷ lệ này đối với khối lượng công việc của chính mình, bạn có thể xác định quy mô môi trường với sự tự tin thực sự. Yếu tố còn lại là phần dự phòng. Mỗi quý đều có những năng lực mới được đưa ra thị trường, và các doanh nghiệp lập kế hoạch tốt luôn chừa chỗ cho những gì sắp tới, thay vì chỉ xây dựng vừa khít với nhu cầu hiện tại. Kế hoạch tốt nhất kết hợp cả hai. Hãy nắm thật chắc hiệu quả kinh tế tính theo điện năng trên số token, rồi dự trù một khoảng dự phòng hợp lý.

GPU chỉ là một phần của tổng chi phí. Chi phí bố trí, làm mát, cấp điện và kết nối chúng với phần còn lại của doanh nghiệp có thể ngang bằng chi phí phần cứng. Tiếp đó là nhân lực. Hầu hết doanh nghiệp chưa từng vận hành một môi trường điện toán mật độ cao, và không thể tuyển đủ nhân lực có chuyên môn này chỉ trong một quý.

Đó là lý do mức tải cơ sở và các đợt tăng đột biến đều quan trọng. Hãy xây dựng đủ năng lực riêng tư để đáp ứng tải thông thường, thuê bổ sung khi nhu cầu vượt quá mức đó; như vậy, bạn tránh phải trả tiền cho phần cứng nằm không trong phần lớn thời gian của năm. Bạn cũng giữ được khả năng điều chỉnh hướng đi khi mô hình và ứng dụng thay đổi — và chúng sẽ thay đổi.

Chuẩn bị cho những gì sắp tới

Ẩn sau tất cả những điều này là một bài toán về thời gian. Một trung tâm dữ liệu mất khoảng hai năm để xây dựng. Trong hai năm đó, các mô hình, phần cứng và ứng dụng mà doanh nghiệp muốn vận hành sẽ khác đi đáng kể so với hiện nay. Bất cứ thứ gì bạn cam kết đầu tư ngay lúc này rồi cũng sẽ phải chạy những khối lượng công việc mà hiện chưa ai có thể mô tả đầy đủ.

Các doanh nghiệp vẫn đang xác định khối lượng công việc nào phù hợp với môi trường riêng tư và khi nào cần đến năng lực bên ngoài; đó là điều hoàn toàn hợp lý. Điều cần tránh là đưa ra những cam kết về cơ sở hạ tầng khiến bạn không còn quyền quyết định trước cả khi có cơ hội lựa chọn. Hãy chừa dư địa cho các mô hình khác nhau, cho việc bổ sung năng lực khi cần và cho phép di chuyển khối lượng công việc.

Về lâu dài, hiệu quả của AI riêng tư sẽ phụ thuộc ít hơn vào việc bạn chọn mô hình nào và phụ thuộc nhiều hơn vào khả năng cơ sở hạ tầng theo kịp khi các yêu cầu của bạn dần rõ ràng. Hãy xây dựng dựa trên khối lượng công việc hiện tại, duy trì khả năng lập trình cho các kết nối và bố trí năng lực tính toán tại nơi hạ tầng mạng gặp nguồn điện.