Vai trò thường bị bỏ qua của mạng trong hạ tầng AI

Các tổ chức đang đổ tiền vào GPU, máy chủ, mô hình và năng lực tính toán cần thiết để đưa AI vào môi trường sản xuất. Nhưng AI tác nhân đặt ra những yêu cầu khác đối với mạng.

Chatbot thường chờ người dùng đặt câu hỏi, trong khi tác nhân có thể được giao nhiệm vụ, tương tác với nhiều hệ thống và ứng dụng khác nhau, đưa ra quyết định rồi hành động. Khi các tác nhân đảm nhận ngày càng nhiều công việc trong toàn doanh nghiệp, phần lớn hoạt động đó sẽ diễn ra mà không cần ai ngồi trước bàn phím.

Theo báo cáo của Google Cloud, Bức tranh hạ tầng trong kỷ nguyên AI tác nhân, 83% tổ chức cho biết họ cần nâng cấp hạ tầng để hỗ trợ các hệ thống tự hành đạt chuẩn vận hành thực tế. Năng lực tính toán là một phần của vấn đề, nhưng các tổ chức cũng cần ưu tiên mạng, vì mạng sẽ phải hỗ trợ những hoạt động không theo khuôn mẫu thông thường của một nhân viên.

Sự cáo chung của mạng 9 giờ sáng đến 5 giờ chiều

Trong nhiều thập kỷ, mạng doanh nghiệp phần lớn được thiết kế xoay quanh cách mọi người làm việc. Nhân viên kết nối với ứng dụng, truy cập dữ liệu và sử dụng dịch vụ đám mây trong suốt ngày làm việc, tạo ra các kiểu lưu lượng tương đối dễ dự đoán, từ đó định hình kiến trúc và hoạt động của mạng.

AI và các hệ thống tác nhân đang làm thay đổi điều đó. Tác nhân có thể thực hiện nhiệm vụ và tương tác với ứng dụng, API, nguồn dữ liệu và các tác nhân khác bất kể thời điểm nào, tạo ra luồng lưu lượng liên tục và biến động hơn trên các mạng trong khuôn viên, trung tâm dữ liệu, môi trường đám mây và mạng diện rộng (WAN). Khi việc triển khai mở rộng, mạng phải hỗ trợ các mối phụ thuộc ngày càng phức tạp, khiến hiệu năng, độ trễ, khả năng phục hồi và bảo mật trở thành những yếu tố thiết yếu để hoạt động được thực hiện đáng tin cậy.

Những yêu cầu này cũng phơi bày giới hạn của các mô hình vận hành mạng (NetOps) truyền thống, vốn dựa vào công cụ giám sát để phát hiện sự cố và nhân viên vận hành để điều tra, khắc phục. Thế hệ NetOps tiếp theo phải vượt ra ngoài việc quản lý từng thiết bị và sự kiện riêng lẻ, hướng tới việc hiểu các mối phụ thuộc giữa ứng dụng và tác nhân từ đầu đến cuối; sử dụng khả năng quan sát sâu hơn, AI để đối chiếu thông tin và phân tích nguyên nhân gốc rễ, cùng tính năng tự động hóa thông minh nhằm chủ động tối ưu hóa và khắc phục sự cố.

Cơ hội nằm ở việc chuyển từ mạng được quản lý với sự hỗ trợ của AI sang mạng vận hành bằng trí tuệ dựa trên AI và quyền tự chủ có kiểm soát. Đội ngũ mạng có thể dành ít thời gian hơn cho việc xử lý sự cố lặp đi lặp lại, đồng thời dành nhiều thời gian hơn để xác định chính sách, thiết lập giới hạn bảo vệ và tối ưu hóa kiến trúc. Sự cáo chung của mạng 9 giờ sáng đến 5 giờ chiều không chỉ nói đến việc mạng hoạt động 24/7; đó là sự thay đổi căn bản trong những yếu tố thúc đẩy nhu cầu mạng, cũng như cách mạng cần được thiết kế, bảo mật và vận hành để hỗ trợ một hệ sinh thái luôn hoạt động gồm các hệ thống thông minh, tự hành.

Từ một vài công cụ AI đến đội ngũ tác nhân

Hầu hết tổ chức vẫn đang ở giai đoạn AI dễ quản lý, với các công cụ hỗ trợ, trợ lý và ứng dụng AI hoạt động ở nhiều bộ phận khác nhau trong doanh nghiệp.

Tuy nhiên, IBM nhận thấy chỉ 11% lãnh đạo được khảo sát đã hoàn toàn sẵn sàng cho quy mô triển khai tác nhân AI dự kiến trong 12 tháng tới. Khi việc triển khai mở rộng, đội ngũ mạng sẽ phải nắm bắt nhiều hoạt động hơn và điều tra thêm nhiều sự cố, thường là không có thêm nhân sự để đảm nhận công việc.

Vì vậy, điều quan trọng là giảm thời gian kỹ sư phải dành để tìm kiếm trên bảng điều khiển, thu thập thông tin và chuyển tiếp những câu hỏi thường lệ. Cung cấp cho các nhóm thông tin vận hành phù hợp và hướng dẫn khắc phục sự cố đúng lúc cũng có thể giúp chia sẻ chuyên môn giữa các nhóm dễ dàng hơn, thay vì dựa vào một số ít chuyên gia giàu kinh nghiệm để trả lời mọi câu hỏi. Nên dành chuyên môn của mọi người cho những quyết định cần đến sự đánh giá, chẳng hạn như xác định chính sách, thiết lập giới hạn và đánh giá rủi ro.

Mạng cần có vị trí trong các cuộc thảo luận về chiến lược AI

Việc lập kế hoạch AI thường bắt đầu với mô hình, ứng dụng, dữ liệu và tài nguyên tính toán, nhưng mạng cũng cần được đưa vào thảo luận ngay từ đầu. Tác nhân cần có bối cảnh phù hợp để đưa ra đề xuất hữu ích; trong hoạt động mạng, điều đó có nghĩa là phải hiểu thông tin về người dùng, thiết bị và ứng dụng liên kết với nhau như thế nào, thay vì chỉ xem xét một cảnh báo hay chỉ số riêng lẻ.

Bối cảnh đó giúp các nhóm nhanh chóng tìm ra nguồn gốc sự cố và quyết định bước tiếp theo. Sự giám sát của con người vẫn quan trọng, nhất là khi tác nhân ngày càng tự chủ hơn; điều này đòi hỏi phải xác định rõ giới hạn đối với những gì chúng có thể tự thực hiện và thiết lập các biện pháp kiểm soát để bảo đảm tuân thủ những giới hạn đó. Trước khi quyết định có hành động theo đề xuất hay không, các nhóm cũng cần xem được lý do đưa ra đề xuất và thông tin làm cơ sở cho đề xuất ấy.

Gartner dự báo rằng đến năm 2029, ít nhất 70% tổ chức sử dụng tác nhân AI trong hoạt động CNTT sẽ gặp phải các vấn đề nghiêm trọng ảnh hưởng đáng kể đến dịch vụ, bảo mật hoặc chi phí, trong đó nguyên nhân ít nhất một phần là do các biện pháp kiểm soát yếu kém. Vì vậy, khả năng quan sát, tự động hóa, độ tin cậy và kiểm soát cần được tích hợp vào kế hoạch hạ tầng AI ngay từ đầu.

Xây dựng hạ tầng cho doanh nghiệp AI luôn hoạt động

AI tác nhân làm thay đổi cách sử dụng mạng doanh nghiệp. Hoạt động không còn gắn chặt với thời điểm nhân viên trực tuyến, và đội ngũ mạng sẽ cần quản lý sự thay đổi đó mà không để khối lượng công việc cần thiết để vận hành mạng tăng lên với tốc độ tương tự.

Doanh nghiệp không cần đại tu toàn bộ mạng lưới, nhưng khi mức độ sử dụng AI tăng lên, họ nên xác định những điểm yếu tiềm ẩn trong cơ sở hạ tầng hiện tại, đặc biệt là ở những nơi các nhóm không có đủ khả năng quan sát để nhanh chóng phát hiện vấn đề, thời gian phản hồi bắt đầu bị ảnh hưởng hoặc việc khắc phục sự cố thường ngày vẫn đòi hỏi nhiều công sức thủ công.

Mạng lưới được xây dựng xoay quanh ngày làm việc từ 9 giờ sáng đến 5 giờ chiều sẽ phải nhường chỗ cho một mạng lưới hỗ trợ con người, ứng dụng và tác tử AI hoạt động song song, thường theo những lịch trình rất khác nhau và với tốc độ rất khác nhau. Cuối cùng, hiệu quả của cơ sở hạ tầng đó sẽ thể hiện qua những chỉ số mà doanh nghiệp vốn đã quan tâm: ít gián đoạn hơn, xử lý nhanh hơn khi có sự cố, trải nghiệm người dùng tốt hơn và ít thời gian hơn dành cho việc tìm nguyên nhân vấn đề.