Denise Muyco, Đồng sáng lập kiêm Tổng giám đốc điều hành RAVEL – Loạt bài phỏng vấn

Denise Muyco là Đồng sáng lập kiêm Tổng giám đốc điều hành của RAVEL, nơi bà dẫn dắt việc phát triển phần mềm điều phối cho hạ tầng tính toán và AI phức tạp. Được đào tạo bài bản về kỹ thuật, bà đã làm việc trong nhiều lĩnh vực, từ hạ tầng năng lượng, tối ưu hóa quy trình, truyền thông kỹ thuật số, trung tâm dữ liệu đến studio ảo. Trước khi tập trung vào AI, bà tham gia phát triển hạ tầng điện toán hiệu năng cao dùng chung cho cộng đồng kỹ xảo điện ảnh ở Vancouver, giúp khoảng 30 studio tiếp cận tài nguyên tính toán và kết nối an toàn. Trải nghiệm đó đã định hình cách bà điều phối các nguồn lực đắt đỏ và có giới hạn. Tại RAVEL, bà áp dụng tư duy kỹ thuật hệ thống vào việc bố trí khối lượng công việc, khai thác hạ tầng, khả năng tương tác và nhu cầu ngày càng tăng của các môi trường AI phân tán và có chủ quyền.

RAVEL phát triển phần mềm giúp các tổ chức triển khai, quản lý và mở rộng khối lượng công việc tính toán và AI trên hạ tầng đám mây, tại chỗ và kết hợp. Các sản phẩm của công ty gồm RAVEL Orchestrate dành cho máy trạm ảo hiệu năng cao, RAVEL Orchestrate AI dùng để tự động hóa và tối ưu hóa khối lượng công việc, và Boost phục vụ cấp phép phần mềm và đo từ xa. Các công cụ của công ty kết nối hạ tầng, ứng dụng, công nghệ ảo hóa và bảo mật, đồng thời cung cấp khả năng kiểm soát tập trung và khả năng giám sát hoạt động. RAVEL phục vụ các trung tâm dữ liệu, nhà cung cấp dịch vụ, đội ngũ CNTT doanh nghiệp, nhóm nghiên cứu AI và studio sáng tạo. Phát huy nền tảng trong lĩnh vực sáng tạo nội dung số, công ty tập trung đơn giản hóa các môi trường phức tạp và giúp các nhóm sử dụng hiệu quả hơn hạ tầng hiện có.

Bà đã thành lập RAVEL sau nhiều năm làm việc tại giao điểm giữa kỹ thuật, hạ tầng truyền thông và điện toán phân tán. Điều gì cuối cùng đã thôi thúc bà thành lập công ty, và sứ mệnh của RAVEL đã phát triển ra sao khi AI tạo sinh làm nhu cầu về năng lực tính toán tăng mạnh?

Tôi được đào tạo về kỹ thuật và đã làm việc trong các lĩnh vực năng lượng, tính toán và hạ tầng từ rất lâu trước làn sóng bùng nổ AI hiện nay. Đầu sự nghiệp, tôi từng thực tập tại một nhà máy điện hạt nhân; sau đó, công việc trong lĩnh vực truyền thông và kỹ xảo điện ảnh giúp tôi tiếp xúc với GPU, nhu cầu tính toán lớn và những giới hạn của hạ tầng vật lý.

Khoảng 16 năm trước, ngành kỹ xảo điện ảnh đang phát triển ở Vancouver bắt đầu trực tiếp đối mặt với những giới hạn đó. Các studio cần lượng năng lực tính toán hiệu năng cao khổng lồ để xử lý (hay kết xuất) nội dung phim điện ảnh và truyền hình ngày càng phức tạp cho những dự án có giá trị cao, nhưng rất ít studio có thể biện minh cho việc xây dựng đủ hạ tầng chuyên dụng để đáp ứng nhu cầu cao điểm trong một môi trường an toàn. Nguồn điện cũng ngày càng trở thành một giới hạn. Chúng tôi đã phát triển hạ tầng dùng chung, giúp khoảng 30 studio tiếp cận năng lực điện toán hiệu năng cao cùng kết nối an toàn, băng thông cao.

Chia sẻ hạ tầng giải quyết được một vấn đề nhưng lại nảy sinh vấn đề khác: làm thế nào để phân bổ hiệu quả các nguồn lực đắt đỏ, có giới hạn giữa nhiều tổ chức và khối lượng công việc? Trải nghiệm đó cuối cùng đã dẫn đến cách tiếp cận của RAVEL đối với việc điều phối hạ tầng thông minh.

AI là phiên bản lớn hơn nhiều của cùng một thách thức căn bản, với độ phức tạp và số vốn đầu tư chịu rủi ro cao hơn đáng kể. Khối lượng công việc và hạ tầng đã thay đổi, nhưng nhu cầu phối hợp hiệu quả các nguồn lực đắt đỏ, có giới hạn ngày càng trở nên quan trọng hơn.

Trước khi thành lập RAVEL, bà đã góp phần xây dựng một liên minh gồm khoảng 30 studio, phim trường, công ty sản xuất và hãng kỹ xảo điện ảnh ở Vancouver, cùng chia sẻ quyền tiếp cận hạ tầng điện toán hiệu năng cao. Trải nghiệm đó đã dạy bà điều gì về điện toán phân tán, và bà nhận thấy những điểm tương đồng nào giữa các thách thức về kết xuất của Hollywood khi ấy với thách thức về hạ tầng của ngành AI ngày nay?

Công việc của tôi với ngành kỹ xảo hình ảnh cho thấy việc xây dựng và cấu hình hạ tầng mới chỉ giải quyết được một nửa vấn đề. Năng lực tính toán đắt đỏ phải được chia sẻ an toàn và sử dụng hiệu quả, đồng thời toàn bộ hạ tầng rộng hơn — bao gồm cả mạng an toàn có khả năng truyền tải những tệp khổng lồ — phải phối hợp nhịp nhàng. Khối lượng công việc cần được lên lịch, năng lực cần được phân bổ và lượng dữ liệu khổng lồ cần được truyền tải, trong khi các đội ngũ sản xuất liên tục hướng đến những kết quả tham vọng hơn trong phạm vi ngân sách và thời hạn nghiêm ngặt. Hạ tầng phải được tối ưu hóa liên tục để nâng cao hiệu suất sử dụng và hiệu năng.

AI là phiên bản lớn hơn nhiều của cùng một thách thức căn bản. Các tổ chức đang đầu tư mạnh vào hạ tầng, nhưng chỉ bổ sung năng lực không đảm bảo rằng những nguồn lực đắt đỏ sẽ được sử dụng hiệu quả. Hạ tầng AI cũng ngày càng phân tán trên nhiều địa điểm, nhà cung cấp và môi trường do các yêu cầu về điện năng, năng lực, bảo mật, kinh tế, địa lý, quy định và chủ quyền chi phối. Kết xuất và AI có thể là những khối lượng công việc rất khác nhau, nhưng chúng cùng đối mặt với một thách thức quan trọng về hạ tầng và hệ sinh thái: cả hai đều phụ thuộc vào sự phối hợp hiệu quả giữa năng lực tính toán hiệu năng cao, mạng, bảo mật và lưu trữ.

Khi hạ tầng AI ngày càng phức tạp, chỉ bổ sung năng lực tính toán không thể giải quyết thách thức vận hành trong việc sử dụng hiệu quả năng lực đó. Đây là lúc việc điều phối và các chính sách chi phối toàn bộ hệ sinh thái hạ tầng trở nên thiết yếu. Kết hợp với nhau, chúng giúp các tổ chức khai thác tốt hơn những nguồn lực đắt đỏ, có giới hạn, đồng thời điều phối khối lượng công việc trên các môi trường ngày càng phân tán.

RAVEL tự mô tả mình là một lớp điều phối dành cho các nhà máy AI phân tán. Theo ông, “nhà máy AI” có nghĩa là gì, và cơ sở hạ tầng hiện nay còn thiếu điều gì khiến lớp điều phối trở nên cần thiết?

Theo tôi, nhà máy AI không chỉ gồm GPU và các cụm máy tính hiệu năng cao; đó là một hệ sinh thái cơ sở hạ tầng tích hợp, kết hợp năng lực tính toán, mạng, lưu trữ, bảo mật, điện năng, làm mát và các lớp vận hành cần thiết để chạy khối lượng công việc AI. Nhà máy AI đang phát triển từ những cụm máy tính biệt lập thành các hệ sinh thái gồm những tài nguyên kết nối với nhau, trải rộng trên nhiều địa điểm và khu vực. Mức độ phức tạp đó ngày càng khó quản lý thủ công hoặc bằng các giải pháp riêng lẻ, rời rạc. Lớp điều phối giải quyết vấn đề này bằng cách phối hợp những thành phần đa dạng, phức tạp trong hệ thống và trừu tượng hóa một phần độ phức tạp bên dưới, giúp người vận hành quản lý cơ sở hạ tầng dễ dàng hơn như một hệ thống phối hợp thống nhất.

Khi điều chỉnh các trung tâm dữ liệu hiện có để phục vụ AI, nhiều cơ sở vốn không được thiết kế cho nhu cầu của các khối lượng công việc AI ngày nay. AI hiện đang đối mặt với sự bất tương thích mang tính cấu trúc, thể hiện qua ba vấn đề chính. Thứ nhất là điện năng: cần tìm địa điểm có nguồn điện đủ ổn định để chạy khối lượng công việc ở quy mô lớn. Thứ hai là hệ sinh thái phân mảnh, khi các hệ thống AI thường bị chia tách giữa những môi trường biệt lập và không được thiết kế để phối hợp với nhau. Thứ ba là khả năng nắm bắt hạn chế về tổng chi phí vận hành và sở hữu, khiến chi phí thực tế của cơ sở hạ tầng AI khó được nhận diện. Hệ quả là khối lượng công việc có thể không được tối ưu, phần cứng có thể bị sử dụng dưới công suất, còn những chi phí vận hành phát sinh ngoài dự kiến có thể đẩy tổng chi phí sở hữu lên cao, cuối cùng góp phần làm tăng chi phí token.

Cơ sở hạ tầng AI ngày càng phân tán giữa các dịch vụ đám mây quy mô siêu lớn, trung tâm dữ liệu tư nhân, hệ thống tại chỗ và các nhà cung cấp GPU chuyên biệt. Những thách thức lớn nhất mà các tổ chức gặp phải khi cố gắng quản lý khối lượng công việc AI trên các môi trường khác nhau này là gì?

Trong vài năm qua, cuộc đua về cơ sở hạ tầng AI được định hình bởi một giả định đơn giản: xây dựng lớn hơn. Trung tâm dữ liệu lớn hơn. Cụm máy tính lớn hơn. Nhiều GPU hơn. Công suất lớn hơn. Tuy nhiên, mô hình cứ xây dựng lớn hơn này ngày càng vấp phải những giới hạn về vật lý, kinh tế và quy định.

Nguồn điện bị hạn chế. Việc kết nối với lưới điện cần có thời gian. Các yếu tố kinh tế, địa lý và chủ quyền ngày càng quyết định nơi có thể và nên xây dựng cơ sở hạ tầng. Thách thức mới không chỉ là làm sao xây dựng thêm cơ sở hạ tầng AI, mà còn là xây dựng đúng loại cơ sở hạ tầng ở đúng địa điểm, đồng thời vận hành tất cả những môi trường đó như một hệ thống phối hợp thống nhất. Điều này đặc biệt khó khăn khi công suất được phân tán giữa các dịch vụ đám mây quy mô siêu lớn, trung tâm dữ liệu tư nhân, cơ sở hạ tầng tại chỗ và các nhà cung cấp chuyên biệt vốn không nhất thiết được thiết kế để vận hành cùng nhau.

Điện năng là giới hạn nghiêm trọng nhất trong số này. Khả năng cung cấp điện ngày càng quyết định ngay từ đầu nơi xây dựng cơ sở hạ tầng AI.

Đó là lúc mô hình liên kết trở nên thiết yếu. Mô hình này kết nối cơ sở hạ tầng giữa các môi trường thành một môi trường vận hành thống nhất. Sau đó, hoạt động điều phối thông minh sẽ xác định nơi nên chạy khối lượng công việc dựa trên công suất, điện năng, hiệu năng, chi phí, chính sách, khả năng phục hồi và chủ quyền.

Khi cơ sở hạ tầng AI tiếp tục mở rộng trên nhiều địa điểm và nhà cung cấp, lợi thế cạnh tranh sẽ không đơn thuần đến từ việc sở hữu nhiều công suất hơn. Lợi thế đó sẽ đến từ khả năng phối hợp các nguồn công suất ấy. Mô hình liên kết tạo nên khuôn khổ cơ sở hạ tầng cho thực tế mới này, còn hoạt động điều phối thông minh giúp triển khai mô hình đó trên quy mô lớn.

Đây là mô hình mà một trong những khách hàng của chúng tôi, RT-One, đơn vị phát triển các công viên công nghệ AI và trung tâm dữ liệu lớn nhất Mỹ Latinh, đang theo đuổi khi lên kế hoạch xây dựng cơ sở hạ tầng liên kết trên khắp châu Mỹ: kết nối công suất phân tán để cuối cùng có thể quản lý chúng như một môi trường phối hợp thống nhất.

Tình trạng khan hiếm GPU đã thu hút sự chú ý rất lớn, nhưng chỉ bổ sung thêm bộ tăng tốc không nhất thiết đồng nghĩa với việc có thêm năng lực tính toán AI hữu ích. Theo ông, những nguồn gây kém hiệu quả lớn nhất trong cơ sở hạ tầng AI hiện nay nằm ở đâu, và nhờ điều phối tốt hơn, các công ty có thể khai thác thêm bao nhiêu công suất?

Cuộc đua về cơ sở hạ tầng AI tập trung nhiều vào số gigawatt công suất mới được lên kế hoạch và lượng vốn cam kết để xây dựng công suất đó. Thật dễ cho rằng vấn đề cơ sở hạ tầng AI đơn thuần là thiếu GPU hoặc thiếu công suất, nhưng cách nhìn này bỏ qua nơi thực sự phát sinh tình trạng kém hiệu quả. Điều quan trọng cần lưu ý là công suất được lên kế hoạch không đồng nghĩa với công suất có thể sử dụng.

Các cụm GPU có thể trông như đã được sử dụng hết công suất, nhưng những GPU đắt tiền vẫn có thể nằm yên khi xuất hiện nút thắt hiệu năng ở những phần khác trong hệ thống. Các nút thắt này có thể liên quan đến thông lượng lưu trữ, luồng dữ liệu, tắc nghẽn mạng, sự kém hiệu quả trong lập lịch tác vụ, yêu cầu bảo mật và sự không tương thích giữa kiến trúc, ứng dụng, trình điều khiển và các phần phụ thuộc. Bổ sung GPU không phải lúc nào cũng tạo ra thêm năng lực tính toán có thể sử dụng.

Bổ sung thêm cơ sở hạ tầng không tự động nâng cao hiệu quả. Trong nhiều trường hợp, việc đó tạo thêm các hệ thống biệt lập, đồng thời đẩy chi phí lên cao.

Các tổ chức cần tầm nhìn và khả năng kiểm soát tốt hơn để nâng cao mức độ khai thác, tự động hóa các quyết định về hạ tầng, đồng thời điều chỉnh tải công việc phù hợp hơn với nguồn lực hiện có và các ưu tiên kinh doanh. Tầm nhìn và khả năng kiểm soát tốt hơn có thể giúp biến tập hợp các tài nguyên hạ tầng thành một môi trường vận hành phối hợp nhịp nhàng hơn. Không có con số chính xác hay áp dụng chung nào về dung lượng có thể được khai mở nhờ điều phối; mỗi tải công việc có yêu cầu riêng. Nhưng có một điều rõ ràng: giải pháp cho dung lượng bị bỏ phí hoặc chưa được khai thác hết không đơn giản chỉ là mua thêm hay xây dựng thêm.

RAVEL đã nhấn mạnh khả năng tương tác giữa hạ tầng, công nghệ ảo hóa, hệ thống định danh và ứng dụng. Vì sao khả năng tương tác ngày càng trở nên đặc biệt quan trọng khi tải công việc AI ngày càng phức tạp và phân tán?

Khi hạ tầng ngày càng đa dạng, các tổ chức cần sự linh hoạt để sử dụng nhiều công nghệ và môi trường khác nhau mà không tạo thêm các hệ thống hạ tầng biệt lập. Khả năng tương tác cho phép năng lực tính toán, lưu trữ, mạng và ứng dụng từ các nhà cung cấp cũng như môi trường khác nhau hoạt động cùng nhau, duy trì quyền lựa chọn khi hạ tầng phát triển. Tuy nhiên, chỉ riêng khả năng tương tác không quyết định cách sử dụng các tài nguyên đó.

Đó là lúc điều phối phát huy tác dụng—phối hợp nơi tải công việc được chạy, cách chúng di chuyển và cách thực thi các chính sách trên nhiều môi trường. Khi hạ tầng AI ngày càng phân tán và liên kết theo mô hình liên kết, khả năng tương tác tạo sự linh hoạt để vận hành trên nhiều công nghệ, còn điều phối biến những tài nguyên đó thành một môi trường vận hành phối hợp nhịp nhàng.

RAVEL Orchestrate AI cung cấp một lớp điều phối chung cho năng lực tính toán, lưu trữ, mạng và các công nghệ hạ tầng khác, phối hợp tải công việc AI trên các môi trường đám mây, tại chỗ và kết hợp.

Chủ quyền dữ liệu đang trở thành mối quan tâm lớn đối với các chính phủ và doanh nghiệp triển khai AI. Sự phát triển của hạ tầng AI chủ quyền làm thay đổi như thế nào cách các tổ chức cần cân nhắc việc bố trí tải công việc, di chuyển dữ liệu, bảo mật và điều phối?

AI chủ quyền hiện là một ưu tiên chiến lược. Cùng với đó, một câu hỏi căn bản hơn được đặt ra: Chủ quyền thực sự có nghĩa là gì? Cuộc thảo luận phần lớn tập trung vào việc lưu trữ dữ liệu tại một địa điểm nhất định, nhưng tôi cho rằng định nghĩa đó quá hẹp.

Tôi định nghĩa AI chủ quyền là khả năng của một quốc gia, doanh nghiệp, cơ quan chính phủ hoặc tổ chức khác duy trì quyền kiểm soát theo chính sách đối với các tải công việc AI của mình—bao gồm dữ liệu, mô hình, hạ tầng tính toán, quyền truy cập, bảo mật, hoạt động vận hành và quyền tài phán chi phối những tải công việc đó. Chủ quyền không nhất thiết có nghĩa là mọi tải công việc phải luôn ở trong cùng một trung tâm dữ liệu, hay thậm chí phải chạy trên hạ tầng thuộc sở hữu của một tổ chức duy nhất. Thay vào đó, điều đó có nghĩa là tổ chức xác định nơi được phép chạy một tải công việc, nơi dữ liệu của tải đó có thể được lưu trữ hoặc di chuyển đến, ai có thể truy cập, loại hạ tầng nào được phép xử lý tải đó, và những chính sách nào về bảo mật, quy định, địa lý, vận hành và kinh doanh phải luôn được duy trì. Định nghĩa lấy tải công việc làm trọng tâm này phù hợp với xu hướng rộng hơn trong ngành, coi chủ quyền là quyền kiểm soát toàn bộ môi trường AI chứ không chỉ là việc lưu trữ dữ liệu tại một địa điểm nhất định.

Cách tiếp cận của RAVEL tạo nên khác biệt rõ nét, đặc biệt khi AI chủ quyền kết hợp với mô hình liên kết. RAVEL Orchestrate AI có thể xem các yêu cầu về chủ quyền là những ràng buộc trong lớp điều phối và chính sách: một tải công việc có thể đủ điều kiện chạy trên một liên kết gồm nhiều địa điểm, đám mây, trung tâm dữ liệu, vị trí biên hoặc hạ tầng khác, nhưng chỉ được chạy trên những tài nguyên đáp ứng các chính sách chủ quyền áp dụng cho tải đó. Trong phạm vi đã được phê duyệt này, RAVEL có thể xác định hạ tầng phù hợp dựa trên các yếu tố như điện năng, chi phí, hiệu năng, dung lượng, mức độ khai thác, đặc tính mạng, vị trí và mức độ ưu tiên. Mô hình liên kết không loại bỏ chủ quyền; thay vào đó, mô hình này có thể hoạt động trong các giới hạn do chủ quyền xác định. Chẳng hạn, một tải công việc nhạy cảm của chính phủ có thể luôn nằm trong các cơ sở được phê duyệt tại Hoa Kỳ, đồng thời vẫn được điều phối linh hoạt giữa nhiều địa điểm được ủy quyền. Nhờ đó, các tổ chức có thể tận dụng lợi ích về mức độ khai thác và khả năng phục hồi của hạ tầng AI phân tán mà không phải từ bỏ quyền kiểm soát đối với nơi vận hành và cách thức hoạt động của những tải công việc nhạy cảm nhất.

RAVEL ra đời trong các ngành như truyền thông, giải trí, trò chơi và thiết kế, nơi tải công việc có thể đòi hỏi năng lực tính toán rất lớn. Những yêu cầu của AI tạo sinh đã làm thay đổi nền tảng như thế nào so với các thách thức về hạ tầng mà ban đầu các bạn giải quyết cho giới chuyên môn sáng tạo?

RAVEL ra đời để giải quyết các vấn đề về hạ tầng trong bối cảnh nghệ sĩ và kỹ sư đã chạy những tải công việc khổng lồ về kết xuất, mô phỏng và sáng tạo nội dung trên các tài nguyên tính toán, lưu trữ và mạng đắt đỏ. Thách thức cốt lõi là làm thế nào để việc truy cập, chia sẻ và điều phối hạ tầng đa dạng trở nên dễ dàng hơn, đồng thời tối đa hóa mức độ khai thác và hiệu năng.

AI tạo sinh đã làm gia tăng đáng kể quy mô và độ phức tạp của chính vấn đề đó. Thay vì chủ yếu điều phối ứng dụng và tải công việc kết xuất, giờ đây chúng tôi phải tính đến các mô hình AI, bộ máy, tác nhân, tải công việc huấn luyện và suy luận, nhiều kiến trúc GPU khác nhau, các ngăn xếp phần mềm thay đổi nhanh chóng, lượng dữ liệu di chuyển khổng lồ, cùng những ràng buộc lớn hơn đáng kể về điện năng, chi phí, bảo mật và tính sẵn sàng.

Nhờ đó, RAVEL đã phát triển từ chỗ chủ yếu điều phối tài nguyên tính toán thành một lớp điều khiển và tối ưu hóa thông minh cho hạ tầng AI. Orchestrate AI sử dụng dữ liệu đo từ xa và các chính sách để xác định không chỉ liệu hạ tầng có sẵn hay không, mà còn cả khối lượng công việc nên chạy ở đâu và như thế nào, dựa trên các yếu tố như chi phí, tốc độ, năng lượng, hiệu năng, mức độ sử dụng, vị trí và yêu cầu về chủ quyền.

Liên kết các hệ thống cũng ngày càng trở nên quan trọng, bởi hạ tầng AI không còn có thể được xem là tập hợp các trung tâm dữ liệu biệt lập; các tổ chức cần có khả năng sử dụng năng lực trên nhiều địa điểm một cách thông minh, đồng thời vẫn duy trì hoạt động quản trị và bảo mật. Theo nhiều cách, AI tạo sinh không làm thay đổi vấn đề cốt lõi mà RAVEL hướng tới giải quyết—mà khiến vấn đề đó lớn hơn và phức tạp hơn rất nhiều, qua đó làm cho việc điều phối, tối ưu hóa và liên kết thông minh ngày càng quan trọng.

Sự nghiệp của bà trải dài từ kỹ thuật cơ khí và tối ưu hóa quy trình tại Starbucks đến truyền thông số, trung tâm dữ liệu, trường quay ảo, và hiện nay là hạ tầng AI. Nền tảng kỹ thuật đã ảnh hưởng như thế nào đến cách bà xây dựng doanh nghiệp và giải quyết các vấn đề về hạ tầng?

Nền tảng kỹ thuật có lẽ đã ảnh hưởng đến gần như mọi khía cạnh trong cách tôi xây dựng doanh nghiệp. Kỹ thuật cơ khí dạy bạn nhìn vào cả một hệ thống—chứ không chỉ một bộ phận riêng lẻ—và tự hỏi đâu là những điểm hạn chế, năng lượng hay nguồn lực đang bị lãng phí ở đâu, và làm thế nào để toàn bộ hệ thống hoạt động hiệu quả hơn. Tại Starbucks, tôi áp dụng cách tư duy đó vào việc tối ưu hóa quy trình; sau này, trong lĩnh vực truyền thông số và hiệu ứng hình ảnh, hệ thống bao gồm năng lực tính toán, lưu trữ, mạng, ứng dụng và cuối cùng là toàn bộ trung tâm dữ liệu. Công nghệ đã thay đổi, nhưng cách tôi tiếp cận vấn đề thì thực sự không đổi. Tôi luôn tự hỏi: Đâu là điểm nghẽn? Nguồn lực nào chưa được sử dụng đúng mức? Chúng ta có thể đơn giản hóa điều gì? Và làm thế nào để toàn bộ hệ thống hoạt động tốt hơn, thay vì chỉ tối ưu hóa một phần?

Đó chính là cách chúng tôi xây dựng RAVEL. Tôi không cho rằng vấn đề hạ tầng AI chỉ đơn giản là cần thêm GPU hoặc xây thêm trung tâm dữ liệu. Đây là một bài toán kỹ thuật hệ thống, liên quan đến năng lực tính toán, năng lượng, lưu trữ, mạng, phần mềm, khối lượng công việc, con người, và ngày càng cả yếu tố địa lý lẫn chủ quyền. Bạn có thể sở hữu GPU nhanh nhất thế giới, nhưng nếu phần còn lại của hệ thống không được tối ưu, thì bạn chỉ tạo ra một điểm nghẽn cực kỳ tốn kém. Vì vậy, cách tiếp cận của chúng tôi tại RAVEL là làm cho chính hạ tầng trở nên thông minh hơn—sử dụng dữ liệu đo từ xa, chính sách, điều phối và liên kết để liên tục xác định khối lượng công việc nên chạy như thế nào và ở đâu. Tôi khởi đầu sự nghiệp bằng việc tối ưu hóa các hệ thống vật lý; ngày nay, chúng tôi áp dụng cùng kỷ luật kỹ thuật đó để tối ưu hóa hạ tầng vận hành AI.

Nhìn về tương lai, bà dự đoán hạ tầng AI sẽ phát triển ra sao khi các mô hình, tác tử và ứng dụng đòi hỏi ngày càng nhiều năng lực tính toán phân tán? Bà có hình dung các nhà máy AI sẽ trở thành một lớp hạ tầng doanh nghiệp được tiêu chuẩn hóa, giống như điện toán đám mây trong thập kỷ qua không?

Tôi hoàn toàn tin rằng các nhà máy AI sẽ trở thành một lớp nền tảng của hạ tầng doanh nghiệp, giống như điện toán đám mây đã trở thành—nhưng tôi không nghĩ chúng sẽ giống một trung tâm dữ liệu hay đám mây đơn lẻ, được tiêu chuẩn hóa. Khi các mô hình, tác tử và ứng dụng tiêu thụ ngày càng nhiều năng lực tính toán, doanh nghiệp sẽ vận hành trên một hệ sinh thái đa dạng gồm GPU, CPU, hạ tầng riêng, các nhà cung cấp đám mây chuyên biệt thế hệ mới, nhà cung cấp dịch vụ đám mây quy mô lớn, môi trường biên và các hệ thống AI chuyên dụng.

Khả năng cung cấp năng lượng, chi phí, chủ quyền, hiệu năng và vị trí sẽ trở nên quan trọng không kém khả năng cung cấp năng lực tính toán. Thách thức thực sự sẽ không chỉ là xây thêm hạ tầng, mà là khiến toàn bộ hạ tầng phân tán đó vận hành như một hệ thống thông minh duy nhất. Nhà máy AI của tương lai không phải là một tòa nhà đơn lẻ—mà là một môi trường hạ tầng liên kết, bao gồm năng lực tính toán, năng lượng, dữ liệu và các nguồn lực cần thiết để vận hành khối lượng công việc AI ở bất cứ nơi nào phù hợp nhất.

Tôi cho rằng đó là nơi hình thành lớp hạ tầng lớn tiếp theo. Điện toán đám mây đã trừu tượng hóa máy chủ và giúp việc sử dụng năng lực tính toán trở nên dễ dàng hơn; bước tiếp theo là trừu tượng hóa độ phức tạp của toàn bộ hệ thống hạ tầng AI. Doanh nghiệp không nên phải tự xác định thủ công GPU, trung tâm dữ liệu, đám mây, nguồn năng lượng hay khu vực địa lý nào sẽ chạy từng mô hình hoặc tác tử. Hạ tầng ngày càng cần tự đưa ra những quyết định đó, sử dụng dữ liệu đo từ xa và chính sách để tối ưu hóa chi phí, tốc độ, năng lượng, hiệu năng, tính sẵn sàng và chủ quyền. Đó là tương lai mà chúng tôi đang xây dựng tại RAVEL: một lớp điều phối thông minh cho phép khối lượng công việc di chuyển trên hạ tầng AI liên kết, đồng thời duy trì các chính sách và cơ chế kiểm soát của tổ chức. Điện toán đám mây đã giúp người dùng có thể sử dụng năng lực tính toán theo yêu cầu. Tôi tin rằng thế hệ hạ tầng AI tiếp theo sẽ giúp người dùng có thể tối ưu hóa theo yêu cầu.

Cảm ơn bà về cuộc phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu thêm về việc điều phối khối lượng công việc AI trên hạ tầng phân tán có thể truy cập RAVEL.