Val Bercovici, Giám đốc Trưởng AI tại WEKA – Chuỗi Phỏng vấn

Val Bercovici, Giám đốc Trưởng AI tại WEKA, là một nhà điều hành về AI và hạ tầng dữ liệu, tập trung vào việc thúc đẩy các công nghệ nền tảng cho trí tuệ nhân tạo thế hệ tiếp theo. Kể từ khi gia nhập WEKA với vai trò Giám đốc Trưởng AI vào tháng 1 năm 2025, ông đã tập trung vào xây dựng hạ tầng cho các tác nhân AI, tăng tốc các khối lượng công việc đào tạo và suy luận, và cải thiện kinh tế học của tính toán AI. Bên cạnh vai trò tại WEKA, Bercovici còn là cố vấn AI cho Home Dock, cố vấn chiến lược cho FermiHDI và The Hive, và Chủ tịch PencilDATA, nơi công việc của ông bao gồm AI, an ninh mạng, blockchain, điện toán đám mây và hạ tầng dữ liệu. Sự nghiệp của ông phản ánh sự tập trung lâu dài vào việc phát triển và tư vấn các công nghệ mới nhằm hỗ trợ các hệ thống AI ngày càng tiêu tốn dữ liệu.

WEKA là một công ty hạ tầng dữ liệu gốc AI, xây dựng nền tảng định nghĩa bằng phần mềm được thiết kế cho các yêu cầu dữ liệu khắt khe của trí tuệ nhân tạo, học máy, tính toán hiệu năng cao và các khối lượng công việc tăng tốc khác. Nền tảng Dữ liệu WEKA cung cấp cho các tổ chức một kiến trúc thống nhất có thể hoạt động trên môi trường tại chỗ, đám mây, lai và biên, giúp loại bỏ các nút thắt lưu trữ, cải thiện việc sử dụng GPU và tăng tốc đào tạo và suy luận mô hình AI. Công ty ngày càng định vị công nghệ của mình quanh nền kinh tế suy luận mới nổi và AI tác nhân, với hạ tầng được thiết kế để cung cấp truy cập dữ liệu tốc độ cao, độ trễ thấp ở quy mô khổng lồ đồng thời đơn giản hoá các pipeline dữ liệu AI phức tạp. WEKA phục vụ doanh nghiệp, nhà cung cấp đám mây, tổ chức nghiên cứu và các nhà phát triển AI vận hành trong một số môi trường tính toán có hiệu năng cao nhất thế giới.

Hành trình sự nghiệp của bạn đã đưa bạn từ việc định hình chiến lược đám mây ban đầu của NetApp và phục vụ trong hội đồng quản trị sáng lập của Kubernetes đến việc xây dựng hạ tầng AI tại WEKA. Điều này đã ảnh hưởng như thế nào đến cách bạn suy nghĩ về việc chuẩn bị hạ tầng cho giai đoạn tiếp theo của AI?

Mỗi giai đoạn trong sự nghiệp của tôi đều được định nghĩa bởi cùng một mô hình: nút thắt chuyển đổi, và ngành công nghiệp mất nhiều năm mới nhận ra. Trong những ngày đầu của đám mây và Kubernetes, chúng tôi đã chứng kiến tính toán trở nên đàn hồi và việc điều phối trở thành điểm nghẽn mới. Khi rời NetApp, nơi tôi là CTO sau khi mua lại SolidFire, tôi nghĩ mình đã hiểu tốc độ nhanh trông như thế nào: vài mili giây cho một lần đọc byte ngẫu nhiên đầu tiên thực sự trong môi trường sản xuất.

Lý do tôi gia nhập WEKA thực sự là vì niềm đam mê công nghệ. Một con số đã thu hút tôi: lần đọc byte ngẫu nhiên không có bộ nhớ đệm đầu tiên là 70 microgiây, một con số không thuộc lớp lưu trữ. Trước đây tôi chưa bao giờ nghĩ tới độ trễ mức microgiây cho loại hệ thống này. Đó là ánh sáng bật lên: công nghệ này có thể phục vụ các ứng dụng bộ nhớ, các ứng dụng cấp DRAM như Redis và bộ nhớ đệm KV, không chỉ lưu trữ. Và đúng lúc đó, suy luận bắt đầu vượt qua đào tạo vì ngành phải thương mại hoá các mô hình này, và các tác nhân xuất hiện để biến bộ nhớ thành toàn bộ trò chơi.

Đó là góc nhìn tôi mang vào hạ tầng AI. Chúng ta đã từng chứng kiến kịch bản này. Cloud FinOps xuất hiện vì các công ty triển khai hạ tầng mà không có tính toán kinh tế đơn vị, sau đó nhận được hoá đơn. AI đang trên cùng một đường cong, di chuyển nhanh hơn. Khi các doanh nghiệp không thể tránh việc tối đa hoá token với sự xuất hiện của các hoá đơn tiêu thụ API vượt quá ngân sách token đã lên kế hoạch, chúng ta đang chứng kiến sự lên ngôi của AI FinOps. Đây là thời điểm các tổ chức ngừng coi suy luận là tiện ích rẻ tiền, và bắt đầu quản lý hiệu quả token như một kỷ luật tài chính. AI FinOps bắt đầu với tokenomics: tối ưu hoá mọi lớp phần cứng và phần mềm của ngăn xếp suy luận ảnh hưởng đến chi phí đơn vị mỗi token. Hiện tại lãng phí lớn nhất trong ngăn xếp này là các GPU và ASIC mới đang chờ đợi, chờ bộ nhớ và dữ liệu (hay ‘decode’) thay vì FLOPS (hay ‘prefill’). Ai sửa được vấn đề này sẽ sở hữu giai đoạn tiếp theo của AI.

Nhà Trắng đang giữ bí mật chi tiết khung an toàn AI mới của mình. Các doanh nghiệp có thể chuẩn bị cho các yêu cầu quy định như thế nào khi họ chưa biết chính xác những gì sẽ được kiểm tra hoặc yêu cầu?

Các công ty không nên chờ đợi danh sách kiểm tra cuối cùng. Các bài kiểm tra cụ thể sẽ thay đổi, nhưng nghĩa vụ phía dưới chúng sẽ không thay đổi: bạn sẽ cần chứng minh mô hình AI đã làm gì, dữ liệu nào nó đã chạm tới, và nó đã hành xử như thế nào vào một thời điểm cụ thể. Và việc chờ đợi đã không còn là lựa chọn trên toàn cầu. Đạo luật AI của EU đã có hiệu lực trong tháng này, và nó phân loại hầu hết việc điều phối tác nhân là rủi ro cao.

Điều đó có nghĩa công việc chuẩn bị là công việc hạ tầng. Dòng dữ liệu, khả năng quan sát, khả năng tái tạo, và khả năng tái tạo trạng thái mô hình theo yêu cầu đều là những yếu tố quan trọng mà các doanh nghiệp cần thực hiện đúng. Cuối cùng, các tổ chức cần triển khai các mô hình bảo vệ trước khi xuất ra kết quả, với độ trễ và ngân sách token liên quan cho các lớp phòng thủ ngữ nghĩa. Nếu bạn xây dựng những khả năng này ngay bây giờ, bất kỳ khung nào cũng sẽ trở thành một bài tập định dạng. Chờ đợi các quy tắc cuối cùng, và bạn sẽ phải retrofitting tính trách nhiệm vào các hệ thống chưa được thiết kế để giải thích bản thân. Việc retrofitting luôn tốn kém hơn so với việc xây dựng từ đầu.

Cuối cùng, giải pháp để xây dựng AI an toàn là nhiều AI hơn, được áp dụng tối ưu và có chủ đích.

Loại nhu cầu hạ tầng mới nào mà việc kiểm tra an toàn AI có thể tạo ra, và các khối lượng công việc đó sẽ khác như thế nào so với đào tạo hoặc suy luận mô hình truyền thống?

Đào tạo giống như một vòi nước mạnh. Bạn đẩy một khối lượng dữ liệu khổng lồ qua mô hình theo một mô hình ổn định, dự đoán được. Kiểm tra an toàn ngược lại: hàng nghìn kịch bản đánh giá, việc dò hỏi lặp đi lặp lại, so sánh hành vi phiên bản này với phiên bản khác, và các cuộc tấn công đỏ (red‑teaming) không ngừng.

Hồ sơ này quan trọng. Đào tạo và kiểm tra an toàn là bùng nổ, nặng đọc và so sánh. Nó tạo ra và tiêu thụ một lượng lớn trạng thái trung gian. Các mô hình bảo vệ cần phải vốn dĩ đa dạng và phân lớp, được triển khai trong ngân sách độ trễ chặt chẽ, tăng cường các đánh giá với tiêu chí an toàn mới này. Đối với các mô hình tiên tiến hoặc có khả năng mạng, hồ sơ khối lượng công việc là liên tục 24/7 thay vì theo đợt. Bạn không chỉ chạy một lần kiểm tra và lưu kết quả. Bạn đang chạy các khối lượng công việc bầy đàn tác nhân liên tục cạnh tranh trong môi trường sản xuất về tính toán, bộ nhớ và băng thông dữ liệu cho các ứng dụng quan trọng mà chúng bảo vệ. Sau chất lượng và tốc độ, hầu hết hạ tầng ngày nay chưa được thiết kế cho nguyên tắc thứ ba này.

Có một vấn đề đo lường nằm dưới đây, nữa. Hầu hết các chuẩn đo AI hiện nay chạy 8.000 token hoặc ít hơn, một lời nhắc, một phản hồi. Tôi thường nói rằng chúng là các chuẩn đo nhân tạo của trí tuệ nhân tạo. Vào giữa năm 2026, các khối lượng công việc tác nhân thực tế chạy từ 100.000 đến 400.000 token ngữ cảnh qua hàng ngàn lượt. Nếu các đánh giá an toàn kế thừa các chuẩn đo đồ chơi này, chúng ta sẽ chứng nhận các hệ thống cho một thế giới không tồn tại. Các cơ quan quản lý đã bắt đầu xây dựng năng lực tốt hơn ở đây: NIST đã mở mã nguồn công cụ đánh giá an ninh tác nhân, và các kết quả ban đầu cho thấy các cuộc tấn công chiếm đoạt tác nhân mới thành công gấp vài lần so với các chuẩn cơ bản đã biết. Đó chính là loại kiểm tra liên tục, đối kháng, tốn kém mà tôi kỳ vọng các khung an toàn sẽ hội tụ.

Các tổ chức có nên xây dựng tài nguyên tính toán và dung lượng dữ liệu dư thừa riêng cho các khối lượng công việc tuân thủ và an toàn trong tương lai, hay có cách thiết kế hiệu quả hơn cho sự không chắc chắn này?

Mua thêm GPU dư thừa và hy vọng mức sử dụng sẽ bắt kịp chỉ để lại vốn bị kẹt trong phần cứng giảm giá.

Câu trả lời hiệu quả là một hạ tầng có thể linh hoạt chuyển đổi giữa các khối lượng công việc sản xuất và đánh giá mà không cần một ngăn xếp riêng biệt. Điều này căn bản là một vấn đề dữ liệu. Nếu bạn có thể di chuyển và tái sử dụng dữ liệu một cách hiệu quả, bảo toàn ngữ cảnh giữa các khối lượng công việc, và giữ cho các bộ tăng tốc luôn bận rộn thực hiện công việc thực, thì việc tuân thủ sẽ trở thành chi phí gia tăng thay vì một dự án xây dựng song song. Kinh tế học AI ngày càng phụ thuộc vào mức giá trị bạn khai thác từ mỗi token, byte và watt. Nếu làm đúng, bạn có thể tạo ra 3–4 lần giá trị hơn từ cùng một hạ tầng, hoặc giảm footprint rack lên tới 75%. Tuân thủ cũng nên được giữ ở tiêu chuẩn tương tự.

Khung hiện tại được cho là tập trung vào các mô hình đóng tiên tiến trong khi loại trừ các mô hình mở (open‑weight). Những thách thức hạ tầng hoặc an ninh nào có thể xuất hiện khi đối xử khác nhau giữa hai loại này?

Nếu bạn đối xử khác nhau giữa mô hình đóng và mô hình mở, bạn sẽ có hai khung tuân thủ cho các công nghệ thực hiện cùng một chức năng, và khoảng cách giữa chúng là nơi rủi ro tồn tại.

Một mô hình mở có thể được tinh chỉnh và triển khai trong các môi trường mà nhà cung cấp gốc không có bất kỳ khả năng quan sát nào. Việc điều chỉnh nhà cung cấp ở đó không mang lại hiệu quả. Và sự chia rẽ đã hiện hữu: các kiểm soát xuất khẩu đã áp dụng cho các mô hình đóng biên giới mới nhất trong năm nay, trong khi các mô hình mở tự do vượt biên và hiện đang đứng gần đầu bảng xếp hạng khả năng công cộng. Tuy nhiên, chính phủ cuối cùng định nghĩa các mô hình biên giới, quản trị không thể dừng lại ở mô hình tự nó. Bạn cần khả năng quan sát nơi các mô hình đang chạy, dữ liệu nào chúng truy cập, các lời nhắc, phản hồi và siêu dữ liệu nào được lưu giữ, cách chúng đã được sửa đổi, và liệu hạ tầng bên dưới có thực sự hỗ trợ AI được quản lý ở quy mô không. Các bản cập nhật mới cho ISO27001 và SOC2 sẽ được yêu cầu.

Câu trả lời của tôi là tin tưởng nhưng xác minh. Nếu hạ tầng của bạn cung cấp khả năng token, bạn có thể chạy các rào cản đa dạng đối với bất kỳ mô hình nào trước khi đầu ra của nó được phát hành: trong nước hay nước ngoài, mở hay đóng. Xác minh khách quan vượt trội hơn so với niềm tin mù quáng hoặc không tin mù quáng dựa trên nguồn gốc mô hình. Khi các mô hình mở lan rộng, khả năng xác minh này nằm ở lớp hạ tầng, và đó là nơi các doanh nghiệp sẽ tạo ra sự khác biệt. Chính sách có thể quyết định mô hình nào được phép. Hạ tầng quyết định liệu các mô hình đó có thể được triển khai một cách có trách nhiệm và kinh tế hay không.

Khi các tác nhân AI trở nên tự chủ hơn và hoạt động trên các ngữ cảnh dài hơn, điều này sẽ thay đổi lượng dữ liệu, bộ nhớ và tính toán mà các tổ chức cần phân bổ cho việc giám sát và an toàn như thế nào?

Một chatbot chỉ là một lời nhắc và một phản hồi. Một tác nhân tự chủ là một quá trình đang chạy. Nó chạm tới hàng chục hệ thống, truy xuất thông tin, đưa ra quyết định trung gian, và tích lũy trạng thái trong nhiều giờ hoặc ngày trước khi hoàn thành một nhiệm vụ.

Bạn không thể giám sát điều này bằng cách lấy mẫu các token hoặc phản hồi riêng lẻ. Bạn phải nắm bắt toàn bộ chuỗi: những gì tác nhân biết, khi nào nó biết, và nó đã làm gì tiếp theo. Mỗi giờ một tác nhân chạy, trạng thái của nó tăng lên, và bộ nhớ, chuyển động dữ liệu, và hạ tầng cần thiết để ghi lại và phân tích cũng tăng lên. Giám sát không còn là một tính năng ghi log mà trở thành một khối lượng công việc cấp cao với ngân sách tài nguyên riêng.

Phòng thủ là nơi vấn đề trở nên cấp bách. Vấn đề bộ nhớ của AI đang trở thành vấn đề an ninh. Một tác nhân mã có thể khởi động, triển khai và tắt. Một tác nhân an ninh mạng không thể. Nó phải giữ ngữ cảnh qua các ca chuyển ca hàng ngày trong trung tâm vận hành an ninh, các bản cập nhật mô hình thường xuyên, và các chiến dịch tấn công đa giai đoạn tinh vi mà trước đây kéo dài hàng tuần, nhưng hiện nay cũng vận hành ở tốc độ máy tính đồng bộ. Khi bộ nhớ làm việc của AI bị xóa và tính lại từ đầu mỗi vài phút, một tác nhân phát hiện hành vi bất thường trong giờ đầu của một sự cố sẽ không còn nhớ trong giờ thứ hai. Kẻ tấn công không gặp vấn đề này. Các tác nhân của họ liên tục xác định và khai thác điểm yếu, và chuỗi tấn công hiện nay hoàn thành ở tốc độ tối ưu tokenomics, vì vậy phòng thủ AI cần chạy tự động 24/7. Và đây không chỉ là lý thuyết. Các nhà cung cấp an ninh đang chuẩn bị cho các tác nhân mạng 24/7 ngay bây giờ, và điều đầu tiên họ phát hiện là kinh tế học không giống như khối lượng công việc chat. Một số tổ chức cần các tác nhân này chạy ở biên, trong các cơ sở mà bạn không thể đưa một rack GPU hay thậm chí một hệ thống làm mát trong năm nay. Bài kiểm tra thực sự cho AI doanh nghiệp là khả năng duy trì ngữ cảnh liên tục, không phải suy luận một thời điểm. Điều này trở thành một cuộc chiến tiêu hao token, và ai giải quyết được bộ nhớ ngữ cảnh bền vững ở quy mô sẽ cung cấp ứng dụng tiêu diệt ngang đầu tiên trong AI doanh nghiệp: các bầy đàn tác nhân xanh luôn bật.

Bạn đã nói về tầm quan trọng ngày càng tăng của “bộ nhớ ngữ cảnh” khi các khối lượng công việc AI chuyển từ trò chuyện đơn giản sang các tác nhân bền vững. Liệu bộ nhớ ngữ cảnh cũng có thể trở nên quan trọng cho việc kiểm toán, tái tạo hoặc điều tra hành vi AI không?

Chắc chắn, và đó là một trường hợp sử dụng quan trọng. Trong nhiều năm, bộ nhớ chỉ là câu chuyện về hiệu năng: tốc độ bạn có thể cấp dữ liệu cho GPU, lượng ngữ cảnh bạn có thể giữ. Khi các tác nhân bắt đầu hành động tự chủ, cùng một bộ nhớ đó trở thành bằng chứng. Nếu một tác nhân đưa ra quyết định dựa trên ngữ cảnh tích lũy trong nhiều ngày, lời nhắc và đầu ra cuối cùng hầu như không cho biết lý do hành động. Giải thích nằm trong trạng thái đã tích lũy.

Về mặt kỹ thuật, phần lớn trạng thái đó nằm trong bộ nhớ đệm KV, và ngành vẫn coi nó như không gian tạm thời thay vì dữ liệu bền vững. Nếu bạn bảo tồn trạng thái đó và có thể truy xuất nhanh chóng, bạn có thể tái tạo những gì hệ thống biết tại thời điểm nó hành động. Các nhóm sẽ sử dụng điều này để gỡ lỗi trước, sau đó cho các đánh giá an toàn, và cuối cùng, ai đó sẽ cần nó trong một cuộc điều tra. Bỏ đi bộ nhớ ngữ cảnh đồng nghĩa với việc bỏ đi bản ghi duy nhất giải thích tại sao AI của bạn làm những gì nó đã làm.

Quy định AI cuối cùng có thể buộc các công ty lưu giữ nhiều thông tin hơn đáng kể về đầu vào mô hình, đầu ra, điểm kiểm tra, dòng dữ liệu, và hoạt động của tác nhân không? Điều đó sẽ có ý nghĩa gì đối với kiến trúc hạ tầng AI?

Về hướng, câu trả lời là có. Khi các hệ thống AI trở nên quan trọng hơn, yêu cầu về khả năng quan sát sẽ mở rộng để bao phủ mọi bước trong quy trình. Bạn đã có thể thấy các tín hiệu sớm: các nhóm đang lên kế hoạch lưu trữ bộ nhớ ngữ cảnh cũ trong các lớp lưu trữ đối tượng rẻ hơn chỉ để mục đích kiểm toán, trước khi bất kỳ quy định nào yêu cầu.

Xác thực việc giám sát với tính bất biến là yếu tố thiết yếu. Việc giả mạo log và các bằng chứng pháp y bởi các tác nhân độc hại đã trở thành thói quen, đòi hỏi các hệ thống xác thực mật mã phức tạp không dễ bị tấn công vào các mục tiêu tính toàn vẹn tập trung. Các log minh bạch đơn giản hay chuỗi hash không đủ để bảo vệ trước khả năng cộng tác của các bầy đàn tác nhân đồng thời. Kiến trúc blockchain công cộng, phi tập trung cao, là lựa chọn lý tưởng cho việc này, làm nổi bật giá trị Integrity thường bị bỏ qua, nằm ở trung tâm tam giác C‑I‑A của an ninh mạng.

Việc lưu trữ không chỉ là một vấn đề lưu trữ quy mô lớn và khó khăn. Phần khó khăn là giữ cho thông tin đó được tin cậy, tổ chức, lập chỉ mục, và truy xuất đủ nhanh để hữu ích trong thời gian hạn chế, dù hạn chế đó đến từ cơ quan quản lý, phản ứng sự cố, hay tòa án. Một petabyte hoạt động của tác nhân mà bạn không thể truy vấn là một khoản nợ, không phải một bản ghi. Sự chuyển đổi kiến trúc từ “nhiều lưu trữ” sang hạ tầng được thiết kế quanh dữ liệu AI có thể xác minh được, bền vững, có thể truy vấn như một khối lượng công việc cốt lõi.

Nhiều tổ chức tập trung vào việc mua thêm GPU, nhưng bạn thấy các nút thắt hạ tầng ít rõ ràng hơn nào xuất hiện khi khối lượng công việc AI mở rộng và yêu cầu an toàn trở nên khắt khe hơn?

GPU thường nhận được sự chú ý vì nó không phải là một mục ngân sách không đáng kể. Nhưng GPU và đặc biệt là các bộ tăng tốc mới tối ưu giải mã (ASIC+SRAM) hiếm khi là rào cản thực sự. Băng thông bộ nhớ, trọng lực và di chuyển dữ liệu, hiệu năng lưu trữ, và mạng là những yếu tố quyết định liệu các bộ tăng tốc có thực hiện công việc có giá trị hay đang chờ đợi không được sử dụng hết.

Khi AI trở nên nặng ngữ cảnh hơn, tường bộ nhớ trở thành rào cản định nghĩa. Bạn có thể tiếp tục thêm GPU, nhưng nếu chúng tiêu tốn chu kỳ để tính lại token hoặc chuyển đổi ngữ cảnh giữa các hệ thống, bạn đang trả tiền cho công việc lãng phí, lặp đi lặp lại. Mở rộng tường bộ nhớ có nghĩa là làm cho lớp dữ liệu hành xử như lưu trữ chia sẻ, nhưng thực hiện ở tốc độ bộ nhớ thực. Độ nhanh gần HBM này quan trọng đối với làn sóng giải pháp offloading bộ nhớ KV đang đến: bất kỳ giải pháp nào cũng phải cung cấp hiệu năng lớp bộ nhớ thực để làm cho tokenomics hợp lý. Giá trị lưu trữ cho bộ nhớ KV là một cuộc thảo luận về chi phí, phụ trợ cho trung tâm lợi nhuận. Và nếu việc đọc ngữ cảnh đã lưu trữ chậm hơn việc tính lại, bộ nhớ đệm sẽ vô dụng trong phương trình kinh doanh. Điều quan trọng không phải là bạn sở hữu bao nhiêu GPU, mà là mỗi GPU có bao nhiêu năng suất. Kinh tế AI phụ thuộc vào giá trị bạn khai thác từ mỗi token, byte và watt, và các yêu cầu an toàn sẽ chỉ làm tăng mức độ quan trọng của phép tính này.

Nhìn về phía trước, bạn có dự đoán an toàn và tuân thủ AI sẽ trở thành một khối lượng công việc hạ tầng riêng biệt, tương tự như cách an ninh mạng đã phát triển thành một lớp công nghệ doanh nghiệp riêng không?

Chúng ta sẽ chứng kiến an toàn và tuân thủ AI trở thành một khối lượng công việc riêng biệt, và sự tương đồng với an ninh mạng có hai mặt. An ninh đã trở thành một lớp riêng khi ngành công nhận rằng nó không thể chỉ là một hoạt động thỉnh thoảng. Ngành bảo hiểm mạng đã làm cho điều này trở thành bắt buộc. An toàn AI đang trên cùng một con đường bắt buộc khi các mô hình trở nên mạnh mẽ hơn và tự chủ hơn.

Nhưng chúng ta nên học hỏi từ những sai lầm của an ninh. Nó đã trở thành một phần bổ sung: một ngăn xếp riêng, ngân sách riêng, đội ngũ riêng phát hiện vấn đề sau khi đã xảy ra. Hạ tầng an toàn không nên lặp lại sai lầm đó. Giám sát, đánh giá, khả năng kiểm toán và lưu trữ bất biến nên nằm trong hạ tầng AI ngay từ đầu, được đồng thiết kế.

Đây là phần mà hầu hết mọi người bỏ qua: AI an toàn đòi hỏi nhiều AI hơn. Các mô hình bảo vệ không miễn phí. Chúng phải được đào tạo liên tục, tinh chỉnh, và suy luận ở mọi bước của thời gian chạy tác nhân. Ngân sách độ trễ token làm cho điều này cụ thể: mỗi phản hồi có một cửa sổ thời gian cố định, và càng nhiều token bạn xử lý trong cửa sổ đó, càng nhiều xác minh bạn có thể thực hiện trước khi đầu ra được gửi đi. Và mối đe dọa thực sự từ các mô hình biên giới là ứng dụng tác nhân của chúng. Các tác nhân chạy như vòng lặp suy luận khối lượng cao, thực hiện các cuộc gọi lặp lại tới mô hình trong thời gian dài. Mỗi vòng lặp là quan sát, định hướng, quyết định, hành động, và mỗi bước tiêu tốn token. Điều này biến an ninh AI thành một cuộc chiến tiêu hao token. Các kẻ tấn công triển khai bầy đàn tác nhân đỏ, các bên phòng thủ triển khai bầy đàn tác nhân xanh, và phía có khả năng tạo ra nhiều token hơn cho mỗi đô la và mỗi watt sẽ thắng. Tokenomics nằm trên con đường quan trọng của cả tấn công và phòng thủ. Điều này không còn là một thí nghiệm suy nghĩ vào mùa hè này, khi một cuộc tấn công bầy đàn tác nhân đỏ vào một kho mô hình lớn đã làm cả ngành tỉnh táo, và một liên minh AI an toàn đã được thành lập trong vài ngày. Trong khi đó, khối lượng công việc tiếp tục tăng gấp: việc xử lý token của ngành đã chuyển từ hàng nghìn tỷ sang hàng quadrillion.

Khi an toàn trở thành một yêu cầu luôn bật, chi phí tính toán, bộ nhớ và dữ liệu của nó không còn là chi phí phụ, mà trở thành một phần của kinh tế học đơn vị cơ bản khi vận hành AI. Các công ty nội bộ hoá điều này sớm sẽ xem an toàn như một đầu vào thiết kế. Những công ty còn lại sẽ xem nó như một loại thuế.

Cảm ơn bạn đã tham gia buổi phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập WEKA.