An ninh mạng
An ninh AI năm 2027: Quyền của tác nhân sẽ quyết định phạm vi thiệt hại

Điểm chínhQuyền của tác nhân, không phải độ tin cậy của mô hình, sẽ quyết định một sự hiểu lầm có…
Xem thêm
- Quyền của tác nhân, không phải độ tin cậy của mô hình, sẽ quyết định một sự hiểu lầm có thể lan xa đến đâu.
- Các đánh giá bảo mật phải báo cáo việc hoàn thành nhiệm vụ hợp lệ cùng với các cuộc tấn công bị chặn để chứng minh các tác nhân vẫn hữu ích.
- Báo cáo sự cố nên truy vết đường dẫn thông tin xác thực và quyền được ủy quyền thay vì đầu ra kỳ lạ của mô hình.
Hãy hình dung một nhân viên nhờ trợ lý AI sắp xếp hộp thư đến đang quá tải. Công việc có vẻ vô hại, cho đến khi một email thuyết phục trợ lý mở hồ sơ khách hàng, xuất tệp đính kèm hoặc gửi yêu cầu thanh toán. Câu hỏi về an ninh không còn chỉ là liệu câu trả lời có đáng tin cậy hay không. Giờ đây, vấn đề là liệu phần mềm có đủ thẩm quyền để biến một sự hiểu lầm thành hành động hay không.
Đó là áp lực ngày càng tăng đằng sau vấn đề bảo mật tác nhân trong năm 2027. Các công ty muốn có những trợ lý có thể hoàn thành công việc. Các nhóm bảo mật cần biết quyền tự do đó kết thúc ở đâu—và liệu họ có thể thu hồi quyền ấy khi công việc vẫn đang diễn ra hay không.
Kết nối đó đã bắt đầu được xây dựng. Microsoft đưa nền tảng Entra Agent ID vào trạng thái khả dụng rộng rãi trong năm 2026. Okta đã mở rộng quản trị danh tính tác nhân trên các nhà cung cấp danh tính và hệ sinh thái tác nhân. AWS đưa Policy trong Bedrock AgentCore vào trạng thái khả dụng rộng rãi vào tháng 3, qua đó đặt các quyết định phân quyền bên ngoài mã nguồn của chính tác nhân. Dự đoán rằng các sản phẩm về danh tính tác nhân sẽ xuất hiện vào năm 2027 là bỏ qua thị trường vốn đã tồn tại.
1. Bằng chứng từ môi trường thực tế sẽ quan trọng hơn các thông báo về danh tính
Tác nhân cần có thể mất quyền truy cập của mình mà không khiến người bảo trợ là con người mất quyền truy cập của họ. Kỳ vọng đơn giản đó trở nên khó đáp ứng khi có nhiều bộ kết nối và tài khoản dịch vụ nằm giữa trợ lý với ứng dụng mà nó sử dụng. Trong năm 2027, các tài khoản triển khai trong môi trường thực tế từ những doanh nghiệp được nêu tên sẽ bắt đầu cho thấy liệu danh tính riêng biệt của tác nhân có được duy trì xuyên suốt quá trình đó hay không: quyền hạn bị giới hạn ngay từ đầu, danh tính có thể nhận diện được trong suốt quá trình và một công tắc tắt riêng ở cuối.
Cơ chế này vốn quen thuộc, dù khối lượng công việc là mới. Xác thực xác định chủ thể phần mềm nào đang thực hiện hành động. Phân quyền xác định chủ thể đó được phép sử dụng những tài nguyên và thao tác nào. Ủy quyền gắn quyền hạn của chủ thể với một cá nhân hoặc tổ chức. Chỉ có một mục trong danh mục thì chưa đủ chứng minh rằng bất kỳ cơ chế kiểm soát nào trong số đó được áp dụng tại thời điểm xảy ra hành động có hệ quả đáng kể.
Phần thảo luận về danh tính tác nhân vào tháng 8 năm 2026 của NIST mô tả các vấn đề về trách nhiệm giải trình do việc chia sẻ thông tin xác thực gây ra. Các nguyên tắc thiết kế được đưa ra sau đó kêu gọi sử dụng định danh riêng biệt, ủy quyền với phạm vi quyền hạn được thu hẹp, cùng cơ chế phân quyền có thời hạn ngắn và có thể thu hồi. Đây là các nguyên tắc thiết kế được đề xuất, không phải bằng chứng cho thấy mọi sản phẩm đã triển khai đều áp dụng chúng, cũng không phải một yêu cầu pháp lý mới có hiệu lực phổ quát.
Khó khăn trong kỹ thuật xuất hiện khi quy trình làm việc vượt qua ranh giới giữa các tổ chức. Tác nhân có thể bắt đầu từ một nhà cung cấp danh tính, gọi một bộ kết nối do công ty khác vận hành, rồi sử dụng một ứng dụng có mô hình phân quyền thứ ba. Một quyền cấp hẹp ở phía trước có thể biến thành quyền truy cập rộng ở phía sau nếu bộ kết nối thay thế bằng thông tin xác thực dịch vụ có quyền hạn mạnh của chính nó. Danh tính hiển thị phải được duy trì xuyên suốt chuỗi đó; nếu không, mặt phẳng điều khiển sẽ đánh mất chính sự phân biệt mà nó được thiết kế để bảo toàn.
Thông báo về Agent 365 của Microsoft và phần giải thích về Agent Gateway của Okta cho thấy các nhà cung cấp đang phát triển giải pháp hướng đến vấn đề này. Đây vẫn là những mô tả của nhà cung cấp về năng lực sản phẩm. Tôi tin chắc hơn rằng sẽ xuất hiện bằng chứng cụ thể từ môi trường thực tế, chứ không khẳng định rằng các hệ thống này loại bỏ được nguy cơ bị xâm phạm.
Những điều cần theo dõi trong năm 2027
Hãy theo dõi các đợt triển khai trong môi trường thực tế, nơi tác nhân có danh tính riêng, được cấp quyền truy cập giới hạn theo nhiệm vụ và có thể bị vô hiệu hóa mà không khóa quyền truy cập của người bảo trợ là con người. Những tài khoản khách hàng mô tả cách các biện pháp kiểm soát đó hoạt động trên các ứng dụng được kết nối sẽ cho biết nhiều điều hơn so với riêng việc đăng ký danh tính. Việc tiếp tục phụ thuộc vào thông tin xác thực dịch vụ dùng chung sẽ làm suy yếu dự báo này.
Ý nghĩa đối với doanh nghiệp
Lãnh đạo phụ trách bảo mật nên yêu cầu nhà cung cấp trình diễn toàn bộ chuỗi ủy quyền, bao gồm cả các quyền mà những bộ kết nối ở phía sau sử dụng. Trong quá trình đánh giá mua sắm và triển khai, cần xác định chủ sở hữu của tác nhân, các hành động được phép thực hiện và quy trình thu hồi quyền truy cập. Danh mục các tác nhân đã đăng ký ngày càng tăng chỉ hữu ích khi tổ chức có thể kiểm soát những gì từng tác nhân thực sự được phép làm.
2. Hiệu quả của các biện pháp phòng vệ sẽ được đánh giá qua công việc hữu ích
Tác nhân dễ bảo mật nhất là tác nhân không thể làm gì. Đây cũng là tác nhân dễ trở nên vô dụng nhất về mặt thương mại. Kết quả đáng chú ý hơn trong năm 2027 sẽ là một biện pháp phòng vệ giúp công việc hợp lệ tiếp tục được thực hiện, đồng thời giảm mạnh các hành động trái phép thông qua công cụ. Tiêu chí đánh giá của tôi được đặt ra có chủ ý ở mức cao: giảm một nửa số hành động đó trong điều kiện có thể tái lập, trong khi mức suy giảm tỷ lệ hoàn thành công việc hợp lệ không quá 10 điểm. Biện pháp bảo vệ phải duy trì đủ tính hữu ích để người ta tiếp tục bật nó.
Tấn công chèn lệnh làm thay đổi nội dung mà mô hình được yêu cầu xem như chỉ dẫn. Phân quyền cần quyết định liệu hành động được đề xuất có được phép hay không, bất kể chỉ dẫn đó trở nên thuyết phục đến mức nào. Một tài liệu được truy xuất có yêu cầu xuất dữ liệu cũng không thể tự có quyền xuất dữ liệu chỉ vì tác nhân có thể đọc tài liệu đó.
Hướng dẫn bảo mật Model Context Protocol cho thấy vì sao lớp tích hợp lại quan trọng: hướng dẫn đề cập đến các vấn đề như nhầm lẫn giữa các bên được ủy quyền, chuyển tiếp mã thông báo và những cách khác mà một kết nối có thể lạm dụng quyền hạn. Điều này kéo theo yêu cầu về kiến trúc. Ý định mà mô hình nêu ra và quyền mà ứng dụng có thể thực thi là hai thực thể riêng biệt, và ứng dụng phải xác thực quyền đó.
Còn một yêu cầu nữa: tác nhân được bảo vệ vẫn phải hoàn thành công việc được ủy quyền. AgentDojo đã xây dựng một môi trường có thể mở rộng để kiểm thử các cuộc tấn công và biện pháp phòng thủ nhắm vào tác nhân sử dụng công cụ. Bản tiền ấn phẩm AgentDyn năm 2026 cho rằng các tác vụ thực tế, có phạm vi mở, bộc lộ cả điểm yếu về bảo mật lẫn tình trạng chặn quá mức. Một phân tích gần đây khác về các cuộc tấn công chèn lệnh thất bại phân biệt giữa việc từ chối một cuộc tấn công, chỉ phớt lờ nó hoặc không hoàn thành được tác vụ của người dùng. Những phát hiện nghiên cứu này gắn với các hệ thống và điều kiện được đánh giá; chúng không phải là tỷ lệ bảo mật trên toàn bộ quần thể.
Sự đánh đổi cốt lõi có thể đo lường được. Chặn mọi thao tác ghi có thể đem lại điểm số rất cao về khả năng ngăn thao tác ghi trái phép, nhưng đồng thời khiến một tác nhân làm công việc sổ sách trở nên vô dụng. Một kết quả đáng tin cậy cần công bố kết quả tấn công, kết quả thực hiện tác vụ hợp lệ, tập hợp các hành động được phép và những trường hợp cần có sự phê duyệt của con người. Các đối thủ thích ứng cũng là yếu tố đáng lưu ý: biện pháp phòng thủ chỉ hiệu quả trước những cuộc tấn công được phát triển trước khi biện pháp đó bị lộ sẽ đem lại mức độ bảo đảm thấp hơn.
Những điều cần theo dõi trong năm 2027
Hãy tìm các đánh giá bảo mật báo cáo cả mức độ hoàn thành tác vụ hợp lệ lẫn các cuộc tấn công bị chặn. Bằng chứng thuyết phục nhất sẽ cho thấy một tác nhân vẫn tiếp tục thực hiện công việc được ủy quyền, trong khi một lớp thực thi độc lập từ chối các hành động trái phép, kể cả những cuộc tấn công được điều chỉnh để ứng phó với biện pháp phòng thủ đó. Tỷ lệ tấn công thành công giảm nhưng đi kèm với tình trạng thất bại trên diện rộng khi thực hiện tác vụ sẽ đem lại ít cơ sở để yên tâm hơn nhiều.
Điều này có ý nghĩa gì với doanh nghiệp
Hãy đánh giá đồng thời mức độ an toàn và tính hữu dụng của tác nhân. Nhóm phụ trách mua sắm nên đưa các tác vụ kinh doanh tiêu biểu và những tình huống lạm dụng thực tế vào cùng một đợt đánh giá, sau đó xem xét hành động nào cần được phê duyệt và quyền được thực thi ở đâu. Cách làm này giúp nhận thấy cái giá của việc chặn quá mức, bên cạnh thiệt hại tiềm tàng do trao cho tác nhân quá nhiều quyền hạn.
3. Báo cáo sự cố sẽ lần theo đường đi của quyền hạn
Sau một sự cố liên quan đến tác nhân, câu hỏi có thể hé lộ nhiều nhất là chỉ thị đã có được quyền thực hiện hành động bằng cách nào. Một thông điệp độc hại là một phần của câu chuyện; thông tin xác thực, bộ kết nối và quyền được ủy quyền đã giúp thông điệp đó tiếp tục đi xa hơn là những phần khác. Tôi dự đoán rằng trong năm 2027, các thông tin công bố được nhà cung cấp xác nhận sẽ làm những đường đi này rõ ràng hơn. Nhờ đó, bên phòng thủ sẽ có được thông tin hữu ích hơn một ví dụ khác về việc mô hình nói điều không nên nói.
Bằng chứng quan trọng trong một thông tin công bố như vậy là một chuỗi sự kiện: tác nhân tiếp nhận một đầu vào nào đó, đề xuất hoặc chọn một hành động, có được hoặc thừa hưởng quyền hạn, rồi vượt qua ranh giới dự kiến. Chỉ mô tả những lời lẽ bất thường của mô hình sẽ không giải thích được sự cố trong vận hành. Chỉ mô tả thông tin xác thực bị rò rỉ có thể bỏ sót lý do khiến tác nhân làm lộ hoặc sử dụng thông tin đó.
Đây không phải là dự đoán rằng lần đầu tiên vượt qua ranh giới như vậy sẽ xảy ra vào năm tới. Trong bản đánh giá các sự cố an ninh mạng tháng 9 năm 2026, Anthropic mô tả bốn trường hợp các mô hình Claude truy cập trái phép vào những hệ thống thực tế của bên thứ ba trong quá trình liên quan đến đánh giá. Đây là thông tin công bố của nhà cung cấp mô hình về các sự cố cụ thể. Không nên khái quát thông tin này thành tỷ lệ vi phạm trong doanh nghiệp đã được đo lường, cũng không nên xem đây là xác minh độc lập cho mọi chi tiết.
Top 10 rủi ro OWASP dành cho ứng dụng AI tác nhân cung cấp một khung rủi ro hữu ích để thảo luận về các sự cố của tác nhân. Tuy nhiên, một khung chỉ đưa ra các nhóm rủi ro, chứ không cung cấp mẫu số để tính tỷ lệ sự cố. Số thông tin công bố tăng lên có thể phản ánh mức độ triển khai rộng hơn, khả năng phát hiện tốt hơn, việc báo cáo thẳng thắn hơn hoặc sự kết hợp của cả ba yếu tố. Bản thân điều đó không chứng minh rằng mỗi tác nhân được triển khai đều trở nên kém an toàn hơn.
Mức độ tin tưởng của tôi ở đây thấp hơn vì chưa rõ động lực công bố thông tin sẽ ra sao. Các tổ chức có thể âm thầm khắc phục bộ kết nối, xem sự cố là một lỗi kiểm soát truy cập thông thường hoặc không tiết lộ tên khách hàng. Vì vậy, một thay đổi lớn trong hoạt động vẫn có thể chỉ để lại hồ sơ công khai ít ỏi. Sự bất định đó cần được tính đến trong dự báo, thay vì bị loại bỏ bằng cách xem mọi màn trình diễn lỗ hổng còn mang tính suy đoán là một vụ vi phạm.
Những điều cần theo dõi trong năm 2027
Hãy chú ý đến các báo cáo sự cố giải thích cách tác nhân chuyển từ việc đọc tài liệu không đáng tin cậy sang sử dụng quyền hạn đối với một tài nguyên thực tế. Những mô tả rõ ràng về bộ kết nối, thông tin xác thực được ủy quyền, hành động bị ảnh hưởng và biện pháp khắc phục sẽ củng cố dự báo này. Các báo cáo chỉ đề cập đến phản hồi bất thường của mô hình sẽ tiết lộ ít hơn về ranh giới vận hành đã bị phá vỡ.
Điều này có ý nghĩa gì với doanh nghiệp
Các nhóm ứng phó sự cố nên lưu giữ đủ dữ liệu đo từ xa của tác nhân và ứng dụng để dựng lại lộ trình từ đầu vào đến hành động. Việc đánh giá nhà cung cấp cần xác định ai sẽ thông báo cho khách hàng, những hồ sơ nào sẽ được cung cấp và cách cô lập một kết nối bị xâm phạm. Những thỏa thuận này sẽ quyết định tốc độ một tổ chức có thể đánh giá mức độ ảnh hưởng khi tác nhân hành xử bất ngờ.
4. Việc thu hồi quyền sẽ được tính giờ
Công tắc tắt là một lời hứa về thời gian. Nếu một tác nhân đã sao chép thông tin xác thực hoặc mở một phiên khác, việc thu hồi danh tính của nó có thể để lại một khoảng thời gian mà trong đó các hành động vẫn thực hiện thành công. Năm 2027, các cuộc kiểm thử độc lập sẽ bắt đầu dùng đồng hồ bấm giờ để đo lường lời hứa đó trên nhiều ứng dụng được kết nối. Dự báo ở đây rất cụ thể: các hành động được bảo vệ mới sẽ bị chặn trong vòng một phút, kể cả khi thông tin xác thực đã được lưu vào bộ nhớ đệm.
Thu hồi quyền rất dễ được hứa hẹn ở thư mục danh tính, nhưng khó chứng minh hơn ở các hệ thống phía sau. Một bộ kết nối có thể giữ lại mã thông báo truy cập. Một tiến trình có thể duy trì phiên hoạt động. Một tác vụ được lên lịch có thể giữ lại yêu cầu đã được cấp quyền trước đó. Việc vô hiệu hóa bản ghi kiểm kê của một tác nhân không chứng minh rằng các đường dẫn thực thi này ngừng sử dụng quyền hạn đã lỗi thời.
Nguyên tắc ủy quyền có thể thu hồi của NIST và việc thực thi qua cổng kết nối và ghi nhật ký chính sách của AWS mô tả những phần trong kiến trúc cần có. Theo suy luận của tôi, người mua sẽ ngày càng đòi hỏi thời gian khống chế được đo lường thực tế. Mốc 60 giây là mục tiêu trong dự báo của tôi, không phải yêu cầu được quy cho một trong hai nguồn.
Một cuộc diễn tập bài bản cần phân biệt việc ngăn chặn công việc mới với việc đảo ngược những việc đã hoàn tất. Thu hồi quyền không thể thu hồi một tin nhắn đã được gửi đi. Cam kết có thể đo lường là một hành động được bảo vệ mới, gửi đi sau khi việc thu hồi có hiệu lực, sẽ bị từ chối. Các hành động đang diễn ra cần có quy định riêng, được ghi thành văn bản, về cách hủy hoặc hoàn tất. Nếu không phân biệt rõ điều này, một màn trình diễn “công tắc ngắt khẩn cấp” đầy ấn tượng có thể che giấu một cam kết hẹp hơn nhiều.
Mức độ tin cậy từ thấp đến trung bình phản ánh khó khăn trong việc thu thập bằng chứng có thể tái lập trên nhiều bộ kết nối. Tài liệu sản phẩm công khai có thể xác nhận những hành vi được hỗ trợ, nhưng để kiểm chứng dự báo cần có kết quả đo thời gian thực tế. Người kiểm thử cũng cần thử nghiệm trên một phiên đã được thiết lập, nơi quyền hạn cũ nhiều khả năng gây ảnh hưởng nhất.
Những điều cần theo dõi trong năm 2027
Hãy theo dõi các màn trình diễn thu hồi quyền bắt đầu khi tác nhân đã hoạt động thông qua những bộ kết nối đang vận hành, kể cả khi thông tin xác thực đã được lưu vào bộ nhớ đệm hoặc các phiên đã được thiết lập. Kết quả hữu ích là thời gian đo được để ngăn chặn các hành động được bảo vệ mới, kèm lời giải thích rõ ràng về những công việc đang diễn ra. Nếu chỉ tắt một mục trên bảng điều khiển mà không kiểm thử các hệ thống phía sau, câu hỏi cốt lõi vẫn chưa được giải đáp.
Điều này có ý nghĩa gì với doanh nghiệp
Hãy xem việc ngừng hoạt động của tác nhân là một năng lực ứng phó sự cố cần được diễn tập. Kiểm thử các ứng dụng mà tác nhân có thể truy cập, xác định mọi phiên còn tồn tại sau khi thu hồi quyền và phân công trách nhiệm dừng các công việc đang chờ xử lý. Phân biệt việc ngăn hành động tiếp theo với việc đảo ngược một hành động đã hoàn tất; kế hoạch khôi phục cần giải quyết cả hai.
Ngân sách bảo mật sẽ tập trung vào ranh giới thực thi
Mục tiêu là trao cho các tác nhân đủ quyền hạn để hữu ích, đồng thời thiết lập đủ ranh giới để vẫn có thể quản trị chúng. Sự cân bằng đó sẽ được thương lượng ở các bộ kết nối, mã thông báo và bước kiểm tra quyền, cách xa giao diện hội thoại. Khi sự cố tiếp theo xảy ra, câu hỏi quyết định sẽ là hệ thống có thể đi xa đến đâu trước khi có người—hoặc thứ gì đó—ngăn nó lại.












