An ninh mạng
Tác nhân AI ngày càng thông minh và bề mặt tấn công cũng mở rộng

Điểm chínhTính tự chủ khó lường của các tác nhân AI tạo ra một bề mặt tấn công rộng lớn và năng…
Xem thêm
- Tính tự chủ khó lường của các tác nhân AI tạo ra một bề mặt tấn công rộng lớn và năng động, vượt ngoài khả năng phòng thủ của các mô hình bảo mật truyền thống.
- Các cuộc tấn công tiêm prompt thao túng hướng dẫn của tác nhân thông qua đầu vào thông thường như tài liệu và trang web.
- Hệ thống đa tác nhân khuếch đại rủi ro nguy hiểm thông qua hệ thống phân cấp tin cậy và quyền truy cập vượt mức cần thiết vào các hệ thống trọng yếu.
Lúc các tác nhân trí tuệ nhân tạo bắt đầu đặt lịch họp, chạy mã, và duyệt web thay mặt bạn, cuộc trò chuyện về an ninh mạng đã thay đổi. Không từ từ, mà chỉ sau một đêm.
Một hệ thống phần mềm từng có phạm vi giới hạn và hành vi dễ dự đoán đã trở thành thứ biết suy luận, lập kế hoạch và hành động thông qua những công cụ và API mà một năm trước nó hầu như chưa biết là tồn tại.
Điều đó thật sự thú vị, và cũng thật sự đáng sợ, vì bề mặt tấn công đi kèm với sự tự chủ đó là khổng lồ, và hầu hết các tổ chức chỉ mới bắt đầu hiểu được ý nghĩa của việc cho phép các tác nhân vào cơ sở hạ tầng của họ.
Từ chatbot đến chủ thể thực hiện công việc
Lời hứa ban đầu của trí tuệ nhân tạo là đơn giản: hỏi một câu hỏi, nhận được một câu trả lời. Đó vẫn là sự thật cho hầu hết các tương tác của người tiêu dùng, nhưng nó không phải là những gì đang xảy ra trong các triển khai doanh nghiệp nữa. Ngày nay, các tác nhân được cấp thông tin xác thực, khóa API, và khả năng xóa, tạo và chú thích dữ liệu, cũng như thực hiện hành động thực sự trong các hệ thống có hậu quả thực sự.
Sự thay đổi đã xảy ra nhanh chóng. Trong ít hơn hai năm, các tác nhân trí tuệ nhân tạo đã đi từ việc là công cụ tạo văn bản đến cho phép chúng ta chạy những hệ thống đa tác nhân vận hành trơn tru. Chúng đang đọc email, kích hoạt các quy trình làm việc, truy vấn cơ sở dữ liệu, và trong một số trường hợp, quản lý các tác nhân khác dưới chúng. Mức độ truy cập đó trước đây yêu cầu một quá trình mua sắm dài và sự tham gia của con người trong quy trình. Giờ đây chỉ cần một tệp cấu hình và vài lần gọi API.
Càng nhiều quyền truy cập, càng nhiều nguy cơ bị tấn công
Các cuộc tấn công phần mềm truyền thống có đặc điểm phần nào dự đoán được. Có một điểm xâm nhập đã biết, một lỗ hổng đã biết và một bản vá đã biết. Các tác nhân trí tuệ nhân tạo phá vỡ mô hình đó vì chúng có tính linh hoạt ngay từ thiết kế. Chúng không theo một đường dẫn mã tĩnh. Chúng suy nghĩ về việc làm gì tiếp theo, điều đó có nghĩa là hành vi của chúng khó dự đoán hơn và khó kiểm tra sau sự việc hơn rất nhiều.
Tính khó dự đoán đó giúp hoàn thành công việc. Nó cũng là một lợi thế cho bất kỳ ai cố gắng khai thác hệ thống. Khi một tác nhân có thể quyết định, giữa nhiệm vụ, gọi một API bên ngoài hoặc kéo một công cụ bên thứ ba, không còn ranh giới rõ ràng để bảo vệ.
Các đội an ninh mạng đã quen với việc bảo vệ các bề mặt được biết và giám sát chi phí Kubernetes. Các tác nhân tiếp tục khám phá những bề mặt tấn công và phương thức khai thác mới, và không ai đang lập bản đồ chúng theo thời gian thực. Trước khi bạn biết, ai đó có thể chiếm được các thông tin đăng nhập và kiểm soát toàn bộ “cơ thể” trí tuệ nhân tạo của bạn với một động tác.
Chèn chỉ dẫn là hình thức SQL injection mới
Nếu có một vector tấn công mà các nhà nghiên cứu an ninh mạng tiếp tục quay lại, đó là chèn chỉ dẫn. Ý tưởng là đơn giản: thay vì khai thác một điểm yếu mã, một kẻ tấn công thao túng các lệnh mà một tác nhân nhận được thông qua các đầu vào của nó. Một lệnh độc hại nhúng vào một trang web, một tài liệu, hoặc thậm chí một email có thể chuyển hướng hành động tiếp theo của tác nhân.
Điều khiến vấn đề này đặc biệt nguy hiểm là các tác nhân thường làm chính xác những gì chúng được yêu cầu. Chúng đang xử lý nội dung từ web, từ tin nhắn của người dùng, từ các công cụ bên thứ ba. Bất kỳ nội dung nào là một bề mặt có thể bị chèn chỉ dẫn. Một tác nhân đọc một tài liệu bị xâm phạm và sau đó thực hiện các cuộc gọi API dựa trên nội dung của nó đã bị chiếm quyền, và có lẽ sẽ không ghi lại điều gì giúp làm rõ chuỗi nguyên nhân dẫn đến sự việc.
Các biện pháp phòng thủ ở đây là thực sự nhưng không đầy đủ. Cô lập hành động của tác nhân trong môi trường sandbox, hạn chế các công cụ mà một tác nhân có thể gọi trong một số ngữ cảnh, và xây dựng các điểm kiểm tra của con người vào các quy trình làm việc quan trọng đều giảm thiểu rủi ro. Chúng không loại bỏ nó. Và hầu hết các tổ chức chưa triển khai thậm chí các biện pháp cơ bản.
Vấn đề tin cậy trong các hệ thống đa tác nhân
Các hệ thống đa tác nhân tạo thêm một lớp phức tạp dễ bị đánh giá thấp. Khi một tác nhân điều phối một số tác nhân khác, có một hệ thống thứ bậc về sự tin cậy. Tác nhân điều phối truyền lệnh xuống, và các tác nhân con làm theo. Nếu tác nhân điều phối bị xâm phạm, mọi tác nhân cấp dưới trên thực tế cũng bị xâm phạm, và bán kính ảnh hưởng trở nên lớn rất nhanh.
Một vấn đề khác là cấp quá nhiều quyền. Tác nhân thường được trao quyền truy cập vượt nhu cầu, vì cấp quyền rộng ngay từ đầu dễ hơn điều chỉnh dần theo từng bước. Một tác nhân nghiên cứu không cần quyền ghi vào cơ sở dữ liệu đang vận hành thực tế.
Một tác nhân lập lịch không cần truy cập vào hồ sơ tài chính. Đúng, nó cảm thấy an toàn khi mọi thứ đều liên kết với nhau, nhưng nó đơn giản là quá rủi ro để duy trì lợi ích mà không bị suy giảm. Nhưng ranh giới trở nên mờ trong thực tế, và các nguyên tắc cấp quyền tối thiểu vốn hiệu quả trên lý thuyết lại âm thầm bị bỏ qua trong cuộc chạy đua ra mắt sản phẩm.
Biện pháp bảo mật hợp lý trong bối cảnh này
Không có giải pháp đơn lẻ nào làm cho việc triển khai tác nhân an toàn. Đó là một vấn đề phân lớp và nó cần một phản ứng phân lớp. Các tổ chức làm việc này tốt thường bắt đầu với các kiểm soát truy cập: cấp cho mỗi tác nhân một phạm vi xác định, hẹp và xây dựng các bước xem xét vào bất kỳ hành động nào chạm vào các hệ thống nhạy cảm hoặc dịch vụ bên ngoài.
Khả năng quan sát cũng quan trọng như việc ngăn chặn. Nếu một tác nhân làm một việc không mong đợi, các đội cần một bản ghi đầy đủ về các lệnh mà nó nhận được, các công cụ mà nó gọi, và những gì nó trả về. Hầu hết các thiết lập ghi nhật ký không được xây dựng để đáp ứng mức độ chi tiết đó, và việc bổ sung sau này rất khó khăn. Việc tích hợp từ đầu đáng với những trở ngại phát sinh.
Kiểm thử từ góc nhìn đối thủ cũng chưa được tận dụng đầy đủ. Kiểm thử tác nhân theo phương pháp red team, nhất là thử chèn chỉ dẫn độc hại và quan sát kết quả, sẽ tiết lộ các điểm yếu mà việc xem xét mã tĩnh sẽ không bao giờ bắt được. Điều này khiến người ta không thoải mái khi nghĩ đến, nhưng những người sau này sẽ tìm cách khai thác các hệ thống này đã tiến hành những thử nghiệm đó. Đi trước họ là động thái duy nhất hợp lý.
Lời kết
Các tác nhân trí tuệ nhân tạo sẽ trở thành một phần lớn hơn của cách các tổ chức hoạt động, và sự thay đổi đó đã tiến khá xa. Cuộc trò chuyện về an ninh mạng cần phải bắt kịp, và nhanh chóng. Các rủi ro là thực sự, các vector tấn công là mới, và thời gian để đi trước các mối đe dọa đó đang thu hẹp lại.
Hiểu được cảnh quan mối đe dọa cho các hệ thống trí tuệ nhân tạo tự chủ không còn là tùy chọn nữa. Đó là một trong những việc quan trọng nhất mà các đội an ninh mạng và kỹ thuật có thể làm ngay bây giờ, và đồng hồ đã bắt đầu đếm.












