Lãnh đạo tư tưởng
AI có thể mở rộng quy mô bảo mật. Nhưng mở rộng điều gì?

Điểm chínhXử lý nhiều dữ liệu hơn không tự động cải thiện khả năng phát hiện mối đe dọa nếu thiếu…
Xem thêm
- Xử lý nhiều dữ liệu hơn không tự động cải thiện khả năng phát hiện mối đe dọa nếu thiếu bối cảnh tổ chức.
- Các mô hình được tinh chỉnh có thể hỗ trợ điều tra quy mô lớn với chi phí dễ dự đoán hơn so với các mô hình tiên phong.
- Tính tự chủ nên tương xứng với rủi ro, với quản trị được thiết kế trước khi mở rộng quy mô các tác nhân.
Các nhóm bảo mật doanh nghiệp hiện phải đối mặt với lượng hoạt động, dữ liệu đo từ xa và cảnh báo nhiều hơn mức họ có thể thực tế điều tra thủ công. Các ước tính khác nhau; một số nghiên cứu cho rằng trung bình mỗi ngày, một nhóm vận hành an ninh nhận được hơn 4.400 cảnh báo. Khi các tổ chức mở rộng và bổ sung thêm công cụ, đồng thời AI giúp tạo điều kiện cho nhiều cuộc tấn công hơn, con số này chắc chắn sẽ tăng. Chúng ta đã thấy những doanh nghiệp có hai triệu điểm cuối trong môi trường của mình; các nhóm bảo mật điều tra những cảnh báo này theo cách thủ công sẽ khó lòng chống đỡ trước những kẻ tấn công ngày càng có khả năng hoạt động theo kiểu tác nhân.
Đối với lực lượng phòng thủ, các tác nhân AI có thể thay đổi tình hình bằng cách đảm nhận việc điều tra và các nhiệm vụ lặp đi lặp lại khác trong toàn bộ môi trường. Tuy nhiên, khả năng xử lý nhiều dữ liệu hơn không tự động đồng nghĩa với việc phát hiện hoặc ứng phó mối đe dọa tốt hơn. Điều cần thiết không chỉ là quy mô mà còn là ngữ cảnh.
Tầm quan trọng của ngữ cảnh khi đánh giá quy mô
Một tác nhân điều tra hàng triệu điểm cuối phải hiểu mình đang tìm kiếm điều gì, hành vi nào được xem là bất thường trong môi trường cụ thể đó và phát hiện nào cần được điều tra thêm. Thiếu ngữ cảnh này, tự động hóa có nguy cơ khuếch đại nhiễu và đưa ra những kết luận không liên quan hoặc gây hiểu lầm.
Cũng cần lưu ý rằng không phải tổ chức nào cũng có thể dựa vào các cuộc điều tra bằng mô hình tiên tiến nhất cho từng cảnh báo; cách làm đó sẽ quá tốn kém.
Môi trường bảo mật khác nhau về hạ tầng, ứng dụng, yêu cầu vận hành, nghĩa vụ tuân thủ quy định và mức độ chấp nhận rủi ro. Lực lượng phòng thủ phải duy trì hoạt động của các ứng dụng, đồng thời quản lý các yêu cầu tuân thủ và tránh làm gián đoạn hoạt động.
Để hoạt động hiệu quả, các tác nhân phải tiếp thu kiến thức của tổ chức, bao gồm các cuộc điều tra trước đây, quy trình đã được thiết lập và nhận định của những nhà phân tích giàu kinh nghiệm. Phần lớn kiến thức này không thể đơn giản đưa vào tác nhân dưới dạng bảng tính hay định dạng khác; tác nhân cần quan sát cách kiến thức ấy được vận dụng thực tế bằng cách học hỏi từ những người làm công tác phòng thủ giàu kinh nghiệm trong công việc.
Đối với doanh nghiệp, câu hỏi lớn là làm thế nào chuyển hóa kiến thức tích lũy của tổ chức thành các hệ thống có khả năng đưa ra quyết định nhất quán, phù hợp với ngữ cảnh ở tốc độ máy móc.
Cách đưa kiến thức của tổ chức vào vận hành
Các tổ chức cần có cơ chế thu thập và áp dụng kiến thức làm cơ sở cho hoạt động điều tra, bao gồm quyết định trong các vụ việc trước đây, quy trình đã thiết lập và cách nhà phân tích diễn giải bằng chứng. Doanh nghiệp cũng có thể có những quy trình, công cụ và kiến thức nội bộ không chính thức mang tính đặc thù cần được ghi nhận.
Chuyên biệt hóa mô hình là một hướng tiếp cận tiềm năng. Tinh chỉnh mô hình cho từng khách hàng doanh nghiệp có thể hỗ trợ điều tra quy mô lớn với chi phí dễ dự đoán hơn, đồng thời duy trì hiệu suất cao. Các mô hình nguồn mở đã được tinh chỉnh có thể đặc biệt hữu ích cho những nhiệm vụ liên quan đến số lượng điểm cuối rất lớn.
Các tổ chức cũng phải đánh giá hiệu suất của tác nhân khi mô hình, quy trình làm việc và môi trường doanh nghiệp thay đổi. Môi trường tổng hợp, hay bản sao số, có thể cung cấp bối cảnh đại diện để thử nghiệm các phiên bản tác nhân khác nhau khi dữ liệu sản xuất không còn sẵn có hoặc đã lỗi thời.
Tinh chỉnh không phải là cách duy nhất để cung cấp ngữ cảnh. Truy xuất thông tin, bộ nhớ, điều phối quy trình làm việc và các biện pháp kiểm soát chính sách rõ ràng là những phương án thay thế. Yêu cầu cốt lõi là phương pháp được chọn phải cải thiện hiệu suất của tác nhân trong môi trường nơi nó sẽ hoạt động.
Tự chủ ở quy mô lớn đòi hỏi ranh giới rõ ràng, giám sát và phối hợp
Xác định đúng mối đe dọa mới chỉ là một phần của thách thức. Các tác nhân phải hiểu mình được phép thực hiện những hành động nào, khi nào cần có sự chấp thuận của con người và làm thế nào để tránh gây gián đoạn hoạt động kinh doanh hợp pháp. Xác định những việc tác nhân có thể tự chủ thực hiện và những việc cần con người ra quyết định là điều thiết yếu để triển khai một cách đáng tin cậy.
Tự chủ ở quy mô lớn cũng đòi hỏi lợi thế kinh tế theo quy mô. Các công ty sử dụng mô hình tiên tiến nhất để điều tra hàng triệu vụ việc sẽ tự đẩy mình đến phá sản. Vì vậy, việc tìm ra phương pháp điều tra hiệu quả nhất bằng mô hình AI—dù là mô hình ngôn ngữ nhỏ (SLM) hay mô hình độc quyền—là điều tối quan trọng.
Mức độ tự chủ cần tương xứng với rủi ro. Những nhiệm vụ thường lệ, đã được hiểu rõ có thể phù hợp để tự động thực hiện, trong khi các hành động gây hậu quả đáng kể hoặc làm gián đoạn hoạt động có thể cần sự chấp thuận của con người hoặc sự cho phép bổ sung. An ninh doanh nghiệp cũng phụ thuộc vào sự phối hợp giữa các nhóm. Nếu một cuộc điều tra xác định có mối đe dọa cần thay đổi cấu hình tường lửa, thông tin phải được chuyển tiếp liền mạch đến nhóm phụ trách hệ thống đó, đồng thời bảo đảm có sự cho phép phù hợp và trách nhiệm giải trình đối với việc khắc phục.
Do đó, quản trị và thiết kế quy trình làm việc là những thành phần thiết yếu trong việc triển khai tác nhân, chứ không phải các biện pháp kiểm soát có thể bổ sung sau khi công nghệ đã được mở rộng quy mô.
Thước đo tiếp theo về thành công của AI trong bảo mật là chất lượng kết quả
Các tổ chức nên đánh giá các tác nhân dựa trên kết quả, bao gồm độ chính xác trong điều tra, tỷ lệ dương tính giả và âm tính giả, thời gian điều tra và khắc phục, chi phí cho mỗi cuộc điều tra, chất lượng chuyển cấp xử lý và mức độ tuân thủ các chính sách ủy quyền.
Đánh giá liên tục là điều thiết yếu khi mô hình và quy trình làm việc thay đổi. Việc thử nghiệm các phiên bản tác nhân khác nhau trên những tình huống đại diện và sử dụng môi trường tổng hợp có thể giúp các tổ chức phát hiện lỗi hồi quy trước khi triển khai bản cập nhật vào môi trường thực tế.
Các lãnh đạo an ninh phải cân bằng lợi ích của tự động hóa với những rủi ro vận hành khi triển khai. Tính sẵn sàng của ứng dụng, nghĩa vụ tuân thủ, mức độ chấp nhận rủi ro của tổ chức và thời gian triển khai đều ảnh hưởng đến tốc độ áp dụng các năng lực mới.
AI mang đến cho các đội ngũ an ninh cơ hội giải quyết vấn đề thiếu hụt năng lực kéo dài, nhưng mở rộng quy mô đơn thuần không phải là mục tiêu cuối cùng. Cơ hội thực sự nằm ở việc kết hợp tốc độ của máy móc với bối cảnh tổ chức, thẩm quyền phù hợp và khả năng phán đoán của con người, để các tác nhân có thể phân biệt điều gì quan trọng, thực hiện hành động phù hợp và huy động đúng người khi cần thiết.












