Kiểm soát ảo giác: Lợi ích và rủi ro khi triển khai LLMs trong quy trình bảo mật

Mô hình ngôn ngữ lớn (LLMs) được đào tạo trên lượng dữ liệu khổng lồ có thể làm cho các đội vận hành bảo mật thông minh hơn. LLMs cung cấp gợi ý và hướng dẫn trực tuyến về phản hồi, kiểm toán, quản lý tư thế và nhiều hơn nữa. Hầu hết các đội bảo mật đang thử nghiệm hoặc sử dụng LLMs để giảm công việc thủ công trong quy trình làm việc. Điều này có thể áp dụng cho cả nhiệm vụ đơn giản và phức tạp.

Ví dụ, một LLM có thể hỏi một nhân viên qua email nếu họ có ý định chia sẻ một tài liệu thuộc quyền sở hữu và xử lý phản hồi với một khuyến nghị cho một chuyên gia bảo mật. Một LLM cũng có thể được giao nhiệm vụ dịch yêu cầu tìm kiếm các cuộc tấn công chuỗi cung ứng trên các mô-đun mã nguồn mở và tạo ra các tác nhân tập trung vào các điều kiện cụ thể – các đóng góp mới cho các thư viện được sử dụng rộng rãi, mẫu mã không đúng – với mỗi tác nhân được thiết lập cho điều kiện cụ thể đó.

Tuy nhiên, những hệ thống AI mạnh mẽ này mang lại rủi ro đáng kể khác với các rủi ro mà các đội bảo mật phải đối mặt. Các mô hình cung cấp năng lượng cho LLMs bảo mật có thể bị xâm phạm thông qua tiêm lệnh hoặc làm ô nhiễm dữ liệu. Các vòng phản hồi liên tục và thuật toán học máy không có hướng dẫn của con người đầy đủ có thể cho phép các tác nhân xấu kiểm tra các điều khiển và sau đó gây ra phản hồi không chính xác. LLMs dễ bị ảo giác, thậm chí trong các lĩnh vực hạn chế. Ngay cả những LLMs tốt nhất cũng tạo ra thông tin khi họ không biết câu trả lời.

Quy trình bảo mật và chính sách AI xung quanh việc sử dụng LLMs và quy trình làm việc sẽ trở nên quan trọng hơn khi những hệ thống này trở nên phổ biến hơn trong các hoạt động bảo mật và nghiên cứu. Đảm bảo rằng những quy trình này được tuân thủ và được đo lường và tính toán trong các hệ thống quản trị sẽ chứng minh là rất quan trọng để đảm bảo rằng các CISO có thể cung cấp đủ phạm vi GRC (Quản trị, Rủi ro và Tuân thủ) để đáp ứng các yêu cầu mới như Khung bảo mật mạng 2.0.

Lời hứa lớn của LLMs trong bảo mật mạng

Các CISO và đội ngũ của họ liên tục phải vật lộn để theo kịp làn sóng mới của các cuộc tấn công mạng. Theo Qualys, số lượng CVE được báo cáo vào năm 2023 đã đạt mức kỷ lục mới là 26.447. Con số này tăng hơn 5 lần so với năm 2013.

Thử thách này đã trở nên khó khăn hơn khi bề mặt tấn công của tổ chức trung bình ngày càng lớn hơn với mỗi năm qua. Các đội bảo mật ứng dụng phải bảo mật và giám sát nhiều ứng dụng phần mềm hơn. Công nghệ điện toán đám mây, API, đa đám mây và ảo hóa đã thêm sự phức tạp. Với công cụ và quy trình CI/CD hiện đại, các đội ứng dụng có thể xuất bản mã nhanh hơn, thường xuyên hơn. Các dịch vụ vi mô đã chia nhỏ ứng dụng monolithic thành nhiều API và bề mặt tấn công, đồng thời tạo ra nhiều lỗ hổng hơn trong tường lửa toàn cầu để giao tiếp với các dịch vụ hoặc thiết bị ngoài.

LLMs tiên tiến mang lại lời hứa lớn để giảm tải công việc của các đội bảo mật và cải thiện khả năng của họ. Các công cụ mã hóa AI đã thâm nhập rộng rãi vào phát triển phần mềm. Nghiên cứu của Github cho thấy 92% nhà phát triển đang sử dụng hoặc đã sử dụng các công cụ AI cho gợi ý và hoàn thành mã. Hầu hết các công cụ “đồng pilot” này đều có khả năng bảo mật. Trên thực tế, các lĩnh vực kỷ luật có kết quả nhị phân tương đối như mã hóa (mã sẽ vượt qua hoặc thất bại các bài kiểm tra đơn vị) rất phù hợp với LLMs. Ngoài việc quét mã cho phát triển phần mềm và trong đường ống CI/CD, AI có thể có giá trị cho các đội bảo mật theo nhiều cách khác:

• Phân tích nâng cao: LLMs có thể xử lý lượng lớn dữ liệu bảo mật (nhật ký, cảnh báo, thông tin về mối đe dọa) để xác định mẫu và mối tương quan không thể nhìn thấy được bởi con người. Chúng có thể thực hiện việc này trên nhiều ngôn ngữ, suốt cả ngày và trên nhiều chiều cùng một lúc. Điều này mở ra cơ hội mới cho các đội bảo mật. LLMs có thể giảm một chồng cảnh báo trong thời gian thực, đánh dấu những cảnh báo có khả năng nghiêm trọng nhất. Thông qua học tăng cường, phân tích nên cải thiện theo thời gian.
• Tự động hóa: LLMs có thể tự động hóa các nhiệm vụ của đội bảo mật thường yêu cầu giao tiếp qua lại. Ví dụ, khi một đội bảo mật nhận được một IoC và cần hỏi chủ sở hữu của điểm cuối nếu họ đã đăng nhập vào thiết bị hoặc nếu họ đang ở một nơi ngoài khu vực làm việc bình thường, LLM có thể thực hiện các hoạt động đơn giản này và sau đó theo dõi với các câu hỏi như cần thiết và liên kết hoặc hướng dẫn. Điều này trước đây là một tương tác mà một thành viên của đội IT hoặc bảo mật phải tự thực hiện. LLMs cũng có thể cung cấp chức năng tiên tiến hơn. Ví dụ, một Microsoft Copilot cho Bảo mật có thể tạo báo cáo phân tích sự cố và dịch mã độc phức tạp thành mô tả ngôn ngữ tự nhiên.
• Học liên tục và điều chỉnh: Không giống như các hệ thống học máy trước đây cho chính sách và hiểu biết bảo mật, LLMs có thể học trên cơ sở dữ liệu bằng cách tiêu thụ xếp hạng của con người về phản hồi của nó và bằng cách điều chỉnh lại trên các tập dữ liệu mới có thể không được chứa trong các tệp nhật ký nội bộ. Trên thực tế, bằng cách sử dụng cùng một mô hình nền tảng cơ bản, LLMs bảo mật có thể được điều chỉnh cho các đội và nhu cầu, quy trình làm việc hoặc nhiệm vụ cụ thể theo khu vực hoặc theo chiều dọc. Điều này cũng có nghĩa là toàn bộ hệ thống có thể ngay lập tức thông minh như mô hình, với các thay đổi lan truyền nhanh chóng trên tất cả các giao diện.

Rủi ro của LLMs đối với bảo mật mạng

Là một công nghệ mới với lịch sử ngắn, LLMs có rủi ro nghiêm trọng. Worst, việc hiểu đầy đủ mức độ rủi ro này là thách thức vì đầu ra của LLMs không phải là 100% có thể dự đoán hoặc lập trình. Ví dụ, LLMs có thể “ảo giác” và tạo ra câu trả lời hoặc trả lời câu hỏi không chính xác, dựa trên dữ liệu tưởng tượng. Trước khi áp dụng LLMs cho các trường hợp sử dụng bảo mật, cần xem xét các rủi ro tiềm ẩn bao gồm:

• Tiêm lệnh: Các kẻ tấn công có thể tạo ra các lệnh độc hại cụ thể để tạo ra đầu ra sai hoặc có hại. Loại tấn công này có thể khai thác xu hướng của LLM tạo ra nội dung dựa trên lệnh nó nhận được. Trong các trường hợp sử dụng bảo mật, tiêm lệnh có thể rủi ro nhất dưới dạng tấn công từ bên trong hoặc tấn công bởi người dùng không được ủy quyền sử dụng lệnh để thay đổi vĩnh viễn đầu ra của hệ thống bằng cách làm sai lệch hành vi của mô hình. Điều này có thể tạo ra đầu ra không chính xác hoặc không hợp lệ cho các người dùng khác của hệ thống.
• Làm ô nhiễm dữ liệu: Dữ liệu đào tạo mà LLMs dựa vào có thể bị làm ô nhiễm một cách có chủ ý, làm suy yếu khả năng ra quyết định của chúng. Trong các môi trường bảo mật, nơi các tổ chức có thể sử dụng các mô hình được đào tạo bởi các nhà cung cấp công cụ, việc làm ô nhiễm dữ liệu có thể xảy ra trong quá trình điều chỉnh mô hình cho khách hàng và trường hợp sử dụng cụ thể. Rủi ro ở đây có thể là một người dùng không được ủy quyền thêm dữ liệu xấu – ví dụ, tệp nhật ký bị hỏng – để làm sai lệch quá trình đào tạo. Một người dùng được ủy quyền cũng có thể làm điều này vô tình. Kết quả sẽ là đầu ra của LLM dựa trên dữ liệu xấu.
• Ảo giác: Như đã đề cập trước đó, LLMs có thể tạo ra phản hồi không chính xác về mặt事 thực, illogical hoặc thậm chí có hại do hiểu lầm lệnh hoặc khiếm khuyết dữ liệu cơ bản. Trong các trường hợp sử dụng bảo mật, ảo giác có thể dẫn đến lỗi quan trọng làm tê liệt thông tin về mối đe dọa, phân loại và khắc phục lỗ hổng, và nhiều hơn nữa. Vì bảo mật là một hoạt động quan trọng, LLMs phải được giữ ở mức cao hơn về quản lý và ngăn chặn ảo giác trong những ngữ cảnh này.

Khi các hệ thống AI trở nên mạnh mẽ hơn, việc triển khai bảo mật thông tin của chúng đang mở rộng nhanh chóng. Để rõ ràng, nhiều công ty bảo mật đã sử dụng lâu dài việc khớp mẫu và học máy cho lọc động. Điều mới trong kỷ nguyên AI tạo ra là các LLM tương tác cung cấp một lớp thông minh trên các quy trình làm việc và hồ dữ liệu hiện có, lý tưởng là cải thiện hiệu quả và tăng cường khả năng của các đội bảo mật. Nói cách khác, GenAI có thể giúp các kỹ sư bảo mật làm được nhiều việc hơn với ít nỗ lực hơn và cùng tài nguyên, mang lại hiệu suất tốt hơn và quy trình được tăng tốc.