Sự Ra Đời Của Mô Hình Trí Tuệ Nhân Tạo Frontier: Những Điều Nó Nói Về Tương Lai Của Khám Phá Lỗ Hổng Bảo Mật

Khi Claude Mythos được công bố vào tháng 4, nó nhanh chóng trở thành một trong những chủ đề được bàn luận nhiều nhất trong lĩnh vực an ninh mạng về trí tuệ nhân tạo. Được phát triển bởi Anthropic, mô hình ngôn ngữ lớn mới này đã thể hiện khả năng vượt trội và khiến nhiều người phải chú ý đến những cảnh báo về việc an ninh mạng có thể đang bước vào một giai đoạn hỗn loạn chưa từng có.

Theo Anthropic, mô hình này có thể tự động khám phá ra một lượng lớn các lỗ hổng zero-day, được cho là đã tìm thấy các lỗi trong các hệ điều hành và trình duyệt lớn, bao gồm cả những lỗi đã không được phát hiện trong nhiều thập kỷ. Nó cũng có khả năng kết hợp các điểm yếu riêng lẻ thành các cuộc tấn công đa bước.

Tác động của nó đã trở nên đáng kể đến mức rằng, vào ngày 12 tháng 6, chính phủ Mỹ đã yêu cầu Anthropic đình chỉ tất cả việc truy cập vào công nghệ này cho bất kỳ công dân nước ngoài nào trên toàn thế giới, bao gồm cả nhân viên Anthropic là công dân nước ngoài. Điều này được coi là một phản ứng đối với những lo ngại rằng khả năng tấn công của trí tuệ nhân tạo có thể đã đạt đến mức mà việc truy cập không bị hạn chế có thể tạo ra những rủi ro không thể chấp nhận được, thậm chí là không thể kiểm soát.

Theo Dự án Glasswing, chương trình tiết lộ và khắc phục của Anthropic, việc truy cập hiện đang bị hạn chế đối với khoảng 50 tổ chức, bao gồm AWS, Apple, Google, Microsoft, CrowdStrike, Cisco và Quỹ Linux, cùng với một số tổ chức khác. Những doanh nghiệp này đã được cấp một khoảng thời gian để vá các hệ thống quan trọng trước khi các lỗ hổng được phát hiện bởi Mythos được công bố công khai từ tháng 7 trở đi. Tại thời điểm đó, ngành công nghiệp thực sự bước vào một lãnh thổ mới.

Vượt Qua Ranh Giới

Nhiều người sẽ đồng ý rằng sự ra đời của các mô hình trí tuệ nhân tạo frontier có nghĩa là ranh giới an ninh mạng đã được vượt qua. Và hãy rõ ràng: vấn đề cốt lõi không nhất thiết là sự xuất hiện của một mô hình cụ thể, mà là khả năng (hoặc thậm chí là sự chắc chắn) rằng việc khám phá lỗ hổng và phát triển khai thác có thể đang bước vào một kỷ nguyên mới, với trí tuệ nhân tạo có thể hoạt động ở quy mô và tốc độ vượt quá khả năng của các nhà nghiên cứu con người.

Nếu điều đó được chứng minh là đúng, thì các ý nghĩa sẽ mở rộng ra ngoài các lỗ hổng cụ thể; chúng ảnh hưởng đến những giả định mà trên đó các quy trình quản lý và khắc phục lỗ hổng truyền thống đã được xây dựng. Cụ thể, các quy trình quản lý lỗ hổng hiện tại đã được phát triển trong một thời kỳ mà các nhà nghiên cứu con người hạn chế tốc độ khám phá. Trí tuệ nhân tạo có tiềm năng thay đổi cơ bản phương trình đó.

Một trong những hệ quả có thể là sự gia tăng mạnh mẽ về số lượng lỗ hổng进入 hệ thống an ninh mạng. Số lượng CVE đã tăng mạnh trong những năm gần đây, và các đội an ninh mạng đã bị đặt dưới áp lực ngày càng tăng ngay trước khi tác động đầy đủ của các mô hình trí tuệ nhân tạo frontier được cảm nhận.

Trong bối cảnh này, việc khám phá lỗ hổng bản thân có thể không còn là yếu tố hạn chế. Thay vào đó, nút thắt chuyển sang việc phân loại và khắc phục. Thách thức được tăng cường bởi thực tế rằng thời gian khai thác đã được rút ngắn trong nhiều năm, và trong một số trường hợp, các cuộc khai thác hiện xuất hiện trước khi các bản vá được phát hành, khiến các tổ chức có rất ít thời gian để phản ứng.

Sự Chuẩn Bị Hoạt Động Trở Thành Ưu Tiên

Vậy, một cách tiếp cận cập nhật, phù hợp với mục đích đối với quản lý lỗ hổng thực sự trông như thế nào? Trước hết, nó cần được coi là một khả năng hoạt động liên tục vì, như nó đứng, khoảng thời gian giữa việc khám phá và triển khai bản vá thường quá chậm. Các đội an ninh mạng cần hiểu những lỗ hổng nào thực sự có thể bị khai thác và những hệ thống nào bị ảnh hưởng.

Khi số lượng phát hiện tăng lên và thời gian khai thác giảm xuống, việc hoạt động hóa trí tuệ nhân tạo cho an ninh mạng sẽ trở nên thiết yếu. Các đội tận dụng các khả năng phát hiện tiên tiến của trí tuệ nhân tạo (trong khi quản lý chi phí token) và tự động hóa việc phát hiện, phân loại và khắc phục sẽ được đặt ở vị trí tốt nhất để giảm thiểu thời gian暴露 và tác động tiêu cực đến kinh doanh. Điều này không phải là về việc khám phá ra nhiều lỗ hổng nhất; nó là về việc xác định và khắc phục các vấn đề quan trọng nhất một cách nhanh chóng.

Thứ hai và quan trọng hơn, các mô hình trí tuệ nhân tạo frontier) là công cụ cho phòng thủ mạng. Các thành viên của Glasswing có thể sử dụng các mô hình để phát hiện và sửa chữa các lỗ hổng chưa được phát hiện trước đây, lý tưởng là có quyền truy cập sớm để có lợi thế hơn những kẻ tấn công khi họ cuối cùng cũng có quyền truy cập vào các khả năng của trí tuệ nhân tạo frontier. Các mô hình trí tuệ nhân tạo frontier là một công cụ phát hiện có giá trị; tuy nhiên, chúng không tự động giải quyết các khía cạnh hoạt động của việc quản lý quét trí tuệ nhân tạo (cái gì cần được quét, khi nào, làm thế nào để sắp xếp quét, làm thế nào để xử lý các phát hiện, làm thế nào để quản lý chi phí token, v.v.). Dù sử dụng mô hình nào (và chúng sẽ tốt hơn theo thời gian), các đội an ninh mạng cần phải có khả năng hoạt động hóa các khả năng của trí tuệ nhân tạo frontier cho an ninh mạng nhanh hơn những kẻ tấn công có thể tận dụng các khả năng này cho việc khai thác.

Thách thức lâu dài mà các tổ chức phải đối mặt do đó không phải là chuẩn bị cho một mô hình duy nhất hoặc một làn sóng tiết lộ cụ thể, mà là liệu các mô hình hoạt động hiện có có thể thích nghi với một thế giới nơi các lỗ hổng được khám phá và vũ khí hóa với tốc độ chưa từng có. Nếu sai, các tổ chức sẽ phải đối mặt với một thế giới đầy rắc rối.