Trí tuệ nhân tạo đối đầu Trí tuệ nhân tạo: Hiện thực mới của An ninh mạng

Các cuộc tấn công mạng được hỗ trợ bởi trí tuệ nhân tạo đã đến, xác nhận những gì từng chỉ là một rủi ro lý thuyết nhưng được dự đoán trước, và chúng đang báo hiệu một kỷ nguyên mới trong cảnh quan mối đe dọa. Với các tác nhân trí tuệ nhân tạo hiện có thể khởi động các chiến dịch phức tạp, từ đầu đến cuối, trong vài phút, các tội phạm mạng có thể xác định và khai thác các điểm yếu của doanh nghiệp với tốc độ máy tính. Các quy tắc tham gia đã thay đổi: ngày hôm qua, các biện pháp phòng thủ mạng không còn theo kịp các cuộc tấn công được hỗ trợ bởi trí tuệ nhân tạo ngày hôm nay.

Khi trí tuệ nhân tạo tăng cường các mối đe dọa mạng, các doanh nghiệp cần triển khai các khả năng phòng thủ được hỗ trợ bởi trí tuệ nhân tạo của riêng họ để theo kịp về tốc độ, quy mô và độ chính xác. Hiện tại, các đối thủ mạng vẫn theo các chiến thuật, kỹ thuật và quy trình (TTPs) quen thuộc, nhưng trí tuệ nhân tạo đang tăng tốc và nâng cấp cuốn sách của họ. Hơn nữa, các mô hình trí tuệ nhân tạo của doanh nghiệp chính họ cũng là mục tiêu mới thông qua việc đầu độc mô hình và kỹ thuật xã hội do ngôn ngữ thúc đẩy, đòi hỏi các đội an ninh mạng phải bảo mật đúng cách các khả năng trí tuệ nhân tạo của họ. Do đó, an ninh mạng nên là một phần cốt lõi của chiến lược trí tuệ nhân tạo lớn hơn của một tổ chức.

Điều gì phân biệt các cuộc tấn công mạng được hỗ trợ bởi trí tuệ nhân tạo?

Trong một thế giới kỹ thuật số đã bão hòa bởi các nỗ lực xâm nhập mạng gần như không ngừng, rào cản gia nhập cho một tác nhân độc hại đã được giảm thiểu, làm tăng không chỉ số lượng mà còn cả độ phức tạp của các cuộc tấn công. Các cuộc tấn công được hỗ trợ bởi trí tuệ nhân tạo có thể tận dụng trí tuệ nhân tạo hoặc học máy (ML) để tự động hóa, tăng tốc hoặc nâng cao bất kỳ và mỗi giai đoạn của chu kỳ cuộc tấn công, từ trinh sát và thu thập thông tin đến khai thác và trích xuất dữ liệu nhạy cảm.

Sự phụ thuộc độc quyền vào các quy trình và công nghệ bảo mật hiện có mà không triển khai cùng công nghệ tiên tiến mà các đối thủ đang tận dụng cho phép đối thủ có được lợi thế gần như không thể theo kịp mà không có trí tuệ nhân tạo phòng thủ. Các tổ chức đã bị choáng ngợp bởi việc giám sát doanh nghiệp của họ từ các tác nhân mối đe dọa truyền thống. Các cuộc tấn công được hỗ trợ bởi trí tuệ nhân tạo sẽ làm trầm trọng thêm tình trạng kiệt sức cảnh báo. Điều này đòi hỏi một sự tiến hóa từ các quy trình được quản lý bởi con người sang một lực lượng lao động mạng con người và kỹ thuật số hỗn hợp.

Lập bản đồ mọi Tài sản Kỹ thuật số

Trong thế giới ngày nay, việc hiểu các điểm vào tiềm năng trên toàn môi trường doanh nghiệp là điều cần thiết, nhưng vẫn còn ngoài tầm với của nhiều doanh nghiệp lớn. Ngoài các hệ thống và tài sản kỹ thuật số là nhu cầu về một bản đồ toàn diện tất cả các danh tính và quyền truy cập trong một tổ chức. Danh tính kỹ thuật số, gắn các đặc điểm vật lý và hành vi với một cá nhân, được hiểu rõ với các điều khiển hiện có cần thiết để quản lý quyền truy cập kỹ thuật số.

Tuy nhiên, việc hiểu cảnh quan doanh nghiệp rộng lớn hơn của các danh tính phi con người (NHIs) là điều cần thiết để bảo mật tài sản kỹ thuật số. Việc nhận ra giá trị tiềm năng của trí tuệ nhân tạo trong một tổ chức có nghĩa là cung cấp cho các tác nhân trí tuệ nhân tạo quyền truy cập và cho phép họ tự động hoàn thành một quy trình kinh doanh. Giống như các môi trường đám mây của thời kỳ an ninh trước, các quy trình công việc được hỗ trợ bởi tác nhân ngày nay có thể được khởi động và chấm dứt NHIs với quy mô, đòi hỏi khả năng quản lý và theo dõi nơi chúng hoạt động trong môi trường và cách chúng thực hiện các nhiệm vụ hoặc vai trò dự kiến.

Các doanh nghiệp nên mở rộng quản lý danh tính trên toàn vòng đời danh tính tác nhân và theo dõi các hành động của tác nhân, giống như họ theo dõi quyền truy cập của người dùng con người ngày nay để phát hiện các hành vi rủi ro bên trong hoặc tài khoản bị xâm phạm bởi các tác nhân mối đe dọa. Khi các khả năng tác nhân trở nên tự chủ và thực hiện công việc kinh doanh quan trọng, việc hiểu footprint danh tính và mẫu truy cập của chúng trông như thế nào là điều quan trọng để thực hiện các điều khiển truy cập và giám sát cần thiết để bảo vệ chúng và doanh nghiệp khỏi lạm dụng.

Khóa Mô hình Trí tuệ nhân tạo

Các khả năng trí tuệ nhân tạo có tiềm năng mở khóa hiệu quả và năng suất nhưng cũng có khả năng bị sử dụng chống lại các tổ chức. Việc giới thiệu trí tuệ nhân tạo vào mọi khía cạnh của hoạt động kinh doanh không còn là “tốt” – nó là một yêu cầu cần thiết để thành công trong môi trường cạnh tranh ngày nay. Do đó, triển khai trí tuệ nhân tạo một cách bảo mật là một thành phần cần thiết để an toàn thực hiện toàn bộ tiềm năng kinh doanh và kết quả.

Sự chuyển đổi sang phòng thủ mạng được hỗ trợ bởi trí tuệ nhân tạo đang diễn ra, trong khi các mô hình trí tuệ nhân tạo chính chúng đã trở thành mục tiêu. Các đối thủ có thể cố gắng đầu độc dữ liệu cho các mô hình này và thao túng chúng để thực hiện các hành động không mong muốn hoặc thậm chí tiết lộ thông tin nhạy cảm.

Các cuộc tấn công đối thủ chống lại trí tuệ nhân tạo có thể đến dưới nhiều hình thức, chẳng hạn như các cuộc tấn công đầu độc, tiêm lệnh và các hình thức khác. Để bảo vệ trí tuệ nhân tạo khỏi sự thao túng tiềm năng, các tổ chức nên tận dụng triết lý “Thiết kế bảo mật” của Cơ quan An ninh và Cơ sở hạ tầng Kỹ thuật số (CISA). Điều này bắt đầu với dữ liệu cho quá trình đào tạo mô hình. Việc khóa các đầu vào sớm trong quá trình phát triển đặt nền tảng cho các đầu ra đáng tin cậy trong triển khai.

Việc hiểu các đầu vào đi vào việc phát triển các mô hình và khả năng là có thể thông qua quản lý dữ liệu có chủ đích cùng với kiểm soát quyền truy cập vào chính các mô hình. Các điều khiển quan trọng cho phép xác thực các đầu ra mong muốn đến dưới dạng kiểm soát mất dữ liệu (DLP); thực thi chính sách và an toàn; gắn với các nguồn có thể xác minh; và các điều khiển phê duyệt nghiêm ngặt cho các hành động có tác động cao, khả năng kiểm toán và thử nghiệm liên tục, bao gồm cả thử nghiệm thâm nhập vào các mô hình để tăng cường khả năng chống lại chúng.

Nhúng Trí tuệ nhân tạo vào Hoạt động An ninh

Cho đến nay, việc áp dụng trí tuệ nhân tạo vào phòng thủ mạng đã mang tính chiến thuật, với nhiều tổ chức gắn trí tuệ nhân tạo vào các quy trình con người tập trung vào di sản, thay vì suy nghĩ lại chiến lược về cách xây dựng các quy trình tập trung vào trí tuệ nhân tạo. Điều này giống như cố gắng gắn một động cơ V8 vào một chiếc xe đạp. Sự tiến hóa tiếp theo của việc hỗ trợ trí tuệ nhân tạo sẽ là thiết kế các quy trình từ đầu, với trí tuệ nhân tạo và tự động hóa bản địa trong thiết kế. Các phương pháp hoạt động an ninh đã được thử nghiệm và các quy trình quan trọng như phát hiện mối đe dọa, săn lùng mối đe dọa và kỹ thuật phát hiện vẫn là những mục quan trọng cần thiết cho an ninh tổ chức trong kỷ nguyên trí tuệ nhân tạo.

Hơn nữa, tự động hóa không phải là một khái niệm mới duy nhất cho sự xuất hiện của trí tuệ nhân tạo; các quy trình và công việc an ninh đã được tự động hóa trong nhiều năm, với các tổ chức trưởng thành có khả năng tự động hóa và điều phối rất tinh vi. Tuy nhiên, trí tuệ nhân tạo tăng cường tự động hóa dựa trên quy tắc hiện có và phát triển nó thêm, cho phép các quy trình công việc tự động động, thích ứng, phong phú và có ngữ cảnh có thể giúp giải quyết tốc độ và sự linh hoạt cần thiết cho các rủi ro trí tuệ nhân tạo mới nổi.

Điều gì tiếp theo?

An ninh mạng cần tiếp tục là ưu tiên hàng đầu cho kinh doanh và công nghệ thông tin để giữ tài sản và người dùng quan trọng an toàn khỏi khai thác độc hại. Trí tuệ nhân tạo được thiết kế bảo mật là một nhu cầu thiết yếu khi xem xét tốc độ mà các mô hình trí tuệ nhân tạo có thể được triển khai và yêu cầu thực hiện các hoạt động quan trọng. Các đội an ninh mạng nên suy nghĩ chiến lược về việc biến đổi các quy trình từ đầu để triển khai các khả năng trí tuệ nhân tạo mới một cách phù hợp và theo kịp trong trò chơi mèo và chuột an ninh mạng.

Các nhà lãnh đạo an ninh có thể thực hiện một số bước cụ thể trong thời gian tới: tiến hành một cuộc xem xét toàn diện các quy trình an ninh hiện tại để xác định các khoảng trống, cơ hội hiện đại hóa và các lĩnh vực sẵn sàng cho biến đổi. Hãy cập nhật các mối đe dọa, xu hướng và công nghệ trí tuệ nhân tạo mới nổi. Trên hết, hãy gắn bó với nguyên tắc an ninh cơ bản về phòng thủ theo chiều sâu đã chứng minh mình theo thời gian – bảo vệ theo lớp và xác thực từ danh tính, điểm cuối, mạng, dữ liệu, với khả năng giám sát và phản hồi mạnh mẽ luôn được kiểm tra.

Khả năng chuyển đổi của trí tuệ nhân tạo hứa hẹn quá nhiều lợi ích để từ chối việc áp dụng nó, và chiếc bình genie đã thoát ra khỏi chiếc lọ cho các tác nhân mối đe dọa. Do đó, vai trò của các nhà lãnh đạo an ninh trong kỷ nguyên tiếp theo vẫn giống như trước đây: hỗ trợ các tổ chức của họ trong việc đạt được các mục tiêu kinh doanh với sự giảm thiểu rủi ro có suy nghĩ – chỉ hiện tại với tốc độ máy tính bằng cách sử dụng trí tuệ nhân tạo.