Đấu tranh với AI bằng AI trong Phong cảnh Đe dọa Hiện đại

Nó không phải là tin tức nóng hổi khi nói rằng AI đã thay đổi đáng kể ngành công nghiệp an ninh mạng. Cả kẻ tấn công và đội phòng thủ đều đang chuyển sang trí tuệ nhân tạo để nâng cao khả năng của họ, mỗi bên đều cố gắng ở một bước trước đối thủ. Trò chơi mèo và chuột này không có gì mới—kẻ tấn công đã cố gắng đánh lừa đội an ninh trong nhiều thập kỷ—nhưng sự xuất hiện của trí tuệ nhân tạo đã giới thiệu một yếu tố mới (và thường khó dự đoán) vào động lực. Kẻ tấn công trên toàn cầu đang vui mừng khi có thể tận dụng công nghệ này để phát triển các phương pháp tấn công mới, chưa từng thấy.

Ít nhất, đó là nhận thức. Nhưng thực tế thì khác một chút. Trong khi kẻ tấn công đang ngày càng tận dụng AI, họ chủ yếu sử dụng nó để tăng quy mô và phức tạp của các cuộc tấn công, tinh chỉnh cách tiếp cận các chiến thuật hiện có thay vì phá vỡ những điều mới mẻ. Tư duy ở đây rất rõ ràng: tại sao phải mất thời gian và công sức để phát triển các phương pháp tấn công của ngày mai khi đội phòng thủ đã gặp khó khăn trong việc ngăn chặn các cuộc tấn công của ngày hôm nay? May mắn thay, các đội an ninh hiện đại đang tận dụng các khả năng AI của riêng họ—nhiều trong số đó đang giúp phát hiện malware, các cuộc tấn công lừa đảo và các chiến thuật tấn công phổ biến khác với tốc độ và độ chính xác cao hơn. Khi “cuộc đua vũ trang AI” giữa kẻ tấn công và đội phòng thủ tiếp tục, nó sẽ ngày càng quan trọng đối với các đội an ninh để hiểu cách đối thủ thực sự triển khai công nghệ này—và đảm bảo rằng nỗ lực của họ được tập trung vào đúng nơi.

Kẻ tấn công đang tận dụng AI như thế nào

Ý tưởng về một AI bán tự động được triển khai để tấn công có hệ thống vào các biện pháp phòng thủ của một tổ chức là một ý tưởng đáng sợ, nhưng (hiện tại) nó vẫn còn trong thế giới của các tiểu thuyết khoa học viễn tưởng. Thực tế là AI đã phát triển với tốc độ đáng kinh ngạc trong vài năm qua, nhưng chúng ta vẫn còn xa so với loại trí tuệ nhân tạo tổng quát (AGI) có thể mô phỏng hoàn hảo các mẫu suy nghĩ và hành vi của con người. Đó không phải là nói rằng AI hiện tại không ấn tượng—chắc chắn nó rất ấn tượng. Nhưng các công cụ AI tạo sinh và mô hình ngôn ngữ lớn (LLM) hiệu quả nhất khi tổng hợp thông tin từ tài liệu hiện có và tạo ra các thay đổi nhỏ, lặp lại. Nó không thể tạo ra điều gì hoàn toàn mới một mình—nhưng hãy tin tôi, khả năng tổng hợp và lặp lại là vô cùng hữu ích.

Trong thực tế, điều này có nghĩa là thay vì phát triển các phương pháp tấn công mới, đối thủ có thể tăng cường các phương pháp hiện có. Sử dụng AI, một kẻ tấn công có thể gửi hàng triệu email lừa đảo, thay vì hàng nghìn. Họ cũng có thể sử dụng một LLM để tạo ra một thông điệp lừa đảo hơn, lừa được nhiều người nhận vào việc nhấp vào một liên kết độc hại hoặc tải xuống một tệp chứa malware. Các chiến thuật như lừa đảo基本 là một trò chơi số: đa số mọi người sẽ không bị lừa bởi một email lừa đảo, nhưng nếu hàng triệu người nhận được nó, ngay cả một tỷ lệ thành công 1% cũng có thể dẫn đến hàng nghìn nạn nhân mới. Nếu LLM có thể tăng tỷ lệ thành công 1% lên 2% hoặc nhiều hơn, những kẻ lừa đảo có thể tăng gấp đôi hiệu quả của các cuộc tấn công của họ mà không cần phải cố gắng nhiều. Điều tương tự cũng áp dụng cho malware: nếu các thay đổi nhỏ đối với mã malware có thể hiệu quả che giấu nó khỏi các công cụ phát hiện, kẻ tấn công có thể đạt được nhiều hơn từ một chương trình malware riêng lẻ trước khi họ cần chuyển sang điều gì đó mới.

Yếu tố khác ở đây là tốc độ. Bởi vì các cuộc tấn công dựa trên AI không bị giới hạn bởi con người, chúng có thể thường thực hiện một chuỗi tấn công hoàn chỉnh với tốc độ nhanh hơn nhiều so với một vận hành viên con người. Điều đó có nghĩa là một kẻ tấn công có thể潜入 vào một mạng và đến được “ngọc quý” của nạn nhân—dữ liệu nhạy cảm hoặc quý giá nhất của họ—trước khi đội an ninh thậm chí nhận được cảnh báo, chứ chưa nói đến việc phản ứng lại nó. Nếu kẻ tấn công có thể di chuyển nhanh hơn, họ không cần phải cẩn thận—điều đó có nghĩa là họ có thể thực hiện các hoạt động ồn ào, gây gián đoạn hơn mà không bị ngăn chặn. Họ không nhất thiết phải làm điều gì mới ở đây, nhưng bằng cách thúc đẩy các cuộc tấn công của họ nhanh hơn, họ có thể vượt qua các biện pháp phòng thủ của mạng một cách có thể thay đổi trò chơi.

Đây là chìa khóa để hiểu cách kẻ tấn công đang tận dụng AI. Các cuộc tấn công lừa đảo và chương trình malware đã là các vector tấn công thành công—nhưng bây giờ đối thủ có thể làm cho chúng trở nên hiệu quả hơn, triển khai chúng nhanh hơn và hoạt động ở quy mô lớn hơn. Thay vì chống lại hàng chục nỗ lực mỗi ngày, các tổ chức có thể phải chống lại hàng trăm, hàng nghìn hoặc thậm chí hàng chục nghìn cuộc tấn công nhanh chóng. Và nếu họ không có giải pháp hoặc quy trình để nhanh chóng phát hiện các cuộc tấn công, xác định những cuộc tấn công nào đại diện cho các mối đe dọa thực sự và hiệu quả khắc phục chúng, họ sẽ để mình dễ bị tổn thương trước kẻ tấn công. Thay vì tự hỏi làm thế nào kẻ tấn công có thể tận dụng AI trong tương lai, các tổ chức nên tận dụng các giải pháp an ninh dựa trên AI của riêng họ với mục tiêu xử lý các phương pháp tấn công hiện có ở quy mô lớn hơn.

Chuyển AI sang Lợi thế của Đội An ninh

Các chuyên gia an ninh ở mọi cấp độ của cả doanh nghiệp và chính phủ đang tìm cách tận dụng AI cho mục đích phòng thủ. Vào tháng 8, Cơ quan Nghiên cứu và Phát triển Quốc phòng Hoa Kỳ (DARPA) đã công bố các thí sinh lọt vào chung kết cho Thử thách AI gần đây (AIxCC), trao giải thưởng cho các nhóm nghiên cứu an ninh đang làm việc để đào tạo LLM để xác định và sửa lỗi các lỗ hổng dựa trên mã. Thử thách này được hỗ trợ bởi các nhà cung cấp AI lớn, bao gồm Google, Microsoft và OpenAI, tất cả đều cung cấp hỗ trợ công nghệ và tài chính cho những nỗ lực này để tăng cường an ninh dựa trên AI. Tất nhiên, DARPA chỉ là một ví dụ—bạn hầu như không thể đi đến Thung lũng Silicon mà không gặp một tá người sáng lập startup sẵn sàng kể cho bạn nghe về các giải pháp an ninh dựa trên AI tiên tiến mới của họ. Điều đủ nói, tìm cách tận dụng AI cho mục đích phòng thủ là ưu tiên hàng đầu cho các tổ chức thuộc mọi loại và quy mô.

nhưng giống như kẻ tấn công, các đội an ninh thường tìm thấy thành công nhất khi họ sử dụng AI để khuếch đại khả năng hiện có của mình. Với các cuộc tấn công xảy ra ở quy mô ngày càng tăng, các đội an ninh thường bị kéo giãn mỏng—cả về thời gian và tài nguyên—làm cho nó khó khăn để xác định, điều tra và khắc phục mọi cảnh báo an ninh bật lên. Đơn giản là không có thời gian. Các giải pháp AI đang đóng vai trò quan trọng trong việc giảm bớt thách thức này bằng cách cung cấp khả năng phát hiện và phản hồi tự động. Nếu có một điều mà AI giỏi, đó là xác định các mẫu—và điều đó có nghĩa là các công cụ AI rất giỏi trong việc nhận ra hành vi bất thường, đặc biệt là nếu hành vi đó phù hợp với các mẫu tấn công đã biết. Bởi vì AI có thể xem xét một lượng lớn dữ liệu nhanh hơn nhiều so với con người, điều này cho phép các đội an ninh tăng quy mô hoạt động của họ theo cách đáng kể. Trong nhiều trường hợp, các giải pháp này thậm chí có thể tự động hóa các quy trình khắc phục cơ bản, chống lại các cuộc tấn công cấp thấp mà không cần can thiệp của con người. Họ cũng có thể được sử dụng để tự động hóa quá trình xác thực an ninh, liên tục kiểm tra và kiểm tra các biện pháp phòng thủ của mạng để đảm bảo chúng hoạt động như dự kiến.

Cũng quan trọng là lưu ý rằng AI không chỉ cho phép các đội an ninh xác định hoạt động tấn công tiềm năng nhanh hơn—nó cũng cải thiện đáng kể độ chính xác của họ. Thay vì theo đuổi các báo động giả, các đội an ninh có thể tự tin rằng khi một giải pháp AI cảnh báo họ về một cuộc tấn công tiềm năng, nó xứng đáng với sự chú ý ngay lập tức của họ. Đây là một yếu tố của AI mà không được nói đến nhiều—trong khi nhiều cuộc thảo luận tập trung vào AI “thay thế” con người và lấy đi việc làm của họ, thực tế là các giải pháp AI đang cho phép con người thực hiện công việc của mình tốt hơn và hiệu quả hơn, đồng thời giảm bớt sự kiệt sức mà việc thực hiện các nhiệm vụ繁瑣 và lặp đi lặp lại liên quan. Thay vì có tác động tiêu cực đến các vận hành viên con người, các giải pháp AI đang xử lý nhiều “công việc bận rộn” được nhận thức liên quan đến các vị trí an ninh, cho phép con người tập trung vào các nhiệm vụ thú vị và quan trọng hơn. Tại một thời điểm khi kiệt sức đang ở mức cao nhất và nhiều doanh nghiệp đang vật lộn để thu hút nhân tài an ninh mới, việc cải thiện chất lượng cuộc sống và sự hài lòng trong công việc có thể có tác động tích cực lớn.

Đây là lợi thế thực sự cho các đội an ninh. Không chỉ các giải pháp AI có thể giúp họ tăng quy mô hoạt động để chống lại kẻ tấn công tận dụng các công cụ AI của riêng họ—họ có thể giữ cho các chuyên gia an ninh hạnh phúc hơn và hài lòng hơn trong vai trò của họ. Đó là một giải pháp thắng-win hiếm hoi cho mọi người tham gia, và nó nên giúp các doanh nghiệp hiện đại nhận ra rằng thời gian để đầu tư vào các giải pháp an ninh dựa trên AI là bây giờ.

CUộc đua vũ trang AI mới chỉ bắt đầu

Cuộc đua để áp dụng các giải pháp AI đang diễn ra, với cả kẻ tấn công và đội phòng thủ tìm cách tận dụng công nghệ này để có lợi thế. Khi kẻ tấn công sử dụng AI để tăng tốc độ, quy mô và phức tạp của các cuộc tấn công, các đội an ninh sẽ cần phải chống lại lửa bằng lửa, sử dụng các công cụ AI của riêng họ để cải thiện tốc độ và độ chính xác của khả năng phát hiện và khắc phục của họ. May mắn thay, các giải pháp AI đang cung cấp thông tin quan trọng cho các đội an ninh, cho phép họ kiểm tra và đánh giá hiệu quả của các giải pháp của riêng họ trong khi cũng giải phóng thời gian và tài nguyên cho các nhiệm vụ quan trọng hơn. Không có sự nhầm lẫn, cuộc đua vũ trang AI mới chỉ bắt đầu—nhưng thực tế là các chuyên gia an ninh đã sử dụng AI để ở một bước trước kẻ tấn công là một dấu hiệu rất tốt.