Simon Edwards, Giám đốc Điều hành và Người sáng lập SE Labs – Loạt phỏng vấn

Simon Edwards, CEO và Người sáng lập SE Labs, là một chuyên gia kiểm thử an ninh mạng với hơn ba thập kỷ kinh nghiệm bao gồm nghiên cứu bảo mật, đánh giá sản phẩm, báo chí kỹ thuật và tiêu chuẩn ngành. Trước khi thành lập SE Labs vào năm 2015, Edwards điều hành Dennis Technology Labs, nơi ông dẫn dắt các sáng kiến kiểm thử bảo mật, và trước đó ông đã làm nhà báo công nghệ và biên tập viên trong nhiều năm. Ông cũng đã giữ các vị trí lãnh đạo cao cấp tại Anti-Malware Testing Standards Organization (AMTSO), bao gồm Chủ tịch, Giám đốc và Đồng Chủ tịch. Edwards đã kiểm thử các sản phẩm bảo mật từ giữa những năm 1990 và là người tiên phong trong các phương pháp kiểm thử phần mềm độc hại thực tế sớm, nhằm đánh giá cách các công nghệ bảo mật hoạt động trước các cuộc tấn công toàn diện, được truyền tải qua internet thay vì các mẫu phần mềm độc hại riêng lẻ.

SE Labs là một công ty độc lập về kiểm thử và tư vấn an ninh mạng, đánh giá cách các công nghệ bảo mật hoạt động trước các cuộc tấn công thực tế. Các nhà nghiên cứu của họ tái tạo các kỹ thuật tấn công qua toàn bộ chuỗi tấn công để đánh giá các sản phẩm bao gồm bảo vệ điểm cuối, Endpoint Detection and Response (EDR), dịch vụ bảo mật đám mây, tường lửa, bảo mật email và công nghệ phát hiện mạng. Bên cạnh các bài kiểm thử so sánh công khai, SE Labs cung cấp dịch vụ chứng nhận, kiểm thử bảo mật nâng cao, xác nhận sản phẩm và tư vấn cho doanh nghiệp và nhà cung cấp an ninh mạng. Công ty công bố các phương pháp kiểm thử và khung mô phỏng mối đe dọa, và đã được chứng nhận ISO/IEC 27001:2022 và BS EN ISO 9001:2015 cho việc cung cấp dịch vụ kiểm thử sản phẩm an ninh CNTT.

Sự nghiệp của bạn trải dài hơn ba thập kỷ trong lĩnh vực báo chí công nghệ, tư vấn bảo mật, kiểm thử độc lập và các vai trò lãnh đạo tại Anti-Malware Testing Standards Organization (AMTSO). Kinh nghiệm đó đã định hình cách bạn phân biệt những tiến bộ thực sự trong an ninh mạng dựa trên AI so với các công nghệ chủ yếu được định vị là “AI” vì mục đích tiếp thị như thế nào?\r\n

Báo chí đã dạy tôi cách đặt câu hỏi về các tuyên bố, trong khi kiểm thử độc lập dạy tôi rằng câu trả lời đáng tin cậy duy nhất đến từ bằng chứng. Các công ty an ninh mạng đã sử dụng học máy và quyết định tự động trong nhiều năm, vì vậy việc thêm “AI” vào tên sản phẩm không nhất thiết phản ánh một tiến bộ kỹ thuật.

Ba yếu tố cơ bản cần xem xét: AI thực sự đang làm gì? Nó cải thiện kết quả bảo mật đo lường được nào? Và một người kiểm thử độc lập có thể tái tạo được cải tiến đó không?

Nếu câu trả lời chỉ là sản phẩm phân tích một lượng lớn dữ liệu hoặc tự động hoá một quy trình hiện có, nhãn AI có thể chỉ là việc định vị hơn là khả năng thực tế.

Một tiến bộ thực sự hoạt động tốt trước các cuộc tấn công chưa quen hoặc mới hoàn toàn, cải thiện khả năng bảo vệ hoặc phản hồi, giảm gánh nặng cho các nhà phân tích, và thực hiện điều đó mà không gây ra rủi ro không chấp nhận được. Bất kỳ điều gì khác đều là không cải tiến hoặc thậm chí là suy giảm!

“AI-driven” đã trở thành một tuyên bố phổ biến trong các sản phẩm an ninh mạng. Những khả năng quan trọng nhất nào nên được kiểm thử độc lập trước khi một tổ chức chấp nhận rằng một nền tảng bảo mật dựa trên AI thực sự cung cấp những gì nhà cung cấp hứa hẹn?\r\n

Tôi sẽ không bắt đầu bằng việc kiểm thử xem một sản phẩm có chứa AI hay không. Tôi sẽ bắt đầu bằng việc kiểm thử các tuyên bố bảo mật được đưa ra cho nó. Tôi không quan tâm lắm cách sản phẩm hoạt động, miễn là nó hoạt động. Đây chính là mục tiêu của chương trình kiểm thử PIVOT, hiện đang nhận được nhiều sự chú ý trong ngành.

Cách kiểm thử này có nghĩa là đưa sản phẩm vào trước các cuộc tấn công toàn diện và đo lường cách nó phản hồi. Nó có thể sẽ phát hiện hoạt động và sau đó ngăn chặn cuộc tấn công tiếp tục. Điều này phụ thuộc vào cách sản phẩm được xây dựng và cấu hình, cũng như các tuyên bố tiếp thị mà nhà cung cấp đưa ra.

Chúng ta cũng cần xem xét câu chuyện điều tra được trình bày cho khách hàng. Hệ thống có hiểu những gì đã xảy ra, kết nối các sự kiện liên quan và làm cho bằng chứng hiển thị rõ ràng cho người phải hành động không?

Bài kiểm thử nên bao gồm các biến thể chưa quen, cấu hình khách hàng thực tế và hoạt động kinh doanh bình thường. Nó cũng phải đo lường các cảnh báo sai, yêu cầu tài nguyên và các hành động có thể được coi là tiềm ẩn nguy hiểm. Nếu hệ thống là tự động, chúng ta cần biết khi nào nó hành động, lý do hành động, quyền nào nó sử dụng và liệu các quyết định của nó có thể được đảo ngược hay không.

Chúng tôi đã thấy một vài câu chuyện trên tin tức về an ninh AI trở nên điên rồ, vượt quá giới hạn và thậm chí vi phạm pháp luật. Câu hỏi quan trọng không phải là nền tảng có vẻ thông minh hay không, mà là nó có tạo ra các kết quả bảo mật tốt hơn và an toàn hơn một cách nhất quán hay không.

Các tác nhân AI tự động có thể thực hiện các giai đoạn thăm dò, khai thác, di chuyển ngang và các giai đoạn khác của một cuộc tấn công nhanh hơn nhiều so với kẻ tấn công con người. Kiểm thử an ninh mạng cần thay đổi như thế nào khi các cuộc tấn công bắt đầu vận hành ở tốc độ máy?\r\n

Đơn vị kiểm thử cần chuyển từ kỹ thuật riêng lẻ sang toàn bộ chiến dịch hoạt động dưới áp lực thời gian. Ý tôi là, thay vì thử các cách tấn công khác nhau trong một buổi sáng hoặc một tuần, việc kiểm thử một số biện pháp bảo mật cần được thực hiện nhanh chóng. Nếu không, nó sẽ không thực tế, và tính thực tế là rất quan trọng.

Các bài kiểm tra truyền thống có thể để lại các khoảng trống tiện lợi giữa các giai đoạn để mỗi sự kiện có thể được xem xét riêng lẻ. Một kẻ tấn công tự động có thể nén giai đoạn thăm dò, khai thác và di chuyển ngang thành một khoảng thời gian ngắn hơn nhiều. Điều này có thể phơi bày các điểm yếu không hiển thị trong các bài kiểm tra chậm hơn, bao gồm độ trễ trong việc thu thập dữ liệu, hệ thống quá tải và các hành động phòng thủ chỉ xuất hiện sau khi cuộc tấn công đã đạt được mục tiêu.

Để đưa ra một ví dụ cực kỳ đơn giản, nếu chúng ta xâm nhập vào một máy Mac, tải xuống tất cả các tệp và đánh cắp mật khẩu tài khoản, thì điều đó không có nhiều ý nghĩa nếu phần mềm diệt virus chỉ hiện ra một ngày sau với tin xấu.

Do đó, việc kiểm tra phản hồi an ninh đối với các kẻ tấn công AI cần có công cụ đo lường độ phân giải cao và đo lường chính xác độ trễ phát hiện và phản hồi. Nó nên kiểm tra liệu hiệu suất có suy giảm khi khối lượng và tốc độ hoạt động tăng lên hay không, và liệu phòng thủ có thể can thiệp vào cuộc tấn công mà không phải chờ quyết định của con người ở mỗi giai đoạn.

Cuộc tấn công cũng có thể thích nghi với những gì nó phát hiện. Việc kiểm tra phải phản ánh điều này đồng thời bảo toàn dữ liệu thực tế, bằng chứng và khả năng tái diễn. Tốc độ máy móc không nên đồng nghĩa với việc bỏ qua phương pháp kiểm soát. Chúng ta cần tiếp tục thiết kế các bài kiểm tra có kiểm soát, có thể vận hành và đo lường các sự kiện với tốc độ tương đương hệ thống đang được đánh giá.

SE Labs sử dụng các kịch bản tấn công thực tế dựa trên chiến thuật và kỹ thuật của các nhóm mối đe dọa như Scattered Spider. Làm thế nào để bạn tái tạo những kẻ thù này trong một môi trường kiểm soát đồng thời đảm bảo rằng bài kiểm tra phản ánh cách một cuộc tấn công thực tế sẽ diễn ra thay vì chỉ kiểm tra dựa trên danh sách kiểm tra đã định trước?

Chúng tôi bắt đầu bằng các mục tiêu của kẻ thù, các hành vi đã biết và quyết định có khả năng xảy ra, thay vì coi các kỹ thuật của chúng như một danh sách mua sắm.

Bài kiểm tra tuân theo một chuỗi tấn công thực tế qua các giai đoạn thăm dò, truy cập ban đầu, thực thi, leo thang đặc quyền, hoạt động sau khi xâm nhập và di chuyển ngang. Điều quan trọng, người kiểm tra chỉ có thể sử dụng thông tin thực sự được phát hiện trong quá trình thăm dò và tấn công. Chúng tôi không cung cấp cho kẻ tấn công kiến thức mà trong một cuộc tấn công thực tế không có.

Kịch bản được giới hạn và kiểm soát cẩn thận, nhưng không chỉ là một chuỗi các nhấn nút đã định trước. Nếu một lộ trình bị chặn, kẻ tấn công có thể theo đuổi một phương án thay thế đáng tin cậy trong phạm vi quy tắc của bài kiểm tra. Điều này cho phép sản phẩm bảo mật ảnh hưởng đến cách kịch bản diễn ra.

Cùng lúc đó, mọi hành động và kết quả quan trọng đều được ghi lại để chúng tôi có thể giải thích kết quả và so sánh các sản phẩm một cách công bằng. Kiểm soát không nhất thiết phải nghĩa là kịch bản cứng nhắc. Nó nên nghĩa là an toàn, có thể quan sát và được hỗ trợ bởi bằng chứng.

Các sản phẩm an ninh mạng truyền thống thường được đánh giá mạnh mẽ dựa trên khả năng phát hiện các mối đe dọa. Tại sao các tổ chức ngày càng nên xem xét bảo vệ, kiềm chế và phản ứng sự cố khi đánh giá các hệ thống bảo mật dựa trên AI?

Phát hiện không đồng nghĩa với phòng thủ. Một nền tảng có thể tạo ra cảnh báo chính xác trong khi vẫn cho phép kẻ tấn công đạt được mục tiêu. Đó là lý do tại sao chương trình kiểm tra PIVOT bao gồm cả phát hiện và bảo vệ như các phần chung và riêng biệt của toàn bộ quá trình kiểm tra.

Bạn có thể so sánh việc phát hiện an ninh mạng với một camera CCTV. Nó nên phát hiện xâm nhập và cung cấp manh mối về những gì đã xảy ra, nhưng không thể ngăn chặn kẻ xâm nhập một cách vật lý. Bảo vệ an ninh mạng hoạt động tích cực hơn nhiều. Nó có thể đẩy ra hoặc vô hiệu hoá kẻ tấn công, ngăn ngừa thiệt hại.

Các tổ chức cần biết liệu sản phẩm có ngăn chặn hoạt động ban đầu, cắt đứt chuỗi tấn công, hạn chế di chuyển ngang, bảo vệ tài sản quan trọng và hỗ trợ khôi phục hay không. Nếu một cuộc tấn công thành công, các câu hỏi tiếp theo là nó đã được kiềm chế nhanh như thế nào và khách hàng có nhận được đủ thông tin đáng tin cậy để phản hồi hiệu quả không.

Điều này trở nên đặc biệt quan trọng với các hệ thống dựa trên AI vì, mặc dù chúng có thể tạo ra các bản tóm tắt rất thuyết phục về những gì đã xảy ra, một lời giải thích thuyết phục không thay thế được việc bảo vệ. Lời giải thích phải được hỗ trợ bởi bằng chứng và phải dẫn đến hành động thích hợp.

Do đó, chúng tôi đo lường phát hiện và bảo vệ riêng biệt. Chúng tôi cũng kiểm tra xem việc phát hiện được tuyên bố có thực sự hiển thị và hữu ích cho khách hàng hay không. Cuối cùng, giá trị của một hệ thống bảo mật nằm ở việc thay đổi kết quả của một cuộc tấn công, không chỉ đơn thuần là quan sát.

Khi các nền tảng bảo mật giới thiệu các tác nhân tự động có khả năng điều tra cảnh báo và thực hiện các hành động khắc phục, các phòng thí nghiệm độc lập nên kiểm tra toàn bộ quy trình làm việc giữa con người và AI như thế nào thay vì chỉ đánh giá công nghệ phát hiện nền tảng một cách riêng lẻ?

Bài kiểm tra nên theo dõi toàn bộ quy trình từ hoạt động độc hại đầu tiên đến kết quả bảo mật cuối cùng, có thể là cuộc tấn công bị ngăn chặn hoặc thành công hoàn toàn – hoặc ở mức nào đó ở giữa.

Chúng tôi cần xem xét những gì tác nhân quan sát, những gì nó kết luận, những gì nó đề xuất hoặc thực hiện, những gì người vận hành được hiển thị và cách người vận hành phản hồi (hoặc các tùy chọn được đưa ra). Điều này bao gồm chất lượng bằng chứng, độ rõ ràng của việc chuyển giao, thời gian cần thiết, số lần can thiệp và liệu con người có thể hiểu, thách thức hoặc đảo ngược quyết định của tác nhân hay không.

Các chế độ hoạt động khác nhau cũng quan trọng. Một tác nhân đề xuất hành động để được phê duyệt mang lại rủi ro khác so với tác nhân có thể tự động cô lập hệ thống, vô hiệu hoá tài khoản hoặc thay đổi các kiểm soát bảo mật.

Một hệ thống không thành công chỉ vì bộ phát hiện nền tảng của nó đã xác định được cuộc tấn công. Nếu nó tạo ra một hàng đợi không thể hiểu được, ẩn bằng chứng quan trọng, đề xuất phản hồi sai hoặc thực hiện một hành động gây gián đoạn, quy trình làm việc tổng thể đã thất bại. Kiểm tra độc lập nên đo lường hiệu suất kết hợp của công nghệ, các thành phần tự động và con người dự kiến sẽ sử dụng chúng.

Một rủi ro với các chuẩn bảo mật tiêu chuẩn là các nhà cung cấp có thể tối ưu hoá sản phẩm riêng cho bài kiểm tra. Làm thế nào để kiểm tra độc lập vẫn có thể tái tạo và công bằng đồng thời tạo ra đủ mức độ không dự đoán được để tiết lộ cách các sản phẩm hoạt động trước các cuộc tấn công chưa quen?\r\n

Tính tái tạo không yêu cầu cung cấp câu hỏi kỳ thi cho người tham gia trước.

Một bài kiểm tra đáng tin cậy nên công bố phương pháp, môi trường, nguyên tắc chấm điểm, cấu hình sản phẩm và yêu cầu bằng chứng. Các nhà cung cấp nên hiểu các quy tắc và có cơ hội công bằng để xác minh rằng sản phẩm của họ hoạt động đúng. Tuy nhiên, chiến dịch tấn công cụ thể, payload và một số đường tấn công nên được giữ bí mật cho đến khi bài kiểm tra được thực hiện.

Ví dụ, trong PIVOT chúng tôi không tiết lộ nhóm tấn công nào sẽ được sao chép cho đến khi quá trình kiểm tra hoàn tất. Các mục tiêu thực tế không nhận được cảnh báo trước khi cuộc tấn công bắt đầu!

Chúng tôi có thể kết hợp một lõi tiêu chuẩn, hỗ trợ so sánh theo thời gian, với các biến thể chưa quen để kiểm tra khả năng chung. Đặt chuẩn nền và một giai đoạn yên tĩnh ẩn có thể xác định cách sản phẩm hoạt động trước cuộc tấn công. Cấu hình sau đó cần được kiểm soát, nhật ký được bảo quản và bất kỳ tuyên bố nào đều được kiểm tra với bằng chứng của người kiểm tra.

Công bằng có nghĩa là áp dụng cùng một quy tắc và tiêu chuẩn bằng chứng cho mọi người tham gia. Nó không có nghĩa là lặp lại một cuộc tấn công một cách dự đoán được đến mức nhà cung cấp có thể nhận ra chuẩn thay vì nhận ra mối đe dọa.

Thêm nữa, sự minh bạch triệt để giúp các nhà cung cấp tái tạo các cuộc tấn công, điều này quan trọng nếu họ muốn khắc phục bất kỳ vấn đề nào gặp phải, chẳng hạn như không phát hiện hoặc không bảo vệ trước một mối đe dọa. SE Labs thực chất đào tạo khách hàng của mình khi họ gặp vấn đề.

Các tác nhân bảo mật tự động giới thiệu một loại rủi ro khác vì một quyết định sai có thể kích hoạt một hành động khắc phục không cần thiết hoặc thậm chí gây gián đoạn. Làm thế nào để kiểm tra đo lường các cảnh báo sai, lập luận không chính xác và các hành động tự động có thể gây hại cùng với độ chính xác phát hiện truyền thống?

Kiểm tra cảnh báo sai truyền thống chỉ là lớp đầu tiên. Với một tác nhân tự động, chúng ta cần phân biệt giữa cảnh báo sai, kết luận không được hỗ trợ và hành động không chính xác. Mỗi loại có tác động tiềm năng khác nhau.

Các bài kiểm tra nên đưa hệ thống vào tiếp xúc với hoạt động hợp pháp có hình dạng giống hành vi độc hại, cũng như bằng chứng không đầy đủ, mơ hồ hoặc gây hiểu lầm. Nếu tác nhân tiêu thụ nội dung không đáng tin, kiểm tra cũng nên xem xét liệu nội dung đó có thể ảnh hưởng không đúng đến quyết định của nó hay không.

Lập luận nên được đánh giá dựa trên việc kết luận có được hỗ trợ bởi bằng chứng sẵn có hay không, chứ không phải dựa trên mức độ hợp lý hay tự tin của lời giải thích. Đối với các hành động tự động, chúng ta nên đo lường phạm vi, tính tỷ lệ, việc sử dụng quyền, kiểm soát phê duyệt, khả năng kiểm toán và khả năng đảo ngược.

Điểm số phải phản ánh hậu quả. Một cảnh báo không cần thiết gây bất tiện; vô hiệu hoá một tài khoản quan trọng hoặc cô lập một hệ thống quan trọng có thể làm gián đoạn tổ chức. Do đó, một biện pháp an toàn hữu ích cần cân nhắc cả tần suất lỗi và thiệt hại mà mỗi lỗi có thể gây ra.

Mặc dù vậy, đôi khi khách hàng chọn một chính sách gây ra vấn đề. Điều này không nhất thiết là lỗi của nhà cung cấp bảo mật.

AI sinh tạo và các mô hình mã nguồn mở ngày càng mạnh mẽ đang hạ thấp rào cản tự động hoá các phần của quy trình tấn công. Bạn có kỳ vọng AI sẽ làm cho các cuộc tấn công mạng trở nên phức tạp hơn về cơ bản, hay mối nguy lớn hơn là kẻ tấn công sẽ chỉ đơn giản có thể hoạt động ở quy mô và tốc độ lớn hơn đáng kể?

Quan điểm của tôi là mối nguy cấp thiết hơn là quy mô, tốc độ và chi phí giảm.

AI có thể giúp kẻ tấn công thu thập thông tin, cá nhân hoá kỹ thuật xã hội, chỉnh sửa mã và điều phối các phần của một chiến dịch. Một số cuộc tấn công sẽ trở nên tinh vi hơn do đó, đặc biệt khi AI giúp kết nối các kỹ thuật hiện có hoặc điều chỉnh chúng cho một mục tiêu cụ thể. Nhưng AI không loại bỏ nhu cầu về quyền truy cập, chứng thực, lỗ hổng có thể khai thác hoặc sai lầm của người phòng thủ.

AI cũng không giỏi trong việc tạo ra các khai thác đáng tin cậy, điều này đã khó khăn ngay cả với một con người có kỹ năng. Vì vậy, theo quan điểm mạnh mẽ của tôi, điều này giảm khả năng các cuộc tấn công trở nên cơ bản hơn về mặt tinh vi.

Sự thay đổi lớn hơn là các hoạt động trước đây đòi hỏi thời gian, kỹ năng hoặc một đội ngũ người có thể được thực hiện nhanh hơn và trên nhiều mục tiêu hơn. AI có thể nâng cao năng lực của các kẻ tấn công trung bình trong khi cho phép những kẻ tấn công có khả năng thực hiện nhiều chiến dịch đồng thời.

Điều đó đáng chú ý ngay cả khi các kỹ thuật tấn công cơ bản không phải là cách mạng. Mối nguy không nhất thiết là một hình thức tấn công mạng hoàn toàn mới. Đó là những cuộc tấn công quen thuộc trở nên nhanh hơn, rẻ hơn, cá nhân hoá hơn và số lượng nhiều hơn rất nhiều.

Khi các tác nhân AI phòng thủ và tấn công trở nên tự chủ hơn, môi trường kiểm thử an ninh mạng đáng tin cậy sẽ cần trông như thế nào để bắt kịp? Liệu chúng ta có thể cuối cùng đạt đến một điểm mà các sản phẩm bảo mật cần được liên tục thách thức bởi các đối thủ AI thích nghi thay vì chỉ được đánh giá chủ yếu qua các bài kiểm tra an ninh định kỳ không?

Một môi trường đáng tin cậy sẽ cần giống một tổ chức sống động hơn là một tập hợp các mục tiêu cô lập. Nó nên bao gồm các điểm cuối, hệ thống danh tính, email, mạng, dịch vụ đám mây, người dùng thực tế và hoạt động kinh doanh bình thường. Nó cũng phải cung cấp công cụ đo lường đầy đủ để mọi quyết định và hậu quả có thể được tái tạo.

Các đối thủ thích nghi có thể được giao mục tiêu và ranh giới, sau đó được phép chọn lộ trình dựa trên những gì chúng khám phá và cách sản phẩm phòng thủ phản hồi. Bài kiểm tra vẫn cần các điều kiện khởi đầu được kiểm soát, mô tả đáng tin cậy về những gì thực sự đã xảy ra và khả năng phát lại các sự kiện quan trọng. Nếu thiếu những yếu tố này, việc kiểm tra thích nghi có thể trông ấn tượng nhưng lại yếu kém về mặt khoa học.

Tôi thực sự kỳ vọng việc kiểm tra sẽ trở nên liên tục hơn, đặc biệt khi các sản phẩm, mô hình và chính sách có thể thay đổi thường xuyên. Tuy nhiên, thách thức liên tục nên bổ trợ chứ không thay thế việc kiểm tra so sánh định kỳ. Các tổ chức cần cả hai: các chuẩn mực kiểm soát như PIVOT hỗ trợ trách nhiệm và so sánh, và việc đánh giá thích nghi liên tục để khám phá cách hệ thống hoạt động khi các mối đe dọa và chính các sản phẩm thay đổi.

Tôi nghĩ chúng ta nên lo lắng hơn về thực tế rằng những con người ít kỹ năng tương đối có thể xâm nhập hệ thống và mạng, hơn là các robot đang tạo ra thế hệ công nghệ tấn công mạng tiếp theo.

Cảm ơn vì buổi phỏng vấn tuyệt vời, những độc giả muốn tìm hiểu thêm nên truy cập SE Labs.