David Kellerman, Field CTO tại Cymulate – Loạt phỏng vấn

David Kellerman là Field CTO tại Cymulate, và là một chuyên gia kỹ thuật cao cấp đối mặt với khách hàng trong lĩnh vực thông tin và an ninh mạng. David dẫn dắt khách hàng đến thành công và tiêu chuẩn an ninh cao.

Cymulate là một công ty an ninh mạng cung cấp xác thực lộ diện mối đe dọa cho các tổ chức muốn đóng các lỗ hổng an ninh trước khi các kẻ tấn công khai thác chúng. Nền tảng của công ty cho phép các tổ chức tạo cơ sở an ninh và tăng cường khả năng chống chịu mạng thông qua việc khám phá, xác thực, ưu tiên và khắc phục các điểm yếu an ninh một cách liên tục. Thông qua tự động hóa và trí tuệ nhân tạo, Cymulate cung cấp các công cụ kiểm tra an ninh tấn công tiên tiến để xác thực các biện pháp kiểm soát, mối đe dọa và đường tấn công. Là một nền tảng mở, Cymulate tích hợp với các hạ tầng an ninh và CNTT hiện có để thúc đẩy quy trình quản lý lộ diện và cải thiện các biện pháp phòng thủ theo thời gian thực. Bằng cách cung cấp Mô phỏng Tấn công và Xâm nhập (BAS), quản lý lộ diện và quản lý tư thế an ninh, Cymulate giúp các doanh nghiệp xác định các điểm yếu.

Điều gì bạn coi là động lực chính đằng sau sự gia tăng của các mối đe dọa an ninh mạng liên quan đến AI vào năm 2025?

Các mối đe dọa an ninh mạng liên quan đến AI đang gia tăng do sự dễ tiếp cận của AI. Các kẻ tấn công hiện có thể tiếp cận các công cụ AI giúp họ lặp lại mã độc, tạo ra các email lừa đảo đáng tin cậy hơn và tăng quy mô tấn công của họ. Những chiến thuật này không phải là “mới”, nhưng tốc độ và độ chính xác mà chúng được triển khai đã thêm đáng kể vào danh sách dài các mối đe dọa mạng mà các đội an ninh cần giải quyết. Các tổ chức vội vàng triển khai công nghệ AI, trong khi không hiểu đầy đủ rằng các biện pháp kiểm soát an ninh cần được áp dụng xung quanh nó, để đảm bảo nó không bị khai thác dễ dàng bởi các kẻ tấn công.

Có những ngành hoặc lĩnh vực cụ thể nào dễ bị tổn thương bởi các mối đe dọa liên quan đến AI này, và tại sao?

Các ngành luôn chia sẻ dữ liệu qua các kênh giữa nhân viên, khách hàng hoặc khách hàng dễ bị tổn thương bởi các mối đe dọa liên quan đến AI vì AI đang giúp các kẻ tấn công tham gia vào các kế hoạch lừa đảo xã hội thuyết phục hơn. Các cuộc tấn công lừa đảo hiệu quả là một trò chơi số, và nếu các kẻ tấn công có thể gửi nhiều email lừa đảo đáng tin cậy hơn đến nhiều người nhận, tỷ lệ thành công của họ sẽ tăng đáng kể. Các tổ chức phơi bày các dịch vụ AI của họ với công chúng có thể mời các kẻ tấn công cố gắng khai thác nó. Mặc dù đó là một rủi ro kế thừa khi đưa dịch vụ ra công chúng, nhưng điều quan trọng là phải làm đúng.

Điều gì là điểm yếu chính mà các tổ chức phải đối mặt khi sử dụng các mô hình ngôn ngữ lớn công khai cho các chức năng kinh doanh?

Rò rỉ dữ liệu có lẽ là mối quan ngại hàng đầu. Khi sử dụng một mô hình ngôn ngữ lớn công khai, rất khó để nói chắc chắn dữ liệu sẽ đi đến đâu – và điều cuối cùng bạn muốn làm là vô tình tải lên thông tin nhạy cảm đến một công cụ AI công khai có thể truy cập được. Nếu bạn cần phân tích dữ liệu bí mật, hãy giữ nó trong nhà. Đừng dựa vào các mô hình ngôn ngữ lớn công khai có thể sẽ rò rỉ dữ liệu đó đến internet rộng lớn hơn.

Làm thế nào các doanh nghiệp có thể bảo mật dữ liệu nhạy cảm một cách hiệu quả khi thử nghiệm hoặc triển khai các hệ thống AI trong sản xuất?

Khi thử nghiệm các hệ thống AI trong sản xuất, các tổ chức nên áp dụng một tư duy tấn công (ngược lại với tư duy phòng thủ). Điều đó có nghĩa là các đội an ninh nên chủ động kiểm tra và xác thực an ninh của các hệ thống AI, thay vì phản ứng với các mối đe dọa đến. Việc theo dõi liên tục các cuộc tấn công và xác thực các hệ thống an ninh có thể giúp đảm bảo dữ liệu nhạy cảm được bảo vệ và các giải pháp an ninh đang hoạt động như dự kiến.

Làm thế nào các tổ chức có thể chủ động phòng thủ chống lại các cuộc tấn công được thúc đẩy bởi AI đang liên tục phát triển?

Mặc dù các kẻ tấn công đang sử dụng AI để phát triển các mối đe dọa của họ, nhưng các đội an ninh cũng có thể sử dụng AI để cập nhật các công cụ mô phỏng xâm nhập và tấn công (BAS) của họ để đảm bảo họ được bảo vệ chống lại các mối đe dọa mới nhất. Các công cụ như nguồn cấp dữ liệu mối đe dọa hàng ngày của Cymulate tải các mối đe dọa mới nhất vào phần mềm mô phỏng xâm nhập và tấn công của Cymulate hàng ngày để đảm bảo các đội an ninh đang xác thực an ninh mạng của tổ chức họ chống lại các mối đe dọa mới nhất. AI có thể giúp tự động hóa các quy trình như vậy, cho phép các tổ chức vẫn linh hoạt và sẵn sàng đối mặt với thậm chí các mối đe dọa mới nhất.

Vai trò của các nền tảng xác thực an ninh tự động, như Cymulate, là gì trong việc giảm thiểu các rủi ro do các mối đe dọa mạng được thúc đẩy bởi AI gây ra?

Các nền tảng xác thực an ninh tự động có thể giúp các tổ chức ở trên đỉnh của các mối đe dọa mạng được thúc đẩy bởi AI đang phát triển thông qua các công cụ nhằm xác định, xác thực và ưu tiên các mối đe dọa. Với AI đóng vai trò là một nhân tố nhân lên cho các kẻ tấn công, điều quan trọng là không chỉ phát hiện các điểm yếu tiềm năng trong mạng và hệ thống của bạn, mà còn xác thực những điểm yếu nào thực sự đe dọa đến tổ chức. Chỉ sau đó, các điểm yếu mới có thể được ưu tiên một cách hiệu quả, cho phép các tổ chức giảm thiểu các mối đe dọa nguy hiểm nhất trước khi chuyển sang các vấn đề ít quan trọng hơn. Các kẻ tấn công đang sử dụng AI để thăm dò các môi trường kỹ thuật số để tìm kiếm các điểm yếu tiềm năng trước khi phát động các cuộc tấn công được tùy chỉnh cao, điều đó có nghĩa là khả năng giải quyết các điểm yếu nguy hiểm một cách tự động và hiệu quả chưa bao giờ quan trọng hơn.

Làm thế nào các doanh nghiệp có thể tích hợp các công cụ mô phỏng xâm nhập và tấn công để chuẩn bị cho các cuộc tấn công được thúc đẩy bởi AI?

Phần mềm mô phỏng xâm nhập và tấn công là một yếu tố quan trọng của quản lý lộ diện, cho phép các tổ chức tạo ra các kịch bản tấn công thực tế mà họ có thể sử dụng để xác thực các biện pháp kiểm soát an ninh chống lại các mối đe dọa đang phát triển. Thông tin tình báo mối đe dọa mới nhất và nghiên cứu chính từ Nhóm Nghiên cứu Mối đe dọa Cymulate (kết hợp với thông tin về các mối đe dọa mới và các mô phỏng mới) được áp dụng hàng ngày cho công cụ mô phỏng xâm nhập và tấn công của Cymulate, cảnh báo các nhà lãnh đạo an ninh nếu một mối đe dọa mới không bị chặn hoặc phát hiện bởi các biện pháp kiểm soát an ninh hiện có. Với mô phỏng xâm nhập và tấn công, các tổ chức cũng có thể tùy chỉnh các mô phỏng được thúc đẩy bởi AI cho các môi trường và chính sách an ninh độc đáo của họ với một khuôn khổ mở để tạo và tự động hóa các chiến dịch và kịch bản tấn công tiên tiến.

Điều gì là ba khuyến nghị hàng đầu bạn sẽ đưa ra cho các đội an ninh để ở trên đỉnh của các mối đe dọa mới này?

Các mối đe dọa đang trở nên phức tạp hơn mỗi ngày. Các tổ chức không có một chương trình quản lý lộ diện hiệu quả sẽ rủi ro rơi lại phía sau, vì vậy khuyến nghị đầu tiên của tôi sẽ là triển khai một giải pháp cho phép tổ chức ưu tiên các điểm yếu của họ. Tiếp theo, đảm bảo rằng giải pháp quản lý lộ diện bao gồm các khả năng mô phỏng xâm nhập và tấn công cho phép đội an ninh mô phỏng các mối đe dọa mới (bao gồm cả AI) để đo lường hiệu suất của các biện pháp kiểm soát an ninh của tổ chức. Cuối cùng, tôi sẽ khuyến nghị tận dụng tự động hóa để đảm bảo rằng xác thực và thử nghiệm có thể diễn ra trên cơ sở liên tục, không chỉ trong các đánh giá định kỳ. Với cảnh quan mối đe dọa thay đổi từng phút, điều quan trọng là phải có thông tin cập nhật. Dữ liệu mối đe dọa từ quý trước đã trở nên lỗi thời.

Các phát triển trong công nghệ AI trong năm năm tới có thể làm trầm trọng thêm hoặc giảm thiểu các rủi ro an ninh mạng như thế nào?

Nhiều thứ sẽ phụ thuộc vào việc AI tiếp tục được tiếp cận như thế nào. Hiện tại, các kẻ tấn công cấp thấp có thể sử dụng các khả năng AI để nâng cao và tăng quy mô các cuộc tấn công của họ, nhưng họ không tạo ra các chiến thuật mới chưa từng có – họ chỉ làm cho các chiến thuật hiện có trở nên hiệu quả hơn. Hiện tại, chúng ta có thể (phần lớn) bù đắp cho điều đó. Nhưng nếu AI tiếp tục phát triển và vẫn dễ tiếp cận, điều đó có thể thay đổi. Các quy định sẽ đóng vai trò ở đây – EU (và, ở mức độ thấp hơn, Mỹ) đã thực hiện các bước để quản lý cách AI được phát triển và sử dụng, vì vậy sẽ rất thú vị khi xem liệu điều đó có ảnh hưởng đến sự phát triển của AI.

Bạn có dự đoán một sự thay đổi trong cách các tổ chức ưu tiên các mối đe dọa an ninh mạng liên quan đến AI so với các thách thức an ninh mạng truyền thống không?

Chúng tôi đã thấy các tổ chức nhận ra giá trị của các giải pháp như mô phỏng xâm nhập và tấn công và quản lý lộ diện. AI cho phép các kẻ tấn công nhanh chóng phát động các chiến dịch nhắm mục tiêu tiên tiến, và các đội an ninh cần mọi lợi thế có thể để giúp họ ở trên đỉnh. Các tổ chức sử dụng các công cụ xác thực sẽ có một thời gian dễ dàng hơn để giữ đầu của họ trên mặt nước bằng cách ưu tiên và giảm thiểu các mối đe dọa nguy hiểm nhất trước. Hãy nhớ, hầu hết các kẻ tấn công đang tìm kiếm một điểm dễ dàng. Bạn có thể không thể ngăn chặn mọi cuộc tấn công, nhưng bạn có thể tránh làm cho mình trở thành một mục tiêu dễ dàng.

Cảm ơn cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Cymulate.