David Kellerman, Field CTO tại Cymulate – Interview Series

David Kellerman là Field CTO tại Cymulate, và là một chuyên gia kỹ thuật cao cấp đối mặt với khách hàng trong lĩnh vực an ninh thông tin và mạng. David dẫn dắt khách hàng đến thành công và tiêu chuẩn an ninh cao.

Cymulate là một công ty an ninh mạng cung cấp xác thực lỗ hổng bảo mật cho các tổ chức muốn đóng các lỗ hổng bảo mật trước khi các kẻ tấn công khai thác chúng. Nền tảng của công ty cho phép các tổ chức thiết lập vị trí bảo mật và tăng cường khả năng chống chịu mạng thông qua việc khám phá, xác thực, ưu tiên và khắc phục các điểm yếu bảo mật liên tục. Thông qua tự động hóa và trí tuệ nhân tạo, Cymulate cung cấp các công cụ kiểm tra bảo mật tấn công tiên tiến để xác thực các biện pháp bảo vệ, mối đe dọa và đường tấn công. Là một nền tảng mở, Cymulate tích hợp với cơ sở hạ tầng bảo mật và CNTT hiện có để thúc đẩy quy trình quản lý lỗ hổng và cải thiện các biện pháp bảo vệ theo thời gian thực. Bằng cách cung cấp mô phỏng tấn công và xâm nhập (BAS), quản lý lỗ hổng và quản lý vị trí bảo mật, Cymulate giúp các doanh nghiệp xác định các điểm yếu.

Điều gì bạn coi là động lực chính đằng sau sự gia tăng của các mối đe dọa bảo mật liên quan đến AI vào năm 2025?

Các mối đe dọa bảo mật liên quan đến AI đang gia tăng do sự dễ tiếp cận của AI. Các tác nhân đe dọa hiện có quyền truy cập vào các công cụ AI có thể giúp họ lặp lại mã độc, tạo ra các email phishing đáng tin cậy hơn và tăng quy mô tấn công để tăng phạm vi ảnh hưởng. Những chiến thuật này không phải là “mới”, nhưng tốc độ và độ chính xác mà chúng được triển khai đã thêm đáng kể vào danh sách dài các mối đe dọa bảo mật mà các đội bảo mật cần giải quyết. Các tổ chức vội vàng triển khai công nghệ AI, trong khi không hiểu đầy đủ rằng các biện pháp bảo vệ cần được đặt xung quanh nó, để đảm bảo nó không bị khai thác dễ dàng bởi các tác nhân đe dọa.

Có những ngành hoặc lĩnh vực cụ thể nào dễ bị tổn thương bởi các mối đe dọa liên quan đến AI, và tại sao?

Các ngành công nghiệp thường xuyên chia sẻ dữ liệu qua các kênh giữa nhân viên, khách hàng hoặc khách hàng dễ bị tổn thương bởi các mối đe dọa liên quan đến AI vì AI đang làm cho các tác nhân đe dọa dễ dàng tham gia vào các kế hoạch lừa đảo xã hội. Các cuộc tấn công phishing hiệu quả là một trò chơi số, và nếu các kẻ tấn công có thể gửi nhiều email đáng tin cậy hơn đến nhiều người nhận, tỷ lệ thành công của họ sẽ tăng đáng kể. Các tổ chức phơi bày các dịch vụ AI của họ với công chúng có thể mời các kẻ tấn công cố gắng khai thác nó. Mặc dù đó là một rủi ro kế thừa khi đưa dịch vụ ra công chúng, nhưng điều quan trọng là phải làm đúng.

Điều gì là điểm yếu chính mà các tổ chức phải đối mặt khi sử dụng các mô hình ngôn ngữ lớn công khai cho các chức năng kinh doanh?

Rò rỉ dữ liệu có lẽ là mối quan tâm hàng đầu. Khi sử dụng một mô hình ngôn ngữ lớn công khai (LLM), rất khó để nói chắc chắn dữ liệu sẽ đi đến đâu – và điều cuối cùng bạn muốn làm là vô tình tải lên thông tin nhạy cảm lên một công cụ AI công khai. Nếu bạn cần phân tích dữ liệu bí mật, hãy giữ nó trong nhà. Đừng dựa vào các LLM công khai có thể sẽ rò rỉ dữ liệu đó ra internet rộng lớn hơn.

Làm thế nào các doanh nghiệp có thể bảo vệ dữ liệu nhạy cảm một cách hiệu quả khi thử nghiệm hoặc triển khai các hệ thống AI trong sản xuất?

Khi thử nghiệm các hệ thống AI trong sản xuất, các tổ chức nên áp dụng một tư duy tấn công (thay vì phòng thủ). Điều đó có nghĩa là các đội bảo mật nên chủ động kiểm tra và xác thực bảo mật của các hệ thống AI, thay vì phản ứng với các mối đe dọa đến. Việc giám sát liên tục các cuộc tấn công và xác thực các hệ thống bảo mật có thể giúp đảm bảo dữ liệu nhạy cảm được bảo vệ và các giải pháp bảo mật đang hoạt động như dự kiến.

Làm thế nào các tổ chức có thể chủ động bảo vệ chống lại các cuộc tấn công được thúc đẩy bởi AI đang liên tục phát triển?

Mặc dù các tác nhân đe dọa đang sử dụng AI để phát triển các mối đe dọa, nhưng các đội bảo mật cũng có thể sử dụng AI để cập nhật các công cụ mô phỏng tấn công và xâm nhập (BAS) để đảm bảo họ được bảo vệ chống lại các mối đe dọa mới nhất. Các công cụ như nguồn cấp dữ liệu mối đe dọa hàng ngày của Cymulate tải các mối đe dọa mới nhất vào phần mềm mô phỏng tấn công và xâm nhập của Cymulate hàng ngày để đảm bảo các đội bảo mật đang xác thực bảo mật của tổ chức họ chống lại các mối đe dọa mới nhất. AI có thể giúp tự động hóa các quy trình như vậy, cho phép các tổ chức vẫn linh hoạt và sẵn sàng đối mặt với thậm chí các mối đe dọa mới nhất.

Vai trò của các nền tảng xác thực bảo mật tự động, như Cymulate, trong việc giảm thiểu các rủi ro do các mối đe dọa mạng được thúc đẩy bởi AI?

Các nền tảng xác thực bảo mật tự động có thể giúp các tổ chức ở trên đỉnh của các mối đe dọa mạng được thúc đẩy bởi AI thông qua các công cụ nhằm xác định, xác thực và ưu tiên các mối đe dọa. Với AI đóng vai trò là một nhân tố nhân lên cho các kẻ tấn công, điều quan trọng là không chỉ phát hiện các điểm yếu tiềm năng trong mạng và hệ thống, mà còn xác thực những điểm yếu đó thực sự là một mối đe dọa đối với tổ chức. Chỉ sau đó, các lỗ hổng mới có thể được ưu tiên hiệu quả, cho phép các tổ chức giảm thiểu các mối đe dọa nguy hiểm nhất trước khi chuyển sang các mục ít quan trọng hơn. Các kẻ tấn công đang sử dụng AI để thăm dò các môi trường kỹ thuật số để tìm kiếm các điểm yếu tiềm năng trước khi phát động các cuộc tấn công được tùy chỉnh cao, điều đó có nghĩa là khả năng giải quyết các điểm yếu nguy hiểm một cách tự động và hiệu quả chưa bao giờ quan trọng hơn.

Làm thế nào các doanh nghiệp có thể kết hợp các công cụ mô phỏng tấn công và xâm nhập để chuẩn bị cho các cuộc tấn công được thúc đẩy bởi AI?

Các công cụ mô phỏng tấn công và xâm nhập là một yếu tố quan trọng của quản lý lỗ hổng, cho phép các tổ chức tạo ra các kịch bản tấn công thực tế mà họ có thể sử dụng để xác thực các biện pháp bảo vệ chống lại các mối đe dọa quan trọng nhất hiện nay. Thông tin tình báo mối đe dọa mới nhất và nghiên cứu chính từ Nhóm Nghiên cứu Mối đe dọa của Cymulate (kết hợp với thông tin về các mối đe dọa mới và các mô phỏng mới) được áp dụng hàng ngày cho công cụ mô phỏng tấn công và xâm nhập của Cymulate, cảnh báo các nhà lãnh đạo bảo mật nếu một mối đe dọa mới không bị chặn hoặc phát hiện bởi các biện pháp bảo vệ hiện có. Với các công cụ mô phỏng tấn công và xâm nhập, các tổ chức cũng có thể tùy chỉnh các mô phỏng AI để phù hợp với các môi trường và chính sách bảo mật độc nhất của họ với một khuôn khổ mở để tạo và tự động hóa các chiến dịch và kịch bản tấn công tiên tiến.

Có những khuyến nghị hàng đầu nào bạn sẽ đưa ra cho các đội bảo mật để ở trước các mối đe dọa mới nổi?

Các mối đe dọa đang trở nên phức tạp hơn mỗi ngày. Các tổ chức không có một chương trình quản lý lỗ hổng hiệu quả risk bị tụt lại phía sau một cách nguy hiểm, vì vậy khuyến nghị đầu tiên của tôi sẽ là triển khai một giải pháp cho phép tổ chức ưu tiên hiệu quả các lỗ hổng của họ. Tiếp theo, đảm bảo rằng giải pháp quản lý lỗ hổng bao gồm các khả năng mô phỏng tấn công và xâm nhập cho phép đội bảo mật mô phỏng các mối đe dọa mới (bao gồm cả AI) để đo lường hiệu suất của các biện pháp bảo vệ của tổ chức. Cuối cùng, tôi sẽ khuyến nghị tận dụng tự động hóa để đảm bảo rằng xác thực và thử nghiệm có thể diễn ra trên cơ sở liên tục, không chỉ trong các cuộc xem xét định kỳ. Với cảnh quan mối đe dọa thay đổi từng phút, điều quan trọng là phải có thông tin cập nhật.

Có những phát triển nào trong công nghệ AI mà bạn dự đoán trong năm năm tới có thể làm tăng hoặc giảm thiểu các rủi ro bảo mật?

Nhiều thứ sẽ phụ thuộc vào việc AI tiếp tục được tiếp cận như thế nào. Hiện tại, các kẻ tấn công cấp thấp có thể sử dụng các khả năng AI để tăng cấp và tăng quy mô các cuộc tấn công của họ, nhưng họ không tạo ra các chiến thuật mới chưa từng có – họ chỉ làm cho các chiến thuật hiện có hiệu quả hơn. Hiện tại, chúng ta có thể (phần lớn) bù đắp cho điều đó. Nhưng nếu AI tiếp tục phát triển và vẫn dễ tiếp cận, điều đó có thể thay đổi. Các quy định sẽ đóng vai trò ở đây – EU (và, ở mức độ thấp hơn, Mỹ) đã thực hiện các bước để quản lý cách AI được phát triển và sử dụng, vì vậy sẽ rất thú vị khi xem liệu điều đó có ảnh hưởng đến sự phát triển của AI.

Bạn có dự đoán một sự thay đổi trong cách các tổ chức ưu tiên các mối đe dọa bảo mật liên quan đến AI so với các thách thức bảo mật truyền thống?

Chúng tôi đã thấy các tổ chức nhận ra giá trị của các giải pháp như mô phỏng tấn công và xâm nhập và quản lý lỗ hổng. AI cho phép các tác nhân đe dọa nhanh chóng phát động các chiến dịch mục tiêu tiên tiến, và các đội bảo mật cần mọi lợi thế có thể để giúp họ ở trước các kẻ tấn công. Các tổ chức sử dụng các công cụ xác thực sẽ có một thời gian dễ dàng hơn để giữ đầu của họ trên mặt nước bằng cách ưu tiên và giảm thiểu các mối đe dọa quan trọng và nguy hiểm nhất trước. Hãy nhớ, hầu hết các kẻ tấn công đang tìm kiếm một điểm dễ dàng. Bạn có thể không thể ngăn chặn mọi cuộc tấn công, nhưng bạn có thể tránh làm cho mình trở thành một mục tiêu dễ dàng.

Cảm ơn cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Cymulate.