Paul Reid, Phó Chủ tịch Nghiên cứu Đối thủ tại AttackIQ – Loạt Phỏng vấn

Paul Reid, Phó Chủ tịch Nghiên cứu Đối thủ tại AttackIQ, là một chuyên gia kỳ cựu trong lĩnh vực an ninh mạng nhanh chóng. Với hơn hai thập kỷ kinh nghiệm làm chiến lược gia công nghệ cho các công ty công nghệ hàng đầu, Paul đã hướng dẫn khách hàng, đối tác, nhà phân tích và nhà báo thông qua cảnh quan an ninh mạng đang thay đổi. Chuyên môn của ông bao gồm an ninh mạng, sinh trắc học, bảo mật mạng và mã hóa.

Gần đây nhất, ông đã lãnh đạo một nhóm những người săn lùng mối đe dọa mạng tập trung vào việc sử dụng phân tích hành vi để phát hiện các mối đe dọa mới nổi trong môi trường của khách hàng. Paul là một tác giả được xuất bản trong Loạt bài về Mạng máy tính và Hệ thống phân tán của Prentice Hall và nắm giữ một số bằng sáng chế về an ninh mạng.

AttackIQ là một công ty an ninh mạng hàng đầu chuyên về mô phỏng xâm nhập và kiểm tra liên tục (BAS) và xác thực bảo mật liên tục. Nền tảng Xác thực Tiếp xúc Đối thủ của công ty sử dụng mô phỏng dựa trên khuôn khổ MITRE ATT&CK để kiểm tra các biện pháp bảo mật, xác định các điểm yếu và ưu tiên khắc phục. Được thành lập vào năm 2013, AttackIQ giúp các tổ chức cải thiện tư thế phòng thủ, tăng hiệu quả của SOC và giảm rủi ro.

Bạn đã giữ các vị trí lãnh đạo trong nhiều lĩnh vực an ninh mạng trong hơn hai thập kỷ. Điều gì đầu tiên đã khơi dậy sự quan tâm của bạn đến nghiên cứu đối thủ, và làm thế nào hành trình đó cuối cùng đã dẫn bạn đến AttackIQ?

Hành trình của tôi vào an ninh mạng bắt đầu hơn 25 năm trước, khi tôi thiết lập mạng Novell và làm việc trong lĩnh vực dịch vụ thư mục — Novell, Microsoft Active Directory, LDAP. Kinh nghiệm ban đầu đó đã dạy tôi tầm quan trọng của danh tính, xác thực và truy cập, những nền tảng của bất kỳ chiến lược bảo mật nào.

Từ đó, tôi chuyển sang xác thực thẻ thông minh, nơi tôi có cơ hội viết thư viện PKCS #11 và đắm mình trong cơ sở hạ tầng khóa công khai (PKI) trong thời kỳ phát triển nhanh chóng. Làm việc với mã hóa đối xứng và không đối xứng trong thời kỳ đó đã giúp tôi đánh giá cao cách mã hóa định hình niềm tin trong môi trường kỹ thuật số.

Đến cuối sự nghiệp, tôi đã chuyển sang phân loại dữ liệu, giúp các tổ chức hiểu giá trị của dữ liệu để họ có thể bảo vệ những gì quan trọng nhất. Kinh nghiệm đó tự nhiên dẫn đến công việc trong phân tích hành vi người dùng và thực thể (UEBA), nơi tôi đã có kinh nghiệm thực tế về khoa học dữ liệu và học máy, bao gồm lập trình trong R.

Cuối cùng, tôi đã may mắn lãnh đạo một đội săn lùng mối đe dọa toàn cầu, nơi chúng tôi đã theo dõi các đối thủ quốc gia trong thời gian thực. Đó là một giai đoạn căng thẳng và mở mắt. Không có cách nào tốt hơn để hiểu các chiến thuật, kỹ thuật và quy trình (TTP) của đối thủ hơn là tham gia vào các hoạt động hàng ngày chống lại họ.

Đó là trong thời gian đó, một sự thất vọng lặp đi lặp lại đã xuất hiện: chúng tôi thường nói, “Nếu chỉ họ đã làm X hoặc có Y kiểm soát ở vị trí…” Có một khoảng trống giữa nhận thức mối đe dọa và sự sẵn sàng phòng thủ hoạt động.

Đó là điều đã đưa tôi đến AttackIQ. Cơ hội áp dụng những gì tôi đã học — để mô phỏng các đối thủ trong thế giới thực thông qua mô phỏng xâm nhập và kiểm tra, và để xác thực liệu các biện pháp phòng thủ có thực sự hiệu quả — quá hấp dẫn để bỏ qua. Ở đây, chúng tôi không chỉ suy nghĩ về các mối đe dọa; chúng tôi kiểm tra, đo lường và cải thiện chống lại chúng mỗi ngày.

Đội của chúng tôi hoạt động dưới một nguyên tắc hướng dẫn: “Nghĩ xấu, làm tốt.” Chúng tôi nghĩ như các đối thủ không phải để gây hại, mà để giúp khách hàng của chúng tôi chuẩn bị và đánh bại họ.

Đã lãnh đạo các đội tại TITUS, Interset và Micro Focus, làm thế nào kinh nghiệm của bạn trong thông tin tình báo mối đe dọa và kích hoạt đối tác đã định hình cách tiếp cận của bạn trong việc đưa mô phỏng đối thủ vào hoạt động?

Đã làm việc trong cả vai trò kỹ thuật và tiếp thị tại các công ty như TITUS, Interset và Micro Focus, tôi đã phát triển một sự hiểu biết toàn diện về cách thông tin tình báo mối đe dọa cần được chuyển thành kết quả hoạt động, không chỉ là thông tin. Kích hoạt đối tác, đặc biệt, đã dạy tôi cách truyền đạt các vấn đề bảo mật phức tạp theo cách có thể hành động và có ý nghĩa cho các khán giả đa dạng, từ CISO đến các nhà phân tích SOC tuyến đầu.

Tại AttackIQ, mô phỏng đối thủ không chỉ là về việc phát lại các hành vi mối đe dọa. Đó là về việc phù hợp với khuôn khổ MITRE ATT&CK, mô phỏng các đối thủ với độ trung thực và giúp các tổ chức kiểm tra liệu các biện pháp phòng thủ của họ có đứng vững trong một kịch bản thế giới thực. Điều đó đòi hỏi hơn là sự nghiêm túc về mặt kỹ thuật; nó đòi hỏi giáo dục, hợp tác và kích hoạt các bên liên quan trên toàn hệ sinh thái bảo mật.

Trước đây, các vai trò của tôi đã giúp tôi hiểu cách bắc cầu giữa thông tin tình báo và thực thi — cách đưa cảnh quan mối đe dọa vào hoạt động theo cách chủ động, có thể đo lường và có thể bảo vệ. Đó là bản chất của sứ mệnh của chúng tôi tại AttackIQ.

Bạn hiện đang lãnh đạo nghiên cứu đối thủ vào thời điểm các đối thủ đang áp dụng AI với quy mô lớn. Bạn đã thấy các chiến thuật AI tấn công tiến hóa như thế nào trong những năm gần đây — và làm thế nào các đội phòng thủ đang vật lộn để theo kịp?

Các đối thủ đang tận dụng AI để tăng tốc độ, độ chính xác và quy mô của các hoạt động của họ. Chúng tôi đang thấy nhiều mồi câu cá nhân hóa và đáng tin cậy hơn, kỹ thuật xã hội được tạo ra bởi AI và quy mô và hiệu quả của các cuộc tấn công lớn hơn. Những khả năng này giảm thời gian giữa việc do thám và xâm nhập, nén cửa sổ phản ứng của người phòng thủ. Nhiều tổ chức vẫn phụ thuộc vào các quy trình phản ứng và các quy tắc phát hiện tĩnh, không được thiết kế để xử lý các đối thủ học hỏi và tiến hóa. Các đội phòng thủ cần áp dụng xác thực và quản lý tiếp xúc liên tục để đóng khoảng trống đó, kiểm tra các biện pháp phòng thủ của họ trong điều kiện thực tế và lặp lại nhanh chóng để đáp ứng các hành vi đối thủ mới.

Điều gì phân biệt AI đối thủ với các mối đe dọa mạng truyền thống, và tại sao bạn tin rằng một sự thay đổi trong tư duy — không chỉ là công cụ — là cần thiết để phản ứng hiệu quả?

Các mối đe dọa truyền thống thường tuân theo các mẫu đã biết mà người phòng thủ có thể theo dõi và giảm thiểu bằng cách phát hiện dựa trên quy tắc. Các chiến thuật AI đối thủ giới thiệu một mức độ biến đổi và thích nghi mới thách thức những giả định đó. Nó có thể tạo ra các đường tấn công mới và tránh các biện pháp phòng thủ một cách động. Để giải quyết sự thay đổi này, đòi hỏi hơn là triển khai các công cụ mới. Nó đòi hỏi một thay đổi chiến lược trong cách các tổ chức suy nghĩ về phòng thủ. Thay vì phản ứng với các sự cố sau khi chúng xảy ra, các đội bảo mật cần mô phỏng các mối đe dọa đang tiến hóa bằng cách sử dụng các chiến thuật, kỹ thuật và quy trình (TTP) đã biết, và chủ động xác thực các biện pháp kiểm soát để kiểm tra phản ứng của hệ thống. Một tư duy thông tin tình báo, được hỗ trợ bởi mô phỏng thế giới thực, là chìa khóa để dự đoán và chống lại những rủi ro mới này.

Bạn có thể giải thích cách AttackIQ chuyển đổi thông tin tình báo mối đe dọa thành phòng thủ thực tế thông qua mô phỏng đối thủ, và làm thế nào quá trình đó đã thay đổi với sự trỗi dậy của AI tạo ra?

Thử thách truyền thống với thông tin tình báo là hoạt động hóa, bắc cầu giữa thông tin và hành động. Mô phỏng đối thủ giải quyết vấn đề đó bằng cách lấy thông tin về các hành vi mối đe dọa đã biết và biến nó thành các thử nghiệm có thể thực hiện để đánh giá liệu các biện pháp phòng thủ hiện tại có thể chống lại được các hành vi đó. Với AI tạo ra, cảnh quan mối đe dọa trở nên linh hoạt hơn, với các hành vi biến đổi hơn. Mô phỏng hiện cần phản ánh không chỉ các kỹ thuật tĩnh mà còn cả hành vi thích nghi và nhận thức về ngữ cảnh. Tại AttackIQ, thông tin tình báo mối đe dọa trực tiếp được liên kết với khuôn khổ MITRE ATT&CK và mô hình hành vi đối thủ được đưa vào kế hoạch mô phỏng để phản ánh các cuộc tấn công thế giới thực. Những mô phỏng này được triển khai trong môi trường sản xuất để xác thực liệu các biện pháp bảo mật có phát hiện, ngăn chặn hoặc phản ứng như mong đợi.

Quản lý Tiếp xúc Mối đe dọa Liên tục (CTEM) đang trở thành một thành phần cốt lõi của các chiến lược khả năng phục hồi mạng. Làm thế nào các tổ chức nên tiếp cận CTEM khi đối mặt với các mối đe dọa được tăng cường bởi AI?

CTEM đại diện cho một sự thay đổi từ đánh giá rủi ro tĩnh sang xác thực bảo mật thông minh, được dẫn dắt bởi thông tin. Đối mặt với các mối đe dọa được tăng cường bởi AI, các tổ chức phải coi tiếp xúc như một mục tiêu di động. Điều đó có nghĩa là xác định và ưu tiên các điểm yếu dựa trên kiểm tra chủ động, không chỉ dựa trên rủi ro lý thuyết.

Các đội đỏ và xanh cần hợp tác trong việc mô phỏng các đối thủ thích nghi và liên tục kiểm tra khả năng phát hiện và phản ứng. Các tổ chức áp dụng cách tiếp cận này được trang bị tốt hơn để thích nghi nhanh chóng, xác thực đầu tư và biện pháp bảo mật của họ, và duy trì khả năng phục hồi trong một cảnh quan đang thay đổi nhanh chóng.

Khóa học “Cơ bản về Bảo mật AI” từ AttackIQ bao gồm các khuôn khổ rủi ro như MITRE ATLAS và AI RMF. Bạn tìm thấy những khía cạnh nào của các khuôn khổ này bị hiểu lầm hoặc sử dụng chưa đầy đủ nhất trong các môi trường doanh nghiệp?

Một trong những hiểu lầm phổ biến nhất chúng tôi thấy là xu hướng coi các khuôn khổ như MITRE ATLAS và Khuôn khổ Quản lý Rủi ro AI (AI RMF) như các tài liệu tham khảo cô lập, thay vì như các công cụ hoạt động để xây dựng khả năng phục hồi vào các hệ thống được hỗ trợ bởi AI.

MITRE ATLAS, giống như ATT&CK trong những ngày đầu, thường được coi là một danh mục tĩnh các kỹ thuật tấn công nhắm vào hệ thống AI/ML. Trên thực tế, ATLAS là một khuôn khổ mô phỏng đối thủ chiến thuật được thiết kế để giúp các đội bảo mật mô phỏng các mối đe dọa cụ thể của AI — từ việc làm ô nhiễm dữ liệu và tránh mô hình đến việc thao túng suy luận — và xác thực khả năng phát hiện, ghi nhật ký và phản ứng của họ. Vấn đề là hầu hết các doanh nghiệp chưa xây dựng được khả năng hiển thị hoặc kiểm soát cần thiết để phát hiện các cuộc tấn công vào đường ống ML, khiến việc sử dụng ATLAS một cách chủ động thông qua các chiến lược mô phỏng xâm nhập và kiểm tra trở nên quan trọng hơn. Đó là một công cụ chưa được tận dụng để kiểm tra cách các hệ thống AI hoạt động dưới áp lực của đối thủ.

Ngược lại, khuôn khổ AI RMF của NIST thường bị hiểu lầm như một danh sách kiểm tra tuân thủ. Trên thực tế, nó là một khuôn khổ quản trị chiến lược — một khuôn khổ hỗ trợ các tổ chức trong việc lập bản đồ các trường hợp sử dụng AI, đo lường rủi ro (bao gồm cả những rủi ro do đối thủ gây ra), quản lý chúng thông qua việc ưu tiên và giảm thiểu, và nhúng giám sát trên toàn vòng đời của hệ thống. Trong khi ATLAS là chiến thuật, AI RMF là chiến lược. Hai khuôn khổ này bổ sung cho nhau rất tốt: ATLAS cho phép xác thực rủi ro thông qua mô phỏng thế giới thực, trong khi AI RMF cung cấp cấu trúc để quản trị những rủi ro đó, xác định quyền sở hữu và căn chỉnh đảm bảo AI với các ưu tiên kinh doanh.

Trong khóa học Cơ bản về Bảo mật AI của chúng tôi, chúng tôi dạy rằng một trong những khía cạnh bị sử dụng chưa đầy đủ nhất của AI RMF là các chức năng “Bản đồ” và “Đo lường” — đặc biệt là trong các triển khai giai đoạn đầu. Những chức năng này khuyến khích các tổ chức không chỉ mô hình hóa các kịch bản sử dụng và lạm dụng hệ thống mà còn xác định các mối đe dọa của đối thủ trong ngữ cảnh. Kết hợp điều này với ATLAS cho phép các tổ chức chuyển từ quan tâm lý thuyết sang việc hoạt động hóa bảo mật AI một cách có ý nghĩa.

Cuối cùng, cơ hội bị bỏ lỡ nằm ở việc coi các khuôn khổ này như là học thuật. Khi được sử dụng cùng nhau, AI RMF và ATLAS cho phép một cách tiếp cận thông tin tình báo, dẫn dắt bởi rủi ro đối với việc bảo mật AI, biến quản trị cấp cao thành đảm bảo thực tế.

Từ việc tiêm lệnh đến việc đánh cắp mô hình, OWASP Top 10 cho LLMs nhấn mạnh một lớp mới của các điểm yếu. Bạn nghĩ CISO nào không chuẩn bị cho những mối đe dọa này — và tại sao?

LLM03: 2025 Các điểm yếu trong chuỗi cung ứng khai thác các điểm mù quan trọng trong các giả định về quản trị và niềm tin doanh nghiệp hiện có bằng cách lọt qua các biện pháp kiểm soát không được thiết kế ban đầu cho các hệ thống AI/ML. Các chương trình bảo mật truyền thống tập trung vào các gói phần mềm và phụ thuộc mã, nhưng các mô hình AI, thường được coi là tài sản dữ liệu, thiếu sự kiểm tra tương tự. Điều này cho phép các mô hình được đào tạo trước bị tổn hại, các bộ điều hợp LoRA bị ô nhiễm hoặc các hợp nhất Hugging Face bị thay đổi được đưa vào các môi trường sản xuất mà không cần xác thực, chữ ký mã hoặc đánh giá hành vi. Bởi vì những mô hình này không kích hoạt phân tích tĩnh hoặc chữ ký malware, chúng hoạt động như các mối đe dọa ngủ, chỉ hoạt động dưới các điều kiện hoặc lệnh cụ thể mà tránh phát hiện.

Giả định của doanh nghiệp rằng các hệ sinh thái AI hoặc đăng ký uy tín áp dụng các tiêu chuẩn đáng tin cậy làm tăng vấn đề. Các đội bảo mật có thể tin rằng các đường ống DevSecOps và chương trình TPRM của họ bao gồm các rủi ro AI, nhưng trên thực tế, hầu hết không kiểm tra nguồn gốc dữ liệu, thực thi tính xác thực của mô hình hoặc áp dụng các biện pháp kiểm soát tương đương với SBOM cho các thành phần AI. Các kẻ tấn công khai thác sự tin tưởng bị đặt sai chỗ này, thao túng các công cụ mô hình mã nguồn mở, tạo backdoor cho các bộ điều hợp hoặc làm ô nhiễm dữ liệu được sử dụng trong việc tinh chỉnh, để nhúng hành vi độc hại một cách im lặng. Không có đội đỏ và đội xanh đối thủ cũng như quản trị mà rõ ràng giải quyết các khoảng trống này, ngay cả các doanh nghiệp được bảo mật tốt cũng có nguy cơ bị thỏa hiệp hoạt động thông qua các thành phần AI được tin cậy nhưng không được xác thực.

Khi các đội đỏ và xanh bắt đầu mô phỏng các đối thủ được hỗ trợ bởi AI, mô phỏng đối thủ tiến hóa như thế nào? Chúng ta có đang bước vào một kỷ nguyên mới của xác thực bảo mật dựa trên mô phỏng không?

Khi các đối thủ tích hợp AI vào hoạt động của họ, mô phỏng đối thủ cần tiến hóa cùng, vượt ra ngoài các cuốn sách chơi cố định. Các đội đỏ cần mô phỏng các hành vi động, AI-like: chuyển đổi, gia tăng đặc quyền và các chiến thuật, kỹ thuật và quy trình (TTP) được mô hình hóa để phản ánh cách một kẻ tấn công AI có thể hành động.

Chúng ta đang bước vào một kỷ nguyên mà mô phỏng trở nên liên tục và được dẫn dắt bởi thông tin tình báo. Không còn là các bài tập theo từng kỳ, mô phỏng tích hợp thông tin tình báo thời gian thực và lặp lại môi trường sản xuất, kiểm tra các biện pháp kiểm soát dưới các điều kiện mới nổi và không thể đoán trước. Với CTEM, cách tiếp cận này đảm bảo rằng xác thực bảo mật trở thành một chức năng chiến lược, hoạt động.

Nhìn về tương lai, những rủi ro AI mới nào khiến bạn quan tâm nhất? Và nơi bạn thấy cơ hội lớn nhất cho các đội phòng thủ để vượt lên?

Rủi ro gây lo ngại nhất là cách AI đang làm giảm rào cản gia nhập cho các cuộc tấn công tinh vi với quy mô lớn. Những gì từng đòi hỏi kỹ năng kỹ thuật sâu sắc hiện đang ngày càng dễ tiếp cận thông qua các công cụ AI được thương mại hóa. AI có thể tự động hóa việc do thám, tạo mã khai thác và tạo các chiến dịch phishing được tùy chỉnh, hoạt động nhanh hơn các biện pháp phòng thủ truyền thống có thể thích nghi.

Mặt khác, các đội phòng thủ có một cơ hội song song: tận dụng AI và tự động hóa cho phòng thủ chủ động. Bằng cách tự động hóa mô phỏng, tăng tốc phát hiện và ưu tiên các điểm yếu dựa trên rủi ro thực tế, các đội bảo mật có thể dự đoán các động thái của đối thủ thay vì chỉ phản ứng với chúng.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập AttackIQ.