Craig Riddell, Giám đốc An ninh Thông tin Toàn cầu tại Wallarm – Loạt Phỏng vấn

Craig Riddell, Giám đốc An ninh Thông tin Toàn cầu tại Wallarm, là một nhà điều hành an ninh mạng giàu kinh nghiệm, tập trung vào việc giúp các doanh nghiệp quản lý các rủi ro ngày càng tăng liên quan đến API và hệ thống AI. Trong vai trò hiện tại, ông làm việc chặt chẽ với các Giám đốc An ninh Thông tin, Giám đốc Công nghệ và các nhà lãnh đạo kỹ thuật để chuyển đổi các mẫu tấn công và kịch bản lạm dụng thực tế thành các chiến lược an ninh có thể hành động, với trọng tâm mạnh mẽ vào khả năng quan sát – hiểu cách API và hệ thống AI hoạt động trong sản xuất trên người dùng, ứng dụng và tích hợp. Sự nghiệp của ông bao gồm các vai trò lãnh đạo tại các tổ chức như Netwrix, Kron và HP, nơi ông đã thúc đẩy các chuyển đổi quản lý danh tính và truy cập quy mô lớn và hiện đại hóa các khuôn khổ an ninh. Chuyên môn của Riddell tập trung vào các mối đe dọa mới nổi như tấn công logic kinh doanh, lạm dụng API, trôi dạt hệ thống AI và gian lận, với sự tập trung nhất quán vào việc bắc cầu khoảng cách giữa chiến lược an ninh cấp cao và thực hiện hoạt động.

Wallarm là một công ty an ninh mạng chuyên về bảo vệ API, ứng dụng và hệ thống AI trong môi trường đám mây hiện đại. Nền tảng của họ cung cấp khám phá liên tục, kiểm tra và bảo vệ thời gian thực chống lại các mối đe dọa như lạm dụng API, tấn công logic kinh doanh và khai thác tự động, đồng thời cung cấp khả năng hiển thị sâu về cách hệ thống hoạt động trên các cơ sở hạ tầng phức tạp. Được thiết kế cho kiến trúc đa đám mây và đám mây bản địa, Wallarm tích hợp vào các quy trình DevOps và an ninh mạng hiện có, cho phép các tổ chức phát hiện và chặn các cuộc tấn công khi chúng xảy ra chứ không phải sau khi sự kiện đã xảy ra. Bằng cách kết hợp kho API, phát hiện mối đe dọa AI và khả năng phản hồi tự động, nền tảng này giải quyết một thực tế ngày càng tăng nơi API và hệ thống AI đã trở thành bề mặt tấn công chính cho các doanh nghiệp kỹ thuật số hiện đại.

Bạn bắt đầu sự nghiệp của mình bằng cách làm việc trực tiếp với hệ thống và cơ sở hạ tầng và đã chuyển sang các vai trò lãnh đạo tập trung vào an ninh danh tính, truy cập, API và AI. Những thay đổi chính nào trong hành trình đó đã dẫn bạn đến kết luận rằng rủi ro thực sự đã chuyển từ ngoại vi đến API và hệ thống máy?

早期 trong sự nghiệp của tôi, trọng tâm là bảo vệ biên giới. Tường lửa, phân đoạn, cứng hóa cơ sở hạ tầng. Mô hình đó hoạt động khi hệ thống còn tĩnh và ranh giới tin cậy dễ dàng định nghĩa.

Điều gì đã thay đổi là cách các ứng dụng được xây dựng và cách hệ thống tương tác. API đã trở thành mô liên kết của mọi thứ, và AI đã đẩy nhanh quá trình đó. Hiện tại, hệ thống đang đưa ra quyết định, gọi các hệ thống khác và thực hiện hành động với tốc độ và quy mô không liên quan đến con người.

Tại thời điểm đó, biên giới trở nên ít liên quan. Rủi ro thực sự chuyển đến nơi quyết định được đưa ra và hành động được thực hiện, bên trong API và luồng công việc máy.

Nếu bạn không có khả năng hiển thị và kiểm soát ở đó, bạn đang tin tưởng vào hành vi mà bạn không thể nhìn thấy đầy đủ. Đó là nơi rủi ro kinh doanh xuất hiện, từ phơi nhiễm tài chính đến kết quả không mong muốn và gián đoạn hoạt động.

Bạn đã mô tả cái gọi là “bàn tay bắt tay mạng” bị hỏng, ám chỉ cách các hệ thống thiết lập niềm tin và trao đổi hành động trên các chuỗi API và quy trình tự động ngày càng phức tạp. Sự cố đó trông như thế nào trong môi trường doanh nghiệp thực tế ngày nay?

Trong hầu hết các môi trường, hệ thống tin cậy lẫn nhau dựa trên danh tính và xác thực. Một mã thông báo hợp lệ, một yêu cầu được định dạng tốt và tương tác được cho phép.

Vấn đề là điều đó giả định rằng hợp lệ đồng nghĩa với an toàn. Điều đó không còn đúng nữa.

Chúng tôi xác thực danh tính, nhưng chúng tôi không xác thực ý định. Chúng tôi xác minh quyền truy cập, nhưng không phải hành vi trên chuỗi.

Một dịch vụ có thể được ủy quyền để gọi một dịch vụ khác, điều này kích hoạt các hành động hạ lưu trên nhiều API. Mỗi bước trông hợp lệ khi xem riêng lẻ, nhưng trên toàn bộ chuỗi, bạn bắt đầu thấy hành vi không mong muốn hoặc lạm dụng logic.

Trong môi trường AI, điều này được khuếch đại. Các tác nhân có thể liên kết hành động và thực hiện quy trình công việc mà không cần xem xét của con người.

Bàn tay bắt tay vẫn xảy ra, nhưng không ai hỏi liệu hành vi có ý nghĩa trong bối cảnh hay không. Niềm tin được thiết lập nhưng không được xác thực liên tục.

Tại sao rủi ro AI và API thường rơi vào khoảng cách giữa các ranh giới tổ chức thay vì được sở hữu rõ ràng?

Bởi vì các hệ thống không phù hợp với cách các tổ chức được cấu trúc.

DevOps sở hữu giao hàng. An ninh sở hữu chính sách. Các nhóm kinh doanh sở hữu kết quả. Các nhóm dữ liệu sở hữu mô hình. Mỗi nhóm sở hữu một phần, nhưng không ai sở hữu hệ thống khi nó hoạt động trong sản xuất.

API thực hiện logic kinh doanh trên các hệ thống. AI giới thiệu việc ra quyết định không xác định trên đó. Cả hai đều cắt qua mọi ranh giới.

Chúng được xây dựng bởi một nhóm, bảo mật bởi một nhóm khác và được tiêu thụ bởi một nhóm thứ ba, với giám sát không nhất quán trên tất cả chúng.

Các khoảng trống mà điều này tạo ra không phải là thất bại của các nhóm. Chúng là thất bại của mô hình hoạt động để phản ánh cách các hệ thống hiện đại thực sự hoạt động.

Trong kinh nghiệm của bạn, những nhóm nào thường giả định rằng họ sở hữu rủi ro AI, và những điểm mù lớn nhất tồn tại giữa an ninh, DevOps và các đơn vị kinh doanh?

Các nhóm an ninh mạng có xu hướng sở hữu rủi ro AI từ góc độ quản trị và tuân thủ. DevOps sở hữu triển khai và độ tin cậy. Các đơn vị kinh doanh tập trung vào kết quả.

Các điểm mù xuất hiện giữa những khu vực đó.

An ninh mạng xác định những gì nên xảy ra. DevOps đảm bảo hệ thống chạy. Kinh doanh tập trung vào kết quả. Nhưng rất ít nhóm liên tục xem xét những gì hệ thống thực sự đang làm trong thời gian thực.

Khoảng trống đó là nơi rủi ro tồn tại, đặc biệt là khi hành vi là hợp lệ về mặt kỹ thuật nhưng sai về ngữ cảnh.

Nhiều cuộc tấn công hiện đại xuất hiện như hành vi hợp lệ và được xác thực thay vì xâm nhập rõ ràng. Tổ chức nên suy nghĩ lại về việc phát hiện trong thực tế mới này như thế nào?

Chúng tôi cần vượt ra ngoài việc xác định các yêu cầu “xấu”.

Trong nhiều trường hợp, yêu cầu là hợp lệ. Thông tin xác thực là hợp lệ. Cuộc gọi API là mong đợi. Điều không được mong đợi là chuỗi hành động, khối lượng hoặc kết quả.

Phát hiện phải trở nên hành vi và ngữ cảnh. Nó ít hơn về việc chặn một yêu cầu đơn lẻ và nhiều hơn về việc hiểu cách hệ thống tương tác theo thời gian.

Các phương pháp thực sự đứng vững ở quy mô lớn vượt ra ngoài việc khớp mẫu. Chúng phân tích yêu cầu một cách cấu trúc, xử lý mỗi tương tác như một tập hợp các mã hành vi thay vì cố gắng khớp với các mẫu xấu đã biết.

Điều đó cho phép bạn hiểu cách hành vi phát triển và nơi nó đi chệch, ngay cả khi mọi thứ trông hợp lệ trên bề mặt.

Nếu bạn dựa vào các quy tắc tĩnh hoặc chữ ký, bạn sẽ bỏ lỡ hầu hết những gì quan trọng.

Bạn đã nhấn mạnh tầm quan trọng của khả năng hiển thị vào hành vi thế giới thực. Khả năng hiển thị có ý nghĩa trông như thế nào đối với API và hệ thống AI trong sản xuất?

Khả năng hiển thị có ý nghĩa không chỉ là nhật ký và số liệu. Nó là hiểu hành vi trong ngữ cảnh.

Đối với API, điều đó có nghĩa là khả năng hiển thị yêu cầu và phản hồi đầy đủ, cách các điểm cuối được sử dụng và cách các tương tác phát triển theo thời gian.

Đối với hệ thống AI, điều đó có nghĩa là hiểu đầu vào, quyết định và hành động kết quả.

Quan trọng nhất, điều đó có nghĩa là kết nối những điều đó trên các hệ thống thành các quy trình công việc đầy đủ, không phải là các sự kiện riêng lẻ.

Nếu không, bạn đang hoạt động dựa trên các giả định về hành vi hệ thống thay vì thực tế.

Tại sao các mô hình xem xét và phê duyệt của con người truyền thống trở nên kém hiệu quả trong môi trường máy?

Bởi vì tốc độ và quy mô đã thay đổi.

Hệ thống đang thực hiện hàng nghìn hoặc hàng triệu cuộc gọi mỗi phút, và các cuộc tấn công hoặc hành vi không mong muốn có thể diễn ra trong vài phút hoặc giây. Bạn không thể thực tế đặt con người vào vòng lặp cho mỗi quyết định mà không làm hỏng hiệu suất.

Hệ thống AI cũng không phải lúc nào cũng xác định, điều này làm cho các mô hình phê duyệt trước ít hiệu quả hơn.

Giám sát của con người vẫn quan trọng, nhưng nó cần phải chuyển từ việc phê duyệt các hành động cá nhân sang việc xác định các rào cản và giám sát kết quả.

Những khoảng trống hoạt động nào bạn thường thấy khi các công ty cố gắng bảo mật hệ thống AI bằng các khuôn khổ an ninh truyền thống?

Khoảng trống lớn nhất là sự phụ thuộc quá mức vào các biện pháp kiểm soát thời gian thiết kế.

Các tổ chức tập trung vào việc bảo mật mô hình, xem xét mã và xác định chính sách trước khi triển khai. Điều đó quan trọng, nhưng nó giả định rằng hệ thống sẽ hoạt động như mong đợi một khi chúng được triển khai.

Trên thực tế, hệ thống phát triển. API thay đổi. Mô hình AI tương tác với dữ liệu mới và quy trình công việc. Hành vi thay đổi theo thời gian.

Nếu không có xác thực liên tục về hành vi trong sản xuất, các tổ chức hiệu quả là mù sau khi triển khai.

Mô hình hoạt động thực tế trông như thế nào khi nhiều bên liên quan chia sẻ trách nhiệm về rủi ro AI và API?

Nó bắt đầu bằng việc công nhận rằng không có nhóm nào có thể sở hữu toàn bộ quá trình này.

Mô hình thực tế định nghĩa trách nhiệm chung, neo vào một nguồn sự thật chung: hành vi thời gian chạy.

An ninh mạng xác định rủi ro và chính sách. Kỹ thuật xây dựng và vận hành hệ thống. Kinh doanh xác định kết quả chấp nhận được.

Các nhóm đang vượt lên trên điều này hoạt động trong một vòng lặp khép kín. Khám phá liên tục, thực thi và tinh chỉnh được thúc đẩy bởi những gì hệ thống thực sự đang làm trong sản xuất, không phải những gì được giả định tại thời điểm thiết kế.

Tất cả các bên liên quan cần có khả năng hiển thị vào cách hệ thống hoạt động trong sản xuất. Từ đó, các nhóm có thể đồng bộ về những gì “tốt” trông như thế nào, phát hiện sự偏差 và phản hồi.

Sự thay đổi là từ sở hữu bị cô lập sang trách nhiệm phối hợp, dựa trên thông tin thời gian chạy.

Nhìn về tương lai, bạn có kỳ vọng trách nhiệm an ninh sẽ trở nên tập trung hơn một lần nữa, hay sẽ tiếp tục bị phân mảnh khi hệ thống trở nên tự chủ hơn?

Trách nhiệm sẽ vẫn được phân phối vì điều đó phản ánh cách hệ thống được xây dựng.

Điều gì sẽ thay đổi là cách trách nhiệm đó được phối hợp.

Chúng tôi sẽ thấy nhiều mô hình quản trị thống nhất hơn nơi các nhóm sở hữu các lĩnh vực của họ nhưng hoạt động với khả năng hiển thị và ngữ cảnh chung.

Các tổ chức thành công sẽ không phải là những tổ chức cố gắng tập trung hóa mọi thứ. Họ sẽ là những tổ chức căn chỉnh các bên liên quan xung quanh cách hệ thống thực sự hoạt động trong thế giới thực.

Bởi vì nếu không ai hiểu hành vi thời gian chạy, thì không ai thực sự sở hữu rủi ro.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Wallarm.