Steve Wilson, Chief AI và Product Officer tại Exabeam – Phỏng vấn

Steve Wilson là Chief AI và Product Officer tại Exabeam, nơi đội ngũ của ông áp dụng các công nghệ AI tiên tiến để giải quyết các thách thức an ninh mạng thực tế. Ông là người sáng lập và đồng chủ tịch dự án OWASP Gen AI Security, tổ chức đứng sau danh sách OWASP Top 10 về An ninh LLM.

Cuốn sách giành giải thưởng của ông, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), được chọn là cuốn sách An ninh mạng Lạnh lùng nhất bởi Cyber Defense Magazine.

Exabeam là một nhà lãnh đạo trong lĩnh vực trí tuệ và tự động hóa, cung cấp các giải pháp an ninh mạng cho các công ty thông minh nhất trên thế giới. Bằng cách kết hợp quy mô và sức mạnh của AI với sức mạnh của phân tích hành vi và tự động hóa hàng đầu, các tổ chức có thể có cái nhìn toàn diện hơn về các sự kiện an ninh, phát hiện các bất thường mà các công cụ khác bỏ lỡ và đạt được phản ứng nhanh hơn, chính xác hơn và lặp lại. Exabeam trao quyền cho các đội an ninh toàn cầu để chống lại các mối đe dọa mạng, giảm thiểu rủi ro và tối ưu hóa hoạt động.

Chức danh mới của bạn là Chief AI và Product Officer tại Exabeam. Điều này phản ánh sự quan trọng ngày càng tăng của AI trong an ninh mạng như thế nào?

An ninh mạng là một trong những lĩnh vực đầu tiên真正 chấp nhận học máy – tại Exabeam, chúng tôi đã sử dụng ML làm cốt lõi của động cơ phát hiện trong hơn một thập kỷ để xác định hành vi bất thường mà con người có thể bỏ lỡ. Với sự xuất hiện của các công nghệ AI mới hơn, chẳng hạn như các tác nhân thông minh, AI đã trở thành trung tâm.

Vai trò kết hợp của tôi là Chief AI và Product Officer tại Exabeam phản ánh chính xác sự tiến hóa này. Tại một công ty cam kết sâu sắc trong việc nhúng AI vào các sản phẩm của mình, và trong một ngành như an ninh mạng nơi vai trò của AI ngày càng quan trọng, việc hợp nhất chiến lược AI và sản phẩm dưới một vai trò là điều hợp lý. Sự tích hợp này đảm bảo rằng chúng tôi được định hướng chiến lược để cung cấp các giải pháp AI tiên tiến cho các nhà phân tích an ninh và các đội vận hành phụ thuộc vào chúng tôi nhiều nhất.

Exabeam đang tiên phong trong “agentic AI” trong các hoạt động an ninh. Bạn có thể giải thích điều đó có nghĩa là gì trong thực tế và nó khác với các phương pháp AI truyền thống như thế nào?

Agentic AI đại diện cho một sự tiến hóa có ý nghĩa từ các phương pháp AI truyền thống. Nó là hướng hành động – khởi xướng các quy trình, phân tích thông tin và trình bày thông tin trước khi các nhà phân tích thậm chí yêu cầu. Ngoài việc phân tích dữ liệu, agentic AI hoạt động như một cố vấn, cung cấp các khuyến nghị chiến lược trên toàn bộ SOC, hướng dẫn người dùng đến các chiến thắng dễ dàng nhất và cung cấp hướng dẫn từng bước để cải thiện tư thế an ninh của họ. Ngoài ra, các tác nhân hoạt động như các gói chuyên biệt, không phải một công cụ trò chuyện cồng kềnh, mỗi tác nhân được thiết kế với các tính cách và tập dữ liệu cụ thể mà tích hợp liền mạch vào công việc của các nhà phân tích, kỹ sư và quản lý để cung cấp hỗ trợ có mục tiêu và có tác động.

Với Exabeam Nova tích hợp nhiều tác nhân AI trên toàn bộ quy trình SOC, tương lai của vai trò nhà phân tích an ninh sẽ như thế nào? Nó có đang tiến hóa, thu hẹp hoặc trở nên chuyên môn hóa hơn không?

Vai trò của nhà phân tích an ninh chắc chắn đang tiến hóa. Các nhà phân tích, kỹ sư an ninh và quản lý SOC đều bị choáng ngợp bởi dữ liệu, cảnh báo và trường hợp. Sự thay đổi thực sự trong tương lai không chỉ là về việc tiết kiệm thời gian cho các nhiệm vụ tầm thường – mặc dù các tác nhân chắc chắn giúp đỡ ở đó – mà về việc nâng cao vai trò của mọi người thành vai trò của một trưởng nhóm. Các nhà phân tích vẫn sẽ cần có kỹ năng kỹ thuật mạnh mẽ, nhưng bây giờ họ sẽ lãnh đạo một đội các tác nhân sẵn sàng tăng tốc nhiệm vụ của họ, khuếch đại quyết định của họ và thực sự thúc đẩy cải thiện tư thế an ninh. Sự chuyển đổi này đặt các nhà phân tích vào vị trí trở thành những người điều phối chiến lược chứ không phải là những người phản ứng chiến thuật.

Dữ liệu gần đây cho thấy sự脱 kết giữa các giám đốc điều hành và các nhà phân tích về tác động của năng suất AI. Bạn nghĩ sự脱 kết này tồn tại vì lý do gì và nó có thể được giải quyết như thế nào?

Dữ liệu gần đây cho thấy một sự脱 kết rõ ràng: 71% các giám đốc điều hành tin rằng AI tăng cường đáng kể năng suất, nhưng chỉ 22% các nhà phân tích tuyến đầu, những người dùng hàng ngày, đồng ý. Tại Exabeam, chúng tôi đã thấy sự脱 kết này tăng lên cùng với sự cuồng nhiệt gần đây về các hứa hẹn của AI trong an ninh mạng. Nó không bao giờ dễ dàng hơn để tạo ra các bản demo AI ấn tượng, và các nhà cung cấp nhanh chóng tuyên bố họ đã giải quyết mọi thách thức SOC. Mặc dù những bản demo này ban đầu gây ấn tượng với các giám đốc điều hành, nhưng nhiều bản demo này không đáp ứng được kỳ vọng khi ở trong tay của các nhà phân tích. tiềm năng có đó, và có những ví dụ về lợi ích thực sự, nhưng vẫn còn quá nhiều tiếng ồn và quá ít cải thiện có ý nghĩa. Để bắc cầu sự脱 kết này, các giám đốc điều hành phải ưu tiên các công cụ AI thực sự trao quyền cho các nhà phân tích, không chỉ gây ấn tượng trong một bản demo. Khi AI thực sự tăng cường hiệu quả của các nhà phân tích, sự tin tưởng và cải thiện năng suất thực sự sẽ theo sau.

AI đang tăng tốc phát hiện và phản ứng với các mối đe dọa, nhưng làm thế nào để bạn duy trì sự cân bằng giữa tự động hóa và phán quyết của con người trong các sự kiện an ninh mạng có nguy cơ cao?

Các khả năng của AI đang phát triển nhanh chóng, nhưng các mô hình ngôn ngữ cơ bản hiện nay dướipinning các tác nhân thông minh không được thiết kế ban đầu cho các nhiệm vụ như dịch ngôn ngữ – không phải là quyết định tinh vi, lý thuyết trò chơi hoặc xử lý các yếu tố con người phức tạp. Điều này làm cho phán quyết của con người trở nên quan trọng hơn bao giờ hết trong an ninh mạng. Vai trò của nhà phân tích không bị giảm bởi AI; nó được nâng cao. Các nhà phân tích bây giờ là trưởng nhóm, tận dụng kinh nghiệm và hiểu biết của họ để hướng dẫn và chỉ đạo nhiều tác nhân, đảm bảo rằng các quyết định vẫn được thông tin bởi ngữ cảnh và sắc thái. Cuối cùng, việc cân bằng tự động hóa với phán quyết của con người là về việc tạo ra một mối quan hệ cộng sinh trong đó AI khuếch đại chuyên môn của con người, không thay thế nó.

Làm thế nào chiến lược sản phẩm của bạn tiến hóa khi AI trở thành một nguyên tắc thiết kế cốt lõi thay vì một phụ kiện?

Tại Exabeam, chiến lược sản phẩm của chúng tôi được định hình cơ bản bởi AI như một nguyên tắc thiết kế cốt lõi, không phải là một phụ kiện bề mặt. Chúng tôi xây dựng Exabeam từ đầu để hỗ trợ học máy – từ việc nhập nhật ký, phân tích, làm giàu và chuẩn hóa – để tạo ra một Mô hình Thông tin Chung mạnh mẽ được tối ưu hóa để cung cấp cho các hệ thống ML. Dữ liệu chất lượng cao, được cấu trúc không chỉ quan trọng đối với các hệ thống AI – nó là mạch sống của chúng. Ngày nay, chúng tôi trực tiếp nhúng các tác nhân thông minh của mình vào các quy trình công việc quan trọng, tránh các công cụ trò chuyện cồng kềnh và không cần thiết. Thay vào đó, chúng tôi nhắm mục tiêu chính xác vào các trường hợp sử dụng quan trọng mà cung cấp lợi ích thực tế, có thể đo lường được cho người dùng của chúng tôi.

Với Exabeam Nova, bạn đang hướng tới “di chuyển từ hỗ trợ đến tự động”. Những cột mốc chính cho việc đạt được các hoạt động an ninh tự động hoàn toàn là gì?

Ý tưởng về các hoạt động an ninh tự động hoàn toàn là thú vị nhưng chưa chín muồi. Các tác nhân tự động hoàn toàn, trên mọi lĩnh vực, đơn giản là không hiệu quả hoặc an toàn. Mặc dù việc ra quyết định trong AI đang được cải thiện, nhưng nó vẫn chưa đạt đến mức độ tin cậy của con người và sẽ không đạt được trong một thời gian. Tại Exabeam, cách tiếp cận của chúng tôi không phải là theo đuổi tính tự động hoàn toàn, mà là các đội tác nhân thông minh, có khả năng nhưng được hướng dẫn cẩn thận, hoạt động dưới sự giám sát của các chuyên gia con người trong SOC. Sự kết hợp giữa giám sát của con người và hỗ trợ của các tác nhân thông minh là con đường thực tế và có tác động.

Thử thách lớn nhất bạn đã gặp phải khi tích hợp GenAI và học máy tại quy mô cần thiết cho an ninh mạng thời gian thực là gì?

Một trong những thử thách lớn nhất khi tích hợp GenAI và học máy tại quy mô cần thiết cho an ninh mạng thời gian thực là cân bằng giữa tốc độ và độ chính xác. GenAI alone không thể thay thế quy mô của những gì mà động cơ ML của chúng tôi xử lý – xử lý terabyte dữ liệu liên tục. Ngay cả các tác nhân AI tiên tiến nhất cũng có một “cửa sổ ngữ cảnh” mà là vô cùng không đủ. Thay vào đó, công thức của chúng tôi bao gồm sử dụng ML để chiết xuất dữ liệu lớn thành thông tin có thể hành động, mà sau đó các tác nhân thông minh của chúng tôi dịch và vận hành hiệu quả.

Bạn đã đồng sáng lập OWASP Top 10 cho LLM Applications. Điều gì đã truyền cảm hứng cho điều này và bạn thấy nó định hình các thực hành an ninh AI tốt nhất như thế nào?

Khi tôi ra mắt OWASP Top 10 cho LLM Applications vào đầu năm 2023, thông tin có cấu trúc về an ninh LLM và GenAI là khan hiếm, nhưng sự quan tâm là vô cùng lớn. Trong vòng vài ngày, hơn 200 tình nguyện viên đã tham gia sáng kiến, mang lại nhiều quan điểm và chuyên môn để định hình danh sách ban đầu. Kể từ đó, nó đã được đọc hơn 100.000 lần và đã trở thành nền tảng cho các tiêu chuẩn ngành quốc tế. Ngày nay, nỗ lực này đã mở rộng thành Dự án An ninh Gen AI của OWASP, bao gồm các lĩnh vực như AI Red Teaming, bảo mật hệ thống agentic và xử lý các sử dụng tấn công của Gen AI trong an ninh mạng. Nhóm của chúng tôi gần đây đã vượt qua 10.000 thành viên và tiếp tục thúc đẩy các thực hành an ninh AI trên toàn cầu.

Cuốn sách của bạn, ‘The Developer’s Playbook for LLM Security‘, đã giành được một giải thưởng hàng đầu. Điều quan trọng nhất mà mọi nhà phát triển AI nên hiểu khi xây dựng các ứng dụng an ninh là gì?

Điều quan trọng nhất từ cuốn sách của tôi, “The Developer’s Playbook for LLM Security”, là đơn giản: “với quyền lực lớn đến trách nhiệm lớn”. Mặc dù việc hiểu các khái niệm an ninh truyền thống vẫn là điều cần thiết, nhưng các nhà phát triển hiện nay phải đối mặt với một tập hợp hoàn toàn mới các thách thức độc nhất vô nhị của LLM. Công nghệ mạnh mẽ này không phải là một giấy phép miễn phí, nó đòi hỏi các thực hành an ninh chủ động và có suy nghĩ. Các nhà phát triển phải mở rộng quan điểm của mình, nhận ra và giải quyết các lỗ hổng này từ đầu, nhúng an ninh vào mọi bước của chu kỳ sống của ứng dụng AI.

Bạn thấy lực lượng lao động an ninh mạng sẽ tiến hóa như thế nào trong 5 năm tới khi AI trở nên phổ biến hơn?

Chúng ta hiện đang trong một cuộc đua vũ trang AI. Các đối thủ đang triển khai AI một cách hung hãn để thúc đẩy các mục tiêu độc hại của họ, khiến các chuyên gia an ninh mạng trở nên quan trọng hơn bao giờ hết. 5 năm tới sẽ không làm giảm lực lượng lao động an ninh mạng, mà sẽ nâng cao nó. Các chuyên gia phải chấp nhận AI, tích hợp nó vào các đội và quy trình công việc của họ. Các vai trò an ninh sẽ chuyển dịch toward chỉ huy chiến lược – ít hơn về nỗ lực cá nhân và nhiều hơn về việc điều phối một phản ứng hiệu quả với một đội các tác nhân AI. Sự chuyển đổi này trao quyền cho các chuyên gia an ninh mạng để lãnh đạo một cách quyết đoán và tự tin trong trận chiến chống lại các mối đe dọa đang tiến hóa.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Exabeam.