엑사비엠의 Chief AI 및 Product Officer 스티브 윌슨 – 인터뷰 시리즈

스티브 윌슨은 엑사비엠의 Chief AI 및 Product Officer입니다. 그의 팀은 최신 AI 기술을 적용하여 실제 사이버 보안 문제를 해결합니다. 그는 OWASP Gen AI 보안 프로젝트를 공동 설립했으며, 이 프로젝트는 산업 표준 OWASP Top 10 for Large Language Model Security 목록을 만드는 데 기여했습니다.

그의 수상작인 “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media)은 사이버 보안 분야에서 최고의 혁신적인 책으로 선정되었습니다.

엑사비엠은 지능형 보안 운영을 위한 자동화 및 지능을 제공하는 리더입니다. 엑사비엠은 행동 분석 및 자동화를 결합하여 보안 사고에 대한 더 전체적인 관점을 제공하고, 다른 도구에서 놓친 비정상성을 발견하며, 더 빠르고 정확한 반응을 달성합니다. 엑사비엠은 글로벌 보안 팀이 사이버 위협에 대응하고, 위험을 완화하며, 운영을 최적화하는 데 도움을 줍니다.

새로운 직함인 엑사비엠의 Chief AI 및 Product Officer는 사이버 보안에서 AI의 중요성을 어떻게 반영합니까?

サイ버 보안은 기계 학습을 처음으로真正로 받아든 분야 중 하나입니다. 엑사비엠에서는 10년 이상 ML을 사용하여 인간이 놓칠 수 있는 비정상적인 행동을 감지하기 위해 탐지 엔진의 핵심으로 사용했습니다. 새로운 AI 기술이 등장함에 따라 AI는 중요해졌으며, 이제는 핵심이 되었습니다.

엑사비엠의 Chief AI 및 Product Officer로서의私の 역할은 이러한 발전을 반영합니다. AI를 제품 전반에 걸쳐 내장하는 회사에서, 그리고 사이버 보안과 같은 산업에서 AI의 역할이 점점 더 중요해지는 상황에서, AI 전략과 제품 전략을 하나의 역할로 통합하는 것이 합리적이었습니다. 이러한 통합으로 우리는 보안 분석가와 운영 팀에게 변革적인 AI 기반 솔루션을 제공하기 위해 전략적으로 정렬할 수 있습니다.

엑사비엠은 보안 운영에서 “에이전트 AI”를 개척하고 있습니다. 이것은 실제로 무엇을 의미하며, 전통적인 AI 접근 방식과 어떻게 차이점을 가지고 있습니까?

에이전트 AI는 전통적인 AI 접근 방식에서 의미 있는 발전입니다. 그것은 행동 지향적이며, 분석가가 요청하기도 전에 프로세스를 시작하고, 정보를 분석하며, 통찰력을 제공합니다. 단순한 데이터 분석을 넘어서, 에이전트 AI는 전략적인 추천을 제공하고, 전체 SOC를 가로지르며, 사용자를 가장 쉬운 승리 방향으로 안내하며, 보안 상태를 개선하기 위한 단계별 지침을 제공합니다. 또한, 에이전트는 전문가 팀으로 작동하며, 각 에이전트는 특정한 성격과 데이터 세트를 가지고 있으며, 분석가, 엔지니어, 매니저의 워크플로에無缝하게 통합되어 타겟된 도움을 제공합니다.

엑사비엠 노바가 SOC 워크플로에서 여러 AI 에이전트를 통합함에 따라, 보안 분석가의 역할은 어떻게 변할까요? 그것은 발전할까요, 축소될까요, 또는 더 전문적인 역할로 변할까요?

보안 분석가의 역할은 확실히 발전할 것입니다. 분석가, 보안 엔지니어, SOC 매니저들은 데이터, 경고, 사례로 압도당하고 있습니다. 실제로 미래의 변환은 단순한 작업에서 시간을 절약하는 것뿐만 아니라, 모든 사람의 역할을 팀 리드로 승격시키는 것입니다. 분석가는 여전히 강력한 기술적인 기술이 필요하지만, 이제 에이전트 팀을 이끌어 작업을 가속화하고, 의사 결정을 증폭하며, 보안 상태를真正로 개선하는 데 도움을 줄 것입니다. 이러한 변환은 분석가를 전략적인 오케스트레이터로 만들며, 전술적인 반응자에서 벗어나게 합니다.

최근 데이터에 따르면, AI의 생산성 영향에 대한 임원과 분석가 간의 인식 차이가 있습니다. 왜 이러한 인식 차이가 존재하는지, 그리고 어떻게 해결할 수 있을까요?

최근 데이터에 따르면, 명확한 인식 차이가 있습니다. 71%의 임원은 AI가 생산성을 크게 향상시킨다고 믿지만, 일선 분석가는 단지 22%만이 동의합니다. 엑사비엠에서는 이 간격이 최근 사이버 보안에서 AI에 대한 열광과 함께 커지고 있습니다. 이제는 AI 데모를 만들기 쉽지만, 분석가의 손에 넣었을 때는 실제로 의미 있는 개선이 부족합니다. 이러한 데모는 임원에게 처음에는 매력적이지만, 실제로 중요한 것은 분석가의 효과성을真正로 향상시키는 AI 도구입니다. 이러한 도구가 실제로 생산성을 향상시키면, 신뢰와 실제 생산성 향상이 따라올 것입니다.

AI는 위협 탐지 및 반응을 가속화하고 있지만, 사이버 보안 사고에서 자동화와 인간의 판단을 어떻게 균형을 유지합니까?

AI의 능력은 급속히 발전하고 있지만, 현재의 기초적인 “언어 모델”은 원래 언어 번역과 같은 작업을 위해 설계되었으며, 복잡한 인간 요인이나 게임 이론을 다루는 데 적합하지 않습니다. 이것은 사이버 보안에서 인간의 판단이 더욱 중요하게 만듭니다. 분석가의 역할은 AI에 의해 약화되지 않습니다. 오히려, 분석가는 이제 팀 리드로, 에이전트를 이용하여 작업을 가속화하고, 의사 결정을 증폭하며, 보안 상태를真正로 개선하는 데 도움을 줄 것입니다. 궁극적으로, 자동화와 인간의 판단을 균형을 이루는 것은 AI가 인간의 전문성을 증폭시키는 것에 관한 것입니다. 그것은 인간을 대체하는 것이 아닙니다.

AI가 핵심 설계 원칙으로 되었을 때, 제품 전략은 어떻게 발전합니까?

엑사비엠에서는 제품 전략이 AI를 핵심 설계 원칙으로 하여 발전하고 있습니다. 우리는 엑사비엠을 기계 학습을 지원하기 위해 처음부터 설계했습니다. 우리는 로그 수집, 파싱, 강화, 정규화, 그리고 ML 시스템을 위한 강력한 공통 정보 모델을 구축했습니다. 높은 품질의 구조화된 데이터는 AI 시스템에 필수적입니다. 오늘날, 우리는 지능형 에이전트를 중요한 워크플로에 직접 내장하고 있습니다. 우리는 일반적인, 불편한 채팅봇을 피하고, 실제로 사용자에게 실질적인 이점을 제공하는 특정한 사용 사례에 초점을 맞추고 있습니다.

엑사비엠 노바가 SOC 워크플로에서 여러 AI 에이전트를 통합함에 따라, 완전한 자율 보안 운영의 핵심 里程碑은 무엇입니까?

완전한 자율 보안 운영의 개념은 매력적이지만, 아직은 시기상조입니다. 완전한 자율 에이전트는 효율적이거나 안전하지 않습니다. 엑사비엠에서는 완전한 자율성을 추구하는 것이 아니라, 인간 전문가의 감독하에 작동하는 에이전트 팀을 목표로 합니다. 이러한 조합은 인간의 감독과 타겟된 에이전트 지원의 조합으로, 실제로 의미 있는 발전을 가져올 것입니다.

실제 사이버 보안에서 필요한 규모로 GenAI 및 기계 학습을 통합하는 데 있어 가장 큰 도전은 무엇입니까?

GenAI와 기계 학습을 실제 사이버 보안에서 필요한 규모로 통합하는 데 있어 가장 큰 도전은 속도와 정밀도를 균형을 이루는 것입니다. GenAI만으로는 우리의 고속 ML 엔진이 처리하는 대량의 데이터를 대체할 수 없습니다. 가장 先進的な 에이전트도 컨텍스트 윈도우가 부족합니다. 우리의 레시피는 ML을 사용하여 대량의 데이터를 작동 가능한 통찰력으로 변환하고, 지능형 에이전트가 이를 효과적으로 번역하고 운영하는 것입니다.

OWASP Top 10 for LLM Applications를 공동 설립한 이유와, AI 보안 최선의 관행에 미치는 영향은 무엇입니까?

저는 2023년 초에 OWASP Top 10 for LLM Applications를 공동 설립했습니다. 그 때, LLM 및 GenAI 보안에 대한 구조화된 정보가 부족했지만, 관심은 매우 높았습니다. 몇 일 내에, 200명 이상의 자원봉사자가 이니셔티브에 참여하여 다양한 의견과 전문 지식을 공유했습니다. 이후, 이 목록은 국제 산업 표준의 기초가 되었습니다. 오늘날, 이 노력은 OWASP Gen AI 보안 프로젝트로 확대되었습니다. 이 프로젝트는 AI 레드 팀, 에이전트 시스템 보안, 사이버 보안에서 GenAI의 공격적 사용과 같은 분야를 다루고 있습니다. 우리의 그룹은 최근 10,000명 이상의 회원을 보유하고 있으며, 전 세계적으로 AI 보안 관행을 발전시키고 있습니다.

당신의 책, ‘The Developer’s Playbook for LLM Security‘,는 최고의 상을 수상했습니다. 이 책에서 가장 중요한 내용이나 원칙은 무엇이며, AI 개발자가 안전한 애플리케이션을 구축할 때 이해해야 할 내용은 무엇입니까?

저의 책, “The Developer’s Playbook for LLM Security”에서 가장 중요한 내용은 간단합니다. “위대한 권력은 위대한 책임을 의미합니다.” 전통적인 보안 개념을 이해하는 것은 여전히 필수적이지만, 개발자는 이제 LLM에 대한 새로운 도전을 직면해야 합니다. 이 강력한 기술은 무료 패스가 아닙니다. 개발자는 보안을 모든 단계에서 고려해야 합니다. 개발자는 새로운 취약성을 인식하고, 보안을 모든 단계에서 고려해야 합니다.

다음 5년 동안, 에이전트 AI가 더 대중화됨에 따라 사이버 보안 인력은 어떻게 발전할까요?

우리는 현재 AI 무기 경쟁을 하고 있습니다. 적들은 사이버 보안을 위협하기 위해 AI를 공격적으로 사용하고 있습니다. 이는 사이버 보안 전문가를 더욱 중요하게 만듭니다. 다음 5년 동안, 전문가는 AI를 자신의 팀과 워크플로에 통합해야 합니다. 보안 역할은 전략적 지휘로 변환될 것입니다. 분석가는 여전히 강력한 기술적인 기술이 필요하지만, 이제는 에이전트 팀을 이끌어 작업을 가속화하고, 의사 결정을 증폭하며, 보안 상태를真正로 개선하는 데 도움을 줄 것입니다. 이러한 변환은 사이버 보안 전문가를 전략적인 오케스트레이터로 만들며, 전술적인 반응자에서 벗어나게 합니다.

이 인터뷰에 대한 감사를 드리며, 더 많은 정보를 원하는 독자는 엑사비엠을 방문하시기 바랍니다.