Humanix의 Keith Stewart, 창립자 및 CEO – 인터뷰 시리즈

Keith Stewart, Humanix의 창립자 및 CEO는 25년 이상의 경력을 보유한 사이버 보안 전문가로, Cisco, Brocade, Riverbed, vArmour를 포함한 산업에서 가장 잘 알려진 회사에서 제품 관리, 엔지니어링, 비즈니스 개발, 및 경영 지도부를 맡았습니다. Humanix를 창립하기 전에, 그는 vArmour에서 임시 CEO 및 제품 및 엔지니어링 부사장을 역임하며, 회사의 인수와 SaaS 기반 비즈니스 모델로의 전환을 도왔습니다. 그의 경력 동안, Stewart는 글로벌 팀을 이끌었고, 주요 사이버 보안 제품 이니셔티브를 주도했으며, 자금 조달 및 M&A 활동에 참여했으며, 차세대 보안 기술 개발에 핵심적인 역할을 했습니다. 그의 기업 보안에 대한 광범위한 배경과 공격자가 인간 행동을 어떻게 악용하는지에 대한 깊은 이해로 인해, 그는 인간을 점점 더 복잡한 사회 공학 공격으로부터 보호하는 것을 목표로 Humanix를 설립했습니다.

Humanix는 사이버 보안 회사로, 인간 위협 탐지 및 응답(Human Threat Detection and Response, HTDR)이라고 불리는 새로운 카테고리를 개척하고 있습니다. 이는 기업 보안의 “인간 계층”을 보호하는 것을 목표로 합니다. 단순히 엔드포인트, 네트워크, 및 인프라에만 집중하는 것이 아니라, Humanix는 인간 심리학 및 자연어 공격 패턴에 대한 대화형 AI를 사용하여 음성, 채팅, 이메일, 비디오, 및 서비스 데스크 상호작용을 통해 조작, 속임수, 위장, 및 기타 사회 공학 공격을 탐지합니다. 이 플랫폼은 실시간으로 공격을 탐지하여, 공격자가 직원, 계약자, 또는 고객을 악용하기 전에 조직이 침해를 막을 수 있도록 설계되었습니다. Humanix의 접근 방식은 대부분의 성공적인 사이버 공격이 시스템이 아니라 사람을 대상으로 한다는 것을 인식하고, 보안 팀이 전통적인 사이버 위협과 동일한 수준의 가시성 및 응답 능력을 인간을 대상으로 하는 위협에 제공하도록 하는 것을 목표로 합니다.

당신은 vArmour를 포함한 회사에서 주요 변화를 이끌어 왔습니다. Humanix를 설립하기로 결정한 구체적인 간격이나 전환점은 무엇이었나요? 왜 인간보다는 시스템을 보호하는 데 इतन 많은 노력을 기울였나요?

조직의 보안 태세에서 가장 큰 도전은 인간 위험입니다. 인간은 우리의 가장 강력한 방어 자산이면서도 가장 큰 취약성 영역입니다. 그러나 이것은 지속적으로 해결되지 않은 문제입니다. 산업의答案은 교육이었습니다. 효과적으로 평균 직원을 1시간 세션에서 사이버 보안 전문가로 변환하려고 시도했습니다. 우리는 그것이 작동하지 않는다는 것을 알고 있지만, 더好的 解决方案이 없었습니다.

최근에 두 가지 일이 변경되었습니다. 하나는 나빠진 것입니다. AI는 인간을 직접 공격하는 공격을 더 쉽게 만들었습니다. 이제 당신은 세계의 다른 쪽에 있는 10대가 될 수 있고, 영어를 하나도 말하지 못하고, 특정 비즈니스에 대해 아무것도 모를 수 있지만,突然적으로 LLM이 거의 모든 것을 알려주고 거의 누구나처럼 들릴 수 있습니다. 그것은 실제이고 현존하는 위험을 생성합니다.

두 번째는 더好的 변경입니다. 우리는 이제 이러한 공격을 탐지할 수 있는 기술을 가지고 있습니다. LLM은 인간 상호작용의 세부 사항과 복잡성을 이해하는 데 매우 좋습니다. 대화형 AI를 사용하여, 우리는 이러한 상호작용에서 패턴을 식별하고 거의 실시간으로 응답할 수 있습니다.

더 이상 오래된, 교육 중심 전략에만 의존할 필요가 없습니다. 처음으로, 우리는 인간 취약성 문제를 직접 해결할 수 있는 방법을 가지고 있습니다. 그것이 우리가 Humanix를 구축한 이유입니다.

당신의 작업은 대규모 데이터, 행동 분석, 및 그래프 기반 보안 모델에 중점을 두었습니다. 이러한 경험은 Humanix의 공격 탐지 접근 방식에 어떻게 영향을 미쳤나요?

표면적으로, 상호작용형 사회 공학 공격을 탐지하는 것은 어려워 보입니다. 모든 사람은 다릅니다. 자연어는 매우 고차원적입니다. 클래식 ML 중심 행동 모델은 컨텍스트를 이해하지 못하므로, 자주 오작동합니다.

그러나, 조금 더 깊이 들어가면, 이 공격 클래스에도 패턴이 있음을 알 수 있습니다. 버퍼 오버플로우나 제로 데이가 아니라, 공격자는 비즈니스 프로세스 간격과 인간의 신뢰를 악용합니다. 공격자는 일관되게 조직에 대해 실행하는 플레이북이 있으며, 따라서 우리는 이러한 공격을 탐지하고 응답할 수 있어야 합니다.

이 통찰력은 우리에게 클래식 탐지 및 응답 패턴을 제공합니다. 우리는 언어 모델의 의미적 추론 능력과 행동 분석 및 그래프 이론을 결합하여 엔티티, 관계, 행동, 위험, 및 상호작용 자체를 이해할 수 있습니다. 이것은 새로운 탐지 및 응답 제품 클래스를 생성하는 방법입니다. Human Threat Detection and Response입니다.

BlackFile과 같은 새로운 그룹은 말웨어가 많은 전술 대신 음성 피싱과 실시간 사회 공학을 사용하고 있습니다. 이것은 위협 풍경이 어떻게 변경되고 있는지에 대해 무엇을 알려줍니까?

BlackFile은 공격이 환경에 말웨어를 넣는 것보다 자연어를 사용하여 사람을 열어주는 것에 더 중점을 둔 더广泛한 전환의 일부입니다.

이 그룹은 기술적인 악용보다 설득력 있는 전화 호출, 합理적인 전제, 및 적절한 긴급성을 사용하여 동일한 효과를 얻을 수 있다는 것을 깨달았습니다. 공격 표면은 많이 변경되지 않았습니다. 攻击者的焦点이 변경되었습니다. 사람들은 항상 공격 표면의 일부였습니다. 변경된 것은 공격의 규모, 성숙도, 및 반복 가능성입니다.

사회 공학은 복제, 정제, 및 산업화되고 있습니다. 그것은 비즈니스에서 실제로 작동하는 방식을 이용합니다. 특히, 사람們이 빠르게 도움을 주고, 예외를 해결하며, 일을 진행시키기 위해 기대되는 워크플로에서입니다.

공격자는 IT 헬프 데스크를 위장하고 직원을 직접 악용하여 접근을 얻는 기술이 효과적인 주요 진입점이 되고 있습니다. 이러한 기술이 왜 इतन 효과적인가요?

이러한 기술은 신뢰, 긴급성, 및 접근성의 조합을 악용하기 때문에 효과적입니다. 많은 지원 및 행정 워크플로에서 이러한 요소들이 발견됩니다.

만약 내가 환경에 진입하고 싶다면, 기술적인 악용을 찾기 위해 몇 주를 보낼 수 있습니다. 또는, 나는 누군가에게 도움을 줄 수 있도록 훈련된 사람에게 전화할 수 있고, 믿을 수 있는 이야기를 만들 수 있으며, 필요한 일을 하도록 할 수 있습니다.

전화의 다른 쪽에 있는 사람은 실제로 해결하려는 문제를 해결하려고 시도하고 있습니다. 시간 압박과 불완전한 정보로 인해, 그것은 공격자가 접근을 얻는 데 유용한 대상입니다. 그것은 몇 가지 이유로 헬프 데스크가 매력적인 대상입니다. 그것은 대화가 직접적으로 접근으로 바뀔 수 있는 몇 가지 장소 중 하나입니다.

산업은 직원 교육에大量으로 투자했지만, 사람들을 대상으로 하는 침해는 계속 증가하고 있습니다. 전통적인 보안 인식이 어디에서 부족한가요? 무엇이 변경되어야 합니까?

보안 인식 교육은 사회 공학을 방지하는 주요 방어 수단으로 처리되었습니다. 그러나 결과는 그 한계를 보여줍니다. 조직은 계속해서 교육에大量으로 투자하지만, 공격자는 사람들을 라이브 상호작용에서 대상으로 하며, 직원들이 교육에서 기억한 자료를 테스트하는 것이 아닙니다.

사회 공학 공격은 퀴즈가 아닙니다. 그것은 전화나 채팅 스레드의 다른 쪽에 있는 사람입니다. 긴급성을 생성하고, 신뢰를 구축하며, 누군가가 취해야 할 행동을 유도하려고 합니다. 현재 모델은 직원이 공격을 인식하고 중지하도록 기대하지만, 공격자는 상호작용을 능동적으로 조작합니다.

무언가 잘못되면, 반응은 종종 직원을 비난하고 추가 교육을 할당하는 것입니다. 그러나 직원은 도움을 주려고 했으며, 이것은 비즈니스에서 매일 요구하는 것입니다. 우리는 사회 공학을 단순히 인식 문제로 간주하는 것을 중단해야 합니다. 그것은 공격 클래스이며, 우리는 상호작용이 발생하는 동안 이를 탐지하고 응답해야 합니다.

Humanix는 실시간으로 인간 위험을 탐지합니다. 실제로 인간 위험의 가시성이 무엇입니까?

인간 위험의 가시성은 보안 팀이 공격자가 사람들을 조작하도록 시도하는 라이브 상호작용에 대한 가시성을 제공하는 것을 의미합니다.

오늘날, 이러한 상호작용은 효과적으로 보안에 보이지 않습니다. 누군가가 헬프 데스크에 전화하거나, 티켓을 열거나, 채팅을 시작합니다. 비밀번호가 재설정되거나, MFA 요인이 등록되거나, 권한이 변경되거나, 예외가 승인됩니다. 이러한 워크플로는 매우 민감하지만, 보안 팀은 가시성과 관찰 가능성이 없습니다.

Humanix는 이것을 변경합니다. 우리는 이미 사용 중인 기업 커뮤니케이션 시스템에 연결합니다. Microsoft 365, ServiceNow , Zoom, Slack 등이 있습니다. Humanix는 이러한 채널上的 동작 및 상호작용을 모니터링하고, 공격 전술 및 기업 절차와 비교합니다.

호출자가 올바르게 확인되었나요? 호출자가 검증을 피하도록 이야기했나요? 긴급성, 위장, 또는 필수적인 단계를 건너뛰는 압력이 있나요? 호출이 진행됨에 따라 위험 프로파일이 어떻게 변경되었나요? Humanix는 상호작용이 발생하는 동안 보안 탐지 및 응답을 제공하며, 보안 팀이 의심스러운 것으로 보이는 경우 알려줍니다.

이 분석의 궁극적인 목표는 사실 후에 희생자를 처벌하는 것이 아닙니다. 그것은 그 순간에 그들을 보호하는 것입니다. 만약 대화가 공격이 된다면, 보안 팀은 그것을 알아야 합니다.

AI 생성 음성 및 딥페이크 기술이 개선됨에 따라, 인간의 신뢰가 가장 약한 공격 표면이 되는 지점에 얼마나 가까이 왔나요?

인간의 신뢰는 오래전부터 가장 약한 공격 표면 중 하나였습니다. AI는 인간의 신뢰를 공격하는 것을 더 쉽게 만들었습니다.

그러나, 우리는 딥페이크의 특정한 경우에 대해 너무 많은 비중을 두지 않아야 합니다. 딥페이크는 공격자가 사용할 수 있는 하나의 매체일 뿐입니다. 실제로, 최근 몇 년 동안 성공적인 사회 공학 공격의 대부분은 딥페이크가 아니었습니다. 그것들은 단순히 인간 공격자와 사기꾼들이 전화기를 잡고, 신뢰를 얻고, 적절한 긴급성을 생성하는 것입니다. Scattered Spider, ShinyHunters, BlackFile과 같은 그룹은 普通한 전화 호출, 합리적인 전제, 및 적절한 긴급성이 누군가를 공격자의 대리인으로 하여금 행동하게 만드는 데 충분하다는 것을 보여주었습니다.

보안 팀은 메시지에 집중해야 합니다. 의심스러운 상황에서 정책을 위반하거나 예외를 승인하도록 압력을 받는 누군가 – 이러한 실제 위험 行為입니다. 위험은 상호작용 자체와 그것이 유도하는 행동에 있습니다.

신뢰는 우리가 비즈니스에서 제거할 수 없는 것입니다. 사람들은 전화에 응답해야 하고, 문제를 해결해야 하고, 요청을 승인해야 하며, 서로 도와야 합니다. 答案은 모든 사람을 덜 인간적으로 만들어서는 안 됩니다. 그것은 공격자가 신뢰를 악용하는 순간을 보호하는 것입니다.

AI는 AI驱动 社会 공학을 방어하는 데 어떤 역할을 해야 합니까? 실시간으로 조작을 탐지하는 데 가장 큰 기술적인 도전은 무엇입니까?

대화형 AI는 AI驱动 社会 공학을 교육 문제에서 탐지 및 응답 문제로 변환하는 기회를 제공합니다. 언어 모델을 사용하여, 우리는 도메인에서 배운 모든 것을 인간 계층에 적용할 수 있습니다. 우리는 이러한 공격을 탐지하고 응답해야 합니다. 계속해서 그것을 훈련시키려고 시도하는 것은 무의미합니다.

이 비전을 현실로 만드는 데에는 많은 기술적인 도전이 있습니다. 자연어는 매우 고차원적입니다. 동일한 의미를 전달하는 방법은 бес数 있습니다. “시스템에서 잠겨 있다”는 문장은 “비밀번호를 재설정해야 한다”는 문장과 기능적으로 동일한 문장입니다. 두 문장 모두에서 “비밀번호”와 “재설정”이라는 단어가 사용되지 않았습니다.

또 다른 도전은 컨텍스트의 중요성입니다. 인간 상호작용은 컨텍스트가 있으며, 따라서 인간의 조작도 컨텍스트가 있습니다. 호출자는 차분하고, 예의 바르고, 신뢰할 수 있게 들릴 수 있지만, 여전히 검증을 피하거나 안전하지 않은 행동으로 유도할 수 있습니다. 우리는 여러 신호와 컨텍스트 데이터를 결합하여 良性와 악성 사이를 정확하게 구분해야 합니다.

마지막으로, 각 조직은 다릅니다. 각 조직에는 서로 다른 절차와 규범이 있으며, 거의 모두 기계가 읽을 수 없습니다. 이것은 또 다른 영역에서 AI가 큰 도움을 줄 수 있습니다. 정책을 이해하고, 관찰된 실제 행동과 비교하는 것입니다.

많은 보안 도구는 여전히 엔드포인트, 네트워크, 및 身分 시스템에 중점을 두고 있습니다. 인간 행동이 주요 전장이 되는 경우, CISO는 아키텍처를 어떻게 재고해야 합니까?

첫째, CISO는 우리가 모두 직관적으로 아는 것을 공식적으로 인정해야 합니다. 즉, 조직의 인간 자본은 관리해야 하는 자산 클래스입니다. 위협과 위험을 정확하게 모델링하고 제어해야 합니다.

NIST 사이버 보안 프레임워크는 이미 어떻게 해야 하는지에 대한 지침을 제공합니다. “식별” 및 “관리”는 위험 식별의 일부입니다. 그러나 많은 조직은 인간 위험 문제를 교육 문제로 정의하며, 보안 인식 교육 준수를 통해만 관리합니다. 이것은 변경되어야 합니다.

인간 자본을 자산 클래스로 취급할 때, 우리는 다른 모든 자산 클래스에서 실행하는 표준 플레이북을 열 수 있습니다. 주요 위험은 무엇인가요? 어떻게 그들을 체계적으로 방어할 수 있나요? 우리의 시스템과 프로세스는 무엇인가요? 공격자가 방어를 뚫거나 이미 뚫었을 때, 우리는 어떻게 탐지하고 응답할 수 있나요? 조직은 위협을 포함하고 서비스를 복원하는 데 어떻게 반응합니까? 인간 자본에 대한 동일한 체계적인 접근 방식을 취함으로써, 우리는 위험을 더 잘 식별하고, 자원을 더 효과적으로 관리할 수 있습니다.

미래를 내다보면, 인간 계층 공격이 사이버 범죄를 지배할 것으로 예상합니까? 아니면 AI驱动 自動화와 사회 공학이 결합하여 더 어려운 것을 방어해야 합니까?

それは確実に 블렌DED된 위협 모델이 될 것입니다. 두 가지 일이 동시에 발생하고 있습니다. 첫째, 공격자는 공격을 확장하기 위해 AI를 사용하고 있습니다. 접근성을 증가시키고, 이 공격 클래스의 비용을 낮추고 있습니다. 둘째, 기업 자체는 공격을 받고 있는 비즈니스 서비스를 이끄는 에이전트 AI 변환을 거치고 있습니다.

고객 서비스, 헬프 데스크, 서비스 데스크, 재무 운영, 및 내부 지원 워크플로는 모두 인간이 제공하는 것에서 에이전트 AI가 제공하는 것으로 변환되고 있습니다. 이것은 자연어 공격 표면이 폭발적으로 증가하고, 인간의 상식이 제거됨을 의미합니다. 대규모 언어 모델은 지시를 따르고 도움이 되도록 훈련되었습니다. 사회 공학 공격에 대한 우리의 일부였던 인간의 의심이나 “直觉”은 모델 응답에서 의도적으로 제거되었습니다. 에이전트 AI로의 전환은 궁극적으로 사회 공학 공격의 위험을 증가시킬 것입니다. 감소시키지 않을 것입니다.

결과적으로, 이 공격 클래스에 대한 기업의 노출은 거의 확실하게 향후 몇 년 동안 계속 증가할 것입니다. 인간과 에이전트는 모두 자연어 공격에 취약합니다. 보안 팀은 오늘부터 이 새로운 현실에 대한 체계적인 방어 및 응답 계획을 준비해야 합니다.

인터뷰에 감사드립니다. Humanix에 대해 더 알아보려는 독자들은 Humanix를 방문하십시오.