AI 열풍은 인간의 결정이 침해로 이어지는 것을 가리키지 않는다

AI는 조직이 위협에 대해 생각하는 방식을 재정의했으며, 주목은 대규모 작전, 자동화된 정찰, 그리고 점점 더 설득력 있는 가짜 공격에 집중되어 있다. 이러한 발전은 주목을 받을 가치가 있지만, 또한 산업의 이해를 왜곡하여 가장 일반적인 노출이 시작되는 곳을 알기 어렵게 만들었다.

조직이 더 발전된 AI 기반 위협에 집중하는 동안, 공격자는 여전히 인간의 본능을 조작하여 문을 열어준다. ClickFix 공격, 즉 사회 공학의 정교한 형태는, 지난해 관찰된 초기 접근 사고의 47%를 차지했다. 이것은 침해가 기술적인 간격이 아니라一个人이 빠른 결정을 내리는 것에서 시작하는 경우가 얼마나 많은지를 보여준다.

인간 반응의 간격

ClickFix 공격은 기술 팀이 해결하도록 훈련된 신호를 모방하기 때문에 효과적이다. 소프트웨어 취약점이나 구성 오류에 의존하지 않는다. 대신, 공격자는 단순한 기대를 이용한다:何か가 이상하게 보이면, 누군가가 즉시 수정하려고 시도할 것이다.

이 본능은 기술 환경 내에서 강화된다. 여기서 가동 시간, 반응성, 빠른 행동이 핵심 기대이다. 관리자와 지원 인력은 경고, 시스템 프롬프트, 또는 접근 요청에 신속하게 응답하도록 조건화되어 있다. 공격자는 이 압력을 이해하고 전문가가 해결하도록 훈련된 정확한 신호와 같은 캠페인을 설계한다.

AI는 이 계산을 더 위험하게 만들었다. 생성 도구를 사용하면 공격자가 거의 완벽한 문법, 상황에 맞는 시스템 용어, 그리고 실제 기업 소프트웨어와 거의 같은 가짜 인터페이스를 갖춘 유인물을 만들 수 있다. 과거의 사회 공학 공격이 쉽게 발견될 수 있었지만, 오늘날의 공격은 합법적인 IT 경고와 거의 구별할 수 없다. 이것은 사용자가 훈련을 받은 것과 실제로遭遇하는 것 사이의 간격을 넓힌다.

사건이 발생하는 순간

ClickFix 사건의 주요 도전은 결정적인 순간이 정상적으로 보인다는 것이다. 사용자가 승인하거나 접근을 재설정하거나 변경을 승인한다. 그 자체가 일상적인 활동과 섞여서, 전통적인 보안 도구에 대한 도전을 만든다. 이러한 시스템은 기술적인 이상을 감지할 수 있지만, 결정의 背景을 쉽게 해석할 수 없다.

일반적인 순서는 다음과 같다: 사용자가 브라우저 경고를 받거나, 필요한 플러그인이 업데이트되어야 하는 경우, 사용자는 프롬프트를 클릭하여 PowerShell 명령을 실행한다. 그러나 사용자는 이 명령을 보지 못한다. 사용자는 오류가 해결되었다는 메시지만 본다. 전체 상호작용는 30초도 걸리지 않는다. 시스템 로그에는 이상한 것이 없다. 합법적인 사용자가 합법적인 기계에서 명령을 실행했기 때문이다.

이로 인해 여러 가지 결과가 발생한다. 오늘날, 74%의 침해는 인간 요소가 포함되어 있다. 이는 사회 공학 공격, 오류, 및 남용을 포함한다. 인간 행동 위험은 대시보드에 거의 나타나지 않는다. 문제는 컨트롤이 아니다. 누락된 계층은 결정이 가장 빠르게 내려지는 곳과 공격자에게 열리는 기회를 만드는 결정이 어디인지에 대한 가시성이다.

인간의 오류를 재고하기

인간의 행동은 분리된 훈련 문제로 다루어져서는 안 된다. 그것은 보안 아키텍처의 핵심 구성 요소로 간주되어야 한다.

그것을 예측할 수 없는 결과로 다루기보다, 측정할 수 있는 위험 요소로 간주해야 한다. 보안 리더는 방어姿勢에 인간 중심의 통찰력을 통합함으로써 이를 달성할 수 있다. 시스템은 이상적인 조건에서 항상 이상적으로 행동할 것이라고 가정하지 않고, 사람들이 실제로 어떻게 행동하는지에 대한 현실적인 기대를 가지고 설계되어야 한다.

여기서 측정은 구체적이다. 조직은 결정 속도, 사용자가 고위험 프롬프트를 승인하는 속도, 승인 패턴을 모니터링하여 표준 경고의 반복적인 무시나 비정상적인 승인을 감지할 수 있다. 행동 기준선은 개인 또는 역할 수준에서 적용되어 보안 팀에게 “정상”이 무엇인지에 대한 기준점을 제공한다. 그러면 편차는 신호로 등록된다.

근본 원인을 해결하기

ClickFix 스타일의 공격에 대한 방어를 향상시키기 시작하는 것은, 결정이 빠르게 내리는 조건을 이해하는 것이다. 리더는 빠른 승인, 반복되는 근접 미스, 또는 시스템 프롬프트에 대한 일관되지 않은 반응과 같은 패턴을 연구할 수 있다. 이러한 관찰은 본능이 주의를 상회하는 곳을 보여준다.

워크플로는 또한 실수를 초래하는 압력 지점에 대한 평가가 필요하다. 고위험 작업은 사용자가 승인하는 것을 평가하고 검토할 수 있는 작은 검증 단계가 필요하다.同時에, 일상적인 작업은 피로를 줄이고, 사용자가 프롬프트를 신중하게 고려하지 않고 클릭하는 것을 방지하기 위해 최적화되어야 한다.

조직은 실제 압력을 반영하는 시뮬레이션을 사용하여 추가적인 통찰력을 얻을 수 있다. 전통적인 피싱 테스트는 인식에 유용하지만, 다중 작업을 처리하거나 긴급한 작업에 대한 관심을 관리할 때 사용자의 반응을 평가하지 않는다. 시간 압력이나 시스템 중단을 포함하는 시나리오는 일반적으로 감지하기 어려운 행동 패턴을 보여준다.

유효한 시뮬레이션은 전통적인 테스트에서 무시되는 변수를 도입한다. 동시 작업 부하, 늦은 시간의 피로 창, 그리고 높은 위험의 프롬프트가 나타나기 직전에 발생하는 작업 중단과 같은 변수는 사용자의 행동을 평가한다. 사용자가 분리된 피싱 이메일을 식별할 수 있지만, 실제 작업 중에 공격적인 프롬프트를 승인할 수 있다. 이러한 조건을 복제하는 테스트는 조직이 실제로 사용할 수 있는 행동 데이터를 생성한다.

또한, 합법적인 행동에서 시작하는 사건을 계획하는 것이 도움이 된다. 많은 팀은 비인가 행동을 감지하는 데 중점을 둔다. 실제로, 공격의 첫 번째 의미 있는 신호는 결코 승인되어서는 안 되는 승인된 프롬프트일 수 있다. 이러한 예상을 사고 대응 계획에 통합하면, 그렇지 않으면 무시될 수 있는 초기 지표를 더 쉽게 식별할 수 있다.

실패 지점 강화

AI 기반 위협은 계속 진화할 것이다. 그러나 많은 침해는 여전히 인간의 결정에서 시작된다. 이러한 현실을 해결하는 것은 작업을 느리게 하거나 자동화를 포기하는 것을 의미하지 않는다. 그것은 사람들이 자연스럽게 일하는 방식과 본능이 주의를 상회하는 지점에 대한 안전 장치를 설계하는 것을 의미한다.

조직이 공격 표면에 대한 이해에 인간의 의사결정을 통합하면, 운영 위험에 대한 더 정확한 시각을 얻을 수 있다. 이것은 기술적인 컨트롤과 사용자가 일상적인 작업 중에 시스템과 상호작용하는 방식에 대한 더 현실적인 이해를 지원하는 더 강력한 방위를 제공한다.