AI의 과한 관심은 침해로 이어지는 인간의 결정에 가려지고 있다

AI는 조직이 위협에 대해 생각하는 방식을 재정의했으며, 주목은 대규모 작전, 자동화된 정찰, 그리고 점점 더 설득력 있는 가짜 정보에 집중되고 있다. 이러한 발전은 주목을 받을 가치가 있지만, 또한 산업이 가장 일반적인 노출이 시작되는 곳을 이해하는 방식을 왜곡했다.

조직이 더 발전된 AI 기반의 위협에 집중하는 동안, 공격자는 여전히 인간의 본능을 조작하여 문을 열고 있다. ClickFix 공격, 즉 사회 공학의 정교한 형태는, 지난 해 관찰된 초기 접근 사고의 47%를 차지했다. 이것은 침해가 기술의 간격이 아닌, 압박下的 빠른 결정으로 시작하는 경우가 얼마나 많은지를 보여준다.

인간의 반응 격차

ClickFix 공격은 기술 팀이 해결하도록 훈련된 신호를 모방하기 때문에 효과적이다.它们는 소프트웨어 취약점이나 구성 오류에 의존하지 않는다. 대신,它们는 간단한 기대를 악용한다:何か가 잘못된 것처럼 보이면, 누군가가 즉시 수정하려고 할 것이다.

이 본능은 기술 환경 내에서 강화된다. 여기서 업타임, 응답성, 그리고 빠른 행동은 핵심 기대이다. 관리자와 지원 인원은 경고, 시스템 프롬프트, 또는 접근 요청에 신속하게 응답하도록 훈련된다. 공격자는 이러한 압력을 이해하고, 전문가가 해결하도록 훈련된 신호와 정확히 일치하는 캠페인을 설계한다.

AI는 이 계산을 더 위험하게 만들었다. 생성 도구를 사용하면 공격자가 거의 완벽한 문법, 문맥적으로 정확한 시스템 용어, 그리고 실제 기업 소프트웨어와 거의 일치하는 가짜 인터페이스를 갖춘 유인물을 제작할 수 있다. 과거에 서툴게 작성된 프롬프트가 사회 공학 시도를 드러냈다면, 오늘날의 공격은 합법적인 IT 경고와 구별할 수 없다. 이는 사용자가 무엇을 식별하도록 훈련받았는지와 실제로 현장에서遭遇하는 것 사이의 간격을 넓히는 것이다.

사건이 잘못되는 순간

ClickFix 사건의 핵심 도전은, 결정적인 순간이 정상적으로 보인다는 것이다. 사용자가 프롬프트를 승인하거나, 접근을 재설정하거나, 변경을 승인한다. 이러한 행동 자체는 일상적인 활동으로 혼합되어, 전통적인 보안 도구에 대한 도전을 생성한다. 이러한 시스템은 기술적인 이상을 감지하지만, 서두르는 결정의 背景을 쉽게 해석할 수 없다.

일반적인 시퀀스는 다음과 같을 수 있다: 사용자가 브라우저 경고를 만나서 세션이 만료되었거나, 필요한 플러그인이 업데이트되어야 한다고 한다. 사용자는 프롬프트를 클릭하여, 배경에서 PowerShell 명령을 실행한다(사용자가 보지 못하는 명령). 가시적인 인터페이스는 단순히 문제가 해결되었다고 알려준다. 전체 상호작용는 30초 미만으로 진행된다. 시스템 로그에는 이상한 것이 없다. 왜냐하면, 기술적으로 이상한 일이 발생하지 않았기 때문이다. 합법적인 사용자가 합법적인 기계에서 명령을 실행했기 때문이다.

이로 인해 여러 가지 결과가 발생한다. 오늘날, 74%의 침해는 인간 요소, 즉 사회 공학 공격, 오류, 및 남용을 포함한다. 인간 행동 위험은 대시보드 내에서 거의 나타나지 않는다. 문제는 컨트롤이 아니다. 누락된 계층은, 어느 결정이 가장 많이 서두르며, 이러한 결정이 공격자에게 열린 기회를 어떻게 생성하는지에 대한 가시성이다.

인간의 오류 재고하기

인간의 행동은 분리된 훈련 문제로 취급되어서는 안 된다. 그것은 보안 아키텍처의 핵심 구성 요소로 간주되어야 한다.

그것을 예측할 수 없는 결과로 취급하는 대신, 조직은 그것을 측정 가능한 위험 요소로 취급해야 한다. 보안 리더는 방어적 입장을 강화하기 위해 인간 중심의 통찰력을 통합함으로써 이를 달성할 수 있다. 시스템은 이상적인 조건에서 항상 행동할 것이라는 가정으로 설계되어서는 안 되며, 실제로 사람們이 어떻게 행동하는지에 대한 현실적인 기대를 반영해야 한다.

측정은 구체적이며, 추상적이지 않다. 조직은 결정 속도, 사용자가 고影响 프롬프트를 승인하는 속도, 및 표준 경고의 승인 패턴을 모니터링하여 비정상적인 승인을 감지할 수 있다. 행동 기준선은, 개인 또는 역할 수준에서 적용될 수 있으며, 보안 팀에게 “정상”이 무엇인지에 대한 기준점을 제공하여, 편차가 노이즈가 아닌 신호로 등록되도록 한다.

근본 원인 해결

ClickFix 스타일의 공격에 대한 방어를 개선하는 것은, 서두르는 결정으로 이어지는 조건을 이해하는 것으로 시작된다. 리더는 빠른 승인, 반복적인 근접 실패, 또는 시스템 프롬프트에 대한 일관되지 않은 응답과 같은 패턴을 연구할 수 있다. 이러한 관찰은 본능이 주의를 상회하는 곳을 보여준다.

워크플로는 또한 실수를 초래하는 압력 지점으로 평가되어야 한다. 고影響 동작은 사용자가 승인하는 것을 평가하고, 승인하기 전에 잠시 멈추는 작은 확인 단계가 필요하다.同時에, 루틴 작업은 주의를 신중하게 고려하지 않고 프롬프트를 클릭하여 피로를 줄이는 것을 위해 최적화되어야 한다.

조직은 현실적인 압력을 반영하는 시뮬레이션을 사용하여 추가적인 통찰력을 얻을 수 있다. 전통적인 피싱 테스트는 인식에 유용하지만, 다중 작업을 처리하거나 긴급한 운영 문제를 관리할 때 누군가가 어떻게 반응하는지 평가하지 않는다. 시간 압력 또는 시스템 중단을 중심으로 구축된 시나리오는, 다른 방식으로는 어려운 행동 패턴을 나타낸다.

유효한 시뮬레이션은 전통적인 테스트에서 무시하는 변수를 도입한다. 동시 작업 부하, 늦은 시간의 피로 창, 그리고 고위험 프롬프트가 나타나기 직전에 강제로 컨텍스트를 전환하는 워크플로 중단이 포함된다. 사용자가 단독으로 피싱 이메일을 식별할 수 있는 사용자는, 4시 45분에 활발한 사건을 처리할 때, 악의적인 프롬프트를 승인할 수 있다. 이러한 조건을 복제하는 테스트는 조직이 실제로 사용할 수 있는 행동 데이터를 생성한다. 이는 인식에 대한 통과/실패 지표보다 압력下的 개선된 반응을 제공한다.

또한, 합법적인 동작으로 시작하는 사건을 계획하는 것이 도움이 된다. 많은 팀은 비인가된 행동을 감지하는 것에 집중한다. 실제로, 공격의 첫 번째 의미 있는 징조는 승인된 프롬프트일 수 있다. 이러한 예상을 사고 대응 계획에 통합하면, 그렇지 않으면 무시될 수 있는 초기 지표를 식별하기가 더 쉽다.

취약점 강화

AI 기반의 위협은 계속 진화할 것이다. 그러나 많은 침해는 여전히 인간의 결정에 의해 발생한다. 이 현실을 해결하는 것은 작동을 느리게 하거나 자동화를 포기하는 것을 필요로 하지 않는다. 그것은 사람들이 자연스럽게 일하는 방식을 반영하는 시스템과 워크플로를 설계하고, 본능이 주의를 상회하는 지점周围에 안전 장치를 구축하는 것을 필요로 한다.

조직은 인간의 의사결정을 공격 표면의 이해에 통합함으로써, 운영 위험에 대한 더 정확한 관점을 얻을 수 있다. 이것은 기술적인 컨트롤과 함께, 사용자가 일상적인 작업 중에 시스템과 상호작용하는 방식을 더 현실적으로 이해하는, 더 강력한 방어를 제공한다.