사이버 보안
AI 위협은 분산이다. 실제 문제는 집안에 있다
솔직히 말하자면, AI 기반의 사이버 공격은 두려운 전망이다. 그러나 그것은 비즈니스에 대한 가장 큰 위협이 아니다.
가장 큰 위협은 그것이 생성하는 분산이다.
15년 이상 동안 나는 같은 이야기를 보아왔다. 리더십은 최신 “AI 초위협”에 경각을 발하고, 사이버 보안 팀은 여전히 기본적인 질문에 대한 답을 찾고 있다. 예를 들어, “우리 가장 민감한 고객 데이터는 어디에 있는가?” 또는 “그 중요한 시스템의 패치 작업은 누구에게 속하는가?” 우리는 새로운 도구를 쫓아가면서 엔지니어들은 마지막 순간의 규제 준수 연습에 참여하고, 중요한 취약점은 우선순위에서 밀려난다.
이것은 클래식적인 “화면 문에 화려한 자물쇠” 문제이다. 조직은 AI 기반의 방어를 배치하기 위해 서두르지만, 공격자는 규칙이 적고 민첩성이 더 높은 AI를 사용하여 기본적인 프로세스, 소유권, 문화의 간격을 통해 걸어간다. 중소기업의 경우, 기본적인 것을 무시하는 것은 다음 경고의 이야기가 되는 초청이다.
정적 방어가 동적 세계에서 실패하는 이유
내가 경력을 시작했을 때, 보안은 체크리스트였다: 바이러스 백신, 패치, 강력한 방화벽. 그 세계는 이미 사라졌다. 오늘날, 다형성 말웨어는 서명으로부터 피하기 위해 자신을 다시 작성하고, 봇넷은 인간이 반응할 수 있는 속도보다 더 빠르게 공격을 시작한다.
암호화된 트래픽은 적의 가장 좋아하는 숨김처가 되었다. Zscaler의 2024 ThreatLabz 보고서에 따르면 几乎 90%의 말웨어가 암호화된 채널을 통해 전달된다. 즉, 10개 중 9개의 위협은 암호화된 트래픽을 검사할 수 없는 레거시 도구에 대해 보이지 않는다.
그러나 실제 병목현상은 기술이 아니라 조직의 마찰이다. 나는 훌륭한 보안 팀이 알려진 취약점을 닫기 위해 몇 주를 허비하는 것을 보아왔다. 공격자는 자동화된 공격을 통해 이미 들어와 있을 수 있다. 정적인 보안 프로그램은 더 이상 선택이 아니다. 보안 프로그램은 상황을 인식하고 비즈니스의 빠르게 움직이는 부분에 집중해야 한다.
사이버 범죄의 산업화
이것은 누구에게도 놀라운 일은 아니다. 공격자는 사업을 운영하는 기업가이다. 그들은 단순히 새로운 기술을 채택하여 ROI를 개선하고 있다. AI는 그들의 운영을 산업화하는 데 도움을 주고 있다.
- 피싱-서비스, 강화된: 피싱은 여전히 가장 인기 있는 방법이다. FBI와 IBM은 여러 해 동안 이를 최상위 초기 접근 벡터로 보고하고 있다. 이제, “FraudGPT”와 같은 생성적 AI 도구를 사용하여 범죄자는 이전에 본 적 없는 규모로 완벽하게 맞춤형 피싱 캠페인을 생성할 수 있다.
- 목소리는 거짓말이다: 음성 피싱(“vishing”)이 폭발적으로 증가하고 있다. CrowdStrike는 AI 클론 음성을 사용하여 고위 임원들을 사칭하여 직원들을 속여 자금을 이체하게 하는 공격이 442% 증가했다고 보고했다. 영국의 한 에너지 회사에서는 단 한 번의 통화로 243,000달러를 잃었다.
- 자동화된 적의 부상: CrowdStrike의 위협 사냥꾼들은 이제부터 클라우드에서만 존재하는 말웨어 없는 침투와 함께 AI 생성된 이력서와 딥페이크 비디오 인터뷰를 사용하는 종단 간 자동화된 캠페인을 보게 되었다.
방어자는 최소한의 인간 감시하에 적응하고 지속하는 위협에 직면해 있다. 공격자는 이미 여러 해 동안 자동화를 사용해 왔고, AI는 그들의 워크플로우를 하이퍼 드라이브에 올려놓았다.
이를 따라가기 위해, 우리는 구식의 체크리스트 기반 접근 방식을 규제 준수와 사이버 보안에서 포기해야 한다. 시장의 최신 도구를 찾는 것은 답이 아니다. 그러나 이것은 기본적인 것을 되돌아가는 기회이다.
“규제 준수 여부”를 묻지 말고 “탄력성”을 묻기 시작하라
AI가 풍경을 재구성하는 동안에도 대부분의 침해는 여전히 기본적인 것을 무시한 결과이다. 그 CEO의 목소리가 클론되었다고는 하지만, 실제 실패는 아마도 부서진 재무 승인 프로세스였을 것이다. AI는 단순히 기본적인 것을 무시한 연쇄의 마지막 단계였다.
AI는 제로 데이 악성 코드를 찾을 필요가 없다. 5년 전의 패치되지 않은 서버나 모든 것에 관리자 권한을 가진 개발자를 찾을 수 있다. 또 다른 AI 기반의 보안 도구를 구입하는 것은 깨진 문화를 고칠 수 없다. AI는 강력한 프로세스를 강화해야지, 그것을 대체해서는 안 된다.
리더십은 여기서 종종 잘못된 결정을 내린다. 나는 이사회에서 “규제 준수 여부”를 묻는 질문을 들은 적이 있다. 더 좋은 질문은 “우리 보안 프로그램이 비즈니스를 더 강하게 만드는가?”이다.
규제 준수는 체크리스트 연습이 된다. 제품 팀은 앞서가고, 엔지니어들은 자원 없이 보안 업무를 맡게 되고, 리더들은 깨끗한 감사를 의미하는 비즈니스가 안전하다고 가정한다. 그러나 그렇지 않다. 해결책은 더 많은 도구가 아니다. 그것은 위에서 아래로 더 강한 지지이다. 보안은 비즈니스 성장과 제품 무결성에 직접 연결되어야 한다.
AI 시대에 대한 실용적인 플레이북
포춘 500대 기업은 이 문제에 돈을 투자할 수 있다. 중소기업은 더 똑똑해야 한다.那么, 실제로 무엇을 해야 하는가?
- 기반을 먼저 고치라. 또 다른 도구를 구입하기 전에, 데이터의 견고한 인벤토리, 강력한 접근 제어, 그리고 실제로 작동하는 패치 프로세스를 가지고 있는지 확인하라.
- AI를 의제에 올려라. AI 기반의 공격을 기반으로 한 테이블톱 연습을 실행하라. 그것을 정기적인 이사회 보고서의 일부로 만들어 비즈니스 리스크로 다루어라.
- 정적 신호가 아닌 행동에 집중하라. 알려진 악성 코드를 찾는 도구보다 이상한 활동을 감지하는 도구를 우선시해라. 예를 들어, 사용자 계정이突然 데이터베이스에 접근하는 계정을 접근하는 도구를 우선시해라.
AI는 적이 아니다—자만심이 적이다
AI는 양날의 검이 아니다. 그것은 확대경이다. 그것은 좋은 프로세스를 더 효율적으로 만들고, 나쁜 프로세스를 재앙으로 만든다.
공격자는 항상 새로운 도구를 가지고 있을 것이다. 실제 질문은 보안 전략이 탄력성의 견고한 기초 위에 세워졌는지, 아니면 단순히 다음 신나는 물건을 쫓고 있는지이다. 설정하고 잊는 보안의 시대는 끝났다. 보안 문화를 구축하고 기본적인 것을 잘하는 조직은 자동화된 위협의 시대에서도 승리할 것이다.
