AI 무기가 장착된 공격이 발생할 때 실제로 무슨 일이 일어나는가?

수년간 사이버 보안 산업은 미래 시제로 AI 공격에 대해 이야기해왔다. 우리는 방화벽을 해체하는 외계인 논리를 가진 지능형 슈퍼 해커를 상상했다. 우리가 Simbian의 연구소에서 발견하고 있는 현실은 영화적이지는 않지만 훨씬 더 위험하다.

위협은 AI가 초인적으로 똑똑하다는 것이 아니다. 그것은 전문가 수준의 지속성이 확장 가능하고 즉시적이며 무한히 가변적이라는 것이다. 그것은 스크립트의 “경미한 개선”을 인간 SOC 팀이 처리할 수 없는 엔트로피의雪崩으로 변환한다.

기계가 키보드를 잡을 때 실제로 무슨 일이 일어나는지 보자.

1단계: 정찰 – 컨텍스트 시대

오래된 세계에서 정찰은 “스프레이와 기도”였다. 공격자는 이메일 목록을 구입하고 일반 템플릿을 폭격하여 0.1%의 클릭률을 희망했다.

AI 무기가 장착된 공격에서 정찰은 “창과 클론”이다. 생성 에이전트는 이제 대상의 디지털 발자국 – LinkedIn 게시물, 최근 트윗, 뉴스 언급,甚至 공개 코드 커밋 – 을 섭취하여 몇 초 안에 심리적 프로파일을 구축할 수 있다. 그들은 단순히 피싱 이메일을 작성하지 않는다; 그들은 컨텍스트를 작성한다.

AI 에이전트는 일반적인 “암호 재설정” 링크를 보내지 않는다. 그것은 당신이 2:00 AM에 특정 GitHub 저장소에 코드를 커밋했음을 본다. 그것은 특정 저장소의 “Senior Dev”에서부터 “merge conflict”에 대한 링크를 포함한 슬랙 알림을 보낸다. 긴급성은 제조된 것이지만 컨텍스트는 실제이다.

2단계: 실행 – 다형성 악몽

이것은 방어가真正로 깨지는 곳이다. 전통적으로 공격자가 악의적인 스크립트(예: Mimikatz 변형)를 작성하면 보안 벤더는 이를 발견하고 해시하고 차단했다. “서명”은 방패였다.

생성 AI는 정적 서명의 개념을 파괴한다. AI 무기가 장착된 공격자는 정적 도구를 사용하지 않는다. 그것은 대상에서 도구를 작성하는 에이전트를 사용한다. 에이전트가 EDR(엔드포인트 탐지 및 응답) 센서를 감지하면 그것은 단순히 자신의 LLM 백엔드에 요청한다: “이 자격 증명 덤프 논리를 이러한 특정 API 훅을 피하기 위해 다시 작성하라. 모든 변수를 이름을 바꾸고 제어 흐름을 변경하라.”

코드의 의도는 동일하다. 구문은 완전히 변경된다. 규칙 기반 방어 시스템에서는 이것은 전혀 새로운 프로그램처럼 보인다.

3단계: 수평 이동 – 유도 추론의 속도

한 번 내부에 들어가면 인간의 반응 속도는 무의미해진다. 인간 침입자는 주의 깊게 이동하며 로그를 확인하고 명령을 입력하고 생각하기 위해 멈춘다. 그들은 몇 시간 후에 새로운 서버로 이동할 수 있다.

AI 에이전트는 밀리초 안에 이동한다.

하지만 속도만이 중요하지는 않다; 그것은 유도 추론, 즉 최선의 설명이다. AI는 놀라울 정도로 네트워크의 구조를 단편으로부터 추론하는 데 좋다. 그것은 US-WEST-SQL-01이라는 서버 이름을 본다. 그것은 US-EAST-SQL-01과 US-WEST-BAK-01의 존재를 추론한다. 그것은瞬時に 수천 개의 내부 IP 주소에 걸쳐 이러한 가설을 테스트한다.

그것은 완벽할 필요는 없다. 그것은 단지 빠를 필요가 있다. SOC 분석가가 초기 피싱 경보를仍然_triaging하는 동안 AI는 이미 도메인 컨트롤러를 매핑했으며 백업 서버를 식별했으며 조직의 왕冠 보석을 탈취했다.

4단계: 영향 – 엔트로피 폭탄

AI 무기가 장착된 공격의 궁극적인 목표는 항상 은밀하지는 않다. 때때로それは 혼란이다. 우리는 고엔트로피 공격의 시대에 진입하고 있다. AI 에이전트는 10,000개의 현실적인 경보를同時에 생성할 수 있다 – 실패한 로그인, 포트 스캔, 디코이 멀웨어 실행.

이것은 “엔트로피 폭탄”이다. 그것은 SOC를 så많은 신호로洪水로 만들어서 분석가들이 인지 과부하를 경험한다. 그들은 실제 공격이 조용히 배경에서 발생하는 동안 디코이를 싸우고 있다. 방어자의 도전은 “대나무에서 바늘을 찾는 것”에서 “바늘을 대나무더미에서 찾는 것”으로 이동한다.

화재와의 싸움

우리의 연구에서 얻은 교훈은 명확하다: 기계와의 싸움을 티켓 큐로 싸울 수 없다.

공격자가 코드를 몇 초 안에 반복할 수 있고, 방어가 인간이 몇 시간 안에 탐지 규칙을 작성해야 한다면, 이미 패배했다. 비대칭은 수학적이다. AI 무기가 장착된 공격을 살아남는 유일한 방법은 공격자가 변이할 수 있는 속도로 작동하는 AI 방어手を 갖는 것이다 – 추론, 검증, 차단.

공격은 진화했다. 방어도 이제 진화해야 한다.