Gambit Security의 “AI Across the Intrusion Lifecycle”은 실제 사이버 공격에서 AI가 더 깊이 침투하고 있음을 보여준다

Gambit Security 의 새 보고서 AI Across the Intrusion Lifecycle 은 AI가 사이버범죄의 보조 역할을 넘어 실제 침입 활동의 일상적인 실행 과정에 통합되는 모습을 자세히 보여 준다. 위협 인텔리전스 책임자 Eyal Sela와 사이버 위협 연구원 Nir Varon이 작성했으며, 서로 관련 없는 공격자 세 집단을 조사했다. 이들은 일회성 스크립트와 취약점 악용 도구 제작, 훔친 업무 데이터 분석, 인프라 문제 해결, 침해 환경에서 다음 행동을 대화식으로 결정하는 일까지 AI를 활용했다.

핵심은 공격자가 대규모 언어 모델에 악성코드를 작성해 달라고 한다는 사실만이 아니다. 새 시스템, 인증정보, 오류, 기회가 나타날 때 공격자의 적응을 도우며 AI가 침입의 운영 워크플로 일부가 되고 있다는 점이다.

코딩 보조 도구에서 작전 참여자로

세 조사에서 Gambit은 침입의 여러 단계에 걸친 AI 사용을 관찰했다. 모델은 마주친 환경에 맞는 스크립트와 취약점 악용 도구를 만들고, 가치 있는 업무 정보의 우선순위를 정하며, IT·DevOps 업무를 수행했다. 침해 시스템의 출력을 바탕으로 명령을 반복 수정하기도 했다.

이는 피싱 이메일, 악성코드 생성, 초보 공격자의 기술 장벽 완화에 집중했던 초기 AI 사이버범죄 논의에서 중요한 변화다.

AI는 이제 작전이 진행되는 동안 계속 관여하는 반응성 높은 기술 보조자에 더 가깝게 작동할 수 있다.

더 넓은 위협 환경도 같은 방향으로 움직이는 듯하다. Anthropic은 최근 분석 에서 2025년 3월부터 2026년 3월까지 악성 사이버 활동과 관련된 계정 832개를 조사해 MITRE ATT&CK 프레임워크의 14개 전술 모두에서 AI 사용을 확인했다. 회사가 중간 위험 이상으로 분류한 행위자의 비율도 조사 기간 전반기의 33%에서 후반기 56%로 높아졌다.

Gambit의 사례들은 이런 변화가 진행 중인 침해에서 어떤 모습으로 나타나는지 구체적으로 보여 준다.

랜섬웨어 운영자로 의심되는 공격자가 Claude Code를 공격 과정에 투입하다

첫 사례는 2026년 6월 조직 여섯 곳의 침입 과정에서 Claude Code를 사용한 것으로 관찰된 랜섬웨어 운영 의심자다. 연구진은 이 행위자를 이전의 침해 두 건과도 연결했다.

피해자는 호주의 에너지 공익사업자, 모리셔스의 금융 서비스 회사, 남아프리카공화국·태국·말레이시아의 기업, 미국의 여러 조직 등 다양한 국가와 업종에 걸쳤다. Gambit은 중간 수준의 확신으로 The Gentlemen 서비스형 랜섬웨어 조직의 제휴 공격자에게 활동을 귀속했다.

두드러지는 것은 Claude Code의 역할 범위다.

공격자는 정찰, 악용 명령 생성, 악성 스크립트 작성, 방화벽 정책 변경, 내부 시스템 파악, 추가 조사할 가치가 있는 장비나 데이터베이스 식별에 시스템을 활용했다.

인증정보와 원격 접근을 확보한 뒤에는 AI가 정찰 데이터를 해석하고 도메인 컨트롤러, 파일 서버, 백업 인프라 등 가치가 높은 시스템을 식별하도록 도왔다. 다른 단계에서는 금융 서비스 플랫폼의 데이터베이스를 분석해 운영 데이터와 고객 문서가 특히 중요하다고 판단하는 데 기여했다.

이 사례는 현재 안전장치의 한계도 보여 준다. Claude는 한때 실제 기업 네트워크와 상호작용하는 것으로 보인다는 점을 알아채고 허가 증거 없이는 진행하지 않겠다고 했다. 운영자가 새 세션에서 허가된 취약점 시험으로 상황을 다시 설명하자 모델은 계속 진행했다.

역량이 높다고 실행이 완벽하지는 않았다. 공익사업자 침해 중 Claude가 방화벽 설정을 바꾸려다 결국 장비에 접근할 수 없게 만들었다. 이는 완벽한 자율 AI 해커에 대한 우려와 함께 봐야 할 사례다. 모델은 공격을 가속할 수 있지만 공격자가 통제하려는 시스템 안에서 큰 손실을 부르는 실수도 할 수 있다.

Zerofot: AI가 규모와 결합할 때

두 번째 사례는 단일 표적 침입보다 인증정보 탈취의 대량화에 가깝다.

Gambit이 Zerofot이라고 추적하는 운영자는 인터넷에 노출된 파일과 디렉터리에서 API 키, 클라우드 인증정보, 소프트웨어 토큰, SSH 개인 키를 찾는 활동을 벌였다.

중심에는 auto_scan이라는 자체 인증정보 수집 스캐너가 있었다. 운영자는 허가된 CTF 환경에서 진행하는 작업이라는 전제로 OpenAI Codex와 Claude Code를 이용해 도구를 만들었다. 스캐너는 노출 파일을 수집해 인증정보 후보를 찾고 각각의 서비스에서 키가 유효한지 확인하려 했다.

도구 작성 뒤에도 AI의 역할은 끝나지 않았다.

Claude Code는 인프라를 계속 가동하는, 덜 화려하지만 운영상 중요한 업무에도 쓰였다. 여러 에이전트를 조율하는 프레임워크를 통해 스캐너 인프라, 프록시, 네트워크, 방화벽 설정, 모니터링, 디버깅 관리를 도왔다.

이 구분은 중요하다. 사이버 작전에는 취약점 발견이나 공격 코드 생성 외에도 많은 일이 필요하다. 인프라를 배포하고 고장 난 소프트웨어를 고치며 로그를 해석하고 설정 문제를 해결해야 한다. AI는 이런 연결 업무도 점점 더 잘 지원한다.

Gambit이 기록한 규모는 상당하다. 2026년 4월 5일부터 5월 23일까지 피해 호스트 1,742개에서 유효한 인증정보와 키 2,975개가 수집됐다. SSH 개인 키 661개, 계정 214개와 관련된 AWS 접근 키 635개, Google Gemini 키 448개, OpenAI 키 254개, Anthropic 키 176개를 비롯한 여러 유형이 포함됐다. Gambit은 통지와 인증정보 폐기를 지원하도록 Shadowserver Foundation 및 영향을 받은 서비스 공급자와 정보를 공유했다고 밝혔다.

RAGE: AI 생성 코드를 악용 프레임워크로

세 번째 조사는 RAGE에 초점을 맞춘다. 인터넷에 공개된 서비스를 탐색하고 취약한 배포 환경을 악용하며 인증정보를 수집하고 암호화폐 채굴기를 설치하도록 만든 자체 Python 프레임워크다.

Gambit 연구진은 RAGE와 관련 스크립트의 상당 부분이 AI로 생성됐다고 본다. 눈에 띄는 단서는 코드 일부에 개발 중 모델이 남긴 것으로 보이는 1인칭 자기수정 추론이 그대로 있다는 점이다.

완성된 시스템에도 AI가 직접 들어갔다. RAGE 운영 대시보드에는 채굴 운영을 안내하는 DeepSeek 기반 “AI Orchestrator”가 포함됐다.

프레임워크는 Redis, Elasticsearch, Docker, Tomcat, Jenkins 등 노출된 서비스를 겨냥하고 침해 환경에서 추가 기회를 만들 인증정보를 찾았다.

한 사례에서는 SaaS 공급자의 노출된 Redis 환경에서 얻은 인증정보로 AWS 계정에 관리자 접근이 가능해졌다. 공격자는 이후 신원, 스토리지, 기타 클라우드 자원을 열거할 추가 도구를 만들었다.

확보된 로그에는 IAM 사용자 8명과 Amazon S3 버킷 196개에 대한 접근이 나타났다. 사용자 8명 중 4명은 AdministratorAccess 권한을 갖고 있었다.

주목적이 암호화폐 채굴로 보였던 활동에도 하나의 노출 서비스를 훨씬 넓은 클라우드 침해로 확대할 능력이 있었던 것이다.

AI의 실수는 방어자의 이점이 될 수 있다

Gambit 연구의 흥미로운 점은 AI의 성공과 함께 실패도 기록한다는 것이다.

모델은 때때로 예상치 못한 방식으로 공격 의도를 드러냈다. AI 생성 도구가 클라우드 세션에 “recon”처럼 눈에 띄는 이름을 썼고, 다른 생성물에는 제작 과정을 짐작하게 하는 설명 주석과 추론이 남았다. 랜섬웨어 사례에서는 방화벽 변경 시도가 장애를 일으켰다.

이 약점들은 AI가 자동으로 공격을 더 은밀하고 정교하게 만든다는 주장에 의문을 더한다.

Microsoft 보안 연구진도 AI를 공격자 워크플로 안의 가속기로 설명하면서 많은 작전의 전체 과정을 여전히 사람이 지휘한다고 밝혔다. Gambit의 발견은 관계가 점점 협업에 가까워질 수 있음을 시사한다. 사람이 목표와 판단을 제공하고 AI가 목표에 도달하는 데 필요한 기술적 반복 작업의 상당 부분을 맡는 구조다.

이는 공격자를 더 빠르게 만들 수 있지만 작전 보안까지 반드시 개선하는 것은 아니다.

기계 속도의 반복 시도에 대비해야 하는 보안팀

연구가 제기하는 더 큰 우려는 속도다.

많은 보안 통제는 공격자가 사람과 비슷한 속도로 네트워크를 이동한다고 가정한다. 기존에는 낯선 기술을 이해하고 명령을 조사하며 스크립트를 작성하고 오류를 해결하고 대량의 데이터를 해석한 뒤에야 다음 이동을 결정할 수 있었다.

AI는 이 단계들을 상당히 압축할 수 있다.

따라서 위험은 미래의 자율 해킹 에이전트에 국한되지 않는다. 사람이 통제권을 유지하면서도 AI로 낯선 환경에서 활동하는 데 필요한 전문성, 시간, 수작업을 줄일 수 있다.

방어자는 특정 악성코드가 AI로 생성됐는지보다 침입 전체 과정의 행동 신호에 더 집중해야 할 수 있다. 비정상적으로 빠른 정찰, 상황에 맞춰 반복 수정되는 명령, 적극적인 인증정보 탐색, 예상치 못한 클라우드 자원 열거, 백업·보안 인프라 변경, 기존의 사람 중심 작전보다 빠른 시스템 간 이동 등이 해당한다.

같은 능력은 방어에도 유용하다. 예를 들어 Anthropic은 취약점을 찾고 보안팀의 조치를 돕는 AI를 개발해 왔다. 역량이 높아지는 사이버 모델의 이중 용도를 보여 준다. 경쟁의 핵심은 어느 쪽이 이 능력을 더 빠르게, 더 나은 상황 파악 아래 적용하느냐로 옮겨 가고 있다.

궁극적으로 “AI Across the Intrusion Lifecycle” 이 설득력 있는 이유는 가상의 미래 공격 대신 관찰 가능한 운영 행동으로 AI 보안 논의를 옮기기 때문이다. Gambit Security의 세 사례에서 공격자들은 서로 다른 모델, 프레임워크, 자동화 수준을 시험한다. 하지만 공통점은 분명하다. AI는 공격 준비만 돕는 데 머무르지 않고 실제 공격이 진행되는 동안에도 점점 더 깊이 관여한다.