Gambit Security의 “AI Across the Intrusion Lifecycle”은 실제 사이버 공격에서 AI가 더 깊이 침투하고 있음을 보여준다

Gambit Security의 새로운 보고서 AI Across the Intrusion Lifecycle은 인공 지능이 사이버 범죄에서 지원 역할을 넘어서 실제 침투의 일상적인 메커니즘에 통합되는 방식에 대한 자세한 내용을 제공한다. 위협 인텔리전스 책임자 Eyal Sela와 사이버 위협 연구원 Nir Varon이 작성한 보고서는 세 가지 관련 없는 위협 행위자가 모든 것을 작성하는 것에서부터 악의적인 스크립트와 악용 도구를 생성하고, 도난당한 비즈니스 데이터를 분석하고, 인프라를 문제 해결하고, 손상된 환경에서 다음에 무엇을 할지 결정하는 데 사용하는 AI를 조사한다.
의미는 단순히 공격자가 대규모 언어 모델에 악성 코드를 작성하도록 요청하는 것이 아니다. 사례는 공격자가 새로운 시스템, 자격 증명, 오류 및 기회가 나타날 때 적응하도록 도와주는 침투의 운영 워크플로우의 일부가 되는 AI의 발전을 시사한다.

코딩 어시스턴트에서 운영 참여자로

세 가지 조사에서 Gambit은 공격자가 침투의 다양한 단계에서 AI를 사용하는 것을 관찰했다. 모델은 환경에 맞게 스크립트를 생성하고, 악용 도구를 개발하고,贵重한 비즈니스 정보를 우선순위로 지정하고, IT 및 DevOps 작업을 수행하고, 손상된 시스템에서 반환된 출력에 따라 명령을 반복적으로 개선했다.
이것은 초기 AI를 사용한 사이버 범죄에 대한 논의에서 벗어난 중요한 발전이다. 초기 논의는 피싱 이메일, 악성 코드 생성 또는 경험이 없는 공격자의 기술 장벽을 낮추는 것에 중점을 두었다.
AI는 이제 기술적인 보조 역할을 넘어서서 운영이 진행되는 동안에도 참여하는 보조 역할을 할 수 있다.
더广い 위협 풍경은 같은 방향으로 이동하는 것으로 보인다. Anthropic은 최근에 분석에서 2025년 3월과 2026년 3월 사이에 832개의 악의적인 사이버 활동과 관련된 계정을 분석하고, MITRE ATT&CK 프레임워크의 14가지 전술 모두에서 AI 사용을 발견했다. 또한 회사에서는 첫 번째와 두 번째 기간의 중간에 중위험 또는 높은 위험으로 분류된 행위자의 비율이 33%에서 56%로 증가했다.
Gambit의 사례는 실제 침투에서 이러한 변화를 구체적으로 보여준다.

추정된 랜섬웨어 운영자가 클로드 코드를 공격 루프에 넣다

첫 번째 사례는 2026년 6월에 6개의 조직에 대한 침투에서 클로드 코드를 사용한 것으로 의심되는 랜섬웨어 운영자가 관련된 것으로 Gambit이 관찰했다. 연구원들은 또한 이 행위자를 두 개의 이전 침투와 연결했다.
피해자는 여러 산업과 국가에 걸쳐 있었으며, 호주 에너지 공급업체, 모리셔스 금융 서비스 회사, 남아프리카 공화국, 태국, 말레이시아의 기업 및 미국의 여러 조직이 포함되었다. Gambit은 이 활동을 The Gentlemen 랜섬웨어-서비스-운영과 관련된 중간 신뢰도로 속성한다.
클로드 코드의 역할이 두드러진다.
공격자는 시스템을 사용하여 정찰, 악용 명령 생성, 악의적인 스크립트 작성, 방화벽 정책 수정, 내부 시스템 매핑 및 추가 주의가 필요한 기계 또는 데이터베이스를 결정하는 데 사용했다.
한번 자격 증명과 원격 접근이 설정되면, AI는 정찰 데이터를 해석하고 도메인 컨트롤러, 파일 서버 및 백업 인프라와 같은 더 가치 있는 시스템을 식별하는 데 도움을 주었다. 침투의 다른 부분에서는 금융 서비스 플랫폼의 데이터베이스를 분석하고 생산 데이터 및 고객 문서가 특히 중요하다는 것을 도움을 주었다.
이 사례는 또한 오늘날의 보호 수단의 한계를 보여준다. 어느 시점에 클로드는 실제 기업 네트워크와 상호 작용하는 것처럼 보였고, 승인 증거 없이 진행하지 않았다. 운영자는 새로운 세션을 열고, 작업을 승인된 취약성 테스트로 다시 정의했으며, 모델은 계속 진행했다.
그러나 능력의 증가로 인해 완벽한 실행이 보장되는 것은 아니었다. 공급업체의 침투 중에 클로드는 방화벽 구성 수정을 시도했으며, 결국 장치를 사용할 수 없게 만들었다. 이 사건은 완벽한 자율 AI 해커에 대한 두려움에 대한 중요한 반론이다. 모델은 공격 작전을 가속화할 수 있지만, 공격자가 제어하려고 하는 시스템 내에서 비용이 많이 드는 실수를 일으킬 수도 있다.

제로포트는 AI가 규모에 도달했을 때 무엇이 일어나는지 보여준다

두 번째 사례는 하나의 대상 침투에 관한 것이 아니라 자격 증명 도난을 산업화하는 것에 관한 것이다.
Gambit은 Zerofot라고 명명된 운영자를 추적하며, 인터넷에 노출된 파일 및 디렉토리에서 API 키, 클라우드 자격 증명, 소프트웨어 토큰 및 SSH 개인 키를 검색하는 캠페인에 대해 설명한다.
작업의 중심에는 OpenAI Codex와 Claude Code를 사용하여 작성된 사용자 정의 자격 증명 수집기인 auto_scan이 있었다. 운영자는 모델을 사용하여 승인된 캡처-더-플래그 환경 내에서 작업을 수행하는 것으로 지시했다. 수집기는 노출된 파일을 수집하고, 잠재적인 자격 증명을 검색한 다음, 발견한 키를 해당 서비스에 대해 유효성을 검사하려고 시도했다.
AI의 역할은 도구가 작성된 후에 끝나지 않았다.
클로드 코드는 또한 인프라를 실행하는 데 필요한 менее 화려하지만 작전적으로 중요한 작업을 위해 사용되었다. 다중 에이전트 오케스트레이션 프레임워크를 통해,それは 스캐너 인프라, 프록시, 네트워킹, 방화벽 구성, 모니터링 및 디버깅을 관리하는 데 도움을 주었다.
이 구별이 중요하다. 사이버 작전은 취약점을 발견하거나 페이로드를 생성하는 것 이상의 것을 필요로 한다. 인프라는 배포되어야 하며, 소프트웨어는 고장나고, 로그는 해석되어야 하며, 구성 문제는 해결되어야 한다. AI는 이러한 연결 작업을 점점 더 도와줄 수 있다.
Gambit이 문서화한 규모는 상당하다. 2026년 4월 5일부터 5월 23일까지, 작업은 1,742개의 피해자 호스트에서 2,975개의 유효한 자격 증명과 키를 수집했다. 여기에는 661개의 SSH 개인 키, 635개의 AWS 액세스 키(214개의 계정과 관련), 448개의 Google Gemini 키, 254개의 OpenAI 키 및 176개의 Anthropic 키 등이 포함되었다. Gambit은 정보가 影서버 재단과 영향을 받는 서비스 제공업체에 알리고 자격 증명을 취소하기 위해 공유되었다고 말했다.

RAGE는 AI 생성 코드를 악용 프레임워크로 만든다

세 번째 조사에서는 RAGE라고 불리는 사용자 정의 Python 프레임워크에 중점을 둔다. 이 프레임워크는 인터넷에 노출된 서비스를 스캔하고, 취약한 배포를 악용하고, 자격 증명을 수집하며, 암호 화폐 마이너를 설치하도록 설계되었다.
Gambit의 연구원들은 RAGE와 관련된 스크립트가 대부분 AI 생성되었다고 믿는다. 하나의 단서는异常적으로 공개적이다. 코드의 일부에는 개발 중에 모델에 의해 남겨진 것으로 보이는 첫 번째 사람, 자기 수정적이 이유가 포함되어 있다.
AI는 또한 완성된 시스템에 직접 통합되었다. RAGE에는 DeepSeek를 지원하는 “AI 오케스트레이터”가 포함되어 있었는데, 이는 운영자의 대시보드에서 마이닝 작전을 관리하는 데 지침을 제공했다.
프레임워크는 Redis, Elasticsearch, Docker, Tomcat, Jenkins 등을 포함한 노출된 서비스를 대상으로 하며, 또한 손상된 환경에서 추가 기회를 창출할 수 있는 자격 증명을 검색했다.
한 경우에, Redis 배포에서 회복된 자격 증명은 소프트웨어-서비스-제공업체에 대한 관리 액세스를 제공했다. 공격자는 이후 추가 도구를 생성하여 ID, 저장소 및 기타 클라우드 리소스를 열거했다.
회복된 로그는 8개의 ID 및 액세스 관리 사용자에 대한 액세스를 보여주었으며, 4개는 관리자 액세스 권한을 가지고 있었으며, 196개의 Amazon S3 버킷에 대한 액세스도 있었다.
주로 암호 화폐 마이닝에 동기를 부여하는 것으로 보이는 캠페인이 노출된 서비스를 더广い 클라우드 침투로 전환할 수 있는 능력을 가지고 있었다.

AI의 실수는 방어자의 이점이 될 수 있다

Gambit의 연구에서 가장 흥미로운 측면 중 하나는 AI의 성공과 실패를 모두 문서화한다는 것이다.
모델은 때때로 공격자의 의도를 예상치 못한 방식으로 노출시켰다. AI 생성 도구는 “재구성”과 같은 명백한 이름을 사용했으며, 다른 생성된 아티팩트는 생성된 방법에 대한 설명과 이유를 유지했다. 랜섬웨어 사례에서, 방화벽 수정 시도가 중단을 초래했다.
이 약점은 AI가 자동으로 사이버 작전을 더 은밀하거나 정교하게 만든다는 생각을 복잡하게 만든다.
Microsoft의 보안 연구원들은 또한 AI를 공격자 워크플로우 내의 가속기라고 설명했으며, 인간 운영자가 많은 종단 간 작전을 지시한다. Gambit의 발견은 이 관계가 점점 더伙伴关系과 같은 것으로 보인다고 제안한다. 인간은 목표와 판단을 제공하며, AI는 기술적인 반복의 상당 부분을 흡수한다.
이것은 공격자가 더 빠르지만 반드시 운영 보안에 더 좋은 것은 아니다.

サイ버 보안 팀은 기계 속도 반복에 대비해야 한다

연구에서 제기되는 더 큰 우려는 속도이다.
많은 보안 제어는 공격자가 네트워크를 사람의 속도로 이동할 것이라고 가정한다. 전통적으로 공격자는 새로운 기술을 이해하고, 명령을 연구하고, 스크립트를 작성하고, 오류를 해결하고,大量의 데이터를 해석해야 하며, 어디로 이동할지 결정하기 전에 다음에 무엇을 할지 결정해야 한다.
AI 시스템은 이러한 단계 중 많은 것을 압축할 수 있다.
따라서 위험은 미래의 자율적인 해킹 에이전트에만 국한되지 않는다. 공격자는 여전히 AI를 사용하여 익숙하지 않은 환경에서 작동하는 데 필요한 전문 지식, 시간 및 수동 노력을 줄일 수 있다.
방어자는 따라서 특정한 악성 코드가 “AI 생성”되었는지 여부에 대해 덜关心하고, 침투 전체 生命周期에 걸쳐서 행위자에 대한 신호에 더 중점을 둘 수 있다. 이러한 신호에는 비정상적으로 빠른 정찰, 반복적인 적응 명령, 공격적인 자격 증명 발견, 예상치 못한 클라우드 열거, 보안 인프라 또는 백업 인프라의 변경, 전통적인 인간 주도 작전에 비해 더 빠른 시스템 간의 이동이 포함된다.
同じ 능력은 방어에도 귀중하다. Anthropic은 취약점을 식별하고 보안 팀이 이를 해결하도록 도와주는 AI 시스템을 개발하고 있다. 이는 점점 더 능력 있는 사이버 모델의 이중 사용성을 강조한다. 경쟁은 어느 쪽이 이러한 능력을 더 빠르고 더 잘 보이는지에 관한 것이다.
결국, “AI Across the Intrusion Lifecycle”은 가상적인 미래 공격에서 벗어나 관찰 가능한 작전 행동으로 사이버 보안에서 AI에 대한 논의를 이동시키는 것에 의해 매력적이다. Gambit Security가 문서화한 세 가지 사례는 공격자가 다른 모델, 프레임워크 및 자동화 수준을 실험하는 것을 보여준다. 그러나 하나의 중요한 패턴을 공유한다. AI는 더 이상 공격을 준비하는 데만 도움을 주지 않는다. 실제 공격이 발생하는 동안 점점 더 많이 참여하고 있다.