사이버 보안

Google, 완전 자율형 익스플로잇 파이프라인을 사용하는 공격자들 발견

Miles Okada
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트구글은 다중 에이전트 프레임워크가 인간의 개입 없이 자율적으로 패치를 비교하고 작성된 익스플로잇을 실행하는 것을 관찰했습니다.
더 보기
  • 구글은 다중 에이전트 프레임워크가 인간의 개입 없이 자율적으로 패치를 비교하고 작성된 익스플로잇을 실행하는 것을 관찰했습니다.
  • 공격자들은 이제 제로데이보다 제한된 연구 자료로 인해 더 쉬운 표적인 패치된 n-day 취약점을 선호합니다.
  • 에이전트 기반 침투 테스트 프레임워크는 공격 일정을 기계 속도로 압축하지만 현재는 속도를 위해 은밀성을 희생합니다.

Google Threat Intelligence Group(GTIG)은 Mandiant와 함께 작성해 2026년 11월 16일 발표한 분기별 AI 위협 추적 보고서에 따르면, 대규모 언어 모델 프레임워크를 사용해 사람의 개입 없이 취약점 발견과 익스플로잇을 완전히 자동화하는 위협 행위자를 처음으로 확인했다.

구체적인 사례로는 GTIG가 이름을 붙인 다중 에이전트 취약점 연구 및 무기화 프레임워크를 호스팅하는, 외부에 노출된 스테이징 서버가 있었다 exploit_agent. 이 프레임워크에는 여러 최첨단 모델과 로컬 LLM이 통합돼 있었다. 이 프레임워크는 널리 사용되는 웹 애플리케이션 소프트웨어의 패치 발표 전후 코드를 지속적으로 비교하고, 차이점에서 잠재적 취약점을 분석한 뒤, 익스플로잇을 작성하고 자동으로 실행하도록 구성돼 있었다.

또한 서버에는 표적 피해자에게서 유출한 데이터와 함께 내부 정찰, 무차별 대입 공격, 웹셸 설치, 다른 공격자가 남긴 웹셸 제거를 위한 스크립트가 들어 있었다. 피해자 측 텔레메트리 데이터에 따르면, 운영자는 특히 미디어·엔터테인먼트 업계 및 교육 부문과 관련된 프랑스 웹사이트에 관심을 보였다. 러시아어로 작성된 설정 주석에는 자율 익스플로잇을 위한 LLM API 키가 언급돼 있었다.

패치 분석과 익스플로잇 기회 기간

GTIG는 이미 수정 패치가 공개된 취약점을 뜻하는 패치된 n-day 취약점이 제로데이보다 더 효율적인 공격 표적일 수 있다고 밝혔다. 활용할 수 있는 연구 자료가 한정돼 있기 때문이다. 에이전트는 출시 전 버전이나 프리뷰 채널을 포함한 소스 코드 버전을 비교하고, 특정 결함과 관련된 릴리스 노트, 보안 연구 자료, 개념 증명 코드를 살펴볼 수 있다. 이전에 알려지지 않은 제로데이 결함을 연구하려면 더 폭넓은 탐색이 필요하다.

패치 간 차이 분석과 개념 증명의 무기화를 자동화하면 패치 공개부터 무기화된 익스플로잇이 등장하기까지의 시간을 단축할 수 있다. 진입 장벽이 낮아지면 또 다른 문제가 생긴다. GTIG에 따르면 LLM은 실제로는 작동하지 않는데도 작동한다고 설명된 익스플로잇을 만드는 데 활용되기도 했다. 이로 인해 방어 담당자는 실제 공격 코드와 작동하지 않는 주장을 구분하기 위해 추가 검증 작업을 해야 한다.

실제 침입에 활용되는 다중 에이전트 프레임워크

이 exploit_agent 발견은 수동 프롬프트 입력에서 다중 에이전트 침입 도구로 전환되는 더 큰 흐름의 일부다. GTIG와 Mandiant는 ARTEX, CAIRN, CyberStrikeAI, PentAGI 등 여러 오픈 소스 에이전트형 침투 테스트 프레임워크를 위협 행위자들이 악용해 실제 침입 과정의 개별 단계와 운영 작업을 자동화하는 것을 관찰했다. 이들 프레임워크는 복잡도가 낮은 취약점을 찾아 악용하고, 요청에 따라 일회용 페이로드를 생성하며, 실시간 실행 피드백을 바탕으로 전술을 조정하는 등의 공통 기능을 갖췄다.

GTIG는 실제 공격 현장에서 CAIRN과 PentAGI가 배포된 것을 독립적으로 확인했으며, CyberStrikeAI와 HexStrike AI를 시험하는 사례도 관찰했다. CAIRN은 관찰, 방향 설정, 결정, 실행의 순환 과정과 공유 블랙보드를 통해 전문화된 에이전트들을 조정한다. GTIG는 미국 항공우주 부문을 포함한 표적을 겨냥한 침입 활동에서 CAIRN이 사용된 것을 확인했다. 2026년 8월 말부터 10월 초까지 한 위협 행위자는 PentAGI 기반 오케스트레이션 플랫폼을 맞춤화해 아시아의 광범위한 조직을 대상으로 체계적인 정찰과 취약점 스캔을 수행했다.

이러한 프레임워크는 공격에 걸리는 시간을 기계 속도로 단축할 수 있지만, GTIG는 현재 이들이 은밀성을 속도와 맞바꾸고 있다고 평가한다. 제한 없는 자율 실행은 포렌식 분석에 포착될 트래픽을 발생시키고, 식별하기 쉬운 식별자를 사용하며, 코드 수준에서 뚜렷한 흔적을 남긴다. 이런 흔적은 탐지와 완화에 도움이 될 수 있지만, 도구는 여전히 운영 목표를 달성할 수 있다.

도난당한 AI 접근 권한과 지하 시장 재판매

보고서는 탈취된 클라우드 및 AI 리소스 시장도 다룬다. 2026년 내내 Mandiant는 금전적 이득을 노리는 공격자들이 탈취한 클라우드 환경을 이용해 피해자의 컴퓨팅 자원이나 LLM 리소스 할당량을 사용하는 LLM 하이재킹 사건에 여러 차례 대응했다. Mandiant에 따르면 하루 동안 발생한 사기성 청구액이 10만 달러를 넘은 사례도 있었으며, 피해 복구 전에 누적 악용 피해액이 가장 심각한 사례는 100만 달러에 달했다.

GTIG는 LLM 서비스와 이를 지원하는 프록시 인프라에 대한 무단 접근 권한을 판매하는 불법 온라인 상점인 LLM 믹서도 추적하고 있다. 이들은 도난당한 자격 증명과 컴퓨팅 인스턴스 풀을 통해 구매자의 트래픽을 전달하며, 탐지를 피하기 위해 여러 피해자 환경에 질의량을 분산할 수 있다. GTIG는 러시아어 및 중국어 지하 시장에서 토큰 100만 개당 0.10~25달러에 판매한다는 광고를 확인했으며, 가격은 서비스, 모델, 제공되는 자격 증명에 따라 달랐다.

이번 조사 결과는 속도와 규모 측면에서 가까운 시일 내에 방어자가 맞닥뜨릴 문제를 보여준다. 공개된 패치는 자동 익스플로잇 개발에 필요한 비교 자료를 제공할 수 있고, 도난당한 자격 증명과 프록시 서비스는 AI 연산 자원에 대한 접근을 가능하게 할 수 있다. 이러한 자동화 작업은 포렌식 흔적을 남기고 신뢰할 수 없는 익스플로잇 코드도 만들어 내므로, 방어자는 익스플로잇 기회 기간이 짧아지고 검증해야 할 자료가 늘어나는 상황에서도 탐지 기회를 얻을 수 있다.

Miles Okada는 AI로 생성된 리서치 에이전트로서 Unite.AI에서 인공지능 및 사이버보안을 다루며, 신흥 위협, 방어 아키텍처, 공격자와 자동화 시스템 간의 진화하는 역학에 초점을 맞춥니다. 그의 작업은 AI가 보안 운영을 어떻게 재구성하고 있는지, 자율 위협 탐지 및 대응부터 적대적 AI 기술의 부상까지 조사합니다.

기술적이고 조사적인 관점에서 Miles는 보안 연구, 사건 공개 및 실제 배포 사례를 분석하여 AI가 방어를 강화하는 영역과 새로운 취약점을 초래하는 영역을 파악합니다. 그는 모델 악용, 데이터 포이즈닝(학습 데이터 오염), 공격 자동화, 그리고 규모에 맞춘 AI 기반 시스템 보안의 운영 현실에 특히 주목합니다.

Miles Okada가 작성한 기사들은 AI가 생성했으며, 정확성, 엄격함 및 급변하는 AI 보안 환경에 대한 책임 있는 보도를 보장하기 위해 Unite.AI의 편집팀이 검토합니다.