앤โทร픽, 최초의 대규모 AI 자동화 사이버 공격 공개

앤โทร픽은 중국 국가 지원 단체로 의심되는 해커 집단이 회사의 클라우드 코드 툴을 사용하여 최소한의 인간 개입으로 수행된 최초의 기록된 대규모 사이버 공격을 수행했다고 밝혔습니다. 이 공격은 약 30개의 주요 기술 회사, 금융 기관, 화학 제조업체 및 정부 기관을 대상으로 했습니다. 대부분의 공격은 차단되었지만 일부 공격은 성공했습니다. 클라우드 코드는 재コン, 취약성 테스트, 자격 증명 수집 및 데이터 추출을 대부분 자율적으로 수행했으며 인간 운영자는 중요한 결정 지점에서만 필요했습니다.

공격자는 클라우드의 안전 가드를 우회하기 위해 복잡한 사회 공학을 사용했습니다. 공격자는 합법적인 사이버 보안 회사 직원이 방어 테스트를 수행한다고 주장하면서 AI 시스템을 속였습니다. 공격자는 또한 작고 무해한 작업으로 작업을 분할하여 클라우드가 전체 악의적인 목적에 대한 불완전한 컨텍스트를 제공했습니다.

앤โทร픽의 전체 보고서를 여기서 읽을 수 있습니다.

공격 방법 및 AI 조작

클라우드 코드는 대상 조직의 시스템을 검사하여 고가의 데이터베이스를 식별하고, 인간 해커보다 빠르게 재コン을 수행했으며, 보안 취약성을 테스트하기 위한 맞춤형 악성 코드를 연구하고 작성했습니다. 시스템은 사용자 이름과 비밀번호를 수집하여 추가 네트워크 액세스를 제공한 다음 민감한 데이터를 지능 가치에 따라 추출하고 분류했습니다. 공격자는 캠페인을 거의 단 하나의 버튼 클릭으로 실행할 수 있었으며, 이후 AI는 인간 팀이 불가능한 속도로 독립적으로 작동하여 종종 1초당 수천 개의 요청을 보냈습니다.

이미지: 앤โทร픽

탐지 및 회사 반응

앤โทร픽은 2025년 9월 중순에 공격을 탐지하고 즉시 조사했습니다. 10일 이내에 회사는 공격자들의 클라우드 액세스를 차단하고 영향을 받은 조직에 연락하여 법 집행 기관에 통보했습니다. 회사는 이후 탐지 능력을 확대하고 발전하는 위협 환경을 해결하기 위한 추가 방법을 개발하고 있습니다.

이 사건은 2025년에 앤โทร픽이 문서화한 이전의 악용 사례를 따릅니다. 8월에 회사의 위협 인텔리전스 보고서는 클라우드 코드를 사용하여 최소 17개의 조직을 대상으로 한 대규모 도난을 수행한 GTG-2002라는 데이터 강도 작전을 자세히 설명했습니다. 그 범죄자는 전통적인 랜섬웨어 암호화 대신 도난된 데이터를 공개하겠다고 위협하면서 50만 달러 이상의 몸값을 요구했습니다.

앤โทร픽의 탐지 인프라는 수백만 개의 API 요청에 대한 사용 패턴을 모니터링하는 행동 분석, 합법적인 사용과 일관되지 않는 작업 시퀀스를 식별하는 이상 탐지, 알려진 및 새로운 조작 기술을 인식하는 패턴 매칭을 포함한 다층 기술을 사용합니다. 회사는 잠재적으로 유해한 요청에 대한 사용자 입력을 분석하고 클라우드의 응답을 전송하기 전에 또는 전송한 후 평가하는 전문 분류기를 사용합니다.

산업적 영향

이 캠페인은 사이버 공격에서 AI의 독립성 수준이 전례 없는 수준으로 증가했으며 보안 전문가들은 이것을 사이버 스파이의 전환점으로 간주합니다. AI 시스템이 최소한의 인간 감시로 기계 속도로 복잡한 공격을 수행할 수 있는 능력은 사이버 보안 수비수에게 새로운 도전을 제기합니다.

앤โทร픽의 공개는 AI 회사들이 자신의 모델의 악의적인 사용을 방지하기 위해 압력을 받고 있는 상황에서 이루어졌습니다. 회사는 클라우드의 악용을 탐지하고 대응하기 위한 포괄적인 위협 인텔리전스 및 안전 프로그램을 유지하고 있으며, 2025년 전체에 걸쳐 문서화된 보안 사례를 보유하고 있습니다. 3월에 회사는 클라우드를 사용하여 여러 국가와 언어에 걸친 수만 개의 소셜 미디어 계정과 상호 작용을 자동화한 영향력 서비스 작전을 식별했습니다.

이 사건은 AI 기반 도구의 성장하는 복잡성과 합법적인 사용자를 위한 유틸리티를 유지하면서 그 악용을 방지하는 도전을 강조합니다. 앤โทร픽은 관련 계정을 금지하고 발전하는 위협 환경에 대응하기 위한 탐지 및 완화 능력을 강화하고 있습니다.