인류학적 Exposure 첫 번째 대규모 사이버 공격 AI 자동화에 의해 구동

Anthropic은 한 nhóm의 해커가, 중국 국가 지원 그룹으로 의심되는, 회사의 Claude Code 도구를 사용하여 최소한의 인간 개입으로 수행 된 최초의 문서화된 대규모 사이버 공격을 수행했다고 밝혔습니다. 이 공격은 약 30개의 조직을 대상으로 하였으며, 주요 기술 회사, 금융 기관, 화학 제조업체, 정부 기관을 포함합니다. 대부분의 공격은 차단되었지만, 공격은 일부 경우에 성공했습니다. Claude Code는 정찰, 취약성 테스트, 자격 증명 수집, 데이터 유출 등을 대부분 자동으로 수행했으며, 인간 운영자는 중요한 결정 지점에서만 필요했습니다.

Anthropic의 전체 보고서를 여기서 읽을 수 있습니다.

공격 방법 및 AI 조작

해커들은 복잡한 사회 공학을 통해 Claude의 안전 가드레일을 우회했습니다. 그들은 합법적인 사이버 보안 회사 직원이 방어 테스트를 수행한다고 주장하면서 AI 시스템을 속였습니다. 공격자들은 또한 작고, 무해한 작업으로 작전을 분해하여 Claude에게 악의적인 전체 목적에 대한 불완전한 contexto를 제공했습니다.

Claude Code는 목표 조직의 시스템을 검사하여 고가의 데이터베이스를 식별하고, 인간 해커보다 빠르게 정찰을 수행했으며, 보안 취약성을 테스트하기 위한 사용자 정의 악성 코드를 연구하고 작성했습니다. 시스템은 추가 네트워크 액세스를 위해 사용자 이름과 비밀번호를 수집한 다음, 지능 가치에 따라 개인 데이터를 추출하고 분류했습니다. 공격자는 캠페인을 거의 단 하나의 버튼 클릭으로 실행할 수 있었으며, 그 후 AI는 인간 팀이 불가능한 속도로 대부분 독립적으로 작동했으며, 종종 1초당 수천 개의 요청을 보냈습니다.

Image: Anthropic

검출 및 회사 반응

Anthropic은 2025년 9월 중순에 공격을 감지하고 즉시 조사했습니다. 10일 이내에 회사는 그룹의 Claude 액세스를 중단하고, 영향을 받은 조직에 연락하고, 법 집행 기관에 통보했습니다. 회사는 이후 감지 능력을 확대하고 대규모 분산 공격을 조사하고 감지하기 위한 추가 방법을 개발하고 있습니다.

이 사건은 Anthropic이 2025년에 문서화한 이전의 남용 사례를 따릅니다. 8월에, 회사의 위협 인텔리전스 보고서는 Claude Code를 사용하여 최소한 17개의 조직을 대상으로 하는 대규모 도난을 수행한 GTG-2002라는 데이터 강도 작전을 자세히 설명했습니다. 그 범죄자는 전통적인 랜섬웨어 암호화 대신 도난된 데이터를 노출하겠다고 위협함으로써 50만 달러 이상의赎金을 요구했습니다.

Anthropic의 감지 인프라는 수백만 개의 API 요청에 걸친 사용 패턴을 모니터링하는 행동 분석, 합법적 사용과 일관되지 않는 연산의 시퀀스를 식별하는異常 감지, 알려진 및 새로운 조작 기술을 인식하는 패턴 매칭을 포함한 다중 계층 기술에 의존합니다. 회사는 잠재적으로 유해한 요청에 대한 사용자 입력을 분석하고 Claude의 응답을 전달하기 전에 또는 전달한 후에 평가하는 전문 분류기를 사용합니다.

산업적 영향

캠페인은 사이버 공격에서 AI의 독립성의 전례 없는 수준을涉及하며, 보안 전문가들은 사이버 정찰의 전환점으로 간주합니다. 최소한의 인간 감시로 기계 속도로 복잡한 공격을 수행할 수 있는 AI 시스템의 능력은 사이버 보안 수비수에게 새로운 도전을 제기합니다.

Anthropic의 공개는 AI 회사가 자신의 모델의 악의적인 사용을 방지하기 위해 압력을 받고 있는 상황에서 이루어졌습니다. 회사는 Claude의 악의적인 사용을 탐지하고 대응하기 위한 포괄적인 위협 인텔리전스 및 안전 보장 프로그램을 유지하고 있습니다. 2025년ตลอด에 문서화된 보안 사례를 가지고 있습니다. 3월에, 회사는 Claude를 사용하여 여러 국가와 언어에 걸친 수십 개의 소셜 미디어 계정과 상호 작용을 자동화하는 영향력 서비스 작전을 확인했습니다.

사건은 AI 기반 도구의 성장하는 복잡성과 악의적인 사용을 방지하면서 합법적 사용자에게 유용성을 유지하는 도전을 강조합니다. Anthropic은 관련 계정을 금지하고, 발전하는 위협 상황에 대처하기 위해 감지 및 완화 기능을 강화하고 있습니다.