IRONSCALES 보고서, AI 에이전트가 새로운 피싱 표적이 되고 있다고 밝혀

이제 피싱 메시지는 받은 편지함의 주인인 직원을 설득할 필요가 없다. 직원을 대신해 받은 편지함을 읽는 소프트웨어를 표적으로 삼을 수 있다. IRONSCALES의 새 보고서 딥페이크에서 이중 에이전트까지: AI 기반 사이버 위험의 새로운 양상이 전하는 핵심 경고다. 이 보고서는 기업의 자동 실행 도구 도입 속도가 이를 둘러싼 보안 통제의 발전 속도를 앞질렀다고 분석한다.

회사의 의뢰로 Censuswide가 실시한 설문조사에서 응답자의 77%는 지난 1년 동안 소속 조직의 AI 에이전트나 도구가 악의적이거나 오해를 유발하거나 승인되지 않은 콘텐츠를 처리했다고 답했다. 이보다 낮지만 여전히 상당한 비율인 57%는 확인된 사례가 최소 한 건 있었다고 보고했다. 이 수치는 의심 사례를 포함해 응답자들이 보고한 사고를 나타내며, 성공적인 침해 건수를 독립적으로 검증한 결과는 아니다.

이번 조사 결과와 함께 한층 긍정적인 변화도 나타났다. 딥페이크 방어에 대한 투자는 늘었고, 보고된 금전적 손실은 줄었다. 두 결과를 종합하면 보안 책임자들이 마주한 실질적인 과제가 드러난다. 사람을 위해 마련한 방어 체계를 포기하지 않으면서 자동화된 의사결정 주체까지 보호 범위를 넓혀야 한다는 것이다.

AI 에이전트는 중요한 시스템에 접근할 수 있다

Censuswide는 직원 수가 1,000~10,000명인 기업에서 근무하는 중간 관리자급 이상의 미국 IT 및 사이버 보안 전문가 501명을 대상으로 설문조사를 실시했다. 참가자의 연령은 25~55세였으며, 조사는 2026년 9월 9일부터 17일까지 진행됐다. 따라서 이 결과는 AI를 사용하는 모든 기업이 아니라 해당 기업 표본을 설명한다.

이 표본에서 응답자의 96%는 소속 조직이 직원을 대신해 행동할 수 있는 AI 에이전트나 도구를 사용한다고 답했고, 52%는 도입이 광범위하게 이뤄졌다고 설명했다. 보고서는 메시지를 읽고 답하거나 파일에 접근하고 업무 흐름을 실행하는 도구를 포함하는 폭넓은 정의를 사용한다.

이러한 도구를 사용하는 조직 가운데 67%는 티켓 관리 시스템이나 헬프데스크 시스템에, 56%는 클라우드 저장소에, 49%는 이메일이나 메시지에 접근하도록 허용했다. 추가로 30%는 금융, 청구, 조달 또는 결제 시스템에 대한 접근을 허용했다. 내부 시스템에는 접근하지 않고 공개 웹으로만 사용을 제한한다고 답한 비율은 19%에 불과했다.

질문에 답하는 것과 실제 행동을 실행하는 것의 차이는 중대한 의미를 갖는다. 잘못된 요약은 읽는 사람을 오도할 수 있으며, 업무 시스템에 연결된 도구는 정보를 옮기거나 업무 흐름을 시작할 수도 있다. 도구에 부여된 권한은 실수가 얼마나 멀리까지 확산될 수 있는지를 좌우한다.

에이전트에게도 받은 편지함은 진입점이다

AI 에이전트 관련 사고를 보고한 응답자 가운데 42%는 AI 도구가 악성 이메일이나 메시지를 요약하거나 그에 따라 행동했다고 답했다. 또 41%는 공격자가 피싱이나 사회공학에 AI 도구를 사용했다고 보고했다. 두 범주는 서로 겹칠 수 있으며, 두 번째 범주에는 피해자 자신의 에이전트가 반드시 침해된 경우가 아니라 공격자가 AI를 사용한 경우도 포함된다.

이러한 구분은 중요하다. 설문조사는 여러 유형의 AI 관련 실패를 한데 묶어 보여줄 뿐, 모든 사고에 동일한 공격 기법이 사용됐음을 입증하지는 않는다. 그럼에도 조직이 에이전트가 접하는 콘텐츠뿐 아니라 연동 기능을 통해 허용되는 행동도 살펴봐야 하는 이유를 보여준다.

위험을 이해하는 한 가지 유용한 방법은 정보와 권한을 구분하는 것이다. 메시지에 지시가 담겨 있을 수는 있지만, 받은 편지함에 도착했다는 이유만으로 그 지시가 승인된 것은 아니다. 소프트웨어가 연결된 시스템 전반에서 행동할 수 있다면, 이 경계를 유지하는 일은 접근 제어와 업무 흐름 설계의 일부가 된다.

IRONSCALES의 이메일 보안 플랫폼은 이러한 진입점에 대한 회사의 집중을 보여준다. 회사는 AI 분석, 자동화된 조사, 인간의 위협 인텔리전스를 결합한 API 기반 접근 방식을 설명하며, 피싱 시뮬레이션과 Microsoft Teams용 딥페이크 방어 기능도 함께 제공한다. 이러한 기능은 연구를 의뢰한 기업의 관점을 이해하는 데 참고가 되지만, 이번 설문조사는 해당 제품의 효과를 독립적으로 평가하지 않는다.

승인 절차는 있지만 보안 부서가 주도하는 경우는 드물다

행동 실행이 가능한 AI 도구를 사용하는 조직의 응답자 479명 가운데 78%는 IT 부서를 에이전트, 어시스턴트, 플러그인 및 커넥터의 주요 승인 주체로 꼽았다. 보안 부서를 꼽은 응답자는 6%에 불과했고, 14%는 여러 부서가 공동으로 승인한다고 답했다.

주요 승인 주체라는 것과 승인 과정에 어떤 식으로든 참여한다는 것은 다르다. 이 수치만으로 보안 부서가 나머지 승인 절차에서 모두 배제된다고 볼 수는 없다. 다만 상당한 접근 권한을 가진 도구에 관한 결정은 대체로 다른 부서가 주도한다는 점은 보여준다.

사고를 보고한 조직 가운데 39%는 직원이 보안 부서라면 승인하지 않았을 AI 도구에 접근 권한을 부여한 적이 있다고 답했다. 이 조사 결과는 거버넌스 문제를 구체적으로 드러낸다. 커넥터를 활성화하기 전에 누가 권한을 평가하고, 도구가 예상치 못하게 작동할 때 누가 권한을 철회할 수 있는가?

보고서는 자신감과 실제 이행 사이의 격차도 지적한다. 응답자의 93%는 사고 대응 계획에 AI 에이전트가 포함된다고 답했고 84%는 AI 기반 사고를 식별할 수 있다고 자신했지만, 공식 정책과 통제 수단, 사고 대응 절차가 모두 마련돼 있다고 답한 비율은 52%에 그쳤다. 추가로 35%는 정책은 마련했지만 기술적 통제 수단은 제한적이라고 보고했다.

딥페이크 피해액은 줄었지만 위협은 계속됐다

딥페이크 관련 조사 결과는 동일한 특성의 응답자 500명을 대상으로 Censuswide가 2025년에 실시한 조사와 비교했을 때 더 긍정적이다. 방어에 적극적으로 투자하는 비율은 37%에서 48%로 상승했다. 금전적 손실을 보고한 조직 가운데 최소 10만 달러의 손실을 입은 비율은 63%에서 49%로 줄었고, 100만 달러 이상의 손실을 입은 비율은 6%에서 3%로 감소했다.

금전적 피해를 입은 조직의 추정 평균 손실액은 약 28만 달러에서 22만 5,000달러로 감소했다. 이 추정치는 보고된 손실 범위의 중간값을 사용했다. 두 조사에서 손실에 관한 질문을 서로 다르게 했기 때문에, 비교 대상에서 손실이 없다고 답한 응답자와 잘 모르겠다고 답했거나 응답을 원하지 않는다고 한 응답자는 제외했다.

보고서는 투자가 늘고 손실이 줄어드는 현상이 함께 나타났다고 해서 한쪽이 다른 쪽의 원인이라는 뜻은 아니라고 명확히 경고한다. 그렇다고 사고가 사라진 것은 아니다. 84%가 딥페이크 관련 사고를 한 번 이상 겪었다고 답했으며, 2025년에는 그 비율이 85%였다. 보고서의 정의는 광범위해 조작된 이미지와 위조 이메일부터 실시간 음성·영상 사칭까지 포함한다.

우선순위가 서로 경쟁하는 문제도 있다. 딥페이크 방어를 최우선 과제로 꼽은 비율은 71%에서 60%로 떨어졌다. 실제 행동을 수행할 수 있는 AI가 보안 예산에 또 다른 부담을 더하는 상황에서도 이런 변화가 나타났다. 손실 감소는 위협이 사라졌다고 단정하기보다 어떤 대응이 효과를 내고 있는지 살펴볼 이유가 된다.

대화뿐 아니라 행동도 보호하라

IRONSCALES는 에이전트 승인 과정에 보안팀을 참여시키고, 권한을 제한하며, 에이전트의 행동을 모니터링하고, 직원과 에이전트 모두를 겨냥한 공격을 통해 사고 대응을 시험할 것을 권고한다. 이러한 권고는 보고서의 두 가지 주제를 연결한다. 기만적인 콘텐츠는 여전히 위험하지만, 행동 권한을 가진 소프트웨어는 그러한 기만이 결과를 초래하는 방식을 바꾼다.

기업 팀이라면 어떤 에이전트가 있는지, 각 에이전트가 어떤 시스템에 접근할 수 있는지, 어떤 행동에 사람의 검토가 필요한지 파악해야 한다. 로그를 통해 도구가 무엇을 읽고 어떤 작업을 했는지 재구성할 수 있어야 한다. 시험에서는 직원이 의심스러운 이메일을 알아보는지만 측정할 것이 아니라, 신뢰할 수 없는 메시지가 권한이 부여된 업무 절차에 영향을 미칠 수 있는지도 살펴봐야 한다.

이 보고서의 가장 큰 기여는 도입 수준과 자신감, 실제로 구현된 통제 조치 사이의 간극을 설명한 데 있다. 독자는 전체 보고서 딥페이크에서 이중 요원까지: AI 기반 사이버 위험의 새로운 양상에서 설문 문항과 방법론상의 유의점, 권고 사항을 확인할 수 있다.