악의적인 AI 에이전트에 대한 기업 방어

사이버 보안 환경은 새로운 단계에 접어들었습니다. 인간 공격자와 인간 방어자가 대결하는 것이 아니라, 이제는 기계와 기계가 대결하는 자원 전쟁이 되었습니다. 생성형 AI와 에이전트형 AI의 발전은 사이버 범죄를 산업화시켜, 전문 기술이 필요한 분야에서 저비용의 확장 가능한 운영으로 변모했습니다. 최근 산업 데이터에 따르면 약 41%의 공격이 AI 주도형 공격이며, 이는 이러한 전환이 얼마나 빠르게 진행되고 있는지 보여줍니다.

레거시 방어의 높은 비용

AI 주도형 공격의 금융적 영향은 이미 상당합니다. Fingerprint의 2025년 AI 사기 및 예방 보고서에 따르면, 기업은 평균적으로 연간 414,000달러의 손실을 입으며, 3분의 1의 응답자가 100만 달러까지의 손실을 보고합니다. 많은 조직에서는 이러한 금액이 더 이상 예외가 아니라 온라인 사업을 하는 데 필요한 비용이 되고 있습니다.

이러한 손실은 또한 더 깊은 구조적인 문제를 나타냅니다. 기업이 의존하는 방어 도구는 다른 위협 모델을 위해 설계되었습니다. CAPTCHA, IP 기반 규칙, 단순한 속도 제한, 블랙리스트 등은 스크립트형 봇을 걸러내기 위해 설계되었습니다. 그러나 이러한 제어는 이제 AI 주도형 적대자에 대해 점점 더 무력해지고 있습니다. 이러한 적대자는 실제 브라우저를 운영할 수 있으며, 마찰을 실시간으로 적응할 수 있으며, 활동을 합법적인 트래픽과 섞을 수 있습니다.

CAPTCHA는 문제를 명확하게 보여줍니다. 인간과 봇을 구별하기 위해 설계된 CAPTCHA는 이제 더 빠르고 정확하게 사람을 따라할 수 있습니다.同時에, 이러한 도전은 합법적인 사용자에게 마찰을 도입하여 放弃 率을 증가시키고 고객 경험을 저하합니다. 다요소 인증(MFA)은 보호를 추가하는 계층을 제공하지만, SMS 교환과 피싱에 취약합니다. 이러한 제어는 종합적으로 보안의 환상을 생성하며 실제 사용자에게 부담을 전가합니다.

운영 위기와 개인정보 보호의 모순

손실은 이야기의 반만을 말합니다. 다른 반은 운영 마비입니다. 같은 보고서에 따르면, 62%의 B2B SaaS 응답자는 AI 주도형 공격으로 인해 사기 팀이 수동 프로세스에 더 많은 시간을 소비한다고 합니다. 분석가는 경고, 거짓 양성, 및 경계 사례로 압도되어, 적극적인 방어, 위협 인텔리전스, 및 장기 전략에 대한 자원을 더 적게 남깁니다.

이러한 운영적 긴장은 개인정보 보호의 필수적인 발전에 의해 더 악화됩니다. 규제와 소비자 선호도가 더 큰 보호로 이동하고 있는 반면, 이 전환은 보안 팀에 대한 맹점을 만들었습니다.

핵심적인 발견은 이것입니다: 40%의 조직은 개인정보 보호 규정 준수가 사용자 식별 정확도를 크게 감소시킨다고 말합니다. 모질라와 애플 같은 브라우저 벤더가 개인정보 보호를 위한 입장을 취함으로써, 전통적인 브라우저 및 디바이스 식별 기술을 제한함으로써, 또한 사기꾼, 인간이나 자동화된 에이전트를 匿名으로 유지하기 쉽게 만들었습니다. 즉, 사용자를 보호하려는 노력에서, 우리는 또한 사기꾼을 匿名으로 유지하기 쉽게 만들었습니다. 이는 합법적인 사용자를 보호하기 더 어려워졌다는 것을 의미합니다. 이는 상당한 영향을 미칩니다: 57%의 B2B SaaS 회사, 32%의 핀테크 회사, 27%의 은행 기관이 디바이스 및 브라우저 ID 정확도가 크게 감소했다고 보고합니다.

레거시 도구가 AI 테스트에 실패하는 이유

레거시 방어와 현대적 공격자 사이의 불일치는 이제 명백합니다. IP 주소는 쉽게 회전할 수 있으며, MFA는 우회할 수 있으며, CAPTCHA 도전은 AI 모델에 의해 빠르게 해결될 수 있습니다. 그러나 이러한 솔루션은 악의적인 행위자에 대해 거의 또는 전혀 지속성을 제공하지 않습니다.

또한, 전통적인 봇이 선형 스크립트를 따르는 반면, 에이전트형 AI는 장애물을 “이유”로 통해 동적으로 전략을 조정할 수 있습니다. 더 많은 사람들이 디지털 앱을 사용함에 따라, 적응형 AI 주도형 공격을 포함하지 못하는 레거시 방어의 무력함은 데이터 침해와 시스템적 위험의 기회를 증가시켰습니다.

기업을 위한 이것은 지속적인 딜레마를 만듭니다. 제어를 공격적으로 강화하면, 합법적인 사용자가 마찰, 지연, 및 거짓 거부로 처벌받습니다. 제어를 느슨하게 유지하면, 사기량이 증가합니다. 결과는 보안态勢와 고객 신뢰를 모두 저하하는 “lose-lose”의 거래입니다.

기업 가치: 의도 파악을 통해 신뢰 회복

고위험 부문인 핀테크와 이커머스에서, 현대적인 디바이스 인텔리전스의 가치 제안은 단순히 “사기를 막는” 것 이상입니다. 그것은 사용자 의도와 위험을 더 정확하게 평가하는 신뢰를 회복하는 것입니다.

디바이스 인텔리전스는 조직이 신뢰할 수 있는 디바이스를 인식하고, 브라우저 무결성, 자동화 지표, 환경 일관성, 및 행동 이상과 같은 상호작용의 주변 신호를 분석하여, 사용자가 자격증명이나 거래를 수행하기 전에 위험을 평가할 수 있도록 합니다. 이것은 반응형 예방에서 예방적 예방 및 컨텍스트 기반 위험 평가로의 전환은 운영 효율성과 사용자 신뢰를 위한 것입니다.

예를 들어, Cornershop by Uber의 경우, 디바이스 인텔리전스는 반복 사용자를 신뢰할 수 있게 식별하고, 초기에 고위험 활동을 표면화하여, 사기거래가 최소화되고, 거짓 양성 및 차단이 감소되었습니다.

전략적 전환: 에이전트 방어 및 실시간 디바이스 수준 신호

AI 주도형 위협이 더 적응할 수 있게 되면서, 기업은 초기 활동의 신호에서 합법적인 세션이 나타나는지 평가할 수 있어야 합니다. 즉, 거래가 실패하거나 계정이 침해되기 전에, 기업은 방어를 설계하는 방식을 전략적으로 전환해야 합니다. 취약한 식별자나 쉽게 위조할 수 있는 행동보다는, 에이전트형 에이전트가 조작하기 어려운 디바이스 수준 신호를 우선시해야 합니다. 디바이스 환경, 무결성, 구성과 같은 실시간 위험 지표는 사기 팀이 의심스러운 활동이 감지될 때 즉각적으로 행동할 수 있도록 신뢰할 수 있는 신호를 제공합니다.

AI 주도형 위협에 대한 약한 보안의 이중 비용

企業 보안의 손실은 이중입니다: 경제적 손실과 효율성 손실. 경제적 측면에서, 방어가 일관적이지 않거나 수동적이거나 쉽게 우회할 수 있다면, 공격자는 제한된 위험으로 대규모로 운영할 수 있습니다. 방어가 공격의 비용과 복잡성을 예상 수익을 넘어서면, 적대자는 이동합니다.

두 번째 비용은 효율성 손실입니다. 이것은 금전적 손실을 넘어, 운영적 긴장, 고객 마찰 및 이탈, 경쟁적 불이익을 포함합니다. 100만 달러의 연간 손실과 함께, 이러한 기업이 공격을 받을 때 겪는 운영적 후퇴는 명백한 행동의 호출입니다.

AI의 증가하는 존재는 피할 수 없습니다. 기업은 사기꾼이 지속적이고, 적응적이며, 무자비하며, 다양한 AI 도구를 사용하는 세계에 대한 보안 아키텍처를 조정해야 합니다.

실시간 데이터 주도형 방어를 자동화된 적대자와 현대적인 개인정보 보호 현실을 위해 설계하는 기업은 디지털 생태계에 대한 신뢰를 회복하는 데 더 잘 준비되어 있습니다.