사상 리더
AI 대 AI: 새로운 사이버 보안 현실

핵심 포인트AI 기반 공격은 기계 속도로 전체 공격 수명 주기를 자동화하여 기존의 인간이 관리하는 방어 체계를 압도합니다.
더 보기
- AI 기반 공격은 기계 속도로 전체 공격 수명 주기를 자동화하여 기존의 인간이 관리하는 방어 체계를 압도합니다.
- 자율 시스템이 중요한 비즈니스 접근 권한을 얻음에 따라 기업은 비인간 AI 에이전트 신원을 매핑하고 보호해야 합니다.
- 조직은 데이터 오염 및 적대적 조작을 방지하기 위해 '보안 원칙 설계' 방식으로 AI 모델을 확고히 보호해야 합니다.
AI 기반 사이버 공격이 현실로 나타나면서, 과거에는 예상만 했던 이론적 위험이 확인되었고 새로운 위협 환경이 열리고 있습니다. 이제 AI 에이전트는 복잡한 공격 캠페인을 처음부터 끝까지 단 몇 분 만에 수행할 수 있습니다. 사이버 범죄자는 기계의 속도로 기업의 취약점을 찾아 악용할 수 있게 되었습니다. 교전 규칙이 달라진 것입니다. 어제의 사이버 방어로는 오늘의 AI 기반 공격을 더 이상 따라갈 수 없습니다.
AI가 사이버 위협을 강화하는 만큼, 기업도 속도와 규모, 정밀도에서 뒤처지지 않도록 자체 AI 기반 방어 역량을 도입해야 합니다. 현재 공격자들은 여전히 익숙한 전술·기법·절차(TTP)를 사용하지만, AI는 그들의 공격 방식을 가속하고 고도화합니다. 기업의 AI 모델 자체도 모델 포이즈닝과 언어 기반 사회공학의 새로운 표적이 되므로, 보안팀은 자사의 AI 역량을 적절히 보호해야 합니다. 따라서 보안은 조직의 전체 AI 전략에서 핵심 요소가 되어야 합니다.
AI 기반 사이버 공격은 무엇이 다른가?
거의 끊임없이 이어지는 사이버 침입 시도로 포화된 디지털 환경에서, 악의적 행위자의 진입 장벽은 낮아졌고 공격의 양뿐 아니라 복잡성도 증가했습니다. AI 기반 공격은 AI나 머신러닝(ML)을 활용해 정찰과 정보 수집부터 취약점 악용, 민감한 데이터의 외부 유출까지 공격 수명주기의 어느 단계든 자동화하고 가속하거나 강화할 수 있습니다.
공격자가 활용하는 것과 같은 첨단 기술을 도입하지 않은 채 기존 보안 절차와 기술에만 의존하면 공격자에게 우위를 내주게 됩니다. 방어용 AI 없이는 그 규모를 따라잡기가 사실상 어렵습니다. 조직은 전통적인 위협 행위자로부터 기업을 지키기 위한 모니터링만으로도 이미 과부하 상태입니다. AI 기반 공격은 경보 피로를 더욱 악화시킬 것입니다. 따라서 사람이 관리하는 프로세스에서 인간과 디지털 인력이 결합된 하이브리드 사이버 보안 인력 체계로 발전해야 합니다.
모든 디지털 자산을 파악하라
오늘날 기업 환경 전반의 잠재적 진입 지점을 파악하는 것은 기본 요건이지만, 많은 대기업도 아직 이를 달성하지 못하고 있습니다. 디지털 시스템과 자산뿐 아니라 조직 내 모든 신원과 접근 권한을 포괄적으로 파악해야 합니다. 물리적·행동적 특성을 개인과 연결하는 디지털 신원은 이미 잘 이해되고 있으며, 디지털 접근을 관리하기 위한 통제 수단도 마련되어 있습니다.
하지만 디지털 자산을 보호하려면 기업 전반의 비인간 신원(NHI) 현황을 이해하는 것이 필수입니다. 조직에서 AI의 잠재적 가치를 실현하려면 AI 에이전트에게 업무 프로세스를 자율적으로 완료할 수 있는 접근 권한과 허가를 부여해야 합니다. 이전 보안 시대의 클라우드 환경처럼, 오늘날 에이전트 기반 워크플로는 NHI를 대규모로 생성하고 비활성화합니다. 따라서 이들이 환경의 어디에서 작동하고, 의도한 임무나 역할을 어떻게 수행하는지 관리하고 추적할 수 있는 고도화된 역량이 필요합니다.
기업은 에이전트 신원의 전체 수명주기에 신원 거버넌스를 적용하고 에이전트의 행동을 모니터링해야 합니다. 이는 오늘날 인간 사용자의 접근을 관찰해 내부자 위험 행동이나 공격자에 의한 계정 침해를 살피는 것과 같습니다. 에이전트가 더 높은 자율성과 업무상 중요한 역할을 맡을수록, 그 신원 활동의 범위와 접근 패턴을 이해하는 일이 중요해집니다. 그래야 에이전트와 기업을 오용으로부터 보호하는 데 필요한 접근 통제와 모니터링을 구현할 수 있습니다.
AI 모델의 보안을 강화하라
AI는 효율성과 생산성을 높일 가능성을 제공하지만, 조직을 공격하는 데 악용될 가능성도 있습니다. 비즈니스 운영의 모든 측면에 AI를 도입하는 것은 더 이상 있으면 좋은 선택 사항이 아니라, 오늘날 경쟁 환경에서 성공하기 위한 요건입니다. 따라서 AI를 안전하게 도입하는 것은 비즈니스의 잠재력과 성과를 온전히, 안전하게 실현하기 위한 필수 요소입니다.
AI 기반 사이버 방어로의 전환이 진행되는 한편, AI 모델 자체도 공격 대상이 되었습니다. 공격자는 모델에 입력되는 데이터를 오염시키고, 모델이 의도하지 않은 행동을 하거나 민감한 정보를 공개하도록 조작할 수 있습니다.
AI에 대한 적대적 공격에는 데이터 포이즈닝, 프롬프트 인젝션 등 여러 형태가 있습니다. 조직은 AI를 잠재적 조작으로부터 적절히 보호하기 위해 미국 사이버보안·인프라보안국(CISA)의 설계 단계부터의 보안(Secure by Design) 철학을 활용해야 합니다. 이는 모델 학습에 사용되는 데이터에서 시작됩니다. 개발 초기부터 입력을 보호하고 통제하면 배포 후 신뢰할 수 있는 출력의 기반을 마련할 수 있습니다.
모델과 역량을 개발하는 데 어떤 입력이 사용되는지는 의도적으로 설계된 데이터 거버넌스와 모델 자체에 대한 접근 통제를 통해 파악할 수 있습니다. 원하는 출력을 검증하는 핵심 통제 수단에는 데이터 유출 방지(DLP), 정책과 안전 규칙의 적용, 검증 가능한 출처에 근거하도록 하는 그라운딩, 영향이 큰 행동에 대한 엄격한 승인 통제, 감사 가능성, 그리고 지속적인 테스트가 있습니다. 여기에는 모델이 공격에 견딜 수 있도록 강화하는 침투 테스트도 포함됩니다.
보안 운영에 AI를 내재화하라
지금까지 사이버 방어에 AI를 적용하는 방식은 전술적 수준에 머물렀습니다. 많은 조직이 AI 중심 프로세스를 어떻게 구축할지 전략적으로 재검토하기보다 기존의 인간 중심 프로세스에 AI를 덧붙였습니다. 이는 자전거에 V8 엔진을 장착하려는 것과 같습니다. AI 활용의 다음 단계는 에이전트형 AI와 자동화를 처음부터 설계에 포함해 프로세스를 새로 만드는 것입니다. 위협 탐지, 위협 헌팅, 탐지 엔지니어링처럼 검증된 보안 운영 방법과 프로세스는 AI 시대에도 조직 보안의 핵심입니다. 현재 보안 프로세스를 AI가 역량을 보완할 수 있도록 전환하면, 미래의 AI 기반 보안 운영 센터(SOC)를 위한 탄탄한 기반을 마련할 수 있습니다.
또한 자동화는 AI의 등장으로 처음 생겨난 개념이 아닙니다. 보안 워크플로와 프로세스는 수년간 자동화되어 왔고, 성숙한 조직은 매우 정교한 오케스트레이션과 자동화 역량을 갖추고 있습니다. 다만 AI는 기존 규칙 기반 자동화를 한층 발전시킵니다. 동적이고 적응력이 높으며 풍부한 맥락을 활용하는 자동화된 워크플로를 가능하게 해, 새로운 AI 위험에 대응하는 데 필요한 속도와 민첩성을 확보하도록 도울 수 있습니다.
다음 단계는?
기업과 IT 부서는 중요 자산과 사용자를 악의적 공격으로부터 보호하기 위해 계속 보안을 최우선으로 고려해야 합니다. AI 모델이 빠르게 배포되고 더 중요한 활동을 수행하도록 요구받는 상황에서, 설계 단계부터 보안을 갖춘 AI는 필수입니다. 사이버 보안팀은 새로운 AI 역량을 적절히 구현하고 공격과 방어의 추격전에서 뒤처지지 않도록 전략적으로 프로세스를 처음부터 재설계 해야 합니다.
보안 리더는 단기적으로 몇 가지 구체적인 조치를 취할 수 있습니다. 현재 보안 프로세스를 포괄적으로 검토해 격차, 현대화 기회, 전환이 필요한 영역을 파악해야 합니다. AI와 관련해 새롭게 나타나는 위협, 동향, 기술을 계속 살펴야 합니다. 무엇보다 오랜 시간 검증된 심층 방어 원칙을 지켜야 합니다. 신원에서 엔드포인트, 네트워크, 데이터에 이르기까지 계층화된 보호와 검증을 적용하고, 강력한 모니터링·대응 역량을 지속적으로 시험해야 합니다.
AI의 혁신적 잠재력이 제공하는 이점은 도입을 외면하기에는 너무 크며, 공격자에게는 이미 되돌릴 수 없는 변화가 시작되었습니다. 따라서 다음 시대의 보안 리더 역할도 본질적으로는 이전과 같습니다. 신중한 위험 완화를 통해 조직이 비즈니스 목표를 달성하도록 지원하는 것입니다. 다만 이제는 AI를 활용해 기계의 속도로 이를 수행해야 합니다.













