사상 리더

LLM과 생성형 AI가 20년간의 애플리케이션 보안 문제를 해결할 수 있을까?

Neatsun Ziv
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트생성형 AI는 GitHub와 같은 방대한 코드 저장소에서 학습하여 취약점 탐지를 자동화할 수 있습니다.
더 보기
  • 생성형 AI는 GitHub와 같은 방대한 코드 저장소에서 학습하여 취약점 탐지를 자동화할 수 있습니다.
  • LLM은 BurpGPT의 동적 보안 테스트와 같은 현실적인 공격 시나리오를 생성할 수 있습니다.
  • AI 기반 패치 생성과 자동화된 테스트의 결합은 전통적인 업계의 저항을 극복할 수 있을 것입니다.

끊임없이 변화하는 사이버 보안 환경에서는 악의적인 행위자보다 한발 앞서 나가는 일이 지속적인 과제다. 지난 20년간 애플리케이션 보안 문제는 계속되어 왔고, 전통적인 방법은 새로운 위협을 탐지하고 완화하는 데 종종 한계를 드러냈다. 그러나 유망한 신기술인 생성형 AI(GenAI)는 이 분야를 혁신할 태세다. 이 글에서는 생성형 AI가 보안과 어떤 관련이 있는지, 기존 접근법으로 해결하지 못했던 오랜 과제를 왜 해결할 수 있는지, 보안 생태계에 어떤 변화를 가져올 수 있는지, 그리고 이전 기계 학습(ML) 모델과 어떻게 다른지 살펴본다.

새로운 기술이 필요한 이유

애플리케이션 보안 문제는 다면적이고 복잡하다. 전통적인 보안 조치는 주로 패턴 매칭, 시그니처 기반 탐지, 규칙 기반 접근법에 의존해 왔다. 이러한 방법은 단순한 상황에서는 효과적이지만, 개발자들이 창의적으로 코드를 작성하고 시스템을 구성하는 다양한 방식에 대응하기는 어렵다. 오늘날 공격자들은 공격 기법을 끊임없이 발전시키고 공격 표면을 넓혀, 새로운 위험을 막는 데 패턴 매칭만으로는 충분하지 않게 만든다. 따라서 보안 접근법의 패러다임 전환이 필요하며, 생성형 AI는 이러한 과제를 해결할 열쇠가 될 수 있다.

보안에서 발휘되는 LLM의 능력

생성형 AI는 합성 샘플을 학습하여 데이터를 분류하거나 군집화하는 데 뛰어났던 기존 기계 학습 모델보다 진전된 기술이다. 현대의 LLM은 GitHub 같은 대규모 코드 저장소에 있는 수백만 개의 예제로 훈련되며, 그중 일부에는 보안 문제에 관한 태그가 달려 있다. 방대한 데이터를 학습한 현대 LLM은 애플리케이션 코드와 환경의 기저 패턴, 구조, 관계를 이해할 수 있다. 이를 통해 적절한 입력과 사전 맥락이 주어지면 잠재적 취약점을 식별하고 공격 벡터를 예측할 수 있다.

또 다른 중요한 발전은 현실적인 수정 예제를 생성하는 능력이다. 이는 개발자가 근본 원인을 이해하고 문제를 더 빠르게 해결하도록 돕는다. 특히 보안 전문가가 조직 내에서 분리되어 일하고 업무 과부하를 겪는 복잡한 조직에서 유용하다.

GenAI가 가능하게 하는 변화

생성형 AI는 여러 방식으로 애플리케이션 보안 생태계를 바꿀 잠재력이 있다.

자동 취약점 탐지: 전통적인 취약점 스캐닝 도구는 종종 수동 규칙 정의나 제한적인 패턴 매칭에 의존한다. 생성형 AI는 광범위한 코드 저장소를 학습하고 합성 샘플을 생성하여 취약점을 식별하는 과정을 자동화할 수 있어, 수동 분석에 필요한 시간과 노력을 줄인다.

적대적 공격 시뮬레이션: 보안 테스트에서는 일반적으로 공격을 시뮬레이션하여 애플리케이션의 약점을 찾는다. 생성형 AI는 정교한 다단계 공격을 포함한 현실적인 공격 시나리오를 생성하여 조직이 실제 위협에 대한 방어를 강화하도록 도울 수 있다. GPT와 Burp를 결합해 동적 보안 문제를 탐지하는 BurpGPT가 좋은 예다.

지능형 패치 생성: 취약점을 효과적으로 해결하는 패치를 만드는 것은 복잡한 작업이다. 생성형 AI는 기존 코드베이스를 분석하고 특정 취약점을 해결하는 패치를 생성할 수 있어, 패치 개발 과정에서 시간을 절약하고 사람의 오류를 최소화한다.

업계에서는 전통적으로 이러한 종류의 수정을 받아들이지 않았지만, 자동 코드 수정과 GenAI의 테스트 생성 능력을 결합하면 업계의 가능성을 새로운 수준으로 넓힐 수 있다.

강화된 위협 인텔리전스: 생성형 AI는 취약점 보고서, 공격 패턴, 악성코드 샘플을 포함한 방대한 보안 관련 데이터를 분석할 수 있다. 초기 징후에서 실제 실행 가능한 대응 절차에 이르기까지 통찰을 생성하고 새로운 추세를 식별함으로써, GenAI는 위협 인텔리전스 역량을 크게 높이고 선제적인 방어 전략을 가능하게 한다.

LLM과 애플리케이션 보안의 미래

LLM은 제한적인 맥락 이해, 불완전한 코드 분석 범위, 실시간 평가 부족, 분야별 전문 지식 부재 때문에 아직 완벽한 애플리케이션 보안을 달성하지 못한다. 앞으로 이러한 간극을 해소하려면 LLM 접근법에 전용 보안 도구, 외부 보강 정보원, 스캐너를 결합하는 해결책이 필요할 가능성이 높다. AI와 보안 기술의 지속적인 발전은 이러한 간극을 줄이는 데 도움이 될 것이다.

일반적으로 데이터셋이 클수록 더 정확한 LLM을 만들 수 있다. 코드도 마찬가지다. 같은 언어로 작성된 코드가 더 많이 확보되면 이를 활용해 더 나은 LLM을 만들 수 있고, 이는 앞으로 더 나은 코드 생성과 보안으로 이어질 것이다.

앞으로 몇 년간 더 큰 토큰 크기를 활용하는 능력을 포함해 LLM 기술이 발전할 것으로 예상한다. 이러한 발전은 AI 기반 사이버 보안을 크게 개선할 잠재력을 지닌다.

Neatsun Ziv는 OX Security의 CEO 겸 공동 설립자입니다. OX Security는 DevSecOps를 위한 최초의 엔드투엔드 소프트웨어 공급망 보안 솔루션입니다. OX를 설립하기 전에는 Check Point의 사이버 보안 부사장으로서 모든 사이버 관련 이니셔티브를 총괄했습니다. 그의 팀은 SolarWinds, NotPetya 및 기타 대규모 공격에 가장 먼저 대응한 팀들 중 하나였으며, Interpol, 지역 CERT 및 기타 법 집행 기관과 긴밀히 협력했습니다.