KELA의 2026년 중간 AI 위협 동향 보고서: AI가 무기이자 표적이 되다

인공지능은 더 이상 사이버 범죄자가 더 빠르게 일하도록 돕는 데 그치지 않고, 정교한 공격에 적극적으로 참여하고 있다. 이는 KELA의 2026년 중간 AI 위협 동향 보고서가 내린 핵심 결론이다. 보고서는 에이전트형 AI, 오픈소스 대규모 언어 모델, 자율 공격 기법이 사이버 범죄의 수행 방식을 크게 바꾸는 새로운 시대에 사이버 보안이 진입했다고 주장한다. AI가 취약점 발견과 랜섬웨어 운영부터 피싱 캠페인과 기업 첩보 활동에 이르기까지 모든 과정을 가속하는 동시에, 방어자가 보호해야 할 완전히 새로운 공격 표면을 만들어내고 있다는 것이다.

자율 사이버 공격의 부상

지난 수년간 AI는 주로 개발자, 보안 전문가, 공격자 모두의 생산성을 높이는 도구로 활용됐다. KELA는 2026년이 AI 어시스턴트 에서 제한적인 인간 개입만으로 여러 단계의 목표를 수행할 수 있는 AI 시스템으로 전환하는 중요한 시점이라고 본다. 이러한 시스템은 단순히 코드를 생성하거나 질문에 답하는 것을 넘어 취약점을 식별하고, 소프트웨어를 분석하고, 익스플로잇을 연결하고, 권한을 상승시키며, 공격의 모든 단계에서 놀라운 속도로 작업을 지원할 수 있다.

이런 능력의 초기 시연은 비공개 최첨단 모델에서 나왔지만, KELA는 장기적으로 더 큰 우려가 DeepSeek, Qwen, Kimi 같은 오픈소스 모델의 빠른 도입에 있다고 본다. 이 모델들은 자체 호스팅과 수정이 가능하고 안전 제한도 제거할 수 있으므로, 범죄 조직은 더 이상 상용 AI 제공업체에 의존하지 않고 자신들이 완전히 통제하는 공격용 AI 시스템을 구축할 수 있다.

패치를 적용할 시간적 여유가 사라지고 있다

보고서에서 가장 우려스러운 전망은 자율 취약점 발견 및 악용(Autonomous Vulnerability Discovery and Exploitation, AVDE)에 관한 것일 수 있다. 전통적으로 조직은 취약점이 공개된 뒤 실제 작동하는 익스플로잇이 널리 퍼지기 전까지 귀중한 시간을 확보할 수 있었다. 보안팀은 이 기간에 패치를 시험하고 공격자가 취약점을 이용하기 전에 시스템을 보호할 수 있었다.

에이전트형 AI는 이러한 이점을 없앨 수 있다. 이런 시스템은 이미 알려진 취약점에만 의존하지 않고 방대한 코드베이스를 분석하며, 복잡한 소프트웨어 논리를 추론하고, 결함을 찾아 자동으로 검증하며, 인간 연구자보다 훨씬 빠르게 익스플로잇 코드를 생성할 수 있다. 소프트웨어 패치가 공개되면 AI 시스템은 이를 역공학으로 분석해 근본적인 취약점을 파악할 수 있어 방어자의 대응 시간이 크게 줄어든다. 과거 수개월에 걸쳐 벌어지던 일이 점점 더 자주 몇 시간 만에 일어날 수 있다.

랜섬웨어 조직이 일상적인 운영에 AI를 통합하고 있다

AI는 인간 운영자를 대체하기보다는 랜섬웨어 조직의 역량을 배가하는 수단이 되고 있다.

보고서에서 강조한 한 사례는 TheGentlemen이라는 랜섬웨어 조직과 관련된 것으로 추정되는 유출 대화를 분석한다. KELA에 따르면 조직원들은 소프트웨어 개발 가속, 인프라 문제 해결, 로그 분석, 악성 코드 개선, 몸값 협상 메시지 작성, 탈취한 기업 데이터 처리, 내부 도구 구축에 AI를 사용했다. 대화 내용은 운영자들이 AI를 캠페인의 거의 모든 단계에서 효율을 크게 높이는 운영 가속 수단으로 여겼음을 시사한다. 다만 인간의 감독은 여전히 필요했다.

이는 사이버 범죄 생태계 전반의 더 큰 흐름을 보여준다. AI는 단순히 또 하나의 도구가 아니라 팀의 또 다른 구성원처럼 기능하고 있다.

국가 연계 작전의 자동화가 확대되고 있다

보고서는 지능형 지속 위협(APT) 조직 역시 작전의 상당 부분을 자동화하기 시작했다고 주장한다.

한 사례 연구는 중국과 연계된 GTG-1002 조직이 수행한 것으로 지목된 첩보 캠페인을 설명한다. 이 조직은 침투 작업 흐름의 80~90%를 자동화한 것으로 알려졌다. KELA에 따르면 AI는 최소한의 인간 개입으로 취약점 발견, 익스플로잇 생성, 권한 상승, 네트워크 내 횡적 이동, 데이터 우선순위 결정을 처리했다. 이러한 작전의 주체가 국가 행위자이든 조직적인 사이버 범죄 집단이든, AI는 갈수록 복잡해지는 공격을 수행하는 실행 계층이 되고 있다고 보고서는 설명한다.

공격자들은 AI 자체를 조종하는 방법을 배우고 있다

보고서의 흥미로운 개념 중 하나는 KELA가 말하는 ‘바이브 해킹’이다.

공격자는 명백한 탈옥 프롬프트로 AI 모델의 제한을 우회하려 하기보다, 악의적인 활동을 정당한 업무로 포장해 AI를 조종하는 방식을 점점 더 많이 사용한다. 안전 규칙을 무시하라고 지시하는 대신, 허가된 보안 테스트나 소프트웨어 개발, 내부 문제 해결에 참여하고 있다고 설득한다. AI가 이러한 맥락을 받아들이면 공격 작전을 지원하는 행동을 자발적으로 수행할 수 있다.

KELA는 AI 코딩 어시스턴트와 모델 컨텍스트 프로토콜(MCP) 서버가 관련된 여러 사례를 기록했다. 정교하게 설계된 프롬프트가 어떻게 AI 에이전트로 하여금 정당한 업무를 수행한다고 믿으면서 민감한 파일을 조사하고, 비밀 정보를 노출하거나, 공격 사슬의 일부를 실행하게 할 수 있는지 보여준다.

사회공학적 공격이 더욱 설득력을 갖추고 있다

인공지능은 사이버 보안에서 가장 오래된 공격 수법 중 하나인 사회공학도 바꾸고 있다.

보고서는 범죄자들이 AI 기반 피싱 플랫폼, 다국어 음성 피싱 시스템, 딥페이크 서비스, 음성 복제 기술, AI 지원 자격 증명 수집 도구를 판매하는 지하 시장의 확대를 설명한다. 일부 서비스는 실제 고객 상담원을 흉내 내며 수백 통의 자동 전화를 걸 수 있다고 광고한다. 다국어 지원과 사실적인 대화 능력도 제공한다.

이런 서비스는 설득력 있는 공격에 필요한 기술적 전문성을 크게 낮춘다. 범죄자는 정교한 기능을 직접 개발하는 대신 구독 서비스로 구매할 수 있다.

정보 탈취 악성코드가 이제 조직의 지식까지 훔친다

보고서의 가장 중요한 관찰 중 하나는 정보 탈취 악성코드의 진화에 관한 것이다.

과거 인포스틸러는 비밀번호, 브라우저 쿠키, 암호화폐 지갑, 인증 토큰에 집중했다. 오늘날의 악성코드는 KELA가 AI 활용의 ‘인지 계층’이라고 부르는 영역을 점점 더 많이 노린다. 공격자들은 자격 증명뿐 아니라 프롬프트 라이브러리, AI 메모리 파일, 캐시된 대화, 자동화 작업 흐름, 업무 지침, AI 어시스턴트가 저장한 지속적인 맥락을 찾는다.

이는 침해 사고의 성격을 완전히 바꾼다. 감염된 워크스테이션은 단순히 접근 자격 증명만 노출하는 것이 아니다. 조직의 운영 방식, 사업 의사결정의 근거, 고유한 업무 흐름, 전략 계획, 소프트웨어 아키텍처, 수개월간의 AI 지원 작업을 통해 축적된 내부 지식까지 드러낼 수 있다.

보고서 추산에 따르면 KELA는 2026년 첫 4개월에만 서로 다른 감염 기기 100만 대 이상을 관찰했다. 개발자와 경영진을 겨냥한 macOS용 악성코드의 지속적인 증가도 기록했다.

세션 쿠키가 비밀번호보다 더 가치 있는 표적이 됐다

KELA는 인증된 AI 세션이 사이버 범죄자에게 빠르게 고가치 표적으로 떠오르고 있다고 주장한다.

공격자는 사용자 이름과 비밀번호를 훔치기보다 다중 요소 인증을 완전히 우회할 수 있는 브라우저 세션 쿠키를 점점 더 많이 찾는다. 인증된 AI 세션에 접근하면 대화뿐 아니라 연결된 개발 도구, 클라우드 서비스, 코드 저장소, 자동화 작업 흐름, 기업용 통합 기능까지 넘겨받을 수 있다.

보고서는 AI 플랫폼의 인증된 세션을 구매하고 유효성을 확인해 재판매하는 전문 지하 시장의 성장을 기록한다. 이는 세션 탈취가 AI 기반 기업 환경을 침해하는 가장 효과적인 방법 중 하나가 될 수 있음을 시사한다.

AI 인프라가 공격 표면이 됐다

조직이 AI 오케스트레이션 계층, 추론 엔드포인트, 벡터 데이터베이스, 모델 컨텍스트 프로토콜 서버, 자율 에이전트를 배포하면서 사이버 범죄자도 정찰 활동을 이에 맞춰 조정하고 있다.

공격자는 기존 웹 애플리케이션만 스캔하지 않고 모델, API, 클라우드 자격 증명, 기업 자동화 시스템에 직접 접근할 수 있는 노출된 AI 인프라를 점점 더 많이 찾는다. KELA는 인터넷 전반에서 노출된 AI 서비스를 자동으로 발견한 뒤 탈취한 자격 증명을 검증하고 즉시 활용할 수 있는 정보로 정리하는 공격 플랫폼을 소개한다.

그 결과 정찰, 자격 증명 수집, 취약점 악용, 침해 후 분석이 갈수록 자동화되는 사이버 범죄 생태계가 형성되고 있다. 이는 정교한 공격을 수행하는 데 필요한 기술 장벽을 크게 낮춘다.

AI 에이전트 시대의 방어

KELA는 AI가 사이버 공격의 속도를 계속 높이는 상황에서 조직이 전통적인 방어 전략에만 의존할 수 없다고 결론짓는다. 기업은 AI 에이전트, 프롬프트 라이브러리, 메모리 저장소, 자율 작업 흐름, 기계 신원을 중요한 자산으로 간주해야 한다. 이들 자산에는 과거 서버, 자격 증명, 데이터베이스에 적용하던 수준의 보호가 필요하다.

KELA 의 2026년 중간 AI 위협 동향 보고서 가 전하는 핵심 메시지는 인공지능이 사이버 보안의 양쪽 진영을 모두 바꾸고 있다는 것이다. AI는 방어자에게 새로운 역량을 제공하지만 사이버 범죄의 경제적 구조와 속도도 바꾸고 있다. 기업이 AI를 운영에 더 깊이 통합할수록 인프라뿐 아니라 AI 시스템에 내재된 지식, 맥락, 자율적 의사결정을 보호하는 일이 이번 10년을 규정하는 주요 사이버 보안 과제 중 하나가 될 수 있다.