다크웹 연구를 지원하는 머신러닝 기반 CAPTCHA 해결

미국의 공동 학술 연구팀이 CAPTCHA* 테스트를 통과하는 방법을 개발했다. 이 방법은 생성적 적대 신경망(GAN)으로 시각적으로 복잡한 문제를 해독하며, 유사한 최첨단 머신러닝 방법보다 성능이 뛰어나다고 보고됐다.

연구팀은 새 시스템을 기존의 우수한 방법들과 비교해, 신중하게 선별한 실제 환경의 벤치마크 데이터에서 94.4%를 넘는 성공률을 확인했다. CAPTCHA로 강하게 보호된 신생 다크넷 시장을 탐색할 때 사람의 참여가 필요하지 않았으며, 최대 세 번의 시도로 CAPTCHA를 자동 해결했다.

DW-GAN의 작업 흐름. 출처: https://arxiv.org/pdf/2201.02799.pdf

저자들은 이 접근법이 사이버보안 연구자들에게 돌파구가 된다고 주장한다. 연구자들은 그동안 Amazon Mechanical Turk(AMT) 같은 크라우드소싱 플랫폼을 통해 사람이 CAPTCHA를 직접 풀도록 하고 그 비용을 부담해야 했다.

시스템의 적응성과 견고성이 입증된다면 더 자동화된 감시 체계와 TOR 네트워크의 색인 작성 및 웹 데이터 수집에도 길을 열 수 있다. 이를 통해 확장 가능한 대규모 분석과, 지금까지 CAPTCHA 장벽에 막혀 있던 새로운 사이버보안 접근법과 기술 개발이 가능해질 수 있다.

논문 제목은 Counteracting Dark Web Text-Based CAPTCHA with Generative Adversarial Learning for Proactive Cyber Threat Intelligence이며, 애리조나대학교, 사우스플로리다대학교, 조지아대학교 연구자들이 작성했다.

파급 효과

Dark Web-GAN이라는 이 시스템(DW-GAN, GitHub에서 제공)은 이전 방법들보다 훨씬 좋은 성능을 보이는 것으로 보인다. 따라서 일반 웹에서 보통 더 쉬운 CAPTCHA를 통과하는 범용 방법으로도 사용될 가능성이 있다. 이 구현 자체를 이용하거나 새 논문이 제시하는 일반 원리를 적용할 수도 있다. 다만 GitHub의 저장 공간 제한 때문에 당시에는 시스템 관련 데이터를 받으려면 주저자 Ning Zhang에게 연락해야 했다.

DW-GAN은 CAPTCHA를 통과해 연구를 돕는 긍정적인 목적을 갖고 있다. TOR 역시 원래 군사 통신을, 나중에는 언론인을 보호하려는 긍정적인 목적이 있었다. CAPTCHA는 대형 CDN 업체 CloudFlare가 자주 사용하며 논란을 낳기도 하는 합법적인 방어 수단인 동시에 불법 다크웹 시장이 즐겨 쓰는 도구이기도 하다. 이런 점에서 이 접근법은 힘의 균형을 맞추는 기술이라고 볼 수 있다.

저자들도 DW-GAN의 활용 범위가 더 넓다는 점을 인정한다.

“[이 연구는] 더 어려운 문제인 다크웹 CAPTCHA에 주로 초점을 맞추지만, 여기서 제안한 방법은 일반성을 잃지 않고 다른 유형의 CAPTCHA에도 적용할 수 있을 것으로 기대된다.”

다크웹 시장이 기계로 풀기 더 어려운 대안을 찾거나 최소한 CAPTCHA 설정을 주기적으로 바꾸도록 만들려면 DW-GAN 또는 유사한 시스템이 널리, 눈에 띄게 보급돼야 할 것으로 보인다. 이는 일종의 냉전 구도가 될 수 있다.

연구 동기

논문에 따르면 다크웹은 사이버공격 관련 해커 정보의 주요 원천이다. 사이버공격은 2025년까지 세계 경제에 10조 달러의 피해를 줄 것으로 추산된다. 따라서 onion 네트워크는 세션 시간 초과, 쿠키, 사용자 인증 등으로 외부의 접근을 막을 수 있는 불법 다크넷 공동체에 비교적 안전한 환경을 제공한다.

두 CAPTCHA 유형 모두 복잡한 배경과 기울어진 글자로 기계 판독을 어렵게 한다.

그러나 저자들은 민감한 공동체를 탐색할 때 계속 나타나는 CAPTCHA가 다른 어떤 장벽보다도 큰 장애물이라고 지적한다.

“이런 조치 대부분은 크롤러 프로그램에 자동 대응 기능을 구현하면 효과적으로 우회할 수 있다. 그러나 CAPTCHA는 다크웹에서 크롤링을 가장 크게 방해하는 조치다. 자동화 도구가 흔히 갖추지 못한 높은 인지 능력을 요구하기 때문에 쉽게 우회할 수 없다.”

텍스트 CAPTCHA만 있는 것은 아니다. 우리에게 익숙한 다른 유형들은 동영상, 음성, 특히 이미지를 해석하도록 요구한다. 그럼에도 저자들은 텍스트 CAPTCHA가 당시 다크웹 시장이 선호하는 문제 유형이며, TOR 네트워크의 기계 분석을 가능하게 하는 자연스러운 출발점이라고 설명한다.

구조

중국 Northwest University의 앞선 방법도 GAN으로 CAPTCHA의 특징 패턴을 추출했다. 하지만 새 논문의 저자들은 그 방법이 문제 속에서 인식한 글자를 깊게 조사하기보다는 래스터 이미지를 해석하는 데 의존한다고 지적한다. 반면 DW-GAN의 효과는 다크웹 CAPTCHA에 흔히 나오는 무의미한 단어와 숫자의 길이가 달라져도 영향을 받지 않는다.

DW-GAN은 네 단계의 처리 과정을 사용한다. 먼저 이미지를 확보한 뒤 배경 잡음을 제거하는 모듈로 보낸다. 이 모듈의 GAN은 주석이 달린 CAPTCHA 표본으로 학습했으므로 글자가 놓인 교란된 배경과 글자를 구분할 수 있다. GAN 기반 추출 뒤에도 남은 잡음을 없애기 위해 추출된 글자를 다시 걸러낸다.

다음에는 추출한 텍스트를 분할한다. 윤곽선 검출 알고리즘을 사용해 텍스트를 구성하는 것으로 보이는 개별 문자로 나눈다.

문자 분할은 픽셀 집단을 분리하고 경계를 추적해 인식을 시도한다.

마지막으로 추정된 문자 조각들을 합성곱 신경망(CNN)에 보내 문자를 인식한다.

때로는 문자가 겹친다. 기계를 속이려고 글자 간격을 극단적으로 좁힌 것이다. 따라서 DW-GAN은 구간 기반 분할로 경계를 강화하고 분리해 문자를 효과적으로 나눈다. 단어는 대개 무의미하므로 이 과정을 돕는 의미적 문맥이 없다.

결과

DW-GAN은 서로 다른 다크웹 데이터셋 세 개와 널리 쓰이는 CAPTCHA 생성기의 이미지로 시험했다. 원본 이미지가 나온 시장은 Rescator-1과 Rescator-2라는 도난 카드 정보 거래 상점 두 곳, 그리고 당시 새로 등장한 Yellow Brick이었다. Yellow Brick은 나중에 DarkMarket 폐쇄의 여파로 사라졌다고 보도됐다.

세 데이터셋 및 오픈소스 CAPTCHA 생성기의 표본.

저자들은 사이버 위협 정보(CTI) 전문가들이 다크넷 시장 전반에 얼마나 널리 쓰이는지를 바탕으로 시험 데이터를 추천했다고 설명한다.

각 데이터셋을 시험할 때 TOR에 접근하는 수집 프로그램을 개발해 CAPTCHA 이미지 500개를 모았다. 이후 CTI 자문가들이 이미지에 레이블을 붙이고 선별했다.

세 가지 실험을 설계했다. 첫 번째는 DW-GAN의 일반적인 CAPTCHA 해결 성능을 기존 최첨단 방법들과 비교했다. 비교 대상은 이란과 영국의 공동 연구로, 회색조 변환·정규화·가우스 평활화를 포함하는 전처리 기반 이미지 수준 CNN, 구간 기반 분할을 쓰는 문자 수준 CNN, 그리고 영국 옥스퍼드대학교의 이미지 수준 CNN이었다.

첫 번째 실험에서 DW-GAN과 기존 최첨단 방법들을 비교한 결과.

연구팀은 DW-GAN이 모든 비교에서 이전 결과를 개선할 수 있었다고 확인했다. 위 표를 참고할 수 있다.

두 번째 실험은 구성 요소 제거 연구였다. 외부 또는 부차적 요인이 결과에 영향을 미쳤을 가능성을 배제하기 위해 작동 중인 시스템의 여러 구성 요소를 제거하거나 비활성화했다.

구성 요소 제거 연구의 결과.

여기서도 저자들은 구조의 핵심 부분을 비활성화하면 거의 모든 경우에 DW-GAN 성능이 떨어진다고 확인했다. 위 표를 참고할 수 있다.

세 번째 오프라인 실험은 DW-GAN을 기준 이미지 기반 방법 및 문자 수준 방법 두 개와 비교했다. 무의미한 CAPTCHA 단어의 길이가 미리 정해지지 않고 임의로 달라질 때, DW-GAN의 문자 평가가 유용성에 얼마나 영향을 주는지 파악하려는 실험이었다. 이때 CAPTCHA 길이는 4~7자였다.

저자들은 이 실험에서 CAPTCHA 이미지 50,000개의 학습 세트를 사용했고, 일반적인 90/10 분할에 따라 5,000개를 시험용으로 남겼다.

이 경우에도 DW-GAN이 이전 방법들보다 우수했다.

다크넷 시장에서의 실시간 시험

마지막으로 DW-GAN을 당시 운영 중이던 Yellow Brick 다크넷 시장에 적용했다. 이 시험을 위해 DW-GAN을 탐색 기능에 통합해 CAPTCHA 문제를 자동 분석하는 Tor 웹브라우저를 개발했다.

이 상황에서는 자동 수집 프로그램에 평균 HTTP 요청 15회마다 CAPTCHA가 제시됐다. 프로그램은 Yellow Brick에서 팔리는 불법 상품 1,831개를 색인화했다. 그중 1,223개는 오피오이드와 코카인을 포함한 마약 관련 상품이었고, 해킹 패키지 44개와 위조 문서 스캔 9개도 있었다. 전체적으로 사이버보안 관련 상품 286개를 식별했으며, 도난 신용카드 102개와 도난 계정 로그인 정보 131개가 포함됐다.

저자들은 DW-GAN이 모든 경우에 세 번 이하의 시도로 CAPTCHA를 풀었으며, 1,831개 상품 모두를 보호하는 CAPTCHA를 처리하는 데 76분이 필요했다고 밝혔다. 사람의 개입이 필요하지 않았고, 끝내 처리하지 못한 사례도 없었다.

저자들은 텍스트 CAPTCHA보다 복잡한 새로운 문제들이 등장하고 있으며, 그중 일부는 튜링 테스트를 본뜬 것으로 보인다고 지적한다. 이런 경향이 널리 퍼지면 DW-GAN도 이를 수용하도록 개선할 수 있다고 설명한다.

*컴퓨터와 사람을 구별하는 완전 자동화된 공개 튜링 테스트

최초 게시일: 2022년 1월 11일.