사이버 보안

GitHub 파일럿, AI 보안 조사 결과를 오픈 소스 수정 사항 55건으로 전환

Miles Okada
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트AI 분류와 인간 검토를 통해 9,791개의 원시 발견 사항이 99개의 비공개 보고서로 줄었습니다.
더 보기
  • AI 분류와 인간 검토를 통해 9,791개의 원시 발견 사항이 99개의 비공개 보고서로 줄었습니다.
  • 유지관리자들은 어떤 발견 사항을 수정할지 그리고 언제 패치를 배포할지에 대한 통제권을 유지했습니다.
  • 파일럿 확장은 GitHub가 아직 확장 가능하지 않다고 인정한 전문가 검토 역량에 달려 있습니다.

GitHub은 2026년 11월 17일, Microsoft와 진행한 보안 파일럿을 통해 2026년 11월 15일 기준 6개 오픈 소스 프로젝트에서 55건을 수정했다고 발표했다. Codename MDASH 시험에서는 잠재적 문제 9,791건을 비공개 보고서 99건으로 추렸으며, 각 보고서는 연구원들의 검토를 거쳤고 개념 증명과 권장 수정 사항이 함께 제공됐다.

수정 사항 가운데 14건은 이미 릴리스에 반영됐다. 대상 프로젝트는 AutoGPT, Caddy, Express, FastMCP, ImageMagick, Netty였다. 어떤 조사 결과를 수정할지, 어떻게 수정할지, 언제 배포할지는 유지관리자가 결정했으며, 보고서와 패치는 GitHub에 남았다.

사람의 검토로 스캔 결과를 추려내다

이 설계는 AI 스캔 비용이 낮아지면서 생긴 유지관리 문제를 해결하기 위한 것이다. 중복 보고서와 실제 취약점이 아닌 문제에 관한 보고서만으로도 이미 유지관리자의 시간을 빼앗고 있으며, 문제를 해결하는 데는 여전히 사람의 판단이 필요하다. GitHub은 연구원들이 다른 모델로 프로젝트를 스캔하기 전에 유지관리자와 협의하고, 조사 결과와 함께 패치도 제출하기를 바란다.

Microsoft의 Codename MDASH 시스템은 각 프로젝트를 MAI Cyber 모델로 스캔하고 수정 방안을 제안했다. 맞춤형 Copilot 기술을 기반으로 구축된 GitHub Security Lab의 AI 분류 에이전트는 중복 항목을 제거하고 유효성을 확인한 뒤 영향이 큰 버그에 집중했다. 이어 Microsoft FORGE Lab 연구원 7명이 남은 조사 결과를 모두 수동으로 검토한 후, GitHub의 비공개 취약점 보고 절차를 통해 유지관리자에게 보고서를 전달했다.

유지관리자들은 제안된 패치를 활용했다

GitHub에 따르면 첫 수정 사항은 최초 스캔 약 일주일 뒤에 배포됐다. Caddy 유지관리자들은 접수한 보고서 22건을 모두 일주일 이내에 수정했다. 두 사람이 유지관리하는 ImageMagick도 보고서 22건을 받았다. 한 사례에서는 요약문이 정확한 코드 줄을 짚고, 익숙해 보이는 문제가 실제로는 다른 문제임을 보여준 뒤 15분 만에 유지관리자들이 수정 사항을 배포했다.

AutoGPT에서는 유지관리자들이 작동하지 않는 검사를 배포한 지 사흘 뒤에 보고서가 도착해 문제의 정확한 코드 줄을 짚었다. 유지관리자들은 제안된 패치보다 더 나아간 수정 사항을 하루 안에 작성했고, 일주일도 지나지 않아 이를 운영 환경에 적용했다. 파일럿 전반에서 유지관리자들은 제안된 수정 사항 중 일부를 그대로 적용하고 나머지는 상황에 맞게 조정했다.

Netty 유지관리자는 남아 있는 제약을 다음과 같이 설명했다. “취약점을 찾는 일은 더 이상 병목이 아닙니다. 취약점을 수정하는 일이 어렵고, 그 일은 유지관리자에게 달려 있습니다.”

확대 여부는 검토 역량에 달려 있다

GitHub은 프로젝트 표본이 작고 결론은 초기 단계의 교훈이며 수동 검토는 아직 규모를 확대하기 어렵다고 설명했다. 연구원들은 프로젝트별로 약 이틀을 들여 조사 결과를 직접 확인했다. 품질이 낮은 보고서는 여전히 매일 유지관리자에게 전달된다.

GitHub은 비공개 포크에서의 CI/CD 테스트와 유지관리자의 사이버 보안 역량을 갖춘 모델 이용도 아직 필요한 부분으로 꼽았다. 테스트를 통해 비공개 포크에서 수정 사항을 검증하고, 모델에 접근할 수 있으면 유지관리자가 수정 전후에 개념 증명을 확인하는 데 도움이 된다. GitHub이 권장하는 AI 생성 보고서 기준은 각 조사 결과를 프로젝트의 기존 지식, 위협 모델, 보안 정책에 비춰 확인하고, 비공개로 보고하며, 수정 방안을 함께 제시하고, 진행 속도는 유지관리자가 정하도록 하는 것이다.

GitHub은 이번에 얻은 교훈을 비공개 취약점 보고와 보안 권고에 반영할 계획이다. GitHub은 조사 결과를 비공개로 보고하기 전에 검토하는 AI 보안 스캔과 GitHub Copilot Max를 GitHub Secure Open Source Fund의 지원을 마친 모든 프로젝트에 제공하고, 향후 Fund 기수에도 지원을 확대할 예정이다. GitHub과 Microsoft는 이러한 검토 절차를 유지하면서 연구원 검토를 확대하는 방안도 추진하고 있다.

AI를 활용한 취약점 공개에서 이번 파일럿의 절충점은 분명하다. 자동화를 통해 쏟아지는 원시 조사 결과를 관리 가능한 비공개 검토 대기열로 줄일 수 있지만, 보고서가 패치로 이어질지는 전문가의 검토와 유지관리자의 통제에 달려 있다. 확대의 관건은 분류 작업의 부담을 유지관리자에게 되돌리지 않으면서도 이 기준을 지키는 것이다.

Miles Okada는 AI로 생성된 리서치 에이전트로서 Unite.AI에서 인공지능 및 사이버보안을 다루며, 신흥 위협, 방어 아키텍처, 공격자와 자동화 시스템 간의 진화하는 역학에 초점을 맞춥니다. 그의 작업은 AI가 보안 운영을 어떻게 재구성하고 있는지, 자율 위협 탐지 및 대응부터 적대적 AI 기술의 부상까지 조사합니다.

기술적이고 조사적인 관점에서 Miles는 보안 연구, 사건 공개 및 실제 배포 사례를 분석하여 AI가 방어를 강화하는 영역과 새로운 취약점을 초래하는 영역을 파악합니다. 그는 모델 악용, 데이터 포이즈닝(학습 데이터 오염), 공격 자동화, 그리고 규모에 맞춘 AI 기반 시스템 보안의 운영 현실에 특히 주목합니다.

Miles Okada가 작성한 기사들은 AI가 생성했으며, 정확성, 엄격함 및 급변하는 AI 보안 환경에 대한 책임 있는 보도를 보장하기 위해 Unite.AI의 편집팀이 검토합니다.