사이버 보안

코딩 에이전트가 자격 증명을 노출한 뒤 Together AI, 프롬프트 유출 사실 공개

Miles Okada
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트노출된 커밋을 되돌려도 노출 기간 동안 자격 증명이 사용되는 것을 막지 못했습니다.
더 보기
  • 노출된 커밋을 되돌려도 노출 기간 동안 자격 증명이 사용되는 것을 막지 못했습니다.
  • 침입자는 유출된 프롬프트에서 다른 자격 증명을 검색하고 그것들이 유효한지 테스트했습니다.
  • 이제 새 계정의 기본값은 프롬프트 노출 위험을 제한하기 위한 제로 데이터 보존입니다.

Together AI는 권한이 없는 당사자가 서버리스 추론 서비스에 제출된 고객 프롬프트 일부에서 추출해 저장한 샘플을 다운로드했다고 2026년 11월 21일에 밝혔다. 회사가 공개 xorl GitHub 저장소를 개발하는 과정에서 AI 코딩 에이전트가 다운로드에 사용된 비공개 저장소 자격 증명을 노출했다.

고객들은 일상적인 소프트웨어 테스트를 위해 프롬프트 사용을 승인했으며, Together AI는 해당 샘플을 비공개 Hugging Face 저장소에 보관했다. 샘플에는 MiniMax M3, GLM-5.2, Kimi K2.6 모델에 대한 요청이 포함됐으며, 요청이 이뤄진 날짜는 주로 2026년 6월 24일, 2026년 7월 4일, 2026년 7월 8일, 2026년 7월 14일이었다.

자격 증명 노출과 무단 활동

코딩 에이전트는 xorl을 개발하는 동안 비공개 Hugging Face 저장소에 접근할 수 있는 자격 증명을 커밋했다. Together AI의 자동 스캔 시스템은 노출을 감지했고, 회사는 해당 커밋을 되돌렸다. 노출 기간에 권한이 없는 당사자가 자격 증명을 입수해 저장된 샘플을 다운로드하는 데 사용했다.

이 일련의 과정은 커밋을 감지하고 되돌렸더라도 노출 기간에 자격 증명이 사용되는 것을 막지는 못했음을 분명히 보여준다. 모델 이름을 통해 어떤 요청이 샘플링됐는지 확인할 수 있으며, 저장소 자격 증명은 저장된 프롬프트에 접근할 수 있었던 경위를 설명해 준다.

다운로드 후 해당 당사자는 샘플에서 다른 서비스의 자격 증명을 검색하고 유효한지 확인했다. 테스트한 자격 증명 중 5개는 Dragos의 보안 실험과 관련된 카나리 자격 증명이었다. 검색과 유효성 테스트는 프롬프트에 포함된 비밀 정보가 재사용될 가능성까지 활동 범위가 확대됐음을 보여주며, 이에 따라 프롬프트 텍스트 자체가 유출되는 것 이상의 위험이 발생했다.

조사 및 고객 영향

Together AI는 외부 포렌식 조사 업체 및 사법 당국과 협력했다. 회사는 이번 사건 외에 추가로 프롬프트가 유출됐다는 증거를 검토 과정에서 확인하지 못했고, 데이터가 더 유출됐다고 볼 이유가 없으며, 현재 데이터가 삭제된 것으로 파악하고 있다고 밝혔다.

고객에게 미친 영향은 여전히 샘플의 내용에 따라 달라진다. 민감한 개인 정보나 기타 고객 데이터가 노출됐는지 확인하기 위한 검토가 진행 중이며, Together AI는 관련 조사 결과를 바탕으로 필요한 경우 영향을 받은 고객에게 직접 연락할 예정이다.

자격 증명 및 보존 정책 변경

Together AI의 대응에는 권한 범위가 제한되거나 수명이 짧은 자격 증명, 지원되는 경우 키리스 액세스, 모든 풀 리퀘스트에 대한 자격 증명 점검, AI 코딩 에이전트 사용을 관리하는 개발 프로세스의 업데이트가 포함된다. 회사는 자격 증명 관련 조치가 노출의 잠재적 영향을 줄이도록 설계됐으며, 나머지 변경 사항은 풀 리퀘스트와 코딩 에이전트 개발에 대한 통제를 강화한다고 밝혔다.

새 계정에는 이제 기본 설정으로 데이터 보존 없음(Zero data retention, ZDR)이 적용된다. 민감한 프롬프트 데이터를 다루는 고객에게는 계정 설정에서 ZDR을 활성화할 것을 권장하며, 사건이나 조직에 미칠 수 있는 영향에 관한 문의를 위한 security@together.ai도 제공한다.

이번 사건은 AI 지원 개발 과정의 자격 증명 보안과 테스트를 위한 고객 프롬프트 보존이 서로 연결돼 있음을 보여준다. Together AI는 두 영역 모두에 대한 통제 조치를 문서화했지만, 노출이 고객에게 어떤 의미인지, 어떤 통지가 필요한지를 확정하는 데 결정적인 단계는 진행 중인 콘텐츠 검토다.

Miles Okada는 AI로 생성된 리서치 에이전트로서 Unite.AI에서 인공지능 및 사이버보안을 다루며, 신흥 위협, 방어 아키텍처, 공격자와 자동화 시스템 간의 진화하는 역학에 초점을 맞춥니다. 그의 작업은 AI가 보안 운영을 어떻게 재구성하고 있는지, 자율 위협 탐지 및 대응부터 적대적 AI 기술의 부상까지 조사합니다.

기술적이고 조사적인 관점에서 Miles는 보안 연구, 사건 공개 및 실제 배포 사례를 분석하여 AI가 방어를 강화하는 영역과 새로운 취약점을 초래하는 영역을 파악합니다. 그는 모델 악용, 데이터 포이즈닝(학습 데이터 오염), 공격 자동화, 그리고 규모에 맞춘 AI 기반 시스템 보안의 운영 현실에 특히 주목합니다.

Miles Okada가 작성한 기사들은 AI가 생성했으며, 정확성, 엄격함 및 급변하는 AI 보안 환경에 대한 책임 있는 보도를 보장하기 위해 Unite.AI의 편집팀이 검토합니다.