Fireworks AI, 침해 사실 공개 범위를 데이터세트와 모델 가중치까지 확대

Fireworks AI는 2026년 11월 9일 10월 보안 사고에 관한 공개 내용을 확대하고, 공격자가 계정 및 결제 정보에 접근했으며 제한된 고객 그룹의 경우 비밀 정보, 데이터세트와 완성되지 않은 모델 가중치에도 접근했다고 밝혔다. AI 인프라 제공업체인 Fireworks AI는 처음에는 이 사고를 내부 자격 증명의 무단 사용으로 설명했다.

영향을 받은 내부 애플리케이션에서는 식별자, 표시 이름, 설명, 생성 시각 등 리소스 메타데이터에 접근할 수 있었다. 결제 정보에는 청구 및 배송 주소, 송장과 결제 내역, 계정 잔액, 크레딧 사용량이 포함됐다. Fireworks는 결제 카드 번호를 저장하지 않으며, 해당 정보는 영향을 받지 않았다. 데이터가 영향을 받은 고객에게는 계정별 세부 정보와 권고 대응 방안이 제공되고 있으며, 진행 중인 조사에서 추가로 확인되는 내용이 나올 수 있다.

개발 머신을 통한 또 다른 침투 경로

이번 업데이트는 Fireworks가 2026년 10월 9일 처음 발표한 공지보다 공개 범위가 넓다. 회사는 2026년 10월 6일 내부 자격 증명이 무단으로 사용된 사실을 확인하고 차단 조치에 착수했다. 무단 접근자는 제한된 수의 고객 계정에서 평가 작업에 사용되는 환경 변수에 접근했다. 당시 Fireworks는 보안 경계 또는 통제 범위 내에서 고객 모델, 데이터세트, 학습 데이터, 개인정보 또는 추론 트래픽에 대한 무단 접근을 확인하지 못했다.

고객 통지는 2026년 10월 7일 시작됐다. Fireworks는 10월 9일 직원 API 키를 교체했고, 2026년 10월 10일에는 추가 사용자 키를 폐기하고 서비스 계정 토큰을 교체했다. 이후 발생한 활동은 다른 경로를 거쳤다. Fireworks의 연구개발 머신을 호스팅하는 제3자 클라우드 제공업체에서 2026년 10월 23일 보안 사고가 발생했다.

2026년 10월 24일, 무단 접근자는 해당 사고를 경로로 삼아 Fireworks 개발 머신에 침입하고 무단 작업을 실행했으며, 이로 인해 추가로 고객 데이터가 영향을 받았다. Fireworks는 당일 해당 활동을 탐지해 복구 조치를 취하고 알려진 심각한 취약점을 해결했다. 회사는 2026년 10월 25일 기준으로 고객이 사용하는 플랫폼에서 해당 공격자가 이후 무단 접근에 성공한 사례는 더 이상 탐지되지 않았다고 밝혔다.

데이터세트 운영에 대한 일시적 제한

Fireworks는 법 집행 기관에 통지하고 포렌식 분석을 위해 Palo Alto Networks Unit 42에 의뢰했다. Fireworks의 대응에는 자격 증명과 서비스 계정의 폐기 및 교체, 불필요한 상위 권한 제거, 무단 네트워크 경로 제한, 영향을 받은 시스템 격리, 스토리지 및 분석 시스템 접근 강화, 로깅 및 모니터링 개선이 포함됐다.

고객이 이용하는 일부 기능에도 제한이 적용되고 있다. 조사가 진행되는 동안 Batch Inference와 데이터세트 기반 학습에 사용되는 셀프서비스 데이터세트 업로드 및 다운로드 기능은 비활성화된다. Training SDK는 계속 이용할 수 있으며, 데이터 보존을 전혀 하지 않아 학습 데이터가 저장된 상태로 보관되지 않는다. Fireworks Lab 기반 학습은 추가 네트워크 및 스토리지 보호가 적용된 격리 환경에서 운영된다.

기본적으로 데이터 보존을 전혀 하지 않는 Inference, Training SDK 또는 Nexus에는 영향이 확인되지 않았다. 다만 이 판단은 현재까지의 조사 결과에 한정된다. Fireworks의 데이터 보안 문서에 따르면, 사용자가 명시적으로 동의하지 않는 한 오픈 모델 추론의 프롬프트와 생성 결과는 기록되거나 저장되지 않는다. Nexus는 프롬프트, 응답, 코드, 도구 호출 또는 추적 정보를 저장하지 않는다. 다만 서비스 운영에 필요한 서비스 메타데이터는 보관하며, 30일 후에는 이를 식별할 수 없도록 처리한다.

Fireworks가 앞서 통지받은 고객에게 안내한 내용에 따르면, 고객은 폐기된 Fireworks API 키를 교체하고 확인된 제3자 자격 증명은 발급 기관을 통해 교체하며 관련 로그와 데이터를 검토하고, 알 수 없는 키, 사용자, 평가 담당자, 학습 작업 및 데이터세트가 있는지 확인해야 한다. 저장된 비밀 정보를 삭제하는 것만으로는 그에 해당하는 제3자 자격 증명이 무효화되지 않는다.

LLMJacking 재판매 시장

Fireworks는 확보한 증거를 바탕으로, 금전적 이득을 노리는 사이버 범죄 집단이 불법 라우팅 게이트웨이를 통해 무단 LLM 접근 권한을 판매하려 했다고 밝혔다. 이러한 행위는 LLMJacking으로 알려져 있다. 회사는 Google Threat Intelligence Group과 Mandiant의 2026년 11월 2일 연구를 인용했다. 해당 연구는 LLM Mixers를 무단 모델 접근을 프록시하고 통합해 지하 시장 구독자에게 재판매하는 불법 게이트웨이로 설명한다. 일부 작전에서는 최초 침해와 후속 수익화를 서로 분리한다.

연구진은 Mandiant가 별도로 수행한 조사에서 개별 사건의 관찰된 부정 리소스 사용 요금이 하루 만에 10만 달러를 초과했고, 일부 조직에서는 접근 권한이 폐기되기 전에 누적 100만 달러에 이르렀다고 보고했다. 이 수치는 전반적인 조사 결과를 설명하는 것으로, Fireworks의 손실을 나타내지는 않는다. 해당 사례들에서 초기 접근에 가장 널리 사용된 경로는 노출되거나 탈취된 클라우드 ID 토큰이었다.

연구진은 중앙 집중식 비밀정보 관리, 최소 권한 접근, 정기적인 구성 감사, 지출 통제와 함께, 도난당한 자격 증명이 요청량 기반 경보를 울리지 않고도 유효한지 확인할 수 있는 비정상적인 소량 요청을 모니터링할 것을 권고한다. Fireworks의 자격 증명 교체, 권한 축소, 모니터링 확대는 이러한 방어 우선순위 가운데 몇 가지에 부합한다. 한편 이번 업데이트는 개발용 컴퓨터와 타사 인프라를 둘러싼 위험도 드러낸다.

Fireworks 고객을 위한 대응은 이제 키 교체를 넘어 결제 정보를 확인하고, 제한된 고객 집단에 대해서는 데이터 세트와 미완성 모델 자산까지 평가하는 단계로 확대됐다. 데이터 세트 전송이 여전히 비활성화되어 있고 조사가 진행 중인 가운데, 이번 사고는 개발 환경 침해가 AI 자산 노출뿐 아니라 해당 자산을 구축하는 데 사용되는 워크플로의 중단으로도 이어질 수 있음을 보여준다.