Fireworks AI utökar redogörelsen för intrånget till att omfatta dataset och modellvikter

Fireworks AI utökade sin redogörelse för en säkerhetsincident i oktober den 9 november 2026 och uppgav att angripare hade kommit åt konto- och faktureringsuppgifter samt, för en begränsad grupp kunder, hemligheter, dataset och ofullständiga modellvikter. AI-infrastrukturleverantören hade till en början beskrivit incidenten som obehörig användning av interna inloggningsuppgifter.

Den drabbade interna applikationen gav åtkomst till resursmetadata, bland annat identifierare, visningsnamn, beskrivningar och tidpunkter för när resurserna skapades. Faktureringsuppgifterna omfattade fakturerings- och leveransadresser, faktura- och betalningshistorik, kontosaldon och kreditanvändning. Fireworks lagrar inte betalkortsnummer, och dessa påverkades inte. Kunder vars data påverkades får information om det som specifikt gäller deras konton och rekommenderade åtgärder. Den pågående utredningen kan leda till ytterligare fynd.

Utvecklingsmaskinerna utgjorde ytterligare en väg in

Uppdateringen går längre än Fireworks ursprungliga meddelande den 9 oktober 2026. Den 6 oktober 2026 upptäckte företaget obehörig användning av interna inloggningsuppgifter och inledde åtgärder för att begränsa incidenten. En obehörig aktör hade kommit åt miljövariabler som användes i utvärderingsjobb i ett begränsat antal kundkonton. Vid det laget hade Fireworks inte upptäckt obehörig åtkomst till kundmodeller, dataset, träningsdata, personuppgifter eller inferenstrafik inom företagets säkerhetsperimeter eller kontroll.

Kunderna började underrättas den 7 oktober 2026. Fireworks roterade API-nycklar för anställda den 9 oktober och återkallade ytterligare användarnycklar samt roterade tjänstekontotoken den 10 oktober 2026. Den senare aktiviteten tog en annan väg: en tredjepartsleverantör av molntjänster som stod värd för Fireworks forsknings- och utvecklingsmaskiner drabbades av en säkerhetsincident den 23 oktober 2026.

Den 24 oktober 2026 använde den obehöriga aktören den incidenten som en väg in i Fireworks utvecklingsmaskiner och körde en obehörig arbetsbelastning, vilket ledde till ytterligare påverkan på kunddata. Fireworks upptäckte aktiviteten samma dag, vidtog åtgärder för att avhjälpa problemen och åtgärdade kända kritiska sårbarheter. Företaget uppgav att det per den 25 oktober 2026 inte hade upptäckt någon ytterligare framgångsrik obehörig åtkomst från aktören till den plattform som kunderna använder.

Tillfälliga begränsningar av datasetfunktioner

Fireworks underrättade brottsbekämpande myndigheter och anlitade Palo Alto Networks Unit 42 för forensisk analys. Företagets åtgärder har omfattat att återkalla och ersätta inloggningsuppgifter och tjänstekonton, ta bort onödiga utökade behörigheter, begränsa obehöriga nätverksvägar, isolera berörda system, skärpa åtkomsten till lagrings- och analyssystem samt förbättra loggning och övervakning.

Vissa kundinriktade funktioner är också begränsade. Självbetjäningsfunktionerna för uppladdning och nedladdning av dataset som används för Batch Inference och datasetbaserad träning är avstängda medan utredningen pågår. Training SDK är fortfarande tillgängligt med nollagring av data, vilket innebär att inga träningsdata lagras permanent. Träning via Fireworks Lab sker i en isolerad miljö med ytterligare skydd för nätverk och lagring.

Ingen påverkan har upptäckts på Inference, Training SDK eller Nexus, som alla som standard har nollagring av data, men den slutsatsen bygger endast på utredningen hittills. I Fireworks dokumentation om datasäkerhet står det att frågor och genererade svar vid inferens med öppna modeller inte loggas eller lagras om inte användaren uttryckligen väljer det. Nexus lagrar inte frågor, svar, kod, verktygsanrop eller spårningsdata, men sparar tjänstemetadata som behövs för att driva tjänsten och avidentifierar den efter 30 dagar.

I tidigare vägledning uppmanade Fireworks kunder som hade underrättats att ersätta återkallade Fireworks API-nycklar, rotera identifierade inloggningsuppgifter från tredje part hos de utfärdande leverantörerna, granska tillhörande loggar och data samt leta efter okända nycklar, användare, utvärderare, träningsjobb och dataset. Att enbart ta bort en lagrad hemlighet gör inte den underliggande inloggningsuppgiften från tredje part ogiltig.

Återförsäljningsmarknaden för LLMJacking

Fireworks uppgav att bevisningen kopplar aktiviteten till en ekonomiskt motiverad cyberbrottsgrupp som försökte sälja obehörig åtkomst till LLM-tjänster via olagliga routningsgateways, en aktivitet som kallas LLMJacking. Företaget hänvisade till forskning från den 2 november 2026 av Google Threat Intelligence Group och Mandiant, där LLM Mixers beskrivs som olagliga gateways som agerar proxy, samlar ihop och säljer vidare obehörig modellåtkomst till abonnenter på den underjordiska marknaden. Vissa aktörer skiljer den inledande komprometteringen från den efterföljande intäktsgenereringen.

Forskarna rapporterade att de i Mandiants separata utredningar observerat att bedrägliga avgifter för resursförbrukning i enskilda incidenter översteg 100 000 dollar på en enda dag och före återkallad åtkomst sammanlagt uppgick till 1 miljon dollar hos vissa organisationer. Dessa belopp gäller de bredare utredningarna, inte Fireworks förluster. Exponerade eller stulna identitetstoken för molntjänster var den vanligaste metoden för initial åtkomst i dessa fall.

Forskarna rekommenderar centraliserad hantering av hemligheter, åtkomst enligt principen om minsta privilegium, regelbundna konfigurationsgranskningar, kostnadskontroller och övervakning av avvikande förfrågningar med låg volym, som kan verifiera stulna inloggningsuppgifter utan att utlösa volymbaserade larm. Fireworks åtgärder för att byta ut inloggningsuppgifter, minska behörigheter och utöka övervakningen ligger i linje med flera av dessa försvarsåtgärder, samtidigt som företagets uppdatering också blottlägger riskerna kring utvecklingsdatorer och tredjepartsinfrastruktur.

För Fireworks kunder omfattar åtgärderna nu mer än att byta ut nycklar: de ska även bedöma faktureringsuppgifter och, för den begränsade gruppen, dataset och ofärdiga modellresurser. Eftersom överföringar av dataset fortfarande är inaktiverade och utredningen pågår kopplar incidenten en kompromettering av utvecklingsmiljön både till exponering av AI-resurser och till störningar i arbetsflödena som används för att utveckla dem.