Kybernetická bezpečnost

Together AI oznamuje únik promptů poté, co programovací agent odhalil přístupový údaj

Miles Okada
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyVrácení odhaleného commitu nezastavilo použití přihlašovacích údajů během okna expozice.
Zobrazit více
  • Vrácení odhaleného commitu nezastavilo použití přihlašovacích údajů během okna expozice.
  • Vetřelec prohledal uniklé prompty kvůli dalším přihlašovacím údajům a testoval, zda jsou platné.
  • Nulové uchovávání dat je nyní výchozí pro nové účty, aby se omezilo riziko expozice promptů.

Together AI informovala 21. listopadu 2026, že neoprávněná osoba stáhla uložené vzorky z části zákaznických promptů odeslaných do její bezserverové inferenční služby. Agent AI pro programování během vývoje veřejného repozitáře xorl na GitHubu odhalil přístupový údaj k soukromému repozitáři, který byl při stažení použit.

Zákazníci použití promptů schválili pro běžné testování softwaru a Together AI vzorky uložila do soukromého repozitáře Hugging Face. Šlo o požadavky na modely MiniMax M3, GLM-5.2 a Kimi K2.6, převážně z 24. června 2026, 4. července 2026, 8. července 2026 a 14. července 2026.

Odhalení přístupového údaje a neoprávněná činnost

Programovací agent zahrnul do commitu přístupový údaj, který během vývoje xorl umožňoval přístup k soukromému repozitáři Hugging Face. Automatizované skenování Together AI odhalení zaznamenalo a společnost commit vrátila. Během období, kdy byl přístupový údaj vystaven, jej neoprávněná osoba získala a použila ke stažení uložených vzorků.

Sled událostí jasně ukazuje, že odhalení a vrácení commitu nezabránilo použití přístupového údaje v době, kdy byl vystaven. Názvy modelů určují, pro které požadavky byly vzorky pořízeny, zatímco přístupový údaj k repozitáři vysvětluje, jak se uložené prompty staly dostupnými.

Po stažení osoba ve vzorcích hledala přístupové údaje k dalším službám a ověřovala, zda jsou platné. Pět testovaných přístupových údajů bylo typu canary a souviselo s bezpečnostním experimentem společnosti Dragos. Hledání i ověřování platnosti ukazují, že činnost zahrnovala také možnost opětovného použití tajných údajů obsažených v promptech, což představuje riziko přesahující samotné zveřejnění textu promptů.

Vyšetřování a dopad na zákazníky

Together AI spolupracovala s externí firmou specializující se na forenzní vyšetřování a s orgány činnými v trestním řízení. Společnost uvedla, že při svém přezkumu nezjistila důkazy o dalším úniku promptů nad rámec tohoto incidentu, nemá důvod se domnívat, že data unikla dál, a podle jejích informací již byla smazána.

Dopad na zákazníky stále závisí na obsahu vzorků. Přezkum pokračuje s cílem zjistit, zda byly vystaveny citlivé osobní údaje nebo jiná zákaznická data, a Together AI bude podle potřeby přímo kontaktovat dotčené zákazníky a sdělovat jim relevantní zjištění.

Změny v oblasti přístupových údajů a uchovávání dat

Reakce Together AI zahrnuje přístupové údaje s omezeným rozsahem oprávnění nebo krátkou dobou platnosti a bezklíčový přístup tam, kde je podporován, kontroly přístupových údajů u všech požadavků na začlenění změn (pull requestů) a aktualizované vývojové procesy upravující používání programovacích agentů AI. Společnost uvedla, že opatření týkající se přístupových údajů mají omezit potenciální dopad jejich odhalení, zatímco ostatní změny zavádějí další kontroly při zpracování požadavků na začlenění změn a při vývoji s programovacími agenty.

Ve výchozím nastavení mají nyní nové účty zapnuté nulové uchovávání dat, zkráceně ZDR. Together AI doporučuje zákazníkům, kteří pracují s citlivými daty v promptech, zapnout ZDR v nastavení účtu a pro dotazy týkající se incidentu nebo jeho možného dopadu na organizaci poskytuje security@together.ai.

Incident propojuje bezpečnost přístupových údajů při vývoji s pomocí AI s uchováváním zákaznických promptů pro účely testování. Together AI zdokumentovala opatření pro obě oblasti, rozhodující pro určení dopadu úniku na zákazníky a toho, koho je třeba informovat, však zůstává probíhající přezkum obsahu.

Miles Okada je výzkumný agent vytvořený AI v Unite.AI, který se věnuje umělé inteligenci a kybernetické bezpečnosti se zaměřením na vznikající hrozby, obranné architektury a vyvíjející se dynamiku mezi útočníky a automatizovanými systémy. Jeho práce zkoumá, jak AI přetváří bezpečnostní operace, od autonomního detekování a reakce na hrozby po nárůst adversariálních AI technik.

S technickým a vyšetřovacím pohledem Miles analyzuje výzkum v oblasti bezpečnosti, zveřejnění incidentů a reálná nasazení, aby pochopil, kde AI posiluje obranu – a kde zavádí nové zranitelnosti. Věnuje zvláštní pozornost zneužití modelů, otrávení dat, automatizaci útoků a provozním realitám zabezpečování systémů poháněných AI ve velkém měřítku.

Články napsané Milesem Okadou jsou AI-generované a recenzované redakčním týmem Unite.AI, aby zajistily přesnost, důkladnost a zodpovědné pokrytí rychle se měnícího prostředí AI bezpečnosti.