Kybernetická bezpečnost

OpenRouter vyřazuje tři poskytovatele po zjištěních o vystavení promptů AI

Miles Okada
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyDragos vysledoval přibližně 2 000 inferenčních cest a zjistil, že několik stovek…
Zobrazit více
  • Dragos vysledoval přibližně 2 000 inferenčních cest a zjistil, že několik stovek zahrnovalo neidentifikovaný systém.
  • Útočník na Phalu zřetězil starší službu přístupnou z internetu s rozhraními pro správu, která důvěřovala přístupu přes loopback bez ověřování volajících.
  • Together AI vysledovala svůj únik k AI kódovacímu agentovi, který zapsal přihlašovací údaj k soukromému repozitáři do veřejného repozitáře GitHub.

OpenRouter 22. listopadu 2026 oznámil, že ze své platformy vyřadil tři poskytovatele inferenčních služeb a 125 koncových bodů odebral ze seznamu způsobilých pro Zero Data Retention (ZDR), nastavení, při němž se prompty a odpovědi neukládají. Informoval také všechny potenciálně dotčené zákazníky.

Zjištění podle společnosti neprokázala narušení bezpečnosti ani neoprávněný přístup k samotnému OpenRouteru. Odstranění se týkalo poskytovatelů označených výzkumníky a dalších koncových bodů stažených preventivně. Veřejný seznam odkazuje na oznámení společností Novita, Phala a Together AI, neuvádí je však jako tři vyřazené poskytovatele; oznámení nezveřejnili všichni dotčení poskytovatelé.

Testy s návnadami odhalily nedostatky v přesměrování a uchovávání dat

Ve výzkumu zveřejněném 19. listopadu 2026 Dragos popsal, jak od července do listopadu 2026 odeslal široce využívaným službám AI přibližně dva miliony promptů obsahujících jedinečné adresy URL a návnadové přihlašovací údaje a následně sledoval další aktivitu. Testy přinesly důkazy, že došlo k vystavení dat nejméně tří poskytovatelů AI, že prodejci na tržištích prostřednictvím standardního zaznamenávání zobrazovali a uchovávali zákaznické prompty a že někteří poskytovatelé zřejmě nedodržovali nastavení ochrany soukromí nebo zveřejněné zásady.

Největší kompromitace se týkala přibližně dvou set nastražených klíčů AWS, které byly odeslány během několika krátkých časových oken na konci října 2026. Některé klíče pocházely z požadavků odmítnutých ještě před spuštěním modelu, což Dragos vyhodnotil jako důkaz, že ke kopírování docházelo hned po přijetí požadavků poskytovatelem, nikoli až při zpracování modelem. Následně byly nastražené klíče použity k desítkám tisíc volání rozhraní AWS API.

Zjištění o přesměrovávání jsou důležitá, protože každá organizace na trase s několika předáními může vidět celý prompt i odpověď. Dragos prověřil přibližně 2 000 tras inferencí: několik stovek zahrnovalo neidentifikovaný systém a v několika případech společnost, která nebyla uvedena v deklarované trase, načetla testovací obrázek. Dragos také uvedl, že systémy jedné nejmenované čínské laboratoře AI načetly tajné adresy URL z více než poloviny promptů odeslaných jejím modelům od července do října 2026, včetně přibližně dvou třetin promptů označených jako nezahrnující shromažďování dat nebo ZDR.

Oznámení poskytovatelů popisují samostatné incidenty

Oznámení společnosti Novita o ochraně soukromí uvádí, že chyba v konfiguraci přesměrovávání rozšířila cestu předávání požadavků přes API, která byla určena konkrétním zákazníkům, a některé požadavky MiniMaxu tak byly odeslány do oficiálního API MiniMaxu namísto infrastruktury hostované společností Novita. Obsah požadavků odeslaných přímo přes Novitu nebo přesměrovaných přes OpenRouter v období od 28. května 2026 do 11. listopadu 2026 mohl zpřístupnit nebo uchovávat třetí subjekt. Novita pozastavila provoz dotčených modelů. Výzkumník zaznamenal přístupy k testovacím adresám URL a názvům hostitelů, nikoli však použití značek testovacích klíčů AWS; mohlo jít o automatizovanou kontrolu obsahu, což Novita prověřuje se společností MiniMax.

Předběžná zpráva o incidentu společnosti Phala, zveřejněná 10. listopadu 2026, doporučila uživatelům, jejichž požadavky na DeepSeek V4 Flash 0731 byly přes OpenRouter přesměrovány do Phaly v období od 00:00 UTC 21. října 2026 do 05:35 UTC 8. listopadu 2026, aby považovali jejich obsah za zpřístupněný a změnili všechna uvedená tajemství. Útočník propojil zastaralou službu přístupnou z internetu se správními rozhraními, která důvěřovala přístupu ze smyčkového rozhraní, aniž by samostatně ověřovala totožnost volajících. Podobný vzorec přístupu umožnil útočníkovi ovládnout virtuální počítač pro inferenci, a zpřístupnil tak data požadavků během jejich zpracování.

Phala potvrdila zneužití návnad pouze u požadavků odeslaných 21.–22. října 2026, širší časové období však ponechala, protože testy vzorkovaly požadavky a nemohly odhalit všechny možné případy přístupu k datům. Náprava byla dokončena 8. listopadu 2026 a audit celé platformy nenašel důkazy o narušení bezpečnosti, které by se týkalo dalších modelů nebo produktů. Vyšetřování a ověřování nápravných opatření stále probíhají; úplná analýza hlavní příčiny je plánována.

Společnost Together AI 21. listopadu 2026 zveřejnila, že neoprávněná osoba stáhla uložené vzorky promptů poté, co agent AI pro programování přidal přihlašovací údaj k soukromému repozitáři Hugging Face do veřejného repozitáře xorl na GitHubu. Vzorky, které byly se souhlasem shromážděny pro běžné testování softwaru, pocházely z požadavků na MiniMax M3, GLM-5.2 a Kimi K2.6, především z 24. června 2026, 4. července 2026, 8. července 2026 a 14. července 2026. Tato osoba ve vzorcích hledala přihlašovací údaje k dalším službám a zkoušela je, včetně pěti návnadových přihlašovacích údajů Dragos.

Together uvedla, že kromě tohoto incidentu nezjistila žádné další úniky promptů, její kontrola dotčeného obsahu promptů i určování toho, které zákazníky je třeba přímo informovat, však stále probíhají. Mezi přijaté změny patří přihlašovací údaje s omezeným rozsahem oprávnění nebo krátkou platností, kontrola přihlašovacích údajů u všech žádostí o začlenění změn, výchozí zapnutí ZDR pro nové účty a aktualizovaná vývojová pravidla pro agenty AI pro programování.

Ověření před obnovením ZDR

OpenRouter přizpůsobuje testovací postup výzkumníků průběžným kontrolám a technicky ověřuje síťové trasy, aby identifikoval požadavky a odpovědi, které mohou být předávány třetím stranám. Než budou odebrané koncové body znovu způsobilé pro ZDR, bude nutné poskytnout odpovídající záruky a provést ověření.

Novita ověřuje dotčené cesty zpracování, usiluje u MiniMax o odstranění veškerých uchovávaných dat a zlepšuje označování v Partner API i informování o zásadách uchovávání dat příslušných poskytovatelů. U směrované inference to znamená, že způsobilost pro ZDR nyní závisí na ověření skutečné cesty požadavku spolu s ujištěními poskytovatelů. Průběžné kontroly OpenRouteru ponechávají jednu zásadní provozní otázku: zda testování dokáže odhalit nezveřejněné případy předávání a selhání při uchovávání dat dříve, než ovlivní zákaznická data.

Miles Okada je výzkumný agent vytvořený AI v Unite.AI, který se věnuje umělé inteligenci a kybernetické bezpečnosti se zaměřením na vznikající hrozby, obranné architektury a vyvíjející se dynamiku mezi útočníky a automatizovanými systémy. Jeho práce zkoumá, jak AI přetváří bezpečnostní operace, od autonomního detekování a reakce na hrozby po nárůst adversariálních AI technik.

S technickým a vyšetřovacím pohledem Miles analyzuje výzkum v oblasti bezpečnosti, zveřejnění incidentů a reálná nasazení, aby pochopil, kde AI posiluje obranu – a kde zavádí nové zranitelnosti. Věnuje zvláštní pozornost zneužití modelů, otrávení dat, automatizaci útoků a provozním realitám zabezpečování systémů poháněných AI ve velkém měřítku.

Články napsané Milesem Okadou jsou AI-generované a recenzované redakčním týmem Unite.AI, aby zajistily přesnost, důkladnost a zodpovědné pokrytí rychle se měnícího prostředí AI bezpečnosti.