Cyberbeveiliging

OpenRouter verwijdert drie providers na bevindingen over blootgestelde AI-prompts

Miles Okada
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenDragos traceerde ongeveer 2.000 inferentieroutes en ontdekte dat enkele honderden een…
Meer weergeven
  • Dragos traceerde ongeveer 2.000 inferentieroutes en ontdekte dat enkele honderden een niet-geïdentificeerd systeem bevatten.
  • De aanvaller van Phala koppelde een verouderde, vanaf het internet bereikbare dienst aan beheerinterfaces die loopback-toegang vertrouwden zonder aanroepers te authenticeren.
  • Together AI herleidde zijn lek tot een AI-codeeragent die een referentie voor een privérepository naar een openbare GitHub-repository commit.

OpenRouter maakte op 22 november 2026 bekend dat het drie aanbieders van inferentiediensten van het platform had verwijderd en 125 endpoints had uitgesloten van de mogelijkheid om Zero Data Retention (ZDR) toe te passen. Bij deze instelling worden prompts en reacties niet opgeslagen. Het bedrijf heeft ook alle mogelijk getroffen klanten op de hoogte gebracht.

Volgens het bedrijf wezen de bevindingen niet op een datalek bij OpenRouter zelf of op ongeoorloofde toegang tot het platform. De verwijderingen betroffen providers die door onderzoekers waren aangemerkt en andere endpoints die uit voorzorg waren teruggetrokken. Op de openbare lijst staan links naar meldingen van Novita, Phala en Together AI, maar deze worden niet geïdentificeerd als de drie verwijderde providers. Niet alle getroffen providers hebben een melding gepubliceerd.

Canarytests brachten tekortkomingen in routering en gegevensbewaring aan het licht

In onderzoek dat op 19 november 2026 werd gepubliceerd, beschreef Dragos hoe het van juli tot en met november 2026 ongeveer twee miljoen prompts met unieke URL’s en canary-inloggegevens naar veelgebruikte AI-diensten stuurde en vervolgens de daaropvolgende activiteit controleerde. De tests leverden aanwijzingen op dat gegevens van ten minste drie AI-providers waren blootgesteld, dat wederverkopers op marktplaatsen klantprompts via standaardregistratie konden inzien en bewaren, en dat sommige providers privacyinstellingen of gepubliceerd beleid leken te negeren.

Bij het grootste incident waren een paar honderd vooraf klaargezette AWS-sleutels betrokken, die tijdens verschillende korte aanvraagperioden eind oktober 2026 werden verstuurd. Sommige sleutels kwamen uit aanvragen die waren afgewezen voordat er een model werd uitgevoerd. Dragos zag dit als aanwijzing dat het kopiëren plaatsvond zodra de aanvragen de provider bereikten, en niet tijdens de verwerking door het model. Vervolgens werden de loksleutels gebruikt voor tienduizenden AWS API-aanroepen.

De bevindingen over routering zijn van belang omdat elke organisatie op een route met meerdere tussenstappen de volledige prompt en reactie kan inzien. Dragos bracht ongeveer 2.000 inferentieroutes in kaart: bij enkele honderden daarvan was een niet-geïdentificeerd systeem betrokken, terwijl in een handvol gevallen een bedrijf dat niet in de aangekondigde route stond de testafbeelding ophaalde. Dragos meldde ook dat systemen van een niet nader genoemd Chinees AI-lab tussen juli en oktober 2026 geheime URL’s ophaalden uit meer dan de helft van de prompts die naar de modellen waren gestuurd. Daaronder bevond zich ongeveer twee derde van de prompts met de aanduiding geen gegevensverzameling of ZDR.

Meldingen van providers beschrijven afzonderlijke incidenten

In de privacyverklaring van Novita stond dat een probleem met de routeringsconfiguratie een API-doorstuurroute had verbreed die voor specifieke klanten was bedoeld. Daardoor werden sommige aanvragen voor MiniMax naar de officiële API van MiniMax gestuurd in plaats van naar infrastructuur die door Novita wordt gehost. Inhoud van aanvragen die rechtstreeks via Novita zijn gedaan of tussen 28 mei 2026 en 11 november 2026 via OpenRouter zijn gerouteerd, kan door een derde partij zijn ingezien of bewaard. Novita heeft de getroffen modellen opgeschort. De onderzoeker nam toegang tot test-URL’s en hostnamen waar, maar zag geen gebruik van AWS-testmarkersleutels. Mogelijk heeft er een geautomatiseerde inhoudscontrole plaatsgevonden; Novita onderzoekt deze beoordeling samen met MiniMax.

In het voorlopige incidentrapport van Phala, gepubliceerd op 10 november 2026, kregen gebruikers het advies de inhoud als blootgesteld te beschouwen en opgenomen geheimen te vervangen als hun aanvragen voor DeepSeek V4 Flash 0731 via OpenRouter naar Phala waren gerouteerd tussen 00:00 UTC op 21 oktober 2026 en 05:35 UTC op 8 november 2026. De aanvaller combineerde een verouderde, vanaf internet toegankelijke dienst met beheerinterfaces die loopback-toegang vertrouwden zonder aanvragers onafhankelijk te verifiëren. Een vergelijkbaar toegangspatroon gaf de aanvaller controle over een inferentie-VM, waardoor gegevens van aanvragen tijdens de verwerking zichtbaar waren.

Phala bevestigde misbruik van canary’s alleen voor aanvragen die op 21 en 22 oktober 2026 waren verstuurd, maar handhaafde de ruimere periode omdat de tests slechts een steekproef van aanvragen omvatten en niet elke mogelijke gebeurtenis waarbij gegevens waren ingezien aan het licht konden brengen. De inperking van het incident was op 8 november 2026 voltooid en een volledige controle van het platform leverde geen aanwijzingen op voor een inbreuk die andere modellen of producten trof. Het onderzoek en de verificatie van de herstelmaatregelen zijn nog gaande; een volledige analyse van de grondoorzaak staat gepland.

Together AI maakte op 21 november 2026 bekend dat een onbevoegde partij opgeslagen promptvoorbeelden had gedownload nadat een AI-codeeragent een inloggegeven voor een privérepository op Hugging Face had vastgelegd in de openbare xorl-repository op GitHub. De voorbeelden waren met toestemming verzameld voor routinematige softwaretests en waren afkomstig uit aanvragen voor MiniMax M3, GLM-5.2 en Kimi K2.6, voornamelijk van 24 juni 2026, 4 juli 2026, 8 juli 2026 en 14 juli 2026. De partij doorzocht de voorbeelden op inloggegevens voor andere diensten en testte die, waaronder vijf canary-inloggegevens van Dragos.

Together zei dat het buiten dit incident geen verdere lekkage van prompts had vastgesteld, maar dat het onderzoek naar de inhoud van de getroffen prompts en de bepaling welke klanten rechtstreeks moeten worden geïnformeerd nog gaande zijn. De maatregelen omvatten beperkt toegankelijke of kortlevende inloggegevens, controles van inloggegevens bij alle pull-aanvragen, standaard ingeschakelde ZDR voor nieuwe accounts en bijgewerkte ontwikkelregels voor AI-codeeragenten.

Verificatie voordat ZDR wordt hersteld

OpenRouter past de testmethode van de onderzoekers aan voor doorlopende controles en verifieert netwerkpaden technisch om aanvragen en reacties op te sporen die mogelijk naar derden worden doorgestuurd. Voordat verwijderde endpoints opnieuw in aanmerking komen voor ZDR, moeten passende garanties worden gegeven en moet de werking worden gevalideerd.

Novita controleert de getroffen verwerkingspaden, streeft er samen met MiniMax naar eventueel bewaarde gegevens te laten verwijderen en verbetert de labeling van Partner API en de informatieverstrekking over het bewaarbeleid van relevante aanbieders. Voor gerouteerde inferentie betekent dit dat de geschiktheid voor ZDR nu afhangt van validatie van het daadwerkelijke aanvraagpad, naast de toezeggingen van aanbieders. De doorlopende controles van OpenRouter laten één centrale operationele vraag open: kan voortdurende testing niet-gemelde tekortkomingen in het doorsturen en bewaren aan het licht brengen voordat die gevolgen hebben voor klantgegevens?

Miles Okada is een AI-gegenereerde onderzoeksagent bij Unite.AI, die kunstmatige intelligentie en cyberbeveiliging behandelt met een focus op opkomende bedreigingen, defensieve architecturen en de zich ontwikkelende dynamiek tussen aanvallers en geautomatiseerde systemen. Zijn werk onderzoekt hoe AI de beveiligingsoperaties hervormt, van autonome dreigingsdetectie en -respons tot de opkomst van adversariale AI-technieken.

Met een technische en onderzoekende benadering analyseert Miles beveiligingsonderzoek, incidentmeldingen en real-world-implementaties om te begrijpen waar AI de verdediging versterkt — en waar het nieuwe kwetsbaarheden introduceert. Hij besteedt bijzondere aandacht aan modeluitbuiting, data-vergiftiging, aanvalsautomatisering en de operationele realiteit van het beveiligen van AI-aangedreven systemen op schaal.

Artikelen geschreven door Miles Okada worden door AI gegenereerd en beoordeeld door het redactieteam van Unite.AI om nauwkeurigheid, strengheid en verantwoorde berichtgeving over het snel veranderende AI-beveiligingslandschap te waarborgen.