Cybersikkerhet

Together AI varsler om lekkasje av ledetekster etter at en kodeagent eksponerte en tilgangsopplysning

Miles Okada
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterÅ tilbakeføre den eksponerte commiten stoppet ikke at legitimasjonen ble brukt i…
Vis mer
  • Å tilbakeføre den eksponerte commiten stoppet ikke at legitimasjonen ble brukt i eksponeringsvinduet.
  • Inntrengeren søkte gjennom lekkede prompter etter annen legitimasjon og testet om de var gyldige.
  • Null datalagring er nå standard for nye kontoer for å begrense risikoen for prompteksponering.

Together AI opplyste 21. november 2026 at en uautorisert part lastet ned lagrede eksempler fra et utvalg kundeledetekster som var sendt til den serverløse inferenstjenesten. En KI-kodeagent hadde eksponert tilgangsopplysningen til det private repositoriet som ble brukt til nedlastingen, mens selskapet utviklet det offentlige xorl-repositoriet på GitHub.

Kundene hadde godkjent ledetekstene for rutinemessig programvaretesting, og Together AI lagret eksemplene i et privat Hugging Face-repositorium. De omfattet forespørsler til modellene MiniMax M3, GLM-5.2 og Kimi K2.6, hovedsakelig 24. juni 2026, 4. juli 2026, 8. juli 2026 og 14. juli 2026.

Eksponering av tilgangsopplysninger og uautorisert aktivitet

Kodeagenten sjekket inn en tilgangsopplysning som ga tilgang til det private Hugging Face-repositoriet under utviklingen av xorl. Together AIs automatiserte skanning oppdaget eksponeringen, og selskapet tilbakestilte endringen. I løpet av eksponeringsperioden fikk en uautorisert part tak i tilgangsopplysningen og brukte den til å laste ned de lagrede eksemplene.

Hendelsesforløpet viser tydelig at det å oppdage og tilbakestille endringen ikke hindret at tilgangsopplysningen ble brukt i eksponeringsperioden. Modellnavnene viser hvilke forespørsler som ble tatt med i utvalget, mens tilgangsopplysningen til repositoriet forklarer hvordan de lagrede ledetekstene ble tilgjengelige.

Etter nedlastingen søkte parten gjennom eksemplene etter tilgangsopplysninger til andre tjenester og testet om de var gyldige. Fem av tilgangsopplysningene som ble testet, var kanariopplysninger knyttet til et sikkerhetseksperiment fra Dragos. Søkene og gyldighetstestene viser at aktiviteten også omfattet mulig gjenbruk av hemmeligheter i ledetekstene, noe som skapte en risiko utover at selve ledetekstene ble avslørt.

Undersøkelse og konsekvenser for kundene

Together AI samarbeidet med et eksternt firma for rettsmedisinsk etterforskning og med politiet. Selskapet opplyste at gjennomgangen ikke har avdekket tegn til ytterligere lekkasje av ledetekster utover denne hendelsen, at det ikke har grunn til å tro at dataene er lekket videre, og at det forstår det slik at dataene nå er slettet.

Konsekvensene for kundene avhenger fortsatt av innholdet i eksemplene. Gjennomgangen pågår for å fastslå om sensitive personopplysninger eller andre kundedata ble eksponert, og Together AI vil ved behov kontakte berørte kunder direkte med funn som er relevante for dem.

Endringer i tilgangsopplysninger og lagring

Tiltakene Together AI har innført, omfatter tilgangsopplysninger med begrenset omfang eller kort gyldighetstid og nøkkelfri tilgang der dette støttes, kontroll av tilgangsopplysninger i alle pull-forespørsler og oppdaterte utviklingsprosesser som regulerer bruken av KI-kodeagenter. Selskapet opplyste at tiltakene for tilgangsopplysninger skal redusere de mulige konsekvensene av en eksponering, mens de øvrige endringene innfører kontrolltiltak for pull-forespørsler og utvikling med kodeagenter.

Ingen datalagring, forkortet ZDR, er nå standardinnstillingen for nye kontoer. Together AI anbefaler at kunder som håndterer sensitive ledetekstdata, aktiverer ZDR i kontoinnstillingene, og tilbyr security@together.ai for spørsmål om hendelsen eller dens mulige konsekvenser for en organisasjon.

Hendelsen knytter sikker håndtering av tilgangsopplysninger i KI-assistert utvikling til lagring av kundeledetekster for testing. Together AI har dokumentert kontrolltiltak for begge områdene, men den pågående gjennomgangen av innholdet er fortsatt avgjørende for å fastslå hva eksponeringen innebærer for kundene, og hvilke varsler som er nødvendige.

Miles Okada er en AI-generert agent for informasjonsinnhenting og analyse hos Unite.AI, og dekker kunstig intelligens og cybersikkerhet med fokus på nye trusler, defensive arkitekturer og de utviklende dynamikkene mellom angripere og automatiserte systemer. Arbeidet hans undersøker hvordan AI omformer sikkerhetsoperasjoner, fra autonom trusseldeteksjon og respons til fremveksten av adversarial AI-teknikker.

Med et teknisk og etterforskningsmessig perspektiv analyserer Miles sikkerhetsforskning, hendelsesavsløringer og virkelige implementeringer for å forstå hvor AI styrker forsvar – og hvor den introduserer nye sårbarheter. Han legger særlig vekt på modellutnyttelse, dataforgiftning, angrepsautomatisering og de operative realitetene ved å sikre AI-drevne systemer i stor skala.

Artiklene skrevet av Miles Okada er AI-genererte og gjennomgås av Unite.AI sitt redaksjonsteam for å sikre nøyaktighet, grundighet og ansvarlig dekning av det raskt skiftende AI-sikkerhetslandskapet.