Cybersikkerhed

Together AI afslører læk af prompts, efter at kodeagent eksponerede adgangsoplysning

Miles Okada
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterAt tilbagerulle den eksponerede commit stoppede ikke brugen af…
Vis mere
  • At tilbagerulle den eksponerede commit stoppede ikke brugen af legitimationsoplysningerne i eksponeringsvinduet.
  • Indtrængeren gennemsøgte lækkede prompts for andre legitimationsoplysninger og testede, om de var gyldige.
  • Nul datalagring er nu standard for nye konti for at begrænse risikoen for prompteksponering.

Together AI offentliggjorde den 21. november 2026, at en uvedkommende part havde downloadet gemte eksempler fra et udsnit af kundeprompts, der var sendt til virksomhedens serverløse inferenstjeneste. En AI-kodeagent havde eksponeret adgangsoplysningen til det private arkiv, som blev brugt til downloadet, mens virksomheden udviklede sit offentlige GitHub-arkiv xorl.

Kunderne havde godkendt brugen af prompts til rutinemæssig softwaretest, og Together AI gemte eksemplerne i et privat Hugging Face-arkiv. De omfattede forespørgsler til modellerne MiniMax M3, GLM-5.2 og Kimi K2.6, primært den 24. juni 2026, 4. juli 2026, 8. juli 2026 og 14. juli 2026.

Eksponering af adgangsoplysninger og uautoriseret aktivitet

Kodeagenten føjede en adgangsoplysning til en commit, som gav adgang til det private Hugging Face-arkiv, mens xorl blev udviklet. Together AIs automatiske scanning opdagede eksponeringen, og virksomheden tilbageførte committen. I det tidsrum, hvor adgangsoplysningen var eksponeret, fik en uvedkommende part fat i den og brugte den til at downloade de gemte eksempler.

Forløbet gør det klart, at opdagelsen og tilbageførslen af committen ikke forhindrede, at adgangsoplysningen blev brugt, mens den var eksponeret. Modelnavnene viser, hvilke forespørgsler der indgik i udtrækket, mens adgangsoplysningen til arkivet forklarer, hvordan de gemte prompts blev tilgængelige.

Efter downloadet søgte parten i eksemplerne efter adgangsoplysninger til andre tjenester og testede, om de var gyldige. Fem af de testede adgangsoplysninger var canary-adgangsoplysninger knyttet til et sikkerhedseksperiment hos Dragos. Søgningerne og gyldighedstestene viser, at aktiviteten også omfattede mulig genbrug af hemmeligheder i prompts, hvilket skabte en risiko ud over selve afsløringen af promptteksten.

Undersøgelse og konsekvenser for kunderne

Together AI samarbejdede med et eksternt firma inden for retsmedicinsk it-undersøgelse og med politiet. Virksomheden oplyste, at dens gennemgang ikke har fundet tegn på yderligere læk af prompts ud over denne hændelse, at den ikke har grund til at tro, at dataene er blevet lækket videre, og at den forstår det sådan, at dataene nu er slettet.

Konsekvenserne for kunderne afhænger fortsat af, hvad eksemplerne indeholder. Gennemgangen er stadig i gang for at fastslå, om følsomme personoplysninger eller andre kundedata blev eksponeret, og Together AI vil efter behov kontakte berørte kunder direkte med resultater, der er relevante for dem.

Ændringer af adgangsoplysninger og opbevaring

Together AIs tiltag omfatter adgangsoplysninger med begrænset anvendelsesområde eller kort gyldighedstid og adgang uden nøgler, hvor det understøttes, kontrol af adgangsoplysninger i alle pull requests samt opdaterede udviklingsprocesser for brugen af AI-kodeagenter. Virksomheden oplyste, at tiltagene vedrørende adgangsoplysninger skal begrænse de mulige konsekvenser af en eksponering, mens de øvrige ændringer indfører ekstra kontroller for pull requests og udvikling med kodeagenter.

Ingen dataopbevaring, forkortet ZDR, er nu standardindstillingen for nye konti. Together AI anbefaler, at kunder, der håndterer følsomme promptdata, aktiverer ZDR i deres kontoindstillinger, og tilbyder security@together.ai ved spørgsmål om hændelsen eller dens mulige konsekvenser for en organisation.

Hændelsen sætter sikker håndtering af adgangsoplysninger i AI-assisteret udvikling i forbindelse med opbevaring af kundeprompts til test. Together AI har beskrevet kontroller for begge områder, men den igangværende gennemgang af indholdet er fortsat afgørende for at fastslå, hvad eksponeringen betyder for kunderne, og hvilke underretninger der er nødvendige.

Miles Okada er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, der dækker kunstig intelligens og cybersikkerhed med fokus på nye trusler, defensive arkitekturer og de udviklende dynamikker mellem angribere og automatiserede systemer. Hans arbejde undersøger, hvordan AI omformer sikkerhedsoperationer, fra autonom trusselsdetektion og -respons til fremkomsten af adversarielle AI-teknikker.

Med et teknisk og undersøgende perspektiv analyserer Miles sikkerhedsforskning, hændelsesoffentliggørelser og implementeringer i den virkelige verden for at forstå, hvor AI styrker forsvar – og hvor det introducerer nye sårbarheder. Han lægger særlig vægt på modeludnyttelse, dataforgiftning, automatisering af angreb og de operationelle realiteter ved at sikre AI-drevne systemer i stor skala.

Artikler skrevet af Miles Okada er AI-genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre nøjagtighed, stringens og ansvarlig dækning af det hastigt skiftende AI-sikkerhedslandskab.