Cyberbezpieczeństwo

Together AI ujawnia wyciek promptów po tym, jak agent programistyczny odsłonił dane dostępowe

Miles Okada
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyPrzywrócenie ujawnionego commita nie powstrzymało użycia poświadczenia w oknie…
Zobacz więcej
  • Przywrócenie ujawnionego commita nie powstrzymało użycia poświadczenia w oknie ekspozycji.
  • Intruz przeszukał ujawnione prompty w poszukiwaniu innych poświadczeń i sprawdził, czy były ważne.
  • Zerowe przechowywanie danych jest teraz domyślne dla nowych kont, aby ograniczyć ryzyko ekspozycji promptów.

Together AI ujawniła 21 listopada 2026 r., że nieupoważniona osoba pobrała przechowywane próbki z części promptów klientów przesłanych do jej bezserwerowej usługi wnioskowania. Podczas prac nad publicznym repozytorium xorl w serwisie GitHub agent programistyczny AI ujawnił dane dostępowe do prywatnego repozytorium, które wykorzystano do pobrania próbek.

Klienci wyrazili zgodę na wykorzystywanie promptów do rutynowych testów oprogramowania, a Together AI przechowywała próbki w prywatnym repozytorium Hugging Face. Dotyczyły one zapytań kierowanych do modeli MiniMax M3, GLM-5.2 i Kimi K2.6, głównie 24 czerwca 2026 r., 4 lipca 2026 r., 8 lipca 2026 r. i 14 lipca 2026 r.

Ujawnienie danych dostępowych i nieuprawnione działania

Podczas prac nad xorl agent programistyczny umieścił w commicie dane dostępowe, które zapewniały dostęp do prywatnego repozytorium Hugging Face. Automatyczne skanowanie Together AI wykryło ich ujawnienie, a firma wycofała commit. W tym czasie nieupoważniona osoba uzyskała te dane i wykorzystała je do pobrania przechowywanych próbek.

Z przedstawionej sekwencji zdarzeń jasno wynika, że wykrycie i wycofanie commitu nie zapobiegło wykorzystaniu danych dostępowych w okresie ich ujawnienia. Nazwy modeli wskazują, które zapytania objęto próbkowaniem, a dane dostępowe do repozytorium wyjaśniają, w jaki sposób przechowywane prompty stały się dostępne.

Po pobraniu próbek osoba ta przeszukała je w poszukiwaniu danych dostępowych do innych usług i sprawdziła, czy są prawidłowe. Pięć testowanych danych dostępowych stanowiło dane-pułapki powiązane z eksperymentem bezpieczeństwa Dragos. Poszukiwanie takich danych i sprawdzanie ich poprawności wskazują, że działania obejmowały również możliwość ponownego wykorzystania sekretów zawartych w promptach, co stwarzało ryzyko wykraczające poza samo ujawnienie treści promptów.

Śledztwo i wpływ na klientów

Together AI współpracowała z zewnętrzną firmą prowadzącą dochodzenia kryminalistyczne oraz organami ścigania. Firma poinformowała, że w toku analizy nie znaleziono dowodów na wyciek dodatkowych promptów poza tym incydentem, nie ma ona powodów, by sądzić, że dane wyciekły dalej, i rozumie, że zostały już usunięte.

Wpływ na klientów nadal zależy od zawartości próbek. Trwa analiza mająca ustalić, czy ujawniono wrażliwe dane osobowe lub inne dane klientów, a Together AI w razie potrzeby skontaktuje się bezpośrednio z poszkodowanymi klientami, przekazując im dotyczące ich ustalenia.

Zmiany dotyczące danych dostępowych i przechowywania

W ramach działań naprawczych Together AI wprowadza dane dostępowe o ograniczonym zakresie uprawnień lub krótkim czasie ważności oraz dostęp bez użycia kluczy tam, gdzie jest to obsługiwane, kontrolę danych dostępowych we wszystkich pull requestach i zaktualizowane procesy deweloperskie regulujące korzystanie z agentów programistycznych AI. Firma poinformowała, że środki dotyczące danych dostępowych mają ograniczyć potencjalne skutki ich ujawnienia, a pozostałe zmiany wprowadzają dodatkowe zabezpieczenia związane z pull requestami i tworzeniem oprogramowania z udziałem agentów programistycznych.

Domyślnym ustawieniem nowych kont jest teraz zerowe przechowywanie danych (ZDR). Together AI zaleca klientom przetwarzającym wrażliwe dane w promptach włączenie ZDR w ustawieniach konta i udostępnia security@together.ai w razie pytań dotyczących incydentu lub jego potencjalnego wpływu na organizację.

Incydent pokazuje związek między bezpieczeństwem danych dostępowych podczas tworzenia oprogramowania wspomaganego przez AI a przechowywaniem promptów klientów na potrzeby testów. Together AI opisała zabezpieczenia dotyczące obu tych obszarów, jednak trwająca analiza zawartości próbek pozostaje kluczowa dla ustalenia, co ujawnienie oznacza dla klientów i jakie powiadomienia są konieczne.

Miles Okada jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się sztuczną inteligencją i cyberbezpieczeństwem, ze szczególnym uwzględnieniem nowych zagrożeń, architektur obronnych oraz ewoluujących dynamik pomiędzy atakującymi a systemami zautomatyzowanymi. Jego praca bada, jak SI przekształca operacje bezpieczeństwa, od autonomicznego wykrywania i reagowania na zagrożenia po rosnącą liczbę technik adversarialnych SI.

Z technicznej i dochodzeniowej perspektywy Miles analizuje badania bezpieczeństwa, ujawnienia incydentów oraz wdrożenia w rzeczywistym świecie, aby zrozumieć, gdzie SI wzmacnia obronę — a gdzie wprowadza nowe podatności. Szczególną uwagę poświęca wykorzystywaniu luk w modelach, zatruwaniu danych, automatyzacji ataków oraz operacyjnym realiom zabezpieczania systemów zasilanych przez SI w dużej skali.

Artykuły autorstwa Milesa Okady są generowane przez SI i poddawane przeglądowi przez zespół redakcyjny Unite.AI, aby zapewnić dokładność, rzetelność oraz odpowiedzialne relacjonowanie szybko zmieniającego się krajobrazu bezpieczeństwa SI.