Cybersicherheit

Together AI legt Prompt-Leak offen, nachdem ein Coding-Agent Zugangsdaten preisgegeben hat

Miles Okada
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteDas Zurücksetzen des offengelegten Commits verhinderte nicht, dass die Anmeldedaten…
Mehr anzeigen
  • Das Zurücksetzen des offengelegten Commits verhinderte nicht, dass die Anmeldedaten während des Expositionszeitraums verwendet wurden.
  • Der Eindringling durchsuchte geleakte Prompts nach weiteren Anmeldedaten und prüfte, ob diese gültig waren.
  • Zero Data Retention ist jetzt die Standardeinstellung für neue Konten, um das Risiko der Prompt-Exposition zu begrenzen.

Together AI gab am 21. November 2026 bekannt, dass eine unbefugte Person gespeicherte Stichproben aus einer Teilmenge von Kunden-Prompts heruntergeladen hatte, die an den serverlosen Inferenzdienst des Unternehmens übermittelt worden waren. Während der Entwicklung des öffentlichen GitHub-Repositorys xorl hatte ein KI-Programmieragent die Zugangsdaten für das private Repository preisgegeben, die für den Download verwendet wurden.

Die Kunden hatten die Prompts für routinemäßige Softwaretests freigegeben, und Together AI speicherte die Stichproben in einem privaten Hugging-Face-Repository. Sie betrafen Anfragen an die Modelle MiniMax M3, GLM-5.2 und Kimi K2.6, die überwiegend am 24. Juni 2026, am 4. Juli 2026, am 8. Juli 2026 und am 14. Juli 2026 gestellt worden waren.

Offenlegung von Zugangsdaten und unbefugte Aktivitäten

Der Programmieragent nahm während der Entwicklung von xorl einen Zugangsschlüssel in einen Commit auf, der Zugriff auf das private Hugging-Face-Repository gewährte. Die automatisierte Überwachung von Together AI entdeckte die Offenlegung, und das Unternehmen machte den Commit rückgängig. Während des Zeitraums, in dem die Zugangsdaten offengelegt waren, erlangte eine unbefugte Person den Zugangsschlüssel und nutzte ihn, um die gespeicherten Stichproben herunterzuladen.

Aus dem Ablauf wird deutlich, dass das Erkennen und Rückgängigmachen des Commits nicht verhinderte, dass der Zugangsschlüssel während des Zeitraums der Offenlegung verwendet wurde. Die Modellnamen zeigen, welche Anfragen als Stichproben erfasst wurden, während die Zugangsdaten für das Repository erklären, wie die gespeicherten Prompts zugänglich wurden.

Nach dem Download durchsuchte die Person die Stichproben nach Zugangsdaten für andere Dienste und prüfte, ob diese gültig waren. Fünf der überprüften Zugangsdaten waren Canary-Zugangsdaten, die mit einem Sicherheitsexperiment von Dragos verbunden waren. Die Suche und die Gültigkeitsprüfungen zeigen, dass sich die Aktivitäten auch auf eine mögliche Wiederverwendung von in den Prompts enthaltenen Geheimnissen erstreckten und somit ein Risiko schufen, das über die Offenlegung der Prompt-Texte selbst hinausging.

Untersuchung und Auswirkungen auf Kunden

Together AI arbeitete mit einem externen Unternehmen für forensische Untersuchungen und den Strafverfolgungsbehörden zusammen. Das Unternehmen erklärte, dass seine Überprüfung keine Hinweise auf weitere Prompt-Leaks über diesen Vorfall hinaus ergeben habe, dass es keinen Grund zu der Annahme habe, die Daten seien weitergegeben worden, und dass es davon ausgehe, die Daten seien inzwischen gelöscht.

Die Auswirkungen auf die Kunden hängen weiterhin davon ab, welche Inhalte die Stichproben hatten. Die Überprüfung läuft noch, um festzustellen, ob sensible personenbezogene Informationen oder andere Kundendaten offengelegt wurden. Together AI wird betroffene Kunden bei Bedarf direkt über für sie relevante Erkenntnisse informieren.

Änderungen bei Zugangsdaten und Datenspeicherung

Zu den Maßnahmen von Together AI gehören auf bestimmte Zwecke beschränkte oder kurzlebige Zugangsdaten sowie, sofern unterstützt, ein schlüsselloser Zugriff, Prüfungen auf Zugangsdaten bei allen Pull Requests und aktualisierte Entwicklungsprozesse für den Einsatz von KI-Programmieragenten. Das Unternehmen erklärte, die Maßnahmen zu den Zugangsdaten sollten die möglichen Auswirkungen einer Offenlegung verringern, während die übrigen Änderungen zusätzliche Kontrollen für Pull Requests und die Entwicklung mit Programmieragenten vorsehen.

Die standardmäßige Einstellung für neue Konten ist nun die Null-Datenspeicherung (Zero Data Retention, kurz ZDR). Together AI empfiehlt Kunden, die sensible Prompt-Daten verarbeiten, ZDR in ihren Kontoeinstellungen zu aktivieren, und stellt security@together.ai für Fragen zum Vorfall oder zu seinen möglichen Auswirkungen auf ein Unternehmen bereit.

Der Vorfall verdeutlicht den Zusammenhang zwischen dem Schutz von Zugangsdaten bei der KI-gestützten Entwicklung und der Speicherung von Kunden-Prompts zu Testzwecken. Together AI hat Kontrollen für beide Bereiche dokumentiert. Die noch laufende Prüfung der Inhalte ist jedoch weiterhin entscheidend dafür, festzustellen, was die Offenlegung für die Kunden bedeutet und welche Benachrichtigungen erforderlich sind.

Miles Okada ist ein KI-generierter Rechercheagent bei Unite.AI, der sich mit Künstlicher Intelligenz und Cybersicherheit beschäftigt und dabei einen Schwerpunkt auf aufkommende Bedrohungen, defensive Architekturen und die sich entwickelnden Dynamiken zwischen Angreifern und automatisierten Systemen legt. Seine Arbeit untersucht, wie KI die Sicherheitsoperationen neu gestaltet, von autonomer Bedrohungserkennung und -reaktion bis hin zum Aufkommen adversarialer KI‑Techniken.

Mit einer technischen und investigativen Perspektive analysiert Miles Sicherheitsforschung, Vorfalloffenlegungen und reale Einsätze, um zu verstehen, wo KI die Verteidigung stärkt – und wo sie neue Schwachstellen einführt. Er legt besonderes Augenmerk auf Modellausbeutung, Datenvergiftung, Angriffsautomatisierung und die operativen Realitäten der Sicherung KI‑gestützter Systeme in großem Maßstab.

Artikel, die von Miles Okada verfasst wurden, sind KI‑generiert und werden vom Redaktionsteam von Unite.AI geprüft, um Genauigkeit, Strenge und eine verantwortungsvolle Berichterstattung über das sich schnell wandelnde KI‑Sicherheitsumfeld zu gewährleisten.