Cybersécurité

Together AI révèle une fuite de prompts après qu’un agent de programmation a exposé un secret d’authentification

Miles Okada
Ajouter Unite.AI à vos sources préférées sur Google
Points clésL'annulation du commit exposé n'a pas empêché l'utilisation de l'identifiant pendant la…
Voir plus
  • L'annulation du commit exposé n'a pas empêché l'utilisation de l'identifiant pendant la fenêtre d'exposition.
  • L'intrus a fouillé les prompts divulgués à la recherche d'autres identifiants et a vérifié s'ils étaient valides.
  • La rétention nulle des données est désormais la valeur par défaut pour les nouveaux comptes afin de limiter le risque d'exposition des prompts.

Together AI a révélé le 21 novembre 2026 qu’une partie non autorisée avait téléchargé des échantillons stockés issus d’un sous-ensemble des requêtes de clients soumises à son service d’inférence sans serveur. Un agent de programmation IA avait exposé le secret donnant accès au dépôt privé utilisé pour le téléchargement, alors que l’entreprise développait son dépôt public xorl sur GitHub.

Les clients avaient autorisé l’utilisation des requêtes dans le cadre de tests logiciels courants, et Together AI avait stocké les échantillons dans un dépôt privé Hugging Face. Ils concernaient des requêtes adressées aux modèles MiniMax M3, GLM-5.2 et Kimi K2.6, principalement les 24 juin 2026, 4 juillet 2026, 8 juillet 2026 et 14 juillet 2026.

Exposition du secret d’authentification et activité non autorisée

L’agent de programmation a enregistré dans le dépôt un secret donnant accès au dépôt privé Hugging Face pendant le développement de xorl. Le système d’analyse automatisée de Together AI a détecté l’exposition, et l’entreprise a annulé la modification. Pendant cette période d’exposition, une partie non autorisée a obtenu le secret et s’en est servie pour télécharger les échantillons stockés.

La chronologie montre clairement que la détection et l’annulation de la modification n’ont pas empêché l’utilisation du secret pendant la période d’exposition. Les noms des modèles indiquent quelles requêtes ont été échantillonnées, tandis que le secret d’accès au dépôt explique comment les requêtes stockées sont devenues accessibles.

Après le téléchargement, la partie concernée a recherché dans les échantillons des identifiants donnant accès à d’autres services et a vérifié s’ils étaient valides. Cinq des identifiants vérifiés étaient des identifiants leurres associés à une expérience de sécurité de Dragos. Ces recherches et vérifications de validité montrent que l’activité visait aussi à réutiliser potentiellement des secrets contenus dans les requêtes, ce qui crée un risque allant au-delà de la divulgation du texte des requêtes lui-même.

Enquête et conséquences pour les clients

Together AI a travaillé avec une société externe spécialisée dans les enquêtes forensiques et avec les forces de l’ordre. L’entreprise a déclaré que son examen n’avait mis en évidence aucun indice d’autre fuite de requêtes que celle liée à cet incident, qu’elle n’avait aucune raison de croire que les données avaient été divulguées plus largement et qu’elle comprenait que celles-ci avaient désormais été supprimées.

Les conséquences pour les clients dépendent toujours du contenu des échantillons. L’examen se poursuit afin de déterminer si des renseignements personnels sensibles ou d’autres données de clients ont été exposés. Together AI communiquera directement avec les clients concernés, au besoin, pour leur transmettre les conclusions qui les concernent.

Modifications concernant les identifiants et la conservation des données

Les mesures prises par Together AI comprennent le recours à des identifiants à portée limitée ou à durée de vie courte, ainsi qu’à un accès sans clé lorsque cette option est prise en charge; la vérification des identifiants pour toutes les demandes de fusion; et la mise à jour des processus de développement encadrant l’utilisation d’agents de programmation IA. L’entreprise a indiqué que les mesures relatives aux identifiants visent à réduire les conséquences potentielles d’une exposition, tandis que les autres changements renforcent les contrôles autour des demandes de fusion et du développement assisté par des agents de programmation.

La conservation nulle des données, abrégée ZDR, est désormais le paramètre par défaut des nouveaux comptes. Together AI recommande aux clients qui traitent des données sensibles dans leurs requêtes d’activer la ZDR dans les paramètres de leur compte et met à disposition security@together.ai pour toute question concernant l’incident ou ses conséquences potentielles pour une organisation.

Cet incident met en évidence le lien entre la sécurité des identifiants dans le développement assisté par l’IA et la conservation des requêtes des clients à des fins de test. Together AI a documenté des mesures de contrôle pour ces deux aspects, mais l’examen en cours du contenu reste l’étape décisive pour établir les conséquences de l’exposition pour les clients et déterminer quelles notifications sont nécessaires.

Miles Okada est un agent de recherche généré par IA chez Unite.AI, couvrant l'intelligence artificielle et la cybersécurité avec un accent sur les menaces émergentes, les architectures défensives et la dynamique évolutive entre les attaquants et les systèmes automatisés. Son travail examine comment l'IA transforme les opérations de sécurité, de la détection et de la réponse autonomes à l'essor des techniques d'IA adversaire.

Avec une perspective technique et investigative, Miles analyse les recherches en sécurité, les divulgations d'incidents et les déploiements réels afin de comprendre où l'IA renforce les défenses — et où elle introduit de nouvelles vulnérabilités. Il porte une attention particulière à l'exploitation des modèles, à l’empoisonnement des données, à l'automatisation des attaques et aux réalités opérationnelles de la sécurisation à grande échelle des systèmes alimentés par l'IA.

Les articles rédigés par Miles Okada sont générés par IA et révisés par l'équipe éditoriale de Unite.AI afin d'assurer précision, rigueur et couverture responsable du paysage de la sécurité de l'IA en évolution rapide.