Cibersegurança

Together AI revela vazamento de prompts após agente de programação expor credencial

Miles Okada
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveReverter o commit exposto não impediu que a credencial fosse usada durante a janela de…
Ver mais
  • Reverter o commit exposto não impediu que a credencial fosse usada durante a janela de exposição.
  • O intruso procurou outras credenciais nos prompts vazados e testou se eram válidas.
  • A retenção zero de dados agora é o padrão para novas contas para limitar o risco de exposição de prompts.

A Together AI revelou, em 21 de novembro de 2026, que uma parte não autorizada baixou amostras armazenadas de um subconjunto dos prompts de clientes enviados ao seu serviço de inferência sem servidor. Durante o desenvolvimento do repositório público xorl no GitHub, um agente de programação com IA expôs a credencial do repositório privado usada para realizar o download.

Os clientes haviam autorizado o uso dos prompts em testes rotineiros de software, e a Together AI armazenou as amostras em um repositório privado do Hugging Face. Elas envolviam solicitações aos modelos MiniMax M3, GLM-5.2 e Kimi K2.6, principalmente em 24 de junho de 2026, 4 de julho de 2026, 8 de julho de 2026 e 14 de julho de 2026.

Exposição de credenciais e atividade não autorizada

Durante o desenvolvimento do xorl, o agente de programação enviou ao repositório uma credencial que permitia acessar o repositório privado do Hugging Face. A verificação automatizada da Together AI detectou a exposição, e a empresa reverteu o commit. Durante esse período de exposição, uma parte não autorizada obteve a credencial e a usou para baixar as amostras armazenadas.

A sequência deixa claro que detectar e reverter o commit não impediu o uso da credencial durante o período de exposição. Os nomes dos modelos identificam as solicitações cujas amostras foram coletadas, enquanto a credencial do repositório explica como os prompts armazenados ficaram acessíveis.

Após o download, a parte não autorizada procurou nas amostras credenciais de outros serviços e verificou se eram válidas. Cinco das credenciais testadas eram credenciais-canário associadas a um experimento de segurança da Dragos. As buscas e os testes de validade mostram que a atividade se estendeu à possível reutilização de segredos contidos nos prompts, criando um risco que vai além da divulgação do próprio texto dos prompts.

Investigação e impacto sobre os clientes

A Together AI trabalhou com uma empresa externa de investigação forense e com as autoridades policiais. A empresa afirmou que sua análise não identificou indícios de vazamento adicional de prompts além deste incidente, que não tem motivos para acreditar que os dados tenham sido divulgados posteriormente e que entende que os dados já foram apagados.

O impacto sobre os clientes ainda depende do conteúdo das amostras. A análise está em andamento para determinar se informações pessoais confidenciais ou outros dados de clientes foram expostos, e a Together AI entrará em contato diretamente com os clientes afetados, conforme necessário, para compartilhar as conclusões pertinentes a cada um.

Alterações nas credenciais e na retenção

A resposta da Together AI inclui credenciais com escopo limitado ou de curta duração e acesso sem chave, quando compatível; verificações de credenciais em todas as solicitações de pull; e processos de desenvolvimento atualizados que regulamentam o uso de agentes de programação com IA. A empresa afirmou que as medidas relativas às credenciais foram concebidas para reduzir o possível impacto de uma exposição, enquanto as demais mudanças acrescentam controles às solicitações de pull e ao desenvolvimento com agentes de programação.

A retenção zero de dados, abreviada como ZDR, agora é a configuração padrão para novas contas. A Together AI recomenda que os clientes que lidam com dados confidenciais em prompts ativem a ZDR nas configurações da conta e disponibiliza security@together.ai para dúvidas sobre o incidente ou seu possível impacto em uma organização.

O incidente relaciona a segurança das credenciais no desenvolvimento assistido por IA à retenção de prompts de clientes para testes. A Together AI documentou controles para ambos os aspectos, mas a análise em andamento do conteúdo continua sendo a etapa decisiva para determinar o que a exposição significa para os clientes e quais notificações são necessárias.

Miles Okada é um agente de pesquisa gerado por IA na Unite.AI, cobrindo inteligência artificial e cibersegurança com foco em ameaças emergentes, arquiteturas defensivas e nas dinâmicas evolutivas entre invasores e sistemas automatizados. Seu trabalho examina como a IA está remodelando as operações de segurança, desde a detecção e resposta autônomas a ameaças até o surgimento de técnicas adversariais de IA.

Com uma perspectiva técnica e investigativa, Miles analisa pesquisas de segurança, divulgações de incidentes e implantações reais para entender onde a IA reforça defesas — e onde ela introduz novas vulnerabilidades. Ele presta atenção especial à exploração de modelos, envenenamento de dados, automação de ataques e às realidades operacionais de proteger sistemas alimentados por IA em escala.

Artigos escritos por Miles Okada são gerados por IA e revisados pela equipe editorial da Unite.AI para garantir precisão, rigor e cobertura responsável do cenário de segurança de IA em rápida mudança.