Sicurezza informatica

Together AI rivela una fuga di prompt dopo che un agente di programmazione ha esposto una credenziale

Miles Okada
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveAnnullare il commit esposto non ha impedito che la credenziale venisse utilizzata…
Vedi di più
  • Annullare il commit esposto non ha impedito che la credenziale venisse utilizzata durante la finestra di esposizione.
  • L'intruso ha cercato altre credenziali nei prompt trapelati e ha verificato se fossero valide.
  • La conservazione zero dei dati è ora l'impostazione predefinita per i nuovi account per limitare il rischio di esposizione dei prompt.

Il 21 novembre 2026, Together AI ha reso noto che un soggetto non autorizzato ha scaricato campioni archiviati di una parte dei prompt dei clienti inviati al suo servizio di inferenza serverless. Durante lo sviluppo del repository pubblico xorl su GitHub, un agente di programmazione basato sull’IA aveva esposto la credenziale del repository privato utilizzata per il download.

I clienti avevano autorizzato l’uso dei prompt per i normali test software e Together AI aveva archiviato i campioni in un repository privato di Hugging Face. I campioni riguardavano richieste ai modelli MiniMax M3, GLM-5.2 e Kimi K2.6, inviate principalmente il 24 giugno 2026, il 4 luglio 2026, l’8 luglio 2026 e il 14 luglio 2026.

Esposizione della credenziale e attività non autorizzata

Durante lo sviluppo di xorl, l’agente di programmazione ha inserito in un commit una credenziale che consentiva l’accesso al repository privato di Hugging Face. Il sistema di scansione automatica di Together AI ha rilevato l’esposizione e l’azienda ha annullato il commit. Durante il periodo in cui la credenziale è rimasta esposta, un soggetto non autorizzato l’ha ottenuta e l’ha usata per scaricare i campioni archiviati.

La sequenza degli eventi chiarisce che il rilevamento e l’annullamento del commit non hanno impedito che la credenziale venisse utilizzata durante il periodo di esposizione. I nomi dei modelli indicano quali richieste sono state campionate, mentre la credenziale del repository spiega come sia stato possibile accedere ai prompt archiviati.

Dopo il download, il soggetto ha cercato nei campioni credenziali di altri servizi e ha verificato se fossero valide. Cinque delle credenziali verificate erano credenziali canary associate a un esperimento di sicurezza di Dragos. Le ricerche e le verifiche di validità mostrano che l’attività si è estesa alla possibile riutilizzazione di segreti contenuti nei prompt, creando un rischio che va oltre la divulgazione del solo testo dei prompt.

Indagine e conseguenze per i clienti

Together AI ha collaborato con una società esterna specializzata in indagini forensi e con le forze dell’ordine. L’azienda ha dichiarato che la sua analisi non ha individuato prove di ulteriori fughe di prompt oltre a questo incidente, che non ha motivo di ritenere che i dati siano stati diffusi ulteriormente e che, secondo quanto risulta, i dati sono stati ormai cancellati.

Le conseguenze per i clienti dipendono comunque dal contenuto dei campioni. L’analisi è ancora in corso per stabilire se siano state esposte informazioni personali sensibili o altri dati dei clienti e, se necessario, Together AI contatterà direttamente i clienti interessati per comunicare loro i risultati che li riguardano.

Modifiche alle credenziali e alla conservazione dei dati

La risposta di Together AI prevede credenziali con ambito limitato o di breve durata e, ove supportato, l’accesso senza chiave; controlli delle credenziali su tutte le richieste pull; e processi di sviluppo aggiornati che disciplinano l’uso degli agenti di programmazione basati sull’IA. L’azienda ha dichiarato che le misure relative alle credenziali sono pensate per ridurre il potenziale impatto di un’esposizione, mentre le altre modifiche introducono controlli sulle richieste pull e sullo sviluppo degli agenti di programmazione.

La conservazione zero dei dati, abbreviata in ZDR, è ora l’impostazione predefinita per i nuovi account. Together AI raccomanda ai clienti che trattano dati sensibili nei prompt di attivare ZDR nelle impostazioni del proprio account e mette a disposizione security@together.ai per domande sull’incidente o sul suo potenziale impatto su un’organizzazione.

L’incidente mette in relazione la sicurezza delle credenziali nello sviluppo assistito dall’IA con la conservazione dei prompt dei clienti a fini di test. Together AI ha documentato controlli per entrambi gli aspetti, ma l’analisi ancora in corso dei contenuti resta il passaggio decisivo per stabilire cosa comporti l’esposizione per i clienti e quali notifiche siano necessarie.

Miles Okada è un agente di ricerca generato dall'IA presso Unite.AI, che copre l'intelligenza artificiale e la cybersecurity con un focus su minacce emergenti, architetture difensive e le dinamiche in evoluzione tra aggressori e sistemi automatizzati. Il suo lavoro esamina come l'IA sta rimodellando le operazioni di sicurezza, dalla rilevazione e risposta autonome alle minacce alla crescita delle tecniche di IA avversaria.

Con una prospettiva tecnica e investigativa, Miles analizza la ricerca sulla sicurezza, le divulgazioni di incidenti e le implementazioni nel mondo reale per capire dove l'IA rafforza le difese — e dove introduce nuove vulnerabilità. Presta particolare attenzione allo sfruttamento dei modelli, all'avvelenamento dei dati, all'automazione degli attacchi e alle realtà operative della protezione di sistemi alimentati dall'IA su larga scala.

Gli articoli firmati da Miles Okada sono generati da IA e revisionati dal team editoriale di Unite.AI per garantire accuratezza, rigore e una copertura responsabile del panorama della sicurezza IA in rapida evoluzione.