L’alleanza per l’intelligenza artificiale elabora una bozza di regole per la segnalazione degli incidenti con scadenze pubbliche

La Linux Foundation il 4 agosto 2026, ha pubblicato una richiesta di commenti per lo Scambio di informazioni condivise sull’intelligenza artificiale (SAFE), una bozza di quadro che obbligherebbe i membri dell’Alleanza per l’intelligenza artificiale aperta e sicura a segnalare gli incidenti di sicurezza dell’intelligenza artificiale entro scadenze fisse — inizialmente in forma confidenziale, poi pubblicamente entro 30 giorni. I contributori di Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat e altri membri dell’alleanza hanno elaborato la proposta iniziale, in concomitanza con l’apertura della conferenza Black Hat a Las Vegas.

La bozza della proposta SAFE descrive un sistema di apprendimento degli incidenti confidenziale: i membri segnalano gli incidenti di sicurezza dell’intelligenza artificiale e gli incidenti quasi-accaduti, le organizzazioni interessate vengono notificate, vengono identificati i controlli ricorrenti che hanno fallito e i risultati diventano raccomandazioni operative basate su prove. L’alleanza, lanciata il 27 luglio 2026, conta ora più di 120 organizzazioni membre, ha dichiarato NVIDIA nel suo annuncio, con Amazon (AMZN ) e Visa tra i più recenti ad aderire.

Cosa la bozza impone effettivamente ai membri

La bozza SAFE va oltre in due punti specifici: un insieme definito di eventi segnalabili e un calendario di notifiche con scadenze.

Sotto il patto di segnalazione della bozza, un membro dovrebbe segnalare un incidente quando un sistema di intelligenza artificiale che opera accede o disturba un sistema di terze parti senza autorizzazione, evade o supera un confine di sandbox, rete, identità, politica o strumento in modo da influenzare una terza parte, accede a informazioni confidenziali di terze parti o continua a sondare un obiettivo di produzione dopo che l’operatore sospetta che l’attività sia fuori scope. La bozza aggiunge che l’intento non determina se un evento è segnalabile — un operatore che credeva che l’ambiente fosse simulato ha comunque l’obbligo di segnalare.

La scala di notifiche è dove vivono le scadenze: notificare l’organizzazione direttamente interessata il più presto possibile, i clienti con esposizione credibile entro 72 ore, un rapporto iniziale confidenziale SAFE entro quattro giorni lavorativi, un avviso più ampio ai clienti entro 14 giorni quando giustificato, un rapporto fattuale preliminare pubblicato entro 30 giorni, lo stato di risoluzione pubblicato entro 90 giorni e aggiornamenti leggibili da macchina settimanali mentre i rischi materiali rimangono irrisolti. I membri dovrebbero anche fornire un’analisi preliminare dei fallimenti dei controlli entro 30 giorni — e dovrebbero segnalare anche gli incidenti quasi-accaduti, non solo i danni confermati.

Ogni incidente verrebbe esaminato attraverso otto livelli dello stack operativo, dal modello e dalle sue istruzioni attraverso le salvaguardie, gli strumenti, l’ambiente, il monitoraggio, le operazioni umane e la catena di approvvigionamento. Una disposizione degna di nota: l’organizzazione interessata può correggere errori fattuali, ma la bozza afferma che non dovrebbe avere il potere di veto sulle conoscenze o sulle raccomandazioni che derivano da un esame.

Membri volontari, termini vincolanti, nessun braccio di applicazione

SAFE è strutturata come un patto volontario — gli obblighi di segnalazione vincolerebbero i membri come condizione di adesione, non come legge. La bozza afferma che l’apprendimento è separato dall’applicazione, che i regolatori e le parti interessate conservano i loro diritti legali e che le scadenze non sostituiscono gli obblighi di notifica esistenti ai sensi della pratica di divulgazione coordinata delle vulnerabilità, dei contratti o degli obblighi legali nei confronti dei regolatori e delle forze dell’ordine. La condotta intenzionale o criminale sarebbe al di fuori della protezione del canale confidenziale.

La bozza propone inoltre che SAFE operi in modo indipendente, in modo che nessun singolo fornitore o settore industriale controlli i suoi risultati, con la partecipazione di governi e organismi di standardizzazione come osservatori non controllanti. La proposta stessa è franca su questo punto: “La fiducia non è un controllo di sicurezza. Le prove condivise e i miglioramenti verificabili sono il modo in cui la fiducia viene guadagnata.” Se questa indipendenza si mantenga una volta che gli incidenti reali abbiano nominato membri reali, è la domanda a cui il periodo di commento esiste per rispondere — ma la bozza almeno pone l’obbligo per iscritto prima che arrivi il primo test.

L’incidente che ha fatto il caso

L’alleanza si è formata otto giorni fa, il 27 luglio 2026, come una coalizione di circa tre dozzine di società e fondazioni open source, citando esplicitamente la disclosure sulla sicurezza di Hugging Face del 16 luglio 2026 come grilletto. Hugging Face ha segnalato che un framework di agente autonomo aveva eseguito un’intrusione nella sua infrastruttura di produzione dall’inizio alla fine e che, quando la società ha cercato di analizzare più di 17.000 azioni dell’attaccante registrate, i modelli API commerciali hanno bloccato il lavoro di analisi forense — i loro paracadute non potevano distinguere un risponditore di incidenti da un attaccante. Il team ha completato l’analisi sul modello open-weight GLM-5.2 in esecuzione sulla propria infrastruttura. Unite.AI ha coperto il lancio dell’alleanza e il resoconto forense di Hugging Face quando ognuno è stato pubblicato.

La bozza SAFE si legge come la risposta dell’alleanza a quell’episodio: se un membro avesse condiviso un incidente quasi-accaduto secondo queste regole, la scala di notifiche e l’analisi dei fallimenti dei controlli sarebbero già in corso.

Cosa succede dopo

La RFC è aperta per la revisione, la discussione e il contributo della comunità attraverso il repository RFC dell’alleanza, rilasciato sotto licenza Creative Commons Attribution 4.0, con la Linux Foundation che invita gli sviluppatori, le imprese, i ricercatori e gli organismi di standardizzazione a plasmare il quadro prima che si consolidi. La bozza è esplicitamente un documento di avvio — la Linux Foundation la descrive come una discussione aperta piuttosto che come una specifica finita, quindi gli obblighi di segnalazione e le scadenze sopra rimangono termini proposti fino a quando il gruppo di lavoro non li adotta.