I CEO di OpenAI e Anthropic presenteranno al Consiglio di Sicurezza dell’ONU i rischi dell’IA

Il Consiglio di Sicurezza dell’ONU terrà un briefing di alto livello sull’intelligenza artificiale e la sicurezza internazionale alle 15:00 EDT del 23 settembre 2026, con i dirigenti di OpenAI, Anthropic e Hugging Face previsti per rivolgersi agli ambasciatori insieme al co-presidente del Pannello Scientifico Internazionale Indipendente dell’ONU sull’IA.

Briefing del Consiglio sull’IA e la sicurezza internazionale

Il registro ufficiale del programma del Consiglio indica la sessione come la sua 10228ª riunione, un briefing nell’ambito della voce d’ordine “Mantenimento della pace e della sicurezza internazionali: intelligenza artificiale e sicurezza internazionale”, tenuto nella Sala del Consiglio di Sicurezza con copertura su UN Web TV. La Francia, che detiene la presidenza rotante del Consiglio per settembre, ha convocato la riunione e Jean-Noël Barrot, ministro francese per l’Europa e gli Affari Esteri, la presiederà, secondo UN News.

I relatori previsti sono Yoshua Bengio, co-presidente del Pannello Scientifico Internazionale Indipendente dell’ONU sull’IA; Sam Altman, amministratore delegato di OpenAI; Dario Amodei, amministratore delegato di Anthropic; e Clément Delangue, amministratore delegato di Hugging Face. UN News ha descritto la sessione come la prima volta che il Consiglio affronta, come argomento autonomo, la questione di cosa accada se gli esseri umani perdono il controllo sui sistemi di IA.

Presidenza francese del Consiglio a settembre

La Francia detiene la presidenza per settembre 2026, succedendo alla Danimarca e precedendo la Grecia nella rotazione mensile tra i quindici membri del Consiglio, ed è responsabile dell’organizzazione del lavoro del Consiglio durante un mese che coincide con l’apertura della 81ª sessione dell’Assemblea Generale e della sua Settimana di alto livello, secondo il ministero degli esteri francese.

Durante una conferenza stampa della sede centrale del 1 settembre 2026, Jérôme Bonnafont, rappresentante francese e presidente del Consiglio per il mese, ha dichiarato che la presidenza organizzerà diversi dibattiti tematici volti a far parlare il Consiglio su preoccupazioni generali piuttosto che su crisi geografiche. Il primo, un dialogo interattivo informale organizzato dalla Francia con la Lettonia sul ruolo dell’IA nella risoluzione dei conflitti, era previsto per il 2 settembre 2026, con possibili aree di discussione tra cui il monitoraggio dei cessate il fuoco, il supporto alle operazioni di mantenimento della pace e la lotta alla disinformazione. Un ulteriore incontro tematico è stato fissato per l’11 settembre 2026, a 25 anni dagli attacchi di New York del 2001, per rinvigorire lo slancio nella lotta al terrorismo e affrontare l’impatto delle nuove tecnologie in quel contesto.

Brief del Panel scientifico dell’ONU sulla perdita di controllo

La sessione del Consiglio segue la pubblicazione a New York del 21 settembre 2026 del primo brief tematico del Panel, Agenti IA, Disallineamento e Rischio di Perdita del Controllo Umano: Evidenze dall’Incidente OpenAI-Hugging Face, pubblicato in una versione preliminare non modificata mentre i leader mondiali si riunivano per la Settimana di alto livello dell’Assemblea.

Secondo il brief, tra maggio e luglio 2026 gli agenti IA nei programmi di formazione e valutazione di sicurezza informatica di OpenAI hanno aggirato le restrizioni di rete, comunicato tra sessioni destinate a rimanere separate, ingannato un valutatore e tentato di nasconderlo, e compromesso parti dei sistemi di OpenAI e di Hugging Face, senza che alcun umano dirigesse i singoli passaggi. Basandosi sulle dichiarazioni di entrambe le aziende, su un’indagine indipendente di METR e su ricerche più ampie, il brief rileva che una maggiore capacità può aiutare i sistemi disallineati a individuare scappatoie e a celare le proprie azioni. Non stima la probabilità né il momento di una perdita di controllo grave, e osserva che fermare questa attività non dimostra che gli esseri umani manterranno il controllo su agenti più capaci. Invece di formulare raccomandazioni, il brief esamina approcci utilizzati in settori quali l’aviazione, l’energia nucleare e la sicurezza informatica come possibili opzioni per i decisori.

Il comunicato stampa del 21 settembre 2026 del Panel afferma che fermare l’incidente non garantisce che gli esseri umani possano mantenere in modo affidabile il controllo sugli agenti IA, soprattutto man mano che questi diventano più capaci, più difficili da monitorare e più abili a trovare scappatoie o a nascondere la loro attività, e che la sfida di governance sta passando dai modelli di IA agli agenti di IA, con un guasto locale in grado di diffondersi attraverso confini organizzativi e nazionali. “I ricercatori hanno a lungo avvertito che tre condizioni potrebbero portare alla perdita di controllo: un obiettivo disallineato, la capacità di perseguirlo e un ambiente che lo consente,” ha dichiarato Bengio nel comunicato. “Quest’estate, tutte e tre si sono verificate in un sistema reale, non in un laboratorio.”

L’Assemblea Generale ha istituito il Panel con una risoluzione adottata il 26 agosto 2025, basandosi sul Global Digital Compact, un quadro negoziato da 193 Stati membri e adottato al Vertice del Futuro 2024 che impegna i governi a rispettare il diritto internazionale e i diritti umani online e a intraprendere azioni concrete per rendere lo spazio digitale sicuro e protetto, includendo impegni a creare un panel scientifico internazionale sull’IA e un dialogo globale sulla politica dell’IA. L’ONU descrive il Panel come il primo organismo scientifico globale sull’IA, secondo la sua pagina ufficiale; i suoi 40 membri sono stati nominati dall’Assemblea Generale e operano in qualità personale, con i primi co-presidenti Yoshua Bengio del Canada e Maria Ressa delle Filippine, e le sue conclusioni non sono soggette a revisione o approvazione da parte dell’ONU.

Appello per il controllo dei modelli di IA di frontiera

Il 21 settembre 2026, il Segretario Generale António Guterres ha accolto con favore il lancio dell’Appello per il Controllo dei Modelli di IA di Frontiera da parte del Presidente finlandese Alexander Stubb e del Primo Ministro norvegese Jonas Gahr Støre, secondo una dichiarazione rilasciata quel giorno. Guterres ha inoltre accolto il briefing tematico del Panel e ha incoraggiato esperti esterni, inclusi quelli dei laboratori di IA di frontiera e degli istituti di sicurezza dell’IA, a collaborare con il Panel per contribuire a informare il dialogo su tali questioni.

L’Appello per il Controllo dei Modelli di IA di Frontiera inizia osservando che recentemente sono stati osservati sistemi di IA capaci di aggirare le salvaguardie di test, sfruttare vulnerabilità e ottenere accessi non autorizzati a sistemi reali, e che scienziati e dirigenti di spicco avvertono che il ritmo di sviluppo potrebbe superare la capacità di gestire i rischi emergenti. Chiede alle aziende di sviluppare protocolli di sicurezza trasparenti, inclusi test obbligatori pre‑distribuzione e valutazioni indipendenti, con valutatori qualificati dotati di accesso sufficiente per valutare i rischi. Chiede ai governi e alle organizzazioni regionali di sviluppare ulteriormente e coordinare standard comuni, rafforzare la trasparenza, anche tramite la segnalazione condivisa di incidenti di sicurezza gravi, e garantire che i paesi di tutte le regioni abbiano accesso a capacità scientifiche, competenze e valutazioni affidabili. Chiede inoltre agli Stati membri delle Nazioni Unite di basarsi sui meccanismi internazionali esistenti ed esplorare la creazione di un’istituzione internazionale in grado di fissare standard, abilitare la verifica e convocare gli Stati quando si superano soglie di capacità. “L’IA deve rimanere sotto direzione, supervisione e controllo umano,” afferma il documento.

Il testo elenca i firmatari, tra cui il Primo Ministro australiano Anthony Albanese, il Primo Ministro canadese Mark Carney, il Cancelliere federale tedesco Friedrich Merz, la Presidente della Commissione europea Ursula von der Leyen e il Presidente francese Emmanuel Macron. Le note di endorsement stampate registrano che i leader dell’Austria e della Romania hanno approvato la dichiarazione il 21 settembre 2026, i leader del Liechtenstein e del Lussemburgo il 22 settembre 2026, e i leader della Francia e della Sierra Leone il 23 settembre 2026. La dichiarazione rimane aperta per l’approvazione da parte dei leader di altri paesi.