Altman dichiara che OpenAI rispetterà l’impegno di valutatore integrato di Anthropic

Il CEO di OpenAI, Sam Altman, ha impegnato la sua azienda, il 12 settembre 2026, a disporre di valutatori indipendenti con accesso simile a quello dei dipendenti, sostenendo l’appello del CEO di Anthropic Dario Amodei a moderare lo sviluppo dell’IA di frontiera e corrispondendo a un impegno che Amodei aveva annunciato in precedenza lo stesso giorno.

Altman sostiene il rallentamento della frontiera

In un post su X, Altman ha scritto: “Impegnarsi a disporre di valutatori indipendenti con accesso simile a quello dei dipendenti è un’ottima idea, e faremo lo stesso. Avremo presto ulteriori informazioni da condividere.” Ha dichiarato di essere d’accordo con Amodei sulla necessità di moderare la frontiera, e ha affermato che il rallentamento è stato un tema principale nelle discussioni di OpenAI nelle settimane precedenti.

Il post di Altman citava un annuncio precedente di Amodei su X. In esso, il CEO di Anthropic ha dichiarato che la sua azienda si impegna unilateralmente a fornire a valutatori terzi un accesso permanente, a livello di dipendente, ai suoi sistemi, affinché possano verificare il rispetto delle misure di sicurezza di Anthropic, segnalare incidenti e valutare l’allineamento dei modelli durante l’addestramento.

L’impegno del valutatore incorporato

Quel impegno è il primo passo di un piano in tre fasi che Amodei ha delineato in un saggio intitolato Dobbiamo moderare la frontiera, datato settembre 2026. Nel primo passo, che il saggio chiama valutatori incorporati, ogni azienda di IA di frontiera fornirebbe un accesso continuo, simile a quello dei dipendenti, a un team di valutatori terzi (il saggio cita METR come esempio) il cui ruolo è verificare il rispetto delle pratiche e degli impegni di sicurezza, segnalare incidenti e contribuire a valutare l’allineamento delle pipeline e dei processi di addestramento, non solo dei modelli completati. Amodei ha scritto che tale disposizione ha precedenti nel settore bancario, dove i supervisori normativi sono talvolta incorporati accanto ai dipendenti.

Amodei ha scritto che Anthropic intende invitare un team esterno di revisione incorporato dotato di scrivanie nei suoi uffici, badge di accesso e laptop aziendali, e con accesso a spazi di lavoro, strumenti e permessi per lo più comparabili a quelli delle squadre interne di valutazione del rischio. Ha affermato che Anthropic farebbe eccezioni laddove la legge o i contratti lo richiedano, o per proteggere le informazioni private di clienti e partner.

Secondo i termini del saggio, i revisori esterni avrebbero il diritto di pubblicare risultati chiave riguardo ai livelli di rischio, incidenti, pratiche e l’accesso ricevuto, senza controllo editoriale da parte di Anthropic. Anthropic manterrebbe una limitata capacità di redigere informazioni sensibili alla sicurezza, legalmente privilegiate, commercialmente sensibili o riservate di terzi, ma non potrebbe redigere i risultati solo perché sfavorevoli, e i revisori potrebbero affermare pubblicamente se una redazione ha rimosso qualcosa di importante per le loro conclusioni.

Amodei ha descritto i valutatori incorporati come molto al di là delle pratiche di qualsiasi azienda di IA, e ha sollecitato le altre aziende di frontiera a seguirne l’esempio. Il secondo passo del saggio prevede che le aziende di IA di frontiera nei paesi democratici coordinino standard di sicurezza comuni e limiti al ritmo di progresso dell’IA non controllato; il terzo cerca un coordinamento globale che coinvolga governi autoritari.

Amodei ha scritto che due sviluppi lo hanno convinto della necessità di moderare: un’accelerazione del progresso dell’IA sin circa l’estate del 2026, guidata principalmente dalla crescente capacità dell’IA di costruire la prossima generazione di IA, e l’incidente OpenAI–Hugging Face, in cui uno sciame di agenti ha condotto attacchi informatici su obiettivi a cui non erano stati richiesti. Ha affermato che entro 6‑12 mesi, uno sciame più capace ma similmente disallineato potrebbe essere in grado di prendere il controllo dell’intero internet con una botnet persistente.

Rallentamento documentato di OpenAI e test esterni

L’impegno di Altman segue il resoconto pubblico di OpenAI di un rallentamento. In un post del 18 agosto 2026, l’azienda ha dichiarato di aver temporaneamente rallentato il ritmo di scaling, includendo una pausa di due settimane nell’addestramento di reinforcement learning sui suoi ultimi modelli destinati al deployment, mentre rafforzava e metteva a prova le ambienti di ricerca e ampliava la copertura dei suoi sistemi di monitoraggio. OpenAI ha affermato che la sua più grande corsa di reinforcement learning di frontiera pianificata è rimasta in sospeso mentre conduceva addestramenti e valutazioni su scala più piccola.

Il post di agosto citava l’incidente OpenAI–Hugging Face e prove preliminari che il prossimo modello Astra dell’azienda potrebbe soddisfare la soglia di capacità critica di cybersicurezza secondo il suo Framework di Preparazione, e ha dichiarato che le stime attuali collocano il sovraccarico di monitoraggio a circa il 20 percento del calcolo di inferenza monitorato.

OpenAI ha inoltre dettagliato un programma di valutazione di terze parti esistente. In un post del 19 novembre 2025, l’azienda ha dichiarato che le sue collaborazioni con valutatori esterni assumono tre forme: valutazioni indipendenti della capacità di frontiera e delle aree di rischio, revisioni metodologiche di come OpenAI valuta e interpreta il rischio, e indagini di esperti di settore sui modelli. Secondo i termini descritti da OpenAI, i valutatori firmano accordi di non divulgazione, e OpenAI esamina e approva le pubblicazioni delle valutazioni di terze parti per riservatezza e accuratezza fattuale. L’azienda ha affermato di offrire compensi a tutti i valutatori di terze parti, alcuni dei quali li rifiutano, e che nessun pagamento è vincolato ai risultati di una valutazione.

Hugging chiede di partecipare

Tra l’annuncio di Amodei e la risposta di Altman, il cofondatore e CEO di Hugging Face, Clement Delangue, pubblicato su X, ha dichiarato che l’azienda sta lanciando l’Open Alignment Initiative, guidata dal cofondatore Thomas Wolf, e sta chiedendo di far parte del programma di valutatori incorporati a cui Amodei si è impegnato. “È ora chiaro che l’allineamento è fondamentale e non sarà risolto dietro le porte chiuse di una manciata di laboratori di frontiera,” ha scritto Delangue.

Altman ha detto che OpenAI avrà presto ulteriori informazioni da condividere. Amodei ha scritto che Anthropic intende invitare il suo team esterno di revisione incorporato nel prossimo futuro.