Anthropic integra sei valutatori di METR con un accesso simile a quello dei dipendenti

Il 15 ottobre 2026, Anthropic ha annunciato di aver iniziato a concedere un accesso simile a quello dei dipendenti a un team integrato di METR, un’organizzazione non profit che valuta i modelli di IA più avanzati. Sei dipendenti di METR sono stati integrati nel team e hanno ricevuto dispositivi aziendali, spazi in ufficio e accesso a strumenti e sistemi interni.

L’annuncio segue l’impegno assunto da Anthropic nel settembre 2026 a rafforzare la valutazione indipendente e di terze parti dei suoi modelli e delle sue pratiche di sicurezza, nonché la firma dell’Accordo della Casa Bianca sulla superintelligenza, con cui le aziende si sono impegnate a collaborare con revisori o valutatori esterni indipendenti. Anthropic ha dichiarato di aver collaborato con METR nell’ultimo anno a diverse revisioni dei suoi rapporti sui rischi.

Le condizioni dell’accesso simile a quello dei dipendenti

Anthropic ha dichiarato che l’accesso del team integrato agli strumenti e ai sistemi interni è più o meno equivalente a quello dei suoi team di valutazione dei rischi. Fatta eccezione per un numero limitato di categorie chiaramente definite — dati sui clienti, informazioni coperte dal segreto professionale tra avvocato e cliente e informazioni sulle architetture dei modelli — i dipendenti di Anthropic sono incoraggiati a condividere informazioni con il team come farebbero con un collega che si occupa di rischi legati all’allineamento.

Una nota a piè di pagina nell’annuncio spiega l’esclusione delle informazioni sull’architettura. Poiché i valutatori, come gli ispettori bancari, possono lavorare anche con altre aziende, Anthropic ha dichiarato di prestare attenzione al rischio di fughe involontarie: le informazioni sulle architetture comportano un elevato rischio di fughe di questo tipo e in genere sono poco rilevanti per la valutazione dei rischi. Quando le informazioni sull’architettura sono molto rilevanti, Anthropic cercherà generalmente di condividerle, anche se ciò richiederà esplicite autorizzazioni interne.

In base alle condizioni di pubblicazione dell’accordo, METR pubblicherà le proprie analisi sui livelli di rischio, gli incidenti o le pratiche di Anthropic. Anthropic non può porre il veto alla pubblicazione, ma può chiedere a METR di oscurare le informazioni che rientrano in categorie ristrette e definite in anticipo. METR è libero di descrivere pubblicamente le omissioni e di dichiarare se ritiene che fossero giustificate, purché non riveli le informazioni oscurate.

La collaborazione coinvolge un piccolo team che opera in base ad accordi vincolanti; gli altri dipendenti di METR, compresi i ricercatori che lavorano con Anthropic ad altri progetti, sono tenuti separati dalle attività del team integrato. Anthropic ha descritto la valutazione integrata come un modo per offrire a poche persone qualificate, che operano secondo i suoi standard di sicurezza, una visione diretta del suo funzionamento. Ha inoltre precisato che non si tratta di un modo per consentire ad altre organizzazioni di ottenere le sue informazioni o quelle dei suoi clienti e partner.

Le ragioni di Anthropic a favore della valutazione indipendente

Secondo l’azienda, man mano che i modelli sono diventati più potenti, si è reso necessario adottare misure di protezione più solide e valutazioni dei rischi più complesse. Anthropic ha dichiarato di voler rispondere pubblicamente delle decisioni che prende, ma di non poter condividere pubblicamente tutte le informazioni pertinenti al proprio lavoro sulla sicurezza, perché alcune potrebbero essere utili a malintenzionati o essere commercialmente sensibili, come quelle relative alla capacità di calcolo o all’addestramento. Sta invece fornendo ai valutatori di terze parti un accesso approfondito alle proprie informazioni e chiedendo loro di condividere prove e conclusioni motivate sui rischi legati allo sviluppo dei suoi modelli, con l’obiettivo di ridurre il divario tra ciò che i valutatori comprendono dei sistemi di un’azienda che sviluppa IA all’avanguardia e ciò che l’azienda stessa comprende.

L’annuncio elenca quattro requisiti necessari ai valutatori per valutare i modelli di IA più avanzati: competenza nella valutazione delle capacità dei modelli più avanzati, compresa la comprensione dei possibili errori nelle valutazioni, come la simulazione dell’allineamento; indipendenza, ossia l’assenza di partecipazioni azionarie nell’azienda valutata e di dipendenza finanziaria o operativa da essa; accesso sufficiente per valutare concretamente i rischi, che vada oltre i modelli più recenti e consenta di capire come sono stati addestrati e come funzionano le misure di protezione; e libertà di pubblicare osservazioni e valutazioni su un modello o un processo.

Anthropic ha fatto un parallelo con la vigilanza bancaria, pur riconoscendo che l’analogia non è esatta: le banche conoscono meglio degli osservatori esterni la propria esposizione ai rischi, perciò le autorità di regolamentazione assegnano ispettori permanenti alle maggiori banche affinché vi lavorino dall’interno; inoltre, se l’assunzione di rischi da parte di una banca potrebbe minacciare l’interesse pubblico, soggetti terzi cercano di individuarlo in anticipo.

Tre livelli di accesso

Anthropic ha dichiarato di stare sviluppando tre livelli di accesso per i valutatori. Al primo livello, i valutatori conducono indagini sui rischi di portata limitata; Anthropic decide quale accesso concedere e i valutatori possono pubblicare i risultati previa approvazione di Anthropic. Al secondo livello, i valutatori possono pubblicare senza l’approvazione di Anthropic e accedere a più informazioni, anche se Anthropic può ancora chiedere di rimuovere specifiche categorie di informazioni; i valutatori possono invece pubblicare le proprie opinioni sulla giustificazione delle omissioni. Il terzo livello è quello dell’accordo con METR: accesso simile a quello dei dipendenti e diritti di pubblicazione analoghi a quelli previsti dal secondo livello.

Anthropic ha dichiarato di sperare, nel tempo, di avere diversi valutatori al terzo livello, ciascuno con un proprio team che pubblichi un’analisi della sua esposizione ai rischi e delle decisioni principali.

SecureBio, Accenture e i colloqui preliminari

SecureBio si trova attualmente nella prima fascia. Sta esaminando il capitolo sulle armi chimiche e biologiche del Rapporto sui rischi di Anthropic dell’agosto 2026, dopo aver completato e pubblicato una revisione pilota del rapporto sui rischi precedente. Anthropic ha dichiarato che, una volta completata questa revisione, valuterà la possibilità di passare a progetti che prevedano maggiori livelli di accesso e diritti di pubblicazione.

Anthropic ha dichiarato che sta lavorando a una partnership con Accenture e Faculty che preveda la valutazione dei modelli e attività di red teaming, la conduzione di valutazioni dell’allineamento, la verifica delle misure di sicurezza dei modelli e lo sviluppo di competenze all’interno delle organizzazioni.

Anthropic ha inoltre dichiarato di essere in fase di colloqui preliminari con diverse altre organizzazioni, tra cui Hugging Face. Poiché queste partnership sono ancora agli inizi, Anthropic fornisce a tali valutatori informazioni più limitate e concede loro diritti di pubblicazione più limitati, mentre verifica che i partner proteggano le informazioni riservate e dispongano delle risorse e delle competenze necessarie. Anthropic ha affermato che, con il progredire delle partnership e il consolidarsi della fiducia, il suo obiettivo è integrare pienamente un numero maggiore di valutatori indipendenti.

L’impegno di settembre

Nel settembre 2026, il cofondatore di Anthropic Dario Amodei ha pubblicato un saggio, «Dobbiamo imporre un ritmo alla frontiera», in cui ha indicato l’integrazione di valutatori con un accesso simile a quello dei dipendenti come primo passo di un piano in tre fasi per regolare il ritmo dello sviluppo dell’IA di frontiera. Amodei ha scritto che Anthropic si impegna unilateralmente a compiere questo passo e ha chiesto ai governi di imporre alle altre aziende che sviluppano sistemi di IA di frontiera di fare altrettanto. Ha scritto che «dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», affinché la prevenzione dei rischi abbia il tempo di tenere il passo con il progresso delle capacità.

Il saggio affermava che Anthropic intende invitare un gruppo esterno di revisori integrati, mettendo a loro disposizione scrivanie nei propri uffici, badge di accesso e computer portatili aziendali; accesso a spazi di lavoro, strumenti e autorizzazioni per lo più paragonabili a quelli concessi ai gruppi interni di valutazione dei rischi, con alcune eccezioni quando lo richiedono la legge o i contratti, oppure per proteggere le informazioni private di clienti e partner; e un contratto che attribuisca ai revisori esterni il diritto di pubblicare i risultati principali riguardanti i livelli di rischio, gli incidenti, le prassi e gli accessi concessi o negati, senza che Anthropic abbia alcun controllo editoriale sulla pubblicazione. In base a queste condizioni previste, Anthropic manterrebbe una facoltà limitata di oscurare informazioni sensibili sotto il profilo della sicurezza, coperte da privilegio legale, commercialmente sensibili o riservate di terzi, ma non potrebbe oscurare risultati solo perché sfavorevoli; i revisori potrebbero inoltre dichiarare pubblicamente se un oscuramento ha eliminato qualcosa di importante per le loro conclusioni.

Anthropic ha dichiarato di integrare volontariamente i valutatori e di ritenere che tutte le aziende che sviluppano sistemi di IA di frontiera dovrebbero fare altrettanto. Ha affermato di procedere rapidamente con più valutatori, di stare imparando attivamente quali forme di collaborazione funzionino e di impegnarsi a condividere aggiornamenti man mano che il lavoro procede.