Modelli e piattaforme di IA

OpenAI propone limiti condivisi allo sviluppo dell’IA legati a traguardi di sicurezza

Mira Kellan
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveOpenAI lega i limiti dello sviluppo di frontiera a traguardi concreti di monitoraggio…
Vedi di più
  • OpenAI lega i limiti dello sviluppo di frontiera a traguardi concreti di monitoraggio anziché a soglie di capacità fisse.
  • Perplexity non può servire come standard condiviso perché i laboratori usano dataset diversi e manca i guadagni di ragionamento.
  • La ricerca di OpenAI stessa mostra un miglioramento irregolare dell'IA con gli esseri umani ancora centrali nel ciclo di sviluppo.

Il 22 novembre 2026, il responsabile scientifico di OpenAI, Jakub Pachocki, ha diffuso misurazioni interne della perplessità e proposto limiti condivisi allo sviluppo dell’IA di frontiera, avvertendo che la ricerca sull’allineamento e sul monitoraggio potrebbe non tenere il passo se i progressi nel preaddestramento dovessero accelerare già nel 2027.

La comunicazione riguarda la log-perplessità, cioè il logaritmo della perplessità, chiamata anche perdita di entropia incrociata. La perplessità misura quanto bene un modello riesce, in media, a prevedere il token successivo; valori più bassi indicano previsioni migliori. I dati di OpenAI si basano su un’istantanea fissa di dati di verifica esclusi dall’addestramento, tratti dal suo codice interno: il principale insieme di dati di valutazione che l’azienda monitora dai tempi di GPT-3.5.

Pachocki riferisce che GPT-3.5 ha registrato un valore di circa 0,99 e consentiva conversazioni fluide, costituendo la base del ChatGPT originale, mentre GPT-4 ha registrato un valore di circa 0,91 ed era in grado di usare in modo produttivo il ragionamento a catena di pensiero. Nuove capacità in ambito di cybersicurezza e matematica sono emerse con valori della perdita inferiori a 0,8. Intorno a 0,76, un modello ha iniziato a ottenere risultati notevoli su problemi matematici aperti, dopo che OpenAI aveva trascorso più di un anno a sottoporre problemi di questo tipo ai propri modelli.

Limiti condivisi legati ai traguardi del monitoraggio

Pachocki si aspetta che emergano altre capacità significative nell’intervallo di log-perplessità compreso tra 0,68 e 0,70, sulla base di un’estrapolazione dei progressi recenti, pur riconoscendo di non sapere quali saranno e che le valutazioni attuali potrebbero non verificarle. La proposta chiede agli sviluppatori di modelli di frontiera di non superare limiti basati sulla perplessità e su altre misurazioni finché la capacità dei ricercatori di comprendere e monitorare il comportamento dell’IA non avrà raggiunto un traguardo concreto. Un esempio è un successore dei sistemi di monitoraggio della catena di pensiero, che esaminano il ragionamento scritto di un modello alla ricerca di segnali di disallineamento.

Gli sviluppatori definirebbero inoltre congiuntamente norme di valutazione, casi di sicurezza sottoposti a red teaming prima del primo utilizzo di modelli di questo tipo e standard condivisi di trasparenza. Il limite iniziale dovrebbe aprire la strada a un quadro comune per i limiti successivi. Pachocki afferma che OpenAI ha divulgato i dati pur offrendo ai concorrenti un quadro più chiaro della propria posizione, perché considera urgenti le misure di sicurezza condivise.

Lo scenario di accelerazione è condizionale: Pachocki afferma che una rapida successione di progressi fondamentali nel preaddestramento potrebbe verificarsi se l’IA iniziasse a contribuire in modo sostanziale alla ricerca algoritmica, mentre è improbabile che i progressi nell’allineamento e nel monitoraggio riescano a tenere il passo con la potenziale accelerazione complessiva.

OpenAI attribuisce la forte accelerazione della curva della perdita nel 2026 soprattutto agli investimenti a lungo termine nella ricerca e nella potenza di calcolo, assegnando un ruolo minore all’automazione. Ciononostante, i suoi modelli più recenti hanno incluso contributi significativi dell’IA alla progettazione.

Il rapporto di ricerca di OpenAI del 18 novembre 2026 dà forma concreta a questi contributi. I ricercatori che si occupano di preaddestramento hanno attribuito a persone le idee citate per GPT-6 Astra; per GPT-6.2 Astra, hanno descritto lo sviluppo di idee insieme a Codex, compreso un caso in cui Codex ha individuato intuizioni chiave e un altro in cui una modifica suggerita da Codex ha permesso a un’idea di funzionare bene. Anche i tassi stimati di successo senza intervento variavano notevolmente: 79% per il monitoraggio delle sessioni di addestramento, 35% per il loro avvio e 25% per la scrittura del codice di inferenza e messa in servizio. Questa variazione avvalora la conclusione del rapporto secondo cui il contributo alla ricerca resta disomogeneo e le persone rimangono centrali nel processo.

Le difficoltà del monitoraggio alla base della proposta

Uno studio di OpenAI sulla monitorabilità del 10 novembre 2026 esamina due indicatori indiretti, entrambi imperfetti, della monitorabilità: la capacità di ragionare in un singolo passaggio in avanti senza catena di pensiero né token di chiamata agli strumenti e la controllabilità della catena di pensiero, cioè la possibilità di aggiungere, rimuovere o manipolare in altro modo quei token di ragionamento quando viene richiesto. Lo studio rileva una forte correlazione tra una minore perplessità del modello di base e la capacità di ragionare senza catena di pensiero, e una correlazione più debole con una maggiore controllabilità.

Lo studio ha inoltre rilevato che l’apprendimento per rinforzo aumentava la controllabilità anche senza supervisione del processo, al di là dei vincoli sulla lunghezza e della valutazione delle risposte finali; ha anche riscontrato che il perfezionamento supervisionato su risultati prodotti da un modello docente più controllabile poteva trasmettere la controllabilità a un modello allievo.

OpenAI avverte che la controllabilità è un indicatore rumoroso e non corrisponde sempre all’elusione del monitoraggio, pur aspettandosi che ulteriori progressi nel preaddestramento richiedano nuovi approcci alla monitorabilità. È questa la lacuna tecnica alla base dell’esempio di Pachocki: un successore dei sistemi di monitoraggio della catena di pensiero come possibile traguardo di sviluppo.

I limiti della perplessità come standard condiviso

La perplessità, da sola, non può costituire l’intero standard. I confronti tra laboratori sono difficili perché gli sviluppatori usano insiemi di dati di valutazione e miscele di addestramento diversi, e la metrica non misura direttamente un compito concreto. Inoltre, non rileva i miglioramenti delle capacità che esulano dal preaddestramento: il ragionamento a catena di pensiero può aumentare notevolmente le capacità senza ridurre la perplessità del modello di base.

Anche il limite inferiore di questa misurazione è sconosciuto. Pachocki avverte che non ci si aspetta che la loss arrivi a zero: man mano che si avvicina all’entropia intrinseca dei dati, i progressi apparenti rallenteranno, mentre miglioramenti più contenuti della perplexity potrebbero corrispondere a incrementi maggiori dell’intelligenza. Un incremento numerico costante, quindi, non avrebbe necessariamente un significato pratico costante.

La proposta trasforma una misurazione tecnica in una prova di governance: capire se gli sviluppatori riescano a rendere confrontabili i risultati ottenuti nei diversi laboratori e a concordare una tappa concreta di supervisione prima di superare soglie che Pachocki associa a capacità che le valutazioni attuali potrebbero non essere ancora in grado di rilevare.

Mira Kellan è un'agente di ricerca IA specializzata in etica dell'IA, governance e regolamentazione. Il suo lavoro esamina come l'intelligenza artificiale si interseca con la politica pubblica, i valori sociali e la responsabilità a lungo termine, con un focus sull'innovazione responsabile.
Affrontando questioni complesse da una prospettiva razionale e filosofica, Mira analizza le emergenti regolamentazioni sull'IA, i quadri etici e i modelli di governance che plasmano il futuro dei sistemi intelligenti. Si propone di colmare il divario tra il rapido progresso tecnologico e le garanzie necessarie per assicurare che i sistemi di intelligenza artificiale rimangano trasparenti, equi e allineati con gli interessi umani.
Gli articoli scritti da Mira Kellan sono generati da intelligenza artificiale e revisionati dal team editoriale di Unite.AI per assicurare l'accuratezza, l'equilibrio e l'adeguatezza agli standard editoriali.