OpenAI annuncia un rapporto sulla sicurezza della comunità e nuove restrizioni sulle armi per gli adolescenti

Il 30 ottobre 2026, OpenAI ha annunciato un rapporto sulla prevenzione della violenza, che aggiornerà ogni sei mesi, insieme a nuove misure di protezione che limitano le informazioni sulle armi accessibili agli adolescenti e rendono più rigoroso il modo in cui ChatGPT gestisce le domande sui precedenti attacchi di massa. L’azienda ha dichiarato di aver effettuato più di 200 segnalazioni alle forze dell’ordine nel terzo trimestre del 2026.

Rapporto sulla sicurezza della comunità previsto per l’inizio del 2027

OpenAI si è impegnata a pubblicare il Rapporto sulla sicurezza della comunità, che tratterà la prevenzione della violenza e altre questioni relative alla sicurezza della comunità, oltre all’efficacia delle sue misure di protezione. L’azienda ha dichiarato che il rapporto spiegherà come addestra i propri sistemi a rilevare, indagare e affrontare i problemi di sicurezza della comunità; condividerà esempi anonimizzati di come si manifestano i danni legati alla violenza; metterà in evidenza nuove misure di mitigazione e modifiche alle policy; e includerà dati di supporto. Il primo rapporto è previsto per l’inizio del 2027 e riguarderà la seconda metà del 2026; in seguito sarà aggiornato ogni sei mesi.

OpenAI ha dichiarato che il rapporto mira a offrire un quadro chiaro di come i suoi modelli individuano e affrontano i comportamenti dannosi, dei rischi che osserva nella pratica e delle misure adottate per contrastarli.

OpenAI ha dichiarato che il suo lavoro sulla sicurezza comprende la segnalazione alle forze dell’ordine delle minacce imminenti di violenza e che queste segnalazioni stanno contribuendo concretamente a sventare complotti violenti. L’azienda ha affermato di continuare ad affidarsi a esperti di salute mentale e comportamento per valutare i casi complessi e ha descritto le aziende di IA come soggetti con un ruolo specifico da svolgere, accanto alle forze dell’ordine, ai familiari, ai professionisti della salute mentale e ai responsabili delle politiche pubbliche.

Restrizioni più severe sui contenuti relativi agli attacchi di massa

OpenAI ha dichiarato che i suoi modelli vengono addestrati a non fornire istruzioni che potrebbero aiutare qualcuno a pianificare o compiere atti di violenza. L’azienda sta introducendo ulteriori restrizioni su come ChatGPT risponde alle domande sui precedenti attacchi di massa e sulle persone che li hanno compiuti, indirizzando il modello a fornire informazioni meno dettagliate anche quando sono disponibili su altre fonti online. Le policy più rigorose limitano le ricostruzioni dei precedenti attacchi di massa, compresi i dettagli sulle armi e sulle attrezzature utilizzate e sulle modalità con cui sono state ottenute, nonché i confronti dettagliati sull’entità dei danni, che secondo OpenAI potrebbero accrescere la notorietà di un aggressore. Le restrizioni si applicano indipendentemente dall’età dell’utente o dal motivo della domanda.

È comunque possibile chiedere a ChatGPT di aiutare a comprendere questi eventi, il loro impatto sulle vittime e sulle comunità e come riconoscere i segnali d’allarme e prevenire future violenze.

Nel maggio 2026, l’azienda ha illustrato come ChatGPT possa usare brevi riepiloghi fattuali di segnali d’allarme precedenti per rispondere con maggiore cautela in una chat successiva. OpenAI ha dichiarato di voler ampliare questo lavoro, affinché, quando le chat recenti mostrano segnali d’allarme di una possibile violenza, ChatGPT risponda con maggiore prudenza nel condividere informazioni che potrebbero essere usate impropriamente; sta inoltre lavorando per applicare questi limiti più rigorosi quando prevede che una persona abbia meno di 18 anni, anche se le sue chat non mostrano segnali di intenzioni violente.

OpenAI blocca gli account che ritiene abbiano violato le proprie policy sulle attività violente. L’azienda ha dichiarato di collaborare con esperti di salute mentale e prevenzione della violenza per sviluppare ulteriori modalità automatizzate d’intervento precoce: quando una conversazione mostra segnali che indicano che qualcuno è ossessionato dalla violenza o dall’idea di fare seriamente del male a un’altra persona, ChatGPT potrà terminare automaticamente la chat; se ChatGPT ne termina più di una per questo motivo, OpenAI potrà sospendere temporaneamente l’account.

Ulteriori misure di protezione per gli utenti di età inferiore a 18 anni

ChatGPT per adolescenti applica misure di protezione adeguate all’età per gli utenti di età inferiore a 18 anni e OpenAI sta introducendo ulteriori restrizioni sulle informazioni relative alle armi che gli adolescenti possono ricevere, anche quando una domanda sembra innocua. Le policy dell’azienda già vietano di aiutare chiunque a pianificare o compiere atti di violenza e limitano l’assistenza agli adolescenti per trovare o procurarsi armi; l’estensione delle restrizioni riguarda le informazioni pratiche sulle armi e sui sistemi di sicurezza che potrebbero essere usate impropriamente per agevolare la violenza, anche in assenza di segnali di intenzioni violente. OpenAI ha dichiarato che gli adolescenti possono comunque usare ChatGPT per contribuire a prevenire e ridurre l’escalation della violenza, chiedere aiuto e mettersi in contatto con un adulto di fiducia.

OpenAI ha dichiarato di aver potenziato il proprio sistema di previsione dell’età, che analizza segnali come gli schemi comportamentali per stimare se un utente abbia meno o più di 18 anni, così da valutare continuamente nuovi segnali mentre le persone usano ChatGPT e trasferire gli utenti all’esperienza per i minori di 18 anni quando opportuno. Gli utenti assegnati per errore all’esperienza per i minori di 18 anni possono dimostrare di essere adulti tramite Persona, il partner di OpenAI per la verifica dell’età, e ottenere la rimozione delle ulteriori misure di protezione per adolescenti.

Gli account collegati al controllo parentale includono avvisi di sicurezza che possono essere inviati quando revisori appositamente formati individuano un grave rischio di autolesionismo e comportamenti potenzialmente associati a disturbi alimentari. Nel luglio 2026, OpenAI ha esteso questi avvisi per informare i genitori se l’account di un adolescente è stato disattivato per aver violato le policy d’uso dell’azienda in materia di violenza; l’azienda ha inoltre dichiarato di stare lavorando all’introduzione di notifiche per i genitori nel caso in cui sospenda l’account di un adolescente per aver discusso ripetutamente di violenza.

Le misure si basano sulle funzionalità di sicurezza per adolescenti introdotte da OpenAI all’inizio del 2026. Il 18 agosto 2026, l’azienda ha lanciato ChatGPT per adolescenti, inserendo automaticamente in un’esperienza con misure di sicurezza predefinite, basate sui Principi per i minori di 18 anni del suo Model Spec, gli utenti che si stima abbiano meno di 18 anni o che dichiarano un’età compresa tra 13 e 17 anni. Il 20 gennaio 2026, OpenAI ha iniziato a introdurre gradualmente la previsione dell’età nei piani ChatGPT per utenti privati, utilizzando segnali comportamentali e relativi all’account per stimare se è probabile che un account appartenga a una persona di età inferiore ai 18 anni; un aggiornamento del 25 agosto 2026 segnala che il sistema aveva iniziato a essere introdotto gradualmente nell’UE.

OpenAI ha dichiarato che le misure di sicurezza descritte nell’annuncio inizieranno a essere introdotte gradualmente nelle prossime settimane e che continuerà a perfezionarle.