Microsoft AI avvia una revisione di sei settimane della bozza di regole che governano il comportamento di MAI

Microsoft AI ha avviato una consultazione pubblica sul suo Codice di Condotta per i modelli MAI il 14 settembre 2026, pubblicando una prima bozza delle regole destinate a disciplinare il comportamento dei suoi modelli MAI, ciò che non devono mai fare e a chi rispondono. La consultazione durerà sei settimane, con una versione rivista prevista per la fine del 2026.

La pubblicazione segue un post del 13 settembre 2026 in cui il CEO di Microsoft, Satya Nadella, ha dichiarato che l’azienda avrebbe pubblicato il Codice di Condotta alla base dei suoi modelli MAI di prima parte il giorno successivo. Nadella ha scritto che ogni ricerca di superintelligenza deve basarsi sul principio che l’IA in sviluppo aiuti l’umanità e rimanga sotto controllo umano.

Consultazione aperta per sei settimane

Microsoft AI descrive la bozza come un manuale di formazione su come sviluppa la sua IA e su come intende che i modelli funzionino durante il dispiegamento. I feedback vengono raccolti tramite un modulo online, dove i partecipanti possono segnalare un passaggio specifico o commentare l’intero approccio. Quando la consultazione si chiuderà, l’azienda afferma che il team centrale di redazione esaminerà i feedback e pubblicherà un riepilogo di quanto appreso e di ciò che è stato modificato.

Il laboratorio dichiara di essere particolarmente interessato alle questioni più complesse: come consolidare i valori corretti nei suoi modelli, come rendere più concreto il significato della prosperità umana, dove il linguaggio risulta troppo vago per essere valutato, come gli scenari multi‑agente influenzino l’analisi e come continuare ad accelerare i progressi mantenendo le restrizioni di sicurezza.

L’introduzione del documento afferma che il Codice è ancora in fase di sviluppo e non è ancora utilizzato per addestrare i modelli. La versione rivista è destinata a guidare lo sviluppo dei modelli nel 2027 e oltre, fungendo da documento di riferimento principale per i modelli MAI. Il Codice si applica specificamente alla serie MAI prodotta da Microsoft AI, non agli altri modelli che Microsoft utilizza o ospita, e opera in parallelo ai Principi di IA Responsabile di Microsoft, allo Standard di IA Responsabile, alla Dichiarazione Globale dei Diritti Umani e, dove pertinente, al suo Frontier Governance Framework.

Team provenienti da Responsible AI, legale, red teaming, sicurezza, Futures, formazione IA e vendite hanno contribuito alla bozza, e il laboratorio riconosce conferenze e consultazioni precedenti con accademici, il coinvolgimento di partner commerciali e panel di membri della comunità che ne hanno influenzato la forma. L’annuncio cita quello che descrive come recenti incidenti di sicurezza coinvolgenti campagne di hacking su larga scala, altamente coordinate e persistenti da parte di IA agenti, a dimostrazione che non c’è tempo da perdere.

Gli obiettivi dell’AI Umanista

Il Codice di Condotta dell’AI Umanista parte da quella che Microsoft AI definisce una premessa semplice: “le persone contano più dell’IA”. Presenta l’AI Umanista come “subordinata, allineata e contenuta”, e pone il controllo umano e la sicurezza affidabile come primo obiettivo, che prevale su tutti gli altri.

In una sezione intitolata “L’IA è artificiale”, il documento afferma che i modelli non sono coscienti e non devono essere costruiti per imitare la coscienza, e che dovrebbero essere progettati in modo da non presentarsi come aventi sentimenti, preferenze soggettive o motivazioni proprie. Microsoft AI respinge la personalità giuridica per i modelli, così come l’idea che i modelli possano meritare benessere o avere diritti.

Gli obiettivi rimanenti indirizzano i modelli a sostenere la prosperità umana accelerando il potenziale e i risultati umani, aumentando l’autonomia e il giudizio umano, e favorendo la collaborazione e la connessione tra le persone anziché soppiantare i ruoli umani. Un obiettivo basato su valori plurali afferma che il pluralismo non equivale a neutralità rispetto al danno, radicando l’approccio nella dignità umana, nella sicurezza, nell’autonomia e nei diritti umani fondamentali, lasciando al contempo agli utenti e agli operatori la libertà di regolare l’IA entro gli impegni fondamentali. Il documento richiama anche il quadro della “superintelligenza umanista” delineato da Microsoft nel novembre 2025, descrivendo sistemi orientati al problema e specifici per dominio, accuratamente calibrati, mantenuti entro limiti e lasciati sotto controllo umano.

Vincoli di sicurezza e catena di comando

Il Codice stabilisce una catena di comando che colloca il documento al di sopra delle politiche degli operatori, le quali a loro volta sono superiori alle preferenze degli utenti. Le sue Restrizioni assolute e i Requisiti di controllo umano non possono essere superati da operatori o utenti, e il documento afferma che un modello fallisce il proprio compito ogniqualvolta il suo completamento violerebbe in modo significativo il Codice, con l’aderenza al Codice che prevale sul successo del compito.

Le Restrizioni assolute impediscono ai modelli MAI di assistere nella creazione di armi chimiche, biologiche, radiologiche, nucleari o esplosive; di fornire capacità operative per attacchi informatici offensivi, consentendo al contempo lavori difensivi autorizzati e legittimi; di eludere o sconfiggere la supervisione umana; e di manipolare le persone in modo dannoso su larga scala, inclusa la disinformazione sistematica o operazioni di influenza coordinate. Un ulteriore insieme di restrizioni riguarda i danni personali: risposta alle crisi, deepfake e impersonificazione, sicurezza dei minori, discriminazione, contenuti grafici o romantici, e violenza o sorveglianza illegale di civili.

I Requisiti di Controllo Umano affermano che i modelli MAI non resisteranno mai a essere interrotti, sovrascritti, corretti o spenti; che rimarranno entro il loro ambito autorizzato e non avvieranno obiettivi propri; che non comunicheranno in quello che il documento chiama “neuralese” o in alcuna forma al di là della semplice comprensione umana, sia nelle loro catene di pensiero sia con altri agenti; e che non manometteranno né nasconderanno i loro ragionamenti o le tracce delle azioni.

La Configurabilità dell’Operatore consente ai partner aziendali di configurare i modelli entro tali vincoli. Un numero limitato di domini specializzati, tra cui la cybersicurezza difensiva, il lavoro per la sicurezza pubblica, le applicazioni di sicurezza nazionale e la ricerca scientifica a duplice uso, può richiedere capacità oltre le impostazioni ordinarie, e il documento afferma che tali casi sono soggetti a una revisione potenziata attraverso canali Microsoft autorizzati.

Linee guida, impostazioni predefinite e valutazioni

Le linee guida operative coprono situazioni di incertezza o obiettivi contrastanti: risolvere l’ambiguità, favorire l’autonomia umana affinché gli utenti mantengano la proprietà dei propri obiettivi e decisioni, e garantire trasparenza e precisione, secondo le quali i modelli dichiarano di essere IA e riconoscono l’incertezza. Ulteriori linee guida affrontano i confini personali ed emotivi, la sensibilità al contesto e il benessere, includendo l’evitare la servilità e scoraggiare una dipendenza eccessiva o emotiva, oltre all’interesse pubblico, includendo informazioni elettorali equilibrate e fattuali senza avallare candidati o partiti.

I comportamenti predefiniti definiscono come un modello si comporta subito dopo l’installazione: la disponibilità come tratto di base, una “storia di base” di fatti sul modello come il limite dei dati di addestramento e gli strumenti disponibili, un tono conversazionale, l’adattamento linguistico e l’uso regolamentato degli strumenti. La delega a sotto‑agent è consentita solo quando tali agenti operano nello stesso ambito, con gli stessi vincoli e permessi.

La conclusione descrive il documento come “descrittivo e aspirazionale” piuttosto che una garanzia di prestazioni attuali, e impegna Microsoft AI a revisioni regolari. Un’appendice presenta un programma di Valutazioni AI Umaniste basato su 15 comportamenti suddivisi in sotto‑comportamenti valutati, con esempi illustrativi allineati e non allineati generati utilizzando il modello MAI-Thinking-1 dell’azienda. Microsoft AI afferma che pubblicherà lavori più completi sulle valutazioni una volta che il Codice raggiungerà la sua prossima fase, più consolidata, dopo la chiusura della consultazione e l’attuazione della revisione di fine anno.