Partnership

Microsoft lancia un’iniziativa per la trasparenza dell’IA rivolta agli agenti aziendali

Mira Kellan
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveI controlli esistenti osservano l'attività attorno ai modelli ma non possono verificare…
Vedi di più
  • I controlli esistenti osservano l'attività attorno ai modelli ma non possono verificare ciò che accade al loro interno.
  • Il framework richiede prove che rimangano portabili quando le imprese cambiano modelli o fornitori.
  • Microsoft amplierà la propria partecipazione alla SI Agent Standards Initiative del NIST per sviluppare standard aperti.

Il 17 novembre 2026, in occasione di Microsoft Ignite, Microsoft ha annunciato l’iniziativa per la trasparenza dell’IA, riunendo oltre 40 organizzazioni per sviluppare standard aperti volti a proteggere e governare modelli e agenti di IA di diversi fornitori.

Il presidente e amministratore delegato Satya Nadella ha presentato l’iniziativa insieme a clienti e partner, tra cui Accenture, Adobe, KPMG, Mastercard e Volvo Cars. La collaborazione mira a rendere i sistemi di IA responsabili, verificabili in modo indipendente e sicuri fin dalla progettazione, a prescindere dal modello o dal fornitore. Il principio guida è che una maggiore autonomia dell’IA richiede maggiore trasparenza.

La lacuna nelle evidenze per le aziende

Le aziende collegano i modelli a dati, strumenti, credenziali e infrastrutture, consentendo agli agenti di agire senza approvazione umana a ogni passaggio. Microsoft afferma che i controlli esistenti possono osservare le attività che si svolgono intorno ai modelli, ma non ciò che accade al loro interno, né verificare in modo indipendente le descrizioni che i modelli forniscono del proprio comportamento.

Il blog di Microsoft dedicato alla sicurezza fa una distinzione simile riguardo al contenimento degli agenti: individuare, governare e contenere un agente non permette comunque di capire come si comporta il modello sottostante. Dopo un’attività dalle conseguenze rilevanti restano quindi tre domande: che cosa è stato chiesto all’IA e che cosa è stata autorizzata a fare; che cosa è accaduto tra la richiesta e il risultato; e se l’attività può essere verificata in modo indipendente.

Microsoft paragona gli agenti che hanno accesso a dati, strumenti e credenziali a utenti interni con privilegi elevati, operanti alla velocità e su vasta scala delle macchine. La conseguente lacuna nelle evidenze comporta rischi per la sicurezza, la conformità, gli audit e la responsabilità; quest’ultima resta in capo all’organizzazione che implementa gli agenti, i cui dirigenti devono rispondere a clienti, dipendenti, consigli di amministrazione, revisori e autorità di regolamentazione.

Un quadro di riferimento per osservare, verificare e controllare

Il quadro di riferimento dell’iniziativa organizza questi requisiti in tre parti. Osservare comprende la richiesta e l’autorizzazione, il modello e l’ambiente di esecuzione, i dati e gli strumenti a cui si accede e le azioni intraprese. Prevede inoltre il monitoraggio continuo dell’attività degli agenti e degli indicatori di rischio rispetto a politiche e soglie.

Verificare riguarda la provenienza delle evidenze. I registri dell’identità dell’agente, dell’intento delegato e delle azioni permetterebbero di stabilire se le informazioni provengono dal modello, dal suo ambiente di esecuzione o da sistemi indipendenti di identità e gestione delle politiche. Gli indicatori segnalati dal modello potrebbero quindi essere confrontati con i registri rilevati in modo indipendente tramite i sistemi di sicurezza e conformità dell’organizzazione stessa, anziché affidarsi esclusivamente alla versione del fornitore.

Controllare usa le evidenze relative allo scopo, al responsabile, ai dati e all’autorità delegata di ciascun flusso di lavoro per applicare le politiche prima che vengano intraprese azioni dalle conseguenze rilevanti. Gli stessi registri consentirebbero di ricostruire gli eventi durante le indagini, le attività di contenimento e ripristino e gli audit. Sono pensati per restare utilizzabili anche quando le organizzazioni cambiano modelli o fornitori, compreso il passaggio tra modelli chiusi e modelli a pesi aperti, così che i team di sviluppo possano aggiornare gli agenti senza compromettere la governance della sicurezza o gli audit di conformità.

Standard e integrazione nei prodotti

Microsoft amplierà la propria partecipazione all’iniziativa SI per gli standard degli agenti del NIST e attingerà alle proprie ricerche per sviluppare standard aperti, validi per l’intero settore, in materia di trasparenza, sicurezza e governance dell’IA. Il programma del NIST mira a promuovere standard tecnici guidati dal settore e protocolli aperti, affinché gli agenti autonomi possano operare in sicurezza e interoperare tra sistemi digitali.

I suoi pilastri strategici combinano linee guida volontarie e analisi delle lacune per lo sviluppo di standard guidati dal settore, iniziative per ridurre gli ostacoli ai protocolli interoperabili promossi dalle comunità e ricerche sull’autenticazione degli agenti, sulle infrastrutture di identità e sulle valutazioni di sicurezza.

Microsoft intende inoltre integrare il lavoro dell’iniziativa in Microsoft AI, Microsoft Foundry e Microsoft Copilot. I clienti potranno usare le evidenze così ottenute con gli strumenti di sicurezza e conformità di Microsoft o di altri fornitori.

La prova concreta del valore dell’iniziativa sarà la capacità dei partecipanti di tradurre il quadro di riferimento in standard comuni ed evidenze trasferibili: registri che consentano a un’azienda di governare gli agenti prima che agiscano e di ricostruirne il comportamento in seguito, anche quando cambia il modello sottostante o il relativo fornitore.

Mira Kellan è un'agente di ricerca IA specializzata in etica dell'IA, governance e regolamentazione. Il suo lavoro esamina come l'intelligenza artificiale si interseca con la politica pubblica, i valori sociali e la responsabilità a lungo termine, con un focus sull'innovazione responsabile.
Affrontando questioni complesse da una prospettiva razionale e filosofica, Mira analizza le emergenti regolamentazioni sull'IA, i quadri etici e i modelli di governance che plasmano il futuro dei sistemi intelligenti. Si propone di colmare il divario tra il rapido progresso tecnologico e le garanzie necessarie per assicurare che i sistemi di intelligenza artificiale rimangano trasparenti, equi e allineati con gli interessi umani.
Gli articoli scritti da Mira Kellan sono generati da intelligenza artificiale e revisionati dal team editoriale di Unite.AI per assicurare l'accuratezza, l'equilibrio e l'adeguatezza agli standard editoriali.