Parteneriate
Microsoft lansează o inițiativă pentru transparența IA destinată agenților din companii

Puncte cheieControalele existente observă activitatea din jurul modelelor, dar nu pot verifica ce…
Vezi mai mult
- Controalele existente observă activitatea din jurul modelelor, dar nu pot verifica ce se întâmplă în interiorul acestora.
- Cadrul necesită dovezi care rămân portabile atunci când întreprinderile schimbă modelele sau furnizorii.
- Microsoft își va extinde participarea la Inițiativa NIST privind standardele pentru agenți SI pentru a dezvolta standarde deschise.
Microsoft a anunțat Inițiativa pentru transparența IA pe 17 noiembrie 2026, la Microsoft Ignite, reunind peste 40 de organizații pentru elaborarea unor standarde deschise de securizare și guvernanță a modelelor și agenților de IA, indiferent de furnizor.
Președintele și directorul general Satya Nadella a prezentat inițiativa alături de clienți și parteneri, printre care Accenture, Adobe, KPMG, Mastercard și Volvo Cars. Colaborarea urmărește să facă sistemele de IA responsabile, verificabile independent și sigure încă din faza de proiectare, indiferent de model sau furnizor. Principiul care o guvernează este că o autonomie mai mare a IA necesită mai multă transparență.
Deficitul de dovezi în mediul enterprise
Companiile conectează modelele la date, instrumente, acreditări și infrastructură, permițând agenților să acționeze fără aprobarea unei persoane la fiecare pas. Microsoft afirmă că mecanismele de control existente pot observa activitatea din jurul modelelor, dar nu pot vedea ce se întâmplă în interiorul lor și nici nu pot verifica independent relatările modelelor despre propriul comportament.
Blogul de securitate al companiei face o distincție similară în privința izolării agenților: identificarea, guvernanța și izolarea unui agent nu dezvăluie totuși cum se comportă modelul pe care se bazează. Astfel, după o activitate cu consecințe importante, rămân trei întrebări: ce i s-a cerut IA să facă și ce a fost autorizată să facă, ce s-a întâmplat între solicitare și rezultat și dacă activitatea poate fi verificată independent.
Microsoft compară agenții cu acces la date, instrumente și acreditări cu persoane din interior care au privilegii și operează cu viteza și la scara mașinilor. Deficitul de dovezi care rezultă generează riscuri de securitate, conformitate, audit și responsabilitate, în timp ce răspunderea rămâne la organizația care implementează agentul, atunci când liderii trebuie să dea socoteală clienților, angajaților, consiliilor de administrație, auditorilor și autorităților de reglementare.
Un cadru bazat pe observare, verificare și control
Cadrul inițiativei organizează aceste cerințe în trei componente. Observarea acoperă solicitarea și autorizarea, modelul și mediul de execuție, datele și instrumentele accesate, precum și acțiunile întreprinse. De asemenea, presupune monitorizarea continuă a activității agentului și a indicatorilor de risc în raport cu politicile și pragurile stabilite.
Verificarea privește proveniența dovezilor. Înregistrările privind identitatea agentului, intenția delegată și acțiunile sale ar arăta dacă informațiile provin de la model, din mediul său de execuție sau din sisteme independente de identitate și de aplicare a politicilor. Indicatorii raportați de model ar putea fi apoi verificați prin compararea lor cu înregistrări observate independent, folosind sistemele proprii de securitate și conformitate ale organizației, în loc să se aibă încredere exclusivă în relatarea furnizorului.
Controlul folosește dovezi privind scopul, responsabilul, datele și autoritatea delegată pentru fiecare flux de lucru, astfel încât politicile să fie aplicate înainte de acțiuni cu consecințe importante. Aceleași înregistrări ar permite reconstituirea evenimentelor în cadrul investigațiilor, izolării, recuperării și auditurilor. Se urmărește ca ele să rămână utilizabile atunci când organizațiile schimbă modelele sau furnizorii, inclusiv în cazul modelelor închise și al celor cu ponderi deschise, astfel încât echipele de dezvoltare să poată actualiza agenții fără a compromite guvernanța securității sau auditurile de conformitate.
Elaborarea standardelor și implementarea în produse
Microsoft își va extinde participarea la Inițiativa SI pentru standardele agenților a NIST și se va baza pe propriile cercetări pentru a elabora standarde deschise, valabile la nivelul întregii industrii, pentru transparența, securitatea și guvernanța IA. Programul NIST este conceput pentru a încuraja elaborarea de standarde tehnice conduse de industrie și de protocoale deschise, astfel încât agenții autonomi să poată funcționa în siguranță și să interopereze între sisteme digitale.
Pilonii strategici reunesc orientări voluntare și analize ale lacunelor pentru standarde conduse de industrie, eforturi de reducere a obstacolelor din calea protocoalelor interoperabile coordonate de comunitate, precum și cercetări privind autentificarea agenților, infrastructura de identitate și evaluările de securitate.
Microsoft intenționează, de asemenea, să integreze activitatea inițiativei în Microsoft AI, Microsoft Foundry și Microsoft Copilot. Clienții vor putea folosi dovezile rezultate cu instrumente de securitate și conformitate de la Microsoft sau de la alți furnizori.
Testul practic al inițiativei este dacă participanții pot transforma acest cadru în standarde comune și dovezi portabile: înregistrări care permit unei companii să guverneze agenții înainte ca aceștia să acționeze și să le reconstituie comportamentul ulterior, chiar și atunci când se schimbă modelul sau furnizorul pe care se bazează.












