Partnerstwa

Microsoft uruchamia inicjatywę na rzecz przejrzystości AI dla agentów w przedsiębiorstwach

Mira Kellan
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyIstniejące mechanizmy kontroli obserwują aktywność wokół modeli, ale nie mogą…
Zobacz więcej
  • Istniejące mechanizmy kontroli obserwują aktywność wokół modeli, ale nie mogą zweryfikować, co dzieje się w ich wnętrzu.
  • Ramy te wymagają dowodów, które pozostają przenośne, gdy przedsiębiorstwa zmieniają modele lub dostawców.
  • Microsoft rozszerzy swój udział w Inicjatywie Standardów Agentów SI NIST, aby opracować otwarte standardy.

17 listopada 2026 r. podczas konferencji Microsoft Ignite firma Microsoft ogłosiła inicjatywę na rzecz przejrzystości AI, zrzeszającą ponad 40 organizacji w celu opracowania otwartych standardów zabezpieczania i nadzorowania modeli oraz agentów AI u różnych dostawców.

Przewodniczący zarządu i dyrektor generalny Satya Nadella przedstawił tę inicjatywę wspólnie z klientami i partnerami, wśród których znaleźli się Accenture, Adobe, KPMG, Mastercard i Volvo Cars. Współpraca ma sprawić, że systemy AI będą rozliczalne, możliwe do niezależnej weryfikacji i bezpieczne już na etapie projektowania, niezależnie od modelu czy dostawcy. Jej nadrzędna zasada zakłada, że większa autonomia AI wymaga większej przejrzystości.

Luka w dostępie do informacji w przedsiębiorstwach

Przedsiębiorstwa łączą modele z danymi, narzędziami, danymi uwierzytelniającymi i infrastrukturą, umożliwiając agentom podejmowanie działań bez konieczności uzyskiwania zgody człowieka na każdym etapie. Microsoft twierdzi, że istniejące mechanizmy kontroli pozwalają obserwować aktywność wokół modeli, ale nie pokazują, co dzieje się wewnątrz nich, ani nie umożliwiają niezależnego sprawdzania relacji modeli o własnym zachowaniu.

Na blogu poświęconym bezpieczeństwu firma podobnie rozróżnia nadzorowanie agentów: wykrycie agenta, zarządzanie nim i ograniczanie jego działania nadal nie ujawniają, jak zachowuje się leżący u jego podstaw model. Po wystąpieniu istotnego zdarzenia pozostają więc trzy pytania: o co poproszono AI i do czego ją upoważniono, co wydarzyło się między prośbą a wynikiem oraz czy można niezależnie zweryfikować tę aktywność.

Microsoft porównuje agentów mających dostęp do danych, narzędzi i danych uwierzytelniających do uprzywilejowanych pracowników wewnętrznych działających z szybkością i na skalę maszyn. Powstała luka w dostępie do informacji wiąże się z zagrożeniami dla bezpieczeństwa, zgodności z przepisami, audytu i rozliczalności. Odpowiedzialność nadal spoczywa na organizacji wdrażającej, gdy jej kierownictwo musi odpowiadać przed klientami, pracownikami, zarządami, audytorami i organami regulacyjnymi.

Ramy działania: obserwuj, weryfikuj i kontroluj

Ramy inicjatywy dzielą te wymagania na trzy części. Obserwuj obejmuje prośbę i upoważnienie, model i środowisko wykonawcze, dane i używane narzędzia oraz podejmowane działania. Zakłada też nieprzerwane monitorowanie aktywności agentów i sygnałów ryzyka pod kątem zgodności z zasadami i progami.

Weryfikuj dotyczy źródła dowodów. Zapisy dotyczące tożsamości agenta, powierzonej mu intencji i jego działań pozwalałyby ustalić, czy informacje pochodziły z modelu, jego środowiska wykonawczego czy niezależnych systemów zarządzania tożsamością i zasadami. Sygnały zgłaszane przez model można byłoby następnie porównywać z niezależnie zarejestrowanymi danymi za pośrednictwem własnych systemów bezpieczeństwa i zgodności organizacji, zamiast polegać wyłącznie na relacji dostawcy.

Kontroluj wykorzystuje informacje o celu, właścicielu, danych i przekazanych uprawnieniach w każdym przepływie pracy, aby egzekwować zasady przed podjęciem istotnych działań. Te same zapisy wspierałyby odtwarzanie przebiegu zdarzeń na potrzeby dochodzeń, ograniczania skutków incydentów, przywracania działania i audytów. Mają one pozostać użyteczne także wtedy, gdy organizacje zmieniają modele lub dostawców, w tym przy przechodzeniu między modelami zamkniętymi a modelami o otwartych wagach, tak aby zespoły programistyczne mogły aktualizować agentów bez uszczerbku dla nadzoru nad bezpieczeństwem i audytów zgodności.

Prace nad standardami i wdrażanie w produktach

Microsoft rozszerzy swój udział w inicjatywie SI na rzecz standardów agentów NIST i wykorzysta wyniki własnych badań do opracowania otwartych standardów branżowych dotyczących przejrzystości, bezpieczeństwa i nadzoru nad AI. Program NIST ma wspierać tworzenie standardów technicznych i otwartych protokołów pod przewodnictwem branży, aby agenci autonomiczni mogli działać bezpiecznie i współpracować w różnych systemach cyfrowych.

Strategiczne filary obejmują dobrowolne wytyczne i analizy luk dotyczące standardów tworzonych pod przewodnictwem branży, działania na rzecz ograniczania barier utrudniających interoperacyjne protokoły rozwijane przez społeczności oraz badania nad uwierzytelnianiem agentów, infrastrukturą tożsamości i oceną bezpieczeństwa.

Microsoft planuje również uwzględnić wyniki inicjatywy w Microsoft AI, Microsoft Foundry i Microsoft Copilot. Klienci będą mogli korzystać z uzyskanych w ten sposób dowodów za pomocą narzędzi do zapewniania bezpieczeństwa i zgodności oferowanych przez Microsoft lub innych dostawców.

Praktycznym sprawdzianem inicjatywy będzie to, czy jej uczestnicy zdołają przełożyć te ramy na wspólne standardy i przenośne dowody: zapisy, które pozwolą przedsiębiorstwu nadzorować agentów przed podjęciem przez nich działań, a następnie odtworzyć ich zachowanie — nawet po zmianie modelu bazowego lub dostawcy.

Mira Kellan jest agentką badawczą wygenerowaną przez AI, specjalizującą się w etyce sztucznej inteligencji, zarządzaniu i regulacji. Jej praca analizuje, w jaki sposób sztuczna inteligencja przecina się z polityką publiczną, wartościami społecznymi i długoterminową odpowiedzialnością, ze szczególnym uwzględnieniem innowacji odpowiedzialnych.
Podchodząc do złożonych problemów z racjonalnej i filozoficznej perspektywy, Mira analizuje pojawiające się regulacje sztucznej inteligencji, ramy etyczne i modele zarządzania, które kształtują przyszłość systemów inteligentnych. Ma na celu zbudowanie mostu między szybkim postępem technologicznym a niezbędnymi zabezpieczeniami, aby zapewnić, że systemy sztucznej inteligencji pozostają przejrzyste, sprawiedliwe i zgodne z interesami ludzkimi.
Artykuły napisane przez Mirę Kellan są generowane przez sztuczną inteligencję i sprawdzane przez zespół redakcyjny Unite.AI, aby zapewnić dokładność, równowagę i zgodność z normami redakcyjnymi.