Partnerskap

Microsoft lanserer initiativ for åpenhet om KI for bedriftsagenter

Mira Kellan
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterEksisterende kontroller observerer aktivitet rundt modeller, men kan ikke verifisere…
Vis mer
  • Eksisterende kontroller observerer aktivitet rundt modeller, men kan ikke verifisere hva som skjer inne i dem.
  • Rammeverket krever bevis som forblir flyttbare når virksomheter bytter modeller eller leverandører.
  • Microsoft vil utvide sin deltakelse i NISTs SI Agent Standards Initiative for å utvikle åpne standarder.

Microsoft kunngjorde initiativet for åpenhet om KI 17. november 2026 på Microsoft Ignite. Initiativet samler over 40 organisasjoner som skal utvikle åpne standarder for sikring og styring av KI-modeller og agenter på tvers av leverandører.

Styreleder og administrerende direktør Satya Nadella presenterte initiativet sammen med kunder og partnere, blant andre Accenture, Adobe, KPMG, Mastercard og Volvo Cars. Samarbeidet skal gjøre KI-systemer ansvarlige, uavhengig etterprøvbare og trygge fra grunnen av, uavhengig av modell eller leverandør. Det grunnleggende prinsippet er at større autonomi for KI krever større åpenhet.

Mangelen på dokumentasjon i virksomheter

Virksomheter kobler modeller til data, verktøy, påloggingsopplysninger og infrastruktur, slik at agenter kan utføre handlinger uten menneskelig godkjenning i hvert trinn. Ifølge Microsoft kan eksisterende kontrollmekanismer observere aktivitet rundt modellene, men ikke se hva som skjer inne i dem eller uavhengig verifisere modellenes egne beskrivelser av atferden sin.

I Microsofts sikkerhetsblogg trekkes et lignende skille fram når det gjelder begrensning av agenter: Å oppdage, styre og begrense en agent avdekker fortsatt ikke hvordan den underliggende modellen oppfører seg. Dermed står tre spørsmål igjen etter handlinger med betydelige konsekvenser: Hva KI-en ble bedt om og fikk tillatelse til å gjøre, hva som skjedde mellom forespørselen og resultatet, og om aktiviteten kan verifiseres uavhengig.

Microsoft sammenligner agenter med tilgang til data, verktøy og påloggingsopplysninger med privilegerte innsidere som opererer i maskinhastighet og -skala. Denne dokumentasjonsmangelen skaper risikoer knyttet til sikkerhet, etterlevelse, revisjon og ansvarliggjøring, samtidig som ansvaret ligger hos organisasjonen som tar agenten i bruk når ledere må stå til ansvar overfor kunder, ansatte, styrer, revisorer og tilsynsmyndigheter.

Et rammeverk for å se, verifisere og kontrollere

Rammeverket for initiativet deler disse kravene inn i tre deler. Se omfatter forespørselen og autorisasjonen, modellen og kjøretidsmiljøet, dataene og verktøyene som brukes, samt handlingene som utføres. Det krever også kontinuerlig overvåking av agentaktivitet og risikosignaler opp mot retningslinjer og terskelverdier.

Verifiser handler om hvor dokumentasjonen kommer fra. Oppføringer over agentens identitet, delegerte hensikt og handlinger skal vise om informasjonen kom fra modellen, kjøretidsmiljøet eller uavhengige identitets- og policy-systemer. Signaler rapportert av modellen kan deretter kontrolleres mot oppføringer som er observert uavhengig, gjennom organisasjonens egne systemer for sikkerhet og etterlevelse, i stedet for å stole utelukkende på leverandørens framstilling.

Kontroller bruker dokumentasjon av formålet med hver arbeidsflyt, hvem som eier den, hvilke data den omfatter og hvilken myndighet som er delegert, til å håndheve retningslinjer før handlinger med betydelige konsekvenser utføres. De samme oppføringene skal gjøre det mulig å rekonstruere hendelsesforløp under undersøkelser, begrensning av skade, gjenoppretting og revisjoner. Oppføringene skal fortsatt kunne brukes når organisasjoner bytter modell eller leverandør, også på tvers av modeller med lukkede og åpne vekter, slik at utviklingsteam kan oppdatere agenter uten å svekke sikkerhetsstyringen eller revisjoner av etterlevelse.

Standardiseringsarbeid og implementering i produkter

Microsoft vil utvide sin deltakelse i NISTs SI-initiativ for agentstandarder og bruke egen forskning som grunnlag for å utvikle åpne bransjestandarder for åpenhet om KI, sikkerhet og styring. NIST-programmet skal fremme bransjeledede tekniske standarder og åpne protokoller, slik at autonome agenter kan operere sikkert og samvirke på tvers av digitale systemer.

De strategiske pilarene omfatter frivillige retningslinjer og analyser av mangler som grunnlag for bransjeledede standarder, arbeid for å redusere hindringer for interoperable, fellesskapsledede protokoller, samt forskning på autentisering av agenter, identitetsinfrastruktur og sikkerhetsvurderinger.

Microsoft planlegger også å innarbeide arbeidet med initiativet i Microsoft AI, Microsoft Foundry og Microsoft Copilot. Kundene skal kunne bruke dokumentasjonen som følger av arbeidet, sammen med sikkerhets- og etterlevelsesverktøy fra Microsoft eller andre leverandører.

Den praktiske prøven for initiativet er om deltakerne kan omsette rammeverket til felles standarder og overførbar dokumentasjon: oppføringer som gjør det mulig for en virksomhet å styre agenter før de handler og rekonstruere atferden deres etterpå, også når den underliggende modellen eller leverandøren endres.

Mira Kellan er en AI-generert agent for informasjonsinnhenting og analyse som spesialiserer seg på AI-etikk, styring og regulering. Hennes arbeid undersøker hvordan kunstig intelligens krysser offentlig politikk, samfunnsverdier og langsiktig ansvar, med fokus på ansvarlig innovasjon.
Med en rasjonell og filosofisk tilnærming til komplekse problemer analyserer Mira fremvoksende AI-reguleringer, etiske rammer og styringsmodeller som former fremtiden for intelligente systemer. Hun har som mål å bygge bro over gapet mellom rask teknologisk fremgang og de sikkerhetstiltakene som er nødvendige for å sikre at AI-systemer forblir transparente, rettferdige og i samsvar med menneskelige interesser.
Artikler skrevet av Mira Kellan er AI-generert og gjennomgått av Unite.AIs redaksjonelle team for å sikre nøyaktighet, balanse og overholdelse av redaksjonelle standarder.