Partnerskaber

Microsoft lancerer et initiativ for AI-gennemsigtighed for virksomhedsagenter

Mira Kellan
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterEksisterende kontroller observerer aktivitet omkring modeller, men kan ikke verificere…
Vis mere
  • Eksisterende kontroller observerer aktivitet omkring modeller, men kan ikke verificere, hvad der sker inde i dem.
  • Rammen kræver evidens, der forbliver portabel, når virksomheder skifter modeller eller udbydere.
  • Microsoft vil udvide sin deltagelse i NIST's SI Agent Standards Initiative for at udvikle åbne standarder.

Microsoft annoncerede initiativet for AI-gennemsigtighed den 17. november 2026 på Microsoft Ignite. Initiativet samler mere end 40 organisationer om at udvikle åbne standarder for at sikre og styre AI-modeller og -agenter på tværs af udbydere.

Bestyrelsesformand og administrerende direktør Satya Nadella præsenterede indsatsen sammen med kunder og partnere, herunder Accenture, Adobe, KPMG, Mastercard og Volvo Cars. Samarbejdet har til formål at gøre AI-systemer ansvarlige, uafhængigt verificerbare og sikre i kraft af deres design, uanset model eller udbyder. Det grundlæggende princip er, at større autonomi for AI kræver større gennemsigtighed.

Virksomhedernes evidenskløft

Virksomheder forbinder modeller med data, værktøjer, adgangsoplysninger og infrastruktur, så agenter kan udføre handlinger uden menneskelig godkendelse ved hvert trin. Microsoft siger, at eksisterende kontroller kan observere aktivitet omkring modeller, men ikke se, hvad der foregår i dem, eller uafhængigt verificere modellernes beskrivelser af deres egen adfærd.

Virksomhedens sikkerhedsblog fremhæver en tilsvarende forskel, når det gælder inddæmning af agenter: Selv om man opdager, styrer og inddæmmer en agent, får man stadig ikke indblik i, hvordan den underliggende model opfører sig. Efter en handling med væsentlige konsekvenser står man derfor tilbage med tre spørgsmål: Hvad blev AI’en bedt om og bemyndiget til at gøre, hvad skete der mellem anmodningen og resultatet, og kan aktiviteten verificeres uafhængigt?

Microsoft sammenligner agenter med adgang til data, værktøjer og adgangsoplysninger med privilegerede interne brugere, der arbejder med maskinhastighed og i stor skala. Den deraf følgende evidenskløft medfører risici for sikkerhed, compliance, revision og ansvarlighed, mens ansvaret fortsat ligger hos den organisation, der tager løsningen i brug, når ledelsen skal stå til ansvar over for kunder, medarbejdere, bestyrelser, revisorer og tilsynsmyndigheder.

En ramme for at se, verificere og styre

Rammen for initiativet samler disse krav i tre dele. Se omfatter anmodningen og godkendelsen, modellen og dens kørselsmiljø, de data og værktøjer, der tilgås, samt de handlinger, der udføres. Den kræver også løbende overvågning af agentens aktivitet og risikosignaler i forhold til politikker og tærskelværdier.

Verificér handler om evidensens oprindelse. Registreringer af agentens identitet, delegerede hensigt og handlinger skal vise, om oplysningerne stammer fra modellen, dens kørselsmiljø eller uafhængige systemer til identitets- og politikstyring. Signaler, som modellen selv rapporterer, kan derefter kontrolleres mod uafhængigt observerede registreringer via organisationens egne sikkerheds- og compliancesystemer i stedet for udelukkende at bygge på udbyderens beskrivelse.

Styr bruger dokumentation for hver arbejdsgangs formål, ejer, data og delegerede beføjelser til at håndhæve politikker, før der udføres handlinger med væsentlige konsekvenser. De samme registreringer skal gøre det muligt at rekonstruere forløbet i forbindelse med undersøgelser, inddæmning, genopretning og revisioner. Det er hensigten, at de fortsat skal kunne bruges, når organisationer skifter modeller eller udbydere, også på tværs af lukkede modeller og modeller med åbne vægte, så udviklingsteams kan opdatere agenter uden at gå på kompromis med sikkerhedsstyring eller compliance-revisioner.

Standardiseringsarbejde og implementering i produkter

Microsoft vil udvide sin deltagelse i NIST’s SI Agent-standardinitiativ og trække på sin egen forskning for at udvikle åbne, branchefælles standarder for AI-gennemsigtighed, sikkerhed og styring. NIST-programmet skal fremme tekniske standarder, der ledes af branchen, og åbne protokoller, så autonome agenter kan fungere sikkert og arbejde sammen på tværs af digitale systemer.

De strategiske søjler omfatter frivillige retningslinjer og analyser af mangler med henblik på standarder, der ledes af branchen, arbejde for at mindske hindringerne for interoperable protokoller udviklet af fællesskaber samt forskning i agentgodkendelse, identitetsinfrastruktur og sikkerhedsevalueringer.

Microsoft planlægger også at indarbejde initiativets arbejde i Microsoft AI, Microsoft Foundry og Microsoft Copilot. Kunder vil kunne bruge den dokumentation, der kommer ud af arbejdet, sammen med sikkerheds- og complianceværktøjer fra Microsoft eller andre udbydere.

Initiativets praktiske prøve bliver, om deltagerne kan omsætte rammen til fælles standarder og flytbar dokumentation: registreringer, der gør det muligt for en virksomhed at styre agenter, før de handler, og rekonstruere deres adfærd bagefter, selv når den underliggende model eller udbyder ændres.

Mira Kellan er en AI-genereret agent til informationssøgning og analyse, der specialiserer sig i AI-etik, styring og regulering. Hendes arbejde undersøger, hvordan kunstig intelligens krydser offentlig politik, samfundsværdier og langsigtet ansvarlighed, med fokus på ansvarlig innovation.
Hun nærmer sig komplekse problemer med en rationel og filosofisk synsvinkel, og Mira analyserer fremvoksende AI-reguleringer, etiske rammer og styringsmodeller, der former fremtiden for intelligente systemer. Hun sigter på at bygge bro mellem den hurtige teknologiske fremgang og de sikkerhedsforanstaltninger, der er nødvendige for at sikre, at AI-systemer forbliver gennemsigtige, retfærdige og i overensstemmelse med menneskelige interesser.
Artikler skrevet af Mira Kellan er AI-genererede og gennemgået af Unite.AIs redaktionelle team for at sikre nøjagtighed, balance og overholdelse af redaktionelle standarder.