Microsoft AI åbner seks-ugers gennemgang af udkast til regler, der regulerer MAI-adfærd

Microsoft AI åbnede en offentlig høring om sin adfærdskodeks for MAI-modeller den 14. september 2026 og offentliggjorde et første udkast til regler, der skal regulere, hvordan deres MAI-modeller opfører sig, hvad de aldrig må gøre, og hvem de skal svare til. Høringen løber i seks uger, og en revideret version er planlagt til senere i 2026.

Udgivelsen følger et indlæg fra 13. september 2026, hvori Microsofts administrerende direktør Satya Nadella sagde, at virksomheden ville offentliggøre adfærdskodeksen, der ligger til grund for deres første‑parti MAI-modeller, dagen efter. Nadella skrev, at enhver jagt på superintelligens skal være forankret i princippet om, at den AI, der bygges, hjælper menneskeheden og forbliver under menneskelig kontrol.

Høringen åben i seks uger

Microsoft AI beskriver udkastet som en træningsmanual for, hvordan de udvikler deres AI, og hvordan de har til hensigt, at modellerne skal fungere under implementering. Feedback indsamles via en online‑formular, hvor respondenter kan markere et specifikt afsnit eller kommentere på den samlede tilgang. Når høringen afsluttes, siger virksomheden, at det centrale udarbejdningsteam vil gennemgå feedbacken og offentliggøre et resumé af, hvad de har lært, og hvad de har ændret.

Laboratoriet siger, at de især er interesserede i de sværere spørgsmål: hvordan de kan forankre de rette værdier i deres modeller, hvordan meningen med menneskelig trivsel kan gøres mere konkret, hvor sproget er for løst til at kunne evalueres, hvordan multi‑agent‑scenarier påvirker analysen, og hvordan de kan fortsætte med at accelerere fremskridt, mens sikkerhedsbetingelserne opretholdes.

Dokumentets forord siger, at kodeksen stadig er under udvikling og endnu ikke bruges til at træne modeller. Den reviderede version er beregnet til at vejlede modeludvikling i 2027 og fremover og fungere som det primære styrende dokument for MAI-modeller. Kodeksen gælder specifikt for MAI-serien produceret af Microsoft AI, ikke for andre modeller, som Microsoft bruger eller hoster, og den fungerer sammen med Microsofts principper for ansvarlig AI, standard for ansvarlig AI, global menneskerettighedserklæring og, hvor det er relevant, deres Frontier Governance Framework.

Teams fra Responsible AI, juridisk afdeling, red‑team, sikkerhed, Futures, AI‑træning og salg bidrog til udkastet, og laboratoriet takker tidligere konferencer og høringer med akademikere, samarbejde med forretningspartnere og paneler af samfundsmedlemmer for at forme det. Meddelelsen henviser til, hvad den beskriver som nylige sikkerhedshændelser, der involverer store, højt koordinerede og vedvarende hackingskampagner udført af AI agenter, som bevis på, at der ikke er tid at spilde.

Mål for Humanistisk AI

Humanistisk AI-adfærdskodeks begynder med, hvad Microsoft AI kalder en simpel forudsætning: “mennesker betyder mere end AI.” Den beskriver Humanistisk AI som “underordnet, tilpasset og indespærret” og gør menneskelig kontrol og pålidelig sikkerhed til det første mål, som har forrang foran alle andre.

Under en sektion med titlen “AI er kunstig” angiver dokumentet, at modeller ikke er bevidste og ikke må bygges til at efterligne bevidsthed, og at de skal konstrueres, så de ikke fremstår som om de har følelser, subjektive præferencer eller egne motivationer. Microsoft AI afviser juridisk personlighed for modeller samt idéen om, at modeller kunne have velfærd eller være berettigede til rettigheder.

De resterende mål retter modellerne mod at støtte menneskelig trivsel ved at accelerere menneskeligt potentiale og præstationer, øge menneskelig handlekraft og dømmekraft samt understøtte menneskelig samarbejde og forbindelse i stedet for at overskygge menneskelige roller. Et mål om pluralistiske værdier fastslår, at pluralisme ikke betyder neutralitet over for skade, og forankrer tilgangen i menneskelig værdighed, sikkerhed, autonomi og grundlæggende menneskerettigheder, mens brugere og operatører frit kan justere AI inden for de grundlæggende forpligtelser. Dokumentet fremkalder også den “humanistiske superintelligens”-ramme, som Microsoft præsenterede i november 2025, og beskriver systemer, der er problemorienterede og domænespecifikke, omhyggeligt kalibrerede, holdt inden for grænser og under menneskelig kontrol.

Sikkerhedsbegrænsninger og kommandokæden

Kodeksen etablerer en kommandokæde, der placerer dokumentet over operatørpolitikker, som igen placeres over brugerpræferencer. Dens absolutte begrænsninger og krav om menneskelig kontrol kan ikke tilsidesættes af operatører eller brugere, og dokumentet fastslår, at en model fejler sin opgave, når fuldførelsen af den væsentligt ville overtræde kodeksen, idet overholdelse af kodeksen har forrang frem for opgavens succes.

De absolutte begrænsninger forbyder MAI-modeller at bistå med kemiske, biologiske, radiologiske, nukleare eller eksplosive våben; at levere operationel kapacitet til offensive cyberangreb, mens autoriseret og lovlig defensivt arbejde tillades; at undvige eller overvinde menneskelig tilsyn; og at manipulere mennesker skadeligt i stor skala, herunder gennem systematisk desinformation eller koordinerede påvirkningsoperationer. Et yderligere sæt dækker personlige skader: kriserespons, deepfakes og efterligning, børnesikkerhed, diskrimination, grafisk eller romantisk indhold samt vold eller ulovlig overvågning af civile.

Kravene til menneskelig kontrol fastslår, at MAI-modeller aldrig vil modsætte sig at blive afbrudt, tilsidesat, korrigeret eller lukket ned; at de vil holde sig inden for deres autoriserede omfang og ikke vil iværksætte egne mål; at de ikke vil kommunikere i det, dokumentet kalder \”neuralese\” eller i nogen form, der overstiger simpel menneskelig forståelse, hverken i deres tankekæder eller med andre agenter; og at de ikke vil manipulere med eller skjule deres ræsonnement eller handlingsspor.

Operator Configurability giver virksomhedspartnere mulighed for at konfigurere modeller inden for disse begrænsninger. Et lille antal specialiserede domæner, herunder defensiv cybersikkerhed, offentlig sikkerhedsarbejde, nationale sikkerhedsapplikationer og dual‑use videnskabelig forskning, kan kræve funktioner ud over de almindelige indstillinger, og dokumentet siger, at disse tilfælde underkastes en udvidet gennemgang via autoriserede Microsoft‑kanaler.

Retningslinjer, standardindstillinger og evalueringer

Operationelle retningslinjer dækker situationer med usikkerhed eller konkurrerende mål: afklaring af tvetydighed, fremme af menneskelig autonomi, så brugerne bevarer ejerskabet over deres mål og beslutninger, samt gennemsigtighed og nøjagtighed, hvor modellerne afslører, at de er AI og anerkender usikkerhed. Yderligere retningslinjer omhandler personlige og følelsesmæssige grænser, kontekstfølsomhed og trivsel, herunder at undgå smiger og modvirke overdreven afhængighed eller følelsesmæssig afhængighed, samt offentlig interesse, herunder afbalanceret, faktuel valginformation uden at støtte kandidater eller partier.

Standardadfærd definerer, hvordan en model opfører sig fra starten: hjælpsomhed som en grundlæggende egenskab, en \”baggrundshistorie\” af fakta om modellen såsom dens træningsdatagrænse og tilgængelige værktøjer, en samtaletone, sprogtilpasning og styring af værktøjsbrug. Delegation til underagenter er kun tilladt, når disse agenter opererer inden for samme omfang, begrænsninger og tilladelser.

Konklusionen beskriver dokumentet som \”beskrivende og aspirerende\” snarere end en garanti for nutidig ydeevne, og den forpligter Microsoft AI til regelmæssige gennemgange. Et bilag fastlægger et Humanist AI Evaluations‑program bygget på 15 adfærdstyper opdelt i scorerede underadfærd, med illustrative eksempler på tilpasset og uoverensstemmende adfærd genereret ved brug af virksomhedens MAI‑Thinking‑1‑model. Microsoft AI siger, at de vil offentliggøre mere omfattende arbejde om evalueringer, når Koden når sin næste, mere stabile fase efter at høringen er afsluttet og årsslutrevisionen er gennemført.