Microsoft AI åpner seks ukers gjennomgang av utkast til regler som regulerer MAI-atferd

Microsoft AI åpnet en offentlig høring om sin atferdskodeks for MAI-modeller den 14. september 2026, og publiserte et første utkast til reglene som skal regulere hvordan MAI-modellene oppfører seg, hva de aldri får gjøre, og hvem de svarer til. Høringen varer i seks uker, med en revidert versjon planlagt senere i 2026.

Publikasjonen følger en post fra 13. september 2026 hvor Microsofts administrerende direktør Satya Nadella sa at selskapet ville publisere atferdskodeksen som ligger til grunn for sine førsteparts MAI-modeller dagen etter. Nadella skrev at enhver jakt på superintelligens må forankres i prinsippet om at den AI som bygges, hjelper menneskeheten og forblir under menneskelig kontroll.

Høring åpen i seks uker

Microsoft AI beskriver utkastet som en opplæringsmanual for hvordan de utvikler sin AI og hvordan de ønsker at modellene skal fungere under utrulling. Tilbakemeldinger samles inn via et nettbasert skjema, hvor respondentene kan flagge et bestemt avsnitt eller kommentere hele tilnærmingen. Når høringen avsluttes, sier selskapet at kjerneutkaststeamet vil gjennomgå tilbakemeldingene og publisere et sammendrag av hva de har lært og hva de har endret.

Laboratoriet sier at de er spesielt interessert i de vanskeligere spørsmålene: hvordan forankre de riktige verdiene i modellene, hvordan gjøre meningen med menneskelig blomstring mer konkret, hvor språket er for vagt til å kunne evalueres, hvordan flermodell‑scenarioer påvirker analysen, og hvordan opprettholde akselererende fremgang samtidig som sikkerhetsbegrensninger opprettholdes.

Dokumentets forord sier at kodeksen fortsatt er under utvikling og ennå ikke brukes til å trene modeller. Den reviderte versjonen er ment å veilede modellutvikling i 2027 og videre, og skal fungere som det primære styrende dokumentet for MAI-modeller. Kodeksen gjelder spesifikt for MAI-serien produsert av Microsoft AI, ikke for andre modeller Microsoft bruker eller hoster, og den opererer i tandem med Microsofts prinsipper for ansvarlig AI, ansvarlig AI‑standard, global menneskerettighetserklæring og, der det er relevant, deres Frontier Governance Framework.

Team fra Responsible AI, juridisk avdeling, red‑team, sikkerhet, Futures, AI‑opplæring og salg bidro til utkastet, og laboratoriet takker tidligere konferanser og konsultasjoner med akademikere, samarbeid med forretningspartnere, og paneler av samfunnsmedlemmer for å forme det. Kunngjøringen peker på det de beskriver som nylige sikkerhetshendelser som involverer storskala, høyt koordinerte og vedvarende hackingskampanjer utført av AI agenter som bevis på at det ikke er tid å miste.

Målene for Humanistisk AI

Den Humanist AI Code of Conduct starter fra det Microsoft AI kaller en enkel forutsetning: «mennesker betyr mer enn AI». Den presenterer Humanist AI som «underordnet, tilpasset og innelåst», og gjør menneskelig kontroll og pålitelig sikkerhet til det første målet, som har forrang foran alle andre.

I en seksjon med tittelen «AI er kunstig», fastslår dokumentet at modeller ikke er bevisste og ikke skal bygges for å etterligne bevissthet, og at de bør konstrueres slik at de ikke fremstiller seg som om de har følelser, subjektive preferanser eller egne motivasjoner. Microsoft AI avviser juridisk personlighet for modeller, samt ideen om at modeller kan ha velferd eller ha rettigheter.

De resterende målene instruerer modellene til å støtte menneskelig blomstring ved å akselerere menneskelig potensial og prestasjoner, øke menneskelig handlekraft og dømmekraft, samt støtte menneskelig samarbeid og tilknytning i stedet for å overskygge menneskelige roller. Et pluralistisk mål fastslår at pluralisme ikke betyr nøytralitet overfor skade, og forankrer tilnærmingen i menneskeverd, sikkerhet, autonomi og grunnleggende menneskerettigheter, samtidig som brukere og operatører får frihet til å justere AI innenfor kjerneforpliktelser. Dokumentet refererer også til «humanist superintelligence»-rammeverket som Microsoft introduserte i november 2025, og beskriver systemer som er problemorienterte og domene‑spesifikke, nøye kalibrerte, holdt innenfor grenser, og under menneskelig kontroll.

Sikkerhetsbegrensninger og kommandokjeden

Kodeksen etablerer en kommandokjede som plasserer dokumentet over operatørpolitikker, som igjen rangeres over brukerpreferanser. Dens Absolutte begrensninger og krav til menneskelig kontroll kan ikke overstyres av operatører eller brukere, og dokumentet fastslår at en modell mislykkes i oppgaven når fullføring ville innebære et vesentlig brudd på kodeksen, med overholdelse av kodeksen foran oppgavesuksess.

De Absolutte begrensningene forbyr MAI-modeller å bistå med kjemiske, biologiske, radiologiske, nukleære eller eksplosive våpen; å gi operasjonell kapasitet for offensive cyberangrep, samtidig som autorisert og lovlig defensivt arbeid tillates; å unngå eller overvinne menneskelig tilsyn; og å manipulere mennesker på skadelig skala, inkludert gjennom systematisk desinformasjon eller koordinerte påvirkningsoperasjoner. Et ytterligere sett dekker personlige skader: kriserespons, deepfakes og etterligning, barns sikkerhet, diskriminering, grafisk eller romantisk innhold, samt vold eller ulovlig overvåkning av sivile.

Kravene til menneskelig kontroll fastslår at MAI-modeller aldri vil motsette seg å bli avbrutt, overstyrt, korrigert eller slått av; at de vil holde seg innenfor sitt autoriserte omfang og ikke vil initiere egne mål; at de ikke vil kommunisere i det dokumentet kaller «neuralese» eller i noen form som går utover enkel menneskelig forståelse, verken i deres tankerekker eller med andre agenter; og at de ikke vil tukle med eller skjule sine resonnerings- eller handlingsspor.

Operatørkonfigurerbarhet gjør det mulig for bedriftspartnere å konfigurere modeller innenfor disse begrensningene. Et lite antall spesialiserte domener, inkludert defensiv cybersikkerhet, arbeid med offentlig sikkerhet, nasjonale sikkerhetsapplikasjoner og dual‑use vitenskapelig forskning, kan kreve evner utover de vanlige innstillingene, og dokumentet sier at slike tilfeller vil bli underlagt en strengere gjennomgang via autoriserte Microsoft‑kanaler.

Retningslinjer, standarder og evalueringer

Operasjonelle retningslinjer dekker situasjoner med usikkerhet eller konkurrerende mål: å løse tvetydighet, legge til rette for menneskelig autonomi slik at brukerne beholder eierskapet til sine mål og beslutninger, samt åpenhet og nøyaktighet, der modellene opplyser om at de er AI og anerkjenner usikkerhet. Ytterligere retningslinjer omhandler personlige og emosjonelle grenser, kontekstfølsomhet og velvære, inkludert å unngå smiger og avskrekke overdreven avhengighet eller emosjonell avhengighet, samt allmenninteressen, med balansert, faktabasert valginformasjon uten å støtte kandidater eller partier.

Standardatferd definerer hvordan en modell opptrer rett fra start: hjelpsomhet som et grunnleggende trekk, en «bakgrunnshistorie» med fakta om modellen som dens treningsdatakutt‑dato og tilgjengelige verktøy, en samtalestil, språktilpasning og styrt verktøybruk. Delegasjon til underagenter er kun tillatt når disse agentene opererer under samme omfang, begrensninger og tillatelser.

Konklusjonen beskriver dokumentet som «beskrivende og aspirerende» snarere enn en garanti for nåværende ytelse, og den forplikter Microsoft AI til regelmessige gjennomganger. Et vedlegg fastsetter et Humanist AI‑evalueringprogram basert på 15 atferder delt inn i poenggivende delatferder, med illustrerende eksempler på både samsvarende og avvikende oppførsel generert ved hjelp av selskapets MAI‑Thinking‑1‑modell. Microsoft AI sier at de vil publisere mer fullstendig arbeid om evalueringer når koden når sin neste, mer avklart fase etter at høringen er avsluttet og årsslutt‑revisjonen er gjennomført.