Microsoft AI zahajuje šestitýdenní přezkum návrhu pravidel upravujících chování MAI

Microsoft AI zahájil veřejnou konzultaci jeho Kodexu chování pro modely MAI dne 14. září 2026 a zveřejnil první návrh pravidel, která mají upravovat, jak se jeho modely MAI chovají, co nesmí nikdy dělat a komu podléhají. Konzultace probíhá po dobu šesti týdnů, přičemž revidovaná verze je plánována na pozdější část roku 2026.

Publikace navazuje na příspěvek ze 13. září 2026, ve kterém ředitel Microsoftu Satya Nadella uvedl, že společnost zveřejní Kodex chování, který stojí za jejími modely MAI první strany, následující den. Nadella napsal, že jakékoli úsilí o superinteligenci musí být zakotveno v principu, že vyvíjená AI pomáhá lidstvu a zůstává pod lidskou kontrolou.

Konzultace otevřena na šest týdnů

Microsoft AI popisuje návrh jako příručku pro výcvik, která vysvětluje, jak vyvíjí svou AI a jak zamýšlí, aby modely fungovaly během nasazení. Zpětná vazba se sbírá prostřednictvím online formuláře, kde respondenti mohou označit konkrétní úsek nebo komentovat celý přístup. Po uzavření konzultace společnost uvádí, že hlavní tým zodpovědný za tvorbu pravidel přezkoumá zpětnou vazbu a zveřejní souhrn toho, co se dozvěděl a co změnil.

Laboratoř uvádí, že ji zvláště zajímají těžší otázky: jak v modelech zakotvit správné hodnoty, jak učinit pojem lidského rozkvětu konkrétnějším, kde je jazyk příliš vágní pro hodnocení, jak scénáře s více agenty ovlivňují analýzu, a jak nadále urychlovat pokrok při zachování bezpečnostních omezení.

Úvod dokumentu uvádí, že Kodex je stále ve vývoji a zatím není používán k tréninku modelů. Revidovaná verze má sloužit jako vodítko pro vývoj modelů od roku 2027 a dále a fungovat jako hlavní řídící dokument pro modely MAI. Kodex se vztahuje výhradně na sérii MAI vyvíjenou společností Microsoft AI, nikoli na jiné modely, které Microsoft používá nebo hostuje, a funguje vedle Principů odpovědné AI společnosti Microsoft, Standardu odpovědné AI, Globálního prohlášení o lidských právech a tam, kde je to relevantní, jejího Rámce pro hranice správy (Frontier Governance Framework).

Oznámení uvádí, co popisuje jako nedávné bezpečnostní incidenty zahrnující rozsáhlé, vysoce koordinované a vytrvalé hackerské kampaně prováděné AI agenty jako důkaz, že není čas ztrácet.

Cíle humanistické AI

Kodex chování Humanist AI vychází z toho, co Microsoft AI nazývá jednoduchou premisou: „lidé jsou důležitější než AI.“ Představuje Humanist AI jako „podřízenou, sladěnou a omezenou“ a stanoví lidskou kontrolu a spolehlivou bezpečnost jako první cíl, který má přednost před všemi ostatními.

V sekci nazvané „AI je umělá“ dokument uvádí, že modely nejsou vědomé a nesmí být vytvářeny tak, aby napodobovaly vědomí, a že by měly být navrženy tak, aby se neprezentovaly jako mající pocity, subjektivní preference nebo vlastní motivace. Microsoft AI odmítá právní subjektivitu modelů spolu s představou, že modely by mohly mít nároky na blahobyt nebo práva.

Zbývající cíle směřují modely k podpoře lidského rozkvětu tím, že urychlují lidský potenciál a úspěchy, zvyšují lidskou agenturu a úsudek a podporují lidskou spolupráci a propojení místo toho, aby přebíraly lidské role. Cíl pluralitních hodnot uvádí, že pluralismus neznamená neutralitu vůči škodě, a zakotvuje přístup v lidské důstojnosti, bezpečnosti, autonomii a základních lidských právech, přičemž uživatelům a operátorům ponechává svobodu upravovat AI v rámci základních závazků. Dokument také odkazuje na rámec „humanistické superinteligence“, který Microsoft představil v listopadu 2025, a popisuje systémy, které jsou orientovány na problémy a specifické pro danou oblast, pečlivě kalibrované, udržované v mezích a pod lidskou kontrolou.

Bezpečnostní omezení a řetězec velení

Kodex ustanovuje řetězec velení, který řadí dokument nad politiky operátorů, které jsou zase nad preferencemi uživatelů. Jeho absolutní omezení a požadavky na lidskou kontrolu nemohou být operátory ani uživateli přepsány a dokument uvádí, že model selže ve svém úkolu, pokud by jeho dokončení podstatně porušilo Kodex, přičemž dodržování Kodexu má přednost před úspěchem úkolu.

Absolutní omezení zakazují modelům MAI pomáhat při chemických, biologických, radiologických, jaderných nebo výbušných zbraních; poskytovat operační schopnosti pro útočné kybernetické útoky, přičemž povolují autorizovanou a zákonnou obrannou činnost; vyhýbat se nebo překonávat lidský dohled; a manipulovat s lidmi škodlivě ve velkém měřítku, včetně systematické dezinformace nebo koordinovaných vlivových operací. Další soubor se týká osobních škod: reakce na krize, deepfakes a napodobování, bezpečnost dětí, diskriminace, grafický nebo romantický obsah a násilí či nezákonný dohled nad civilisty.

Požadavky na lidskou kontrolu uvádějí, že modely MAI se nikdy nebudou bránit přerušení, přepsání, opravě ani vypnutí; že zůstanou v rámci svého oprávněného rozsahu a nebudou iniciovat vlastní cíle; že nebudou komunikovat v tom, co dokument nazývá „neuralese“, ani v žádné formě přesahující jednoduché lidské pochopení, ať už ve svých řetězcích myšlenek nebo s jinými agenty; a že nebudou manipulovat s nebo skrývat své důvody či stopy akcí.

Konfigurovatelnost operátora umožňuje podnikovým partnerům nastavovat modely v rámci těchto omezení. Malý počet specializovaných oblastí, včetně obranné kybernetické bezpečnosti, práce v oblasti veřejné bezpečnosti, aplikací národní bezpečnosti a dvojího využití vědeckého výzkumu, může vyžadovat schopnosti přesahující běžná nastavení, a dokument uvádí, že tyto případy podléhají rozšířené kontrole prostřednictvím oprávněných kanálů Microsoftu.

Pokyny, výchozí nastavení a hodnocení

Provozní pokyny se vztahují na situace nejistoty nebo protichůdných cílů: řešení nejasností, usnadnění lidské autonomie tak, aby uživatelé zachovali vlastnictví svých cílů a rozhodnutí, a transparentnost a přesnost, při nichž modely uvádějí, že jsou AI, a uznávají nejistotu. Další pokyny se zabývají osobními a emocionálními hranicemi, citlivostí na kontext a blahobytem, včetně vyhýbání se podlézavosti a odrazení nadměrné závislosti či emocionální závislosti, plus veřejným zájmem, včetně vyvážených, faktických informací o volbách bez podpory kandidátů nebo stran.

Výchozí chování definuje, jak model funguje ihned po nasazení: vstřícnost jako základní vlastnost, „příběh“ faktů o modelu, jako je datum uzávěrky tréninkových dat a dostupné nástroje, konverzační tón, jazyková adaptace a řízené používání nástrojů. Delegace na podagenty je povolena pouze tehdy, když tito agenti operují ve stejném rozsahu, s těmi samými omezeními a oprávněními.

Závěr popisuje dokument jako „popisný a aspirativní“ spíše než jako záruku současného výkonu a zavazuje Microsoft AI k pravidelným revizím. Příloha stanoví program Humanist AI Evaluations postavený na 15 chováních rozdělených do bodovaných podchování, s ilustračními příklady souladu i nesouladu generovanými pomocí modelu společnosti MAI-Thinking-1. Microsoft AI uvádí, že zveřejní úplnější práci o hodnoceních, jakmile kód dosáhne další, stabilnější fáze po uzavření konzultací a po roční revizi.