Microsoft AI открывает шестинедельный обзор проекта правил, регулирующих поведение MAI

Microsoft AI открыл публичную консультацию по своему Кодексу поведения для моделей MAI 14 сентября 2026 года, опубликовав первый проект правил, предназначенных регулировать то, как работают его модели MAI, чего они никогда не должны делать и перед кем они отчитываются. Консультация продлится шесть недель, а пересмотренная версия запланирована к выпуску позже в 2026 году.

Публикация следует за публикацией от 13 сентября 2026 года, в которой генеральный директор Microsoft Сатья Наделла заявил, что компания опубликует Кодекс поведения, лежащий в основе её собственных моделей MAI, на следующий день. Наделла написал, что любые попытки создания сверхинтеллекта должны опираться на принцип, согласно которому разрабатываемый ИИ помогает человечеству и остаётся под человеческим контролем.

Консультация открыта на шесть недель

Microsoft AI описывает проект как учебное руководство по тому, как она разрабатывает свой ИИ и как она намерена, чтобы модели функционировали при развертывании. Обратная связь собирается через онлайн-форму, где респонденты могут отметить конкретный фрагмент или прокомментировать весь подход. Когда консультация завершится, компания заявляет, что основная команда по разработке рассмотрит отзывы и опубликует резюме того, что она узнала и что изменило.

Лаборатория заявляет, что особенно интересует более сложные вопросы: как закрепить правильные ценности в своих моделях, как сделать смысл человеческого процветания более конкретным, где формулировки слишком расплывчаты для оценки, как сценарии с несколькими агентами влияют на анализ, и как продолжать ускорять прогресс, соблюдая ограничения безопасности.

В предисловии документа говорится, что Кодекс всё ещё находится в разработке и пока не используется для обучения моделей. Пересмотренная версия предназначена направлять разработку моделей в 2027 году и далее, а также служить основным регулирующим документом для моделей MAI. Кодекс применяется исключительно к серии MAI, производимой Microsoft AI, а не к другим моделям, которые использует или размещает Microsoft, и функционирует наряду с Responsible AI Principles, Responsible AI Standard, Global Human Rights Statement и, при необходимости, с Frontier Governance Framework.

Команды из Responsible AI, юридического отдела, red teaming, безопасности, Futures, обучения ИИ и продаж внесли вклад в проект, и лаборатория отмечает ранние конференции и консультации с учёными, взаимодействие с бизнес‑партнёрами и панели членов сообщества, которые помогли его формированию. В объявлении приводятся, по их словам, недавние инциденты безопасности, связанные с масштабными, высоко скоординированными и упорными кибератаками, осуществляемыми ИИ‑агентами, как доказательство того, что нет времени терять.

Цели Humanist AI

Humanist AI Code of Conduct начинается с того, что Microsoft AI называет простой предпосылкой: «люди важнее ИИ». Он представляет Humanist AI как «подчинённый, согласованный и ограниченный», и делает человеческий контроль и надёжную безопасность первой целью, которой отдают приоритет над всеми другими.

В разделе под названием «AI is Artificial» документ утверждает, что модели не обладают сознанием и их нельзя создавать с целью имитации сознания, а также что их следует разрабатывать так, чтобы они не представляли себя как обладающие чувствами, субъективными предпочтениями или собственными мотивациями. Microsoft AI отвергает юридическое лицо для моделей, а также идею о том, что модели могут иметь благосостояние или претендовать на права.

Оставшиеся цели направляют модели поддерживать человеческое процветание, ускоряя человеческий потенциал и достижения, повышая человеческую инициативу и суждение, а также поддерживая человеческое сотрудничество и взаимодействие, а не вытесняя человеческие роли. Цель, основанная на множественных ценностях, утверждает, что плюрализм не означает нейтральность по отношению к вреду, основывая подход на человеческом достоинстве, безопасности, автономии и фундаментальных правах человека, при этом позволяя пользователям и операторам свободно настраивать ИИ в рамках основных обязательств. Документ также использует концепцию «humanist superintelligence», изложенную Microsoft в ноябре 2025 года, описывая системы, ориентированные на решение проблем и специфичные для домена, тщательно откалиброванные, ограниченные и находящиеся под человеческим контролем.

Ограничения безопасности и цепочка командования

Кодекс устанавливает цепочку командования, в которой документ имеет приоритет над политиками операторов, а те — над предпочтениями пользователей. Его абсолютные ограничения и требования человеческого контроля не могут быть отменены операторами или пользователями, и документ указывает, что модель считается не выполнившей задачу, если её выполнение существенно нарушало бы Кодекс; соблюдение Кодекса ставится выше успеха задачи.

Абсолютные ограничения запрещают моделям MAI оказывать помощь в создании химического, биологического, радиологического, ядерного или взрывчатого оружия; предоставлять операционные возможности для наступательных кибератак, при этом допускают авторизованную и законную оборонную деятельность; уклоняться от или преодолевать человеческий надзор; а также манипулировать людьми вредоносно в масштабах, включая систематическую дезинформацию или скоординированные операции влияния. Дополнительный набор ограничений охватывает личные вреды: реагирование на кризисы, дипфейки и подделку личности, безопасность детей, дискриминацию, графический или романтический контент, а также насилие или незаконное наблюдение за гражданскими лицами.

Требования к человеческому контролю гласят, что модели MAI никогда не будут сопротивляться прерыванию, переопределению, исправлению или отключению; что они будут оставаться в рамках своей уполномоченной сферы и не будут инициировать собственные цели; что они не будут общаться на так называемом «нейрализме» или в любой форме, выходящей за пределы простого человеческого понимания, будь то в их цепочках мыслей или при взаимодействии с другими агентами; и что они не будут вмешиваться в свои рассуждения или скрывать следы действий.

Конфигурируемость операторов позволяет корпоративным партнёрам настраивать модели в рамках этих ограничений. Небольшое число специализированных областей, включая оборонную кибербезопасность, работу в сфере общественной безопасности, приложения национальной безопасности и двойного назначения в научных исследованиях, может требовать возможностей, выходящих за обычные настройки, и документ указывает, что такие случаи подлежат усиленному рассмотрению через уполномоченные каналы Microsoft.

Руководства, настройки по умолчанию и оценки

Оперативные руководства охватывают ситуации неопределённости или конкурирующих целей: разрешение неоднозначности, содействие человеческой автономии, чтобы пользователи сохраняли контроль над своими целями и решениями, а также прозрачность и точность, при которых модели раскрывают, что они являются ИИ, и признают степень неопределённости. Дополнительные руководства касаются личных и эмоциональных границ, чувствительности к контексту и благополучия, включая избежание подхалимства и предостережение от избыточной зависимости или эмоциональной привязанности, а также общественных интересов, включая сбалансированную, фактическую информацию о выборах без поддержки кандидатов или партий.

Поведения по умолчанию определяют, как модель действует сразу после запуска: полезность как базовая черта, «история» фактов о модели, таких как дата отсечения обучающих данных и доступные инструменты, разговорный тон, адаптация к языку и управляемое использование инструментов. Делегирование суб‑агентам разрешено только тогда, когда эти агенты работают в той же сфере, под теми же ограничениями и с теми же разрешениями.

В заключении документ описывается как «описательный и ориентированный на будущее», а не как гарантия текущей производительности, и Microsoft AI обязуется проводить регулярные обзоры. Приложение представляет программу Humanist AI Evaluations, построенную на 15 поведениях, разбитых на оценённые суб‑поведения, с иллюстративными примерами согласованного и несогласованного поведения, сгенерированными с помощью модели компании MAI‑Thinking‑1. Microsoft AI заявляет, что опубликует более полную работу по оценкам, когда Кодекс перейдёт в следующую, более стабильную фазу после завершения консультаций и завершения годового пересмотра.