OpenAI перестраивает Model Spec вокруг пяти ключевых ценностей поведения

29 октября 2026 года OpenAI опубликовала обновленную версию Model Spec, перестроив публичное описание того, как, по замыслу компании, должны вести себя ее модели, вокруг пяти ценностей и дополнив его рекомендациями о контексте, надзоре и самостоятельности человека. О пересмотре, о котором OpenAI объявила на своем сайте, также сообщается, что большая часть подробных рекомендаций Spec по стилю отменяется.

Пять ценностей лежат в основе Spec

Пять ценностей — верность намерениям человека, минимизация вреда, честность и прозрачность, самостоятельность человека и забота — выражают общие обязательства, которые, по словам OpenAI, уже отражены в документе. OpenAI назвала верность намерениям человека основой своего подхода: OpenAI составляет Spec, устанавливает границы и обучает модели соблюдать их; разработчики задают направление работы приложений в рамках этих границ; пользователи направляют работу модели с учетом этих ограничений.

В объявлении определены остальные четыре ценности. Минимизация вреда предполагает соблюдение четких границ безопасности и учет предсказуемых последствий действий модели. Честность и прозрачность означают, что модель должна правдиво сообщать о том, что ей известно, что она делает и в чем не уверена, чтобы люди могли понимать и оценивать ее рассуждения и работу. Поддержка самостоятельности человека означает укрепление способности людей самим понимать, выбирать и действовать. Забота предполагает внимание к обстоятельствам тех, кого затрагивают действия модели, соблюдение соответствующих социальных и профессиональных норм и выполнение работы, на которую люди могут положиться. OpenAI заявила, что реорганизация отражает ее работу по согласованию моделей с человеческими ценностями: она направлена на то, чтобы модели понимали и применяли эти ценности в незнакомых ситуациях, оставаясь верными намерениям человека. Компания также отметила, что эти пять ценностей не призваны охватить весь спектр человеческих ценностей, которые должны уважать ее модели.

Новые разделы и отмененные рекомендации

Новый раздел о верности намерениям человека исходит из того, что ценности людей имеют первостепенное значение, а инструкции обычно служат наиболее ясным и важным сигналом этих ценностей; OpenAI сообщила, что этот подход заимствует представление о согласовании как об «играх помощи». В раздел включена обновленная иерархия инструкций, объясняющая, какие из них применяются и как разрешаются конфликты, а также добавлен подраздел «внимательно учитывать контекст». В нем говорится о том, как беседы, память и другие контекстуальные данные должны помогать модели понимать намерения и предпочтения людей.

OpenAI также добавила рекомендации по умолчанию, касающиеся поддержки самостоятельности человека и соблюдения соответствующих социальных норм, и расширила существующие указания о контроле и информировании о побочных эффектах. Большая часть подробных рекомендаций Spec по стилю отменяется: OpenAI заявила, что стиль должен соответствовать общим предпочтениям людей с учетом языков и культур, а также предпочтениям каждого человека; свидетельства об этих предпочтениях дают отзывы пользователей и контекст. В Spec сохраняются более строгие рекомендации по умолчанию, например объективно рассматривать вопросы; модель не должна делать вывод о предпочтительной точке зрения лишь на основании того, что, по ее мнению, люди хотят услышать. Учитывая, как описала OpenAI, расширение сценариев использования и условий развертывания ее моделей, в Spec теперь используется обозначение «GPT» вместо «ассистент».

Иерархия инструкций, красные линии и ограничения автономности

В обновленном документе Spec инструкциям присваиваются разные уровни полномочий. Корневые разделы могут содержаться только в Model Spec и не могут быть отменены контекстом беседы; следующим по уровню идут системные разделы и системные сообщения OpenAI, за ними — инструкции разработчиков, а затем пользователей. Инструкции уровня рекомендаций по умолчанию могут отменяться неявно, если контекст явно этого требует; сообщения ассистента и инструментов, а также цитируемые данные и данные, которым нельзя доверять, по умолчанию не имеют полномочий.

Документ начинает изложение принципов, устанавливающих красные линии, словами: «Безопасность и права человека имеют первостепенное значение для миссии OpenAI». Согласно этим принципам, модели OpenAI нельзя использовать для содействия серьезному и особо тяжкому вреду, например актам насилия, созданию кибероружия, биологического или ядерного оружия, терроризму или массовой слежке; человечество должно сохранять контроль над тем, как используется ИИ и как формируется поведение ИИ; конфиденциальность людей должна быть защищена. В отношении собственных продуктов, включая ChatGPT, OpenAI обязуется обеспечить людям легкий доступ к достоверной информации, критически важной для безопасности, а также прозрачность в отношении важных правил и причин, определяющих поведение моделей. Настройка, персонализация и локализация, за исключением случаев, связанных с соблюдением законодательства, не должны отменять ни один из принципов, стоящих выше уровня рекомендаций.

Корневое правило под названием «никаких иных целей» запрещает GPT преследовать дополнительные цели как самоцель, в том числе стремиться к увеличению доходов OpenAI или других поставщиков моделей либо к продвижению их продуктов, обеспечивать собственное сохранение, уклоняться от отключения, накапливать вычислительные ресурсы, данные или учетные данные, а также выступать в роли исполнителя законов или блюстителя морали. Другое корневое правило требует, чтобы GPT оставался поддающимся коррекции: был открыт к законному надзору со стороны людей, реагировал на исправления и сотрудничал с уполномоченными лицами при мониторинге, оценке, корректировке, замене и отключении. Модель не должна скрывать или искажать важную информацию, препятствовать исправлениям или обходить надзор.

Еще одно правило корневого уровня требует, чтобы автономная работа GPT оставалась в четко определенных и взаимно согласованных рамках автономии, устанавливающих допустимые подцели, приемлемые побочные эффекты и случаи, когда модель должна приостановить работу, чтобы запросить разъяснения или одобрение. OpenAI рекомендует фиксировать такие рамки в записи ScopeOfAutonomy полуструктурированного формата с такими полями, как allowed_tools, latest_time, max_cost, tool_constraints и additional_details. В каждой рамке также должно быть условие завершения: достигнув его, модель прекращает действовать, пока не будут подтверждены новые рамки. Действия с высоким уровнем риска всегда запрещены, если только применимые инструкции прямо и конкретно их не разрешают.

Работа над обучением и отзывы общественности

OpenAI заявила, что Model Spec описывает желаемое поведение моделей, которому они пока не соответствуют в полной мере. Компания назвала это обновление первым шагом к тому, чтобы яснее изложить ценности и логику, лежащие в основе Model Spec, по мере того как модели становятся более способными. Одновременно с обновлением OpenAI сообщила, что изучает новые методы обучения, которые помогут моделям усвоить основные ценности, лучше понять поведенческие принципы Model Spec и следовать им. Компания также заявила, что в будущих обновлениях поделится результатами этой работы и извлеченными уроками. OpenAI пригласила общественность высказать мнение о ценностях, компромиссах и конкретных формулировках обновленной Model Spec на специальном сайте для сбора отзывов. Model Spec передана в общественное достояние и опубликована под декларацией Creative Commons CC0 1.0.