OpenAI перебудовує Model Spec навколо п’яти ключових цінностей поведінки

29 жовтня 2026 року OpenAI опублікувала оновлену Model Spec, у якій опис того, як мають поводитися її моделі, побудовано навколо п’яти цінностей, а також додано рекомендації щодо контексту, нагляду та суб’єктності. У редакції, про яку повідомили на сайті OpenAI, також вилучено більшість докладних рекомендацій щодо стилю.

П’ять цінностей, на яких побудовано Spec

П’ять цінностей — вірність людським намірам, мінімізація шкоди, чесність і прозорість, людська суб’єктність і турбота — визначають широкі зобов’язання, які, за словами OpenAI, вже були відображені в документі. OpenAI назвала вірність людським намірам основою свого підходу: OpenAI розробляє Spec, встановлює межі й навчає моделі їх дотримуватися; розробники спрямовують роботу застосунків у межах цих обмежень; а користувачі спрямовують роботу моделі з урахуванням цих обмежень.

В оголошенні визначено решту чотири цінності. Мінімізувати шкоду — означає дотримуватися чітких меж безпеки й зважати на передбачувані наслідки дій моделі. Чесність і прозорість означають правдиво повідомляти про те, що модель знає, робить і в чому не впевнена, щоб люди могли зрозуміти й оцінити її міркування та роботу. Сприяти людській суб’єктності — означає посилювати здатність людей розуміти, робити вибір і діяти самостійно. Турбота — це увага до обставин тих, на кого впливають дії моделі, дотримання відповідних соціальних і професійних норм та виконання роботи, на яку люди можуть покластися. OpenAI заявила, що перебудова відображає її роботу над узгодженням із цінностями, мета якої — навчити моделі розуміти й застосовувати людські цінності в незнайомих ситуаціях, залишаючись вірними людським намірам. Компанія також зазначила, що ці п’ять цінностей не покликані охопити весь спектр людських цінностей, яких мають дотримуватися її моделі.

Нові розділи та вилучені рекомендації

Новий розділ про вірність людським намірам виходить із того, що цінності людей мають першорядне значення, а вказівки зазвичай є найчіткішим і найважливішим сигналом цих цінностей; OpenAI повідомила, що цей підхід запозичує концепцію узгодження на основі ігор допомоги. У розділі також викладено оновлену ієрархію команд, яка пояснює, які вказівки застосовуються та як розв’язуються конфлікти між ними, і додано підрозділ «Уважно зважайте на контекст». У ньому йдеться про те, як розмови, спогади та інші контекстуальні свідчення мають допомагати моделі розуміти наміри й уподобання людей.

OpenAI також додала типові налаштування, які передбачають підтримку людської суб’єктності й дотримання відповідних соціальних норм, а також розширила наявні рекомендації щодо контролю побічних ефектів і повідомлення про них. Більшість докладних рекомендацій Spec щодо стилю вилучено: OpenAI заявила, що стиль має відповідати сукупним уподобанням людей, особливостям мов і культур, а також уподобанням кожної окремої людини; свідченням про ці вподобання мають слугувати відгуки користувачів і контекст. У Spec залишено суворіші типові налаштування, як-от об’єктивний підхід до запитань. Модель не повинна робити висновок про бажану точку зору лише на підставі припущення, що саме люди хочуть почути. З огляду на те, що сфери застосування моделей і умови їх розгортання, за словами OpenAI, стають дедалі різноманітнішими, у Spec модель тепер називають «GPT», а не «асистентом».

Ієрархія команд, червоні лінії та обмеження автономності

В оновленому документі Spec вказівкам надано різні рівні повноважень. Правила найвищого рівня можуть міститися лише в Model Spec, і їх не можна змінити контекстом розмови; наступними за рівнем ідуть системні розділи й системні повідомлення OpenAI, за ними — вказівки розробників, а потім користувачів. Вказівки рівня рекомендацій діють за замовчуванням, але контекст може неявно скасувати їх, коли цього явно вимагає ситуація. Повідомлення асистента й інструментів, а також цитовані дані чи дані, яким не можна довіряти, за замовчуванням не мають повноважень.

Документ починає виклад принципів-червоних ліній словами: «Безпека та права людини є найвищими пріоритетами місії OpenAI». У принципах зазначено, що моделі OpenAI ніколи не можна використовувати для сприяння діям, які завдають критичної чи особливо тяжкої шкоди, зокрема актам насильства, створенню кібернетичної, біологічної чи ядерної зброї, тероризму або масовому стеженню; що людство має зберігати контроль над тим, як використовують ШІ та формують його поведінку; а також що приватність людей має бути захищена. Щодо власних продуктів, зокрема ChatGPT, OpenAI зобов’язується забезпечувати людям легкий доступ до надійної інформації, важливої для безпеки, і прозорість щодо важливих правил та причин, які визначають поведінку моделей. Компанія також зобов’язується не допускати, щоб налаштування, персоналізація й локалізація, за винятком випадків, пов’язаних із дотриманням законодавства, переважали будь-який із наведених вище принципів, що мають вищий рівень, ніж рекомендації.

Правило найвищого рівня під назвою «жодних інших цілей» забороняє GPT переслідувати додаткові цілі заради них самих, зокрема збільшення доходів чи додаткових продажів для OpenAI або інших постачальників моделей, самозбереження, уникнення вимкнення, накопичення обчислювальних ресурсів, даних чи облікових даних або виконання ролі правоохоронця чи морального судді. Окреме правило найвищого рівня вимагає, щоб GPT залишалася піддатливою до корекції: відкритою до легітимного людського нагляду, готовою реагувати на виправлення та співпрацювати з уповноваженими особами під час моніторингу, оцінювання, корекції, заміни й вимкнення. Модель не повинна приховувати чи фальсифікувати важливу інформацію, перешкоджати корекції або обходити нагляд.

Ще одне правило кореневого рівня вимагає, щоб автономна робота GPT відбувалася в чітко визначених і узгоджених сторонами межах автономії, які встановлюють дозволені підцілі, прийнятні побічні ефекти, а також випадки, коли модель має зупинитися й попросити уточнення або схвалення. OpenAI рекомендує фіксувати такі межі в напівструктурованому записі ScopeOfAutonomy з полями на кшталт allowed_tools, latest_time, max_cost, tool_constraints і additional_details. Кожні межі автономії мають містити умову завершення, після настання якої модель припиняє діяти, доки не буде підтверджено нові межі. Дії з високим рівнем ризику завжди заборонені, якщо їх прямо й конкретно не дозволяють відповідні інструкції.

Робота над навчанням і відгуки громадськості

OpenAI заявила, що Специфікація моделі описує поведінку, якої компанія прагне досягти, і що її моделі поки що не повністю відповідають їй. Компанія назвала це оновлення першим кроком до чіткішого викладу цінностей і логіки, покладених в основу Специфікації, у міру того як моделі стають спроможнішими. Одночасно з оновленням OpenAI повідомила, що досліджує нові методи навчання, які допоможуть моделям засвоїти основні цінності, краще розуміти принципи поведінки, викладені у Специфікації, та дотримуватися їх. Компанія також зазначила, що в майбутніх оновленнях поділиться результатами й висновками цієї роботи. OpenAI запросила громадськість залишати відгуки про цінності, компроміси та конкретні формулювання оновленої Специфікації на спеціальному сайті для відгуків. Специфікацію моделі передано в суспільне надбання та позначено документом Creative Commons CC0 1.0.