Конституция для нового предприятия: 15 правил управления ИИ

Эти эссе должны были быть о архитектуре. Перечитайте их и заметите, что они на самом деле сделали: они продолжали выпускать правила. Одобрения — это не данные; верификации — да. Управляйте последствиями. Не продвигайте модель; продвигайте рабочий процесс. Последствие, которое не меняет следующий запуск, — лишь инцидент, а не обучение. Правила, изложенные безусловно, не являются советами. Это статьи. И где‑то в тексте вывод перестал быть опциональным: предприятие, намеревающееся работать на ИИ, нуждается в конституции.

Лаборатории ИИ пришли к этому выводу раньше остальных из нас. Anthropic написала конституцию для своих моделей — явное заявление принципов, которым система обучается следовать — на основе теории, применимой далеко за пределами обучения моделей: руководство, которое не зафиксировано в документе, в итоге нигде не живёт. Теперь взгляните на предприятия, внедряющие эти модели. У большинства есть пилотные проекты, политика, разбросанная по проверкам безопасности, и инстинкты, оставшиеся у того, кто присутствовал на последнем брифинге поставщика. У моделей есть записанные принципы. У институтов, их управляющих, их нет.

Зачем конституция, а не ещё одна политика? Политика пишется для технологии, а эта технология меняется каждый квартал; конституция пишется для институции и указывает, что остаётся пока всё остальное меняется. Политики множатся, пока их невозможно удержать; конституция остаётся достаточно короткой, чтобы менеджер мог взять её на встречу. И конституция допускает поправки — открыто, на основе доказательств — тогда как политика лишь нарастает.

Итак, вот моя: пятнадцать статей, разделённых на три секции. Только утверждения — аргументация каждого пункта и сильнейшие возражения требуют больше места, чем может предоставить эссе. Я публикую их сейчас, до более развернутого изложения, именно чтобы их можно было обсуждать.

I. Как работает работа

Статья 1. Результаты — единица ценности. Программа ИИ оценивается по тому, что происходит с работой: быстрее, меньше ошибок, дешевле, меньше человеческих усилий и сохраняющий контроль. Считайте их. Не учитывайте развернутых агентов.

Статья 2. ИИ предлагает, люди решают, автоматизация исполняет. Агенты читают контекст, обрабатывают вариации, собирают доказательства и готовятся. Люди принимают решения, несущие последствия, и последующую ответственность. Автоматизация реализует одобренное изменение.

Статья 3. Не тратьте интеллект на работу, которой он не нужен. Где работу можно зафиксировать в письменной форме и проверить, она выполняется как автоматизация — без модели в цепочке, без оплаты за каждый запуск, каждый раз одинаковый результат. Модели оставляются для суждений, языка и вариаций.

Статья 4. Оркестрация удерживает работу вместе. Работа, охватывающая людей, агентов, автоматизации и системы, координируется объявленной структурой, отвечающей за прогресс, состояние и восстановление. Где путь известен, объявляйте его. Оставляйте свободу поиска целей для результатов, которые действительно опережают пути — и именно там закрепляйте её максимально жёстко.

Статья 5. Авторитет зарабатывается работой, никогда не предоставляется модели. Агент может помогать любому, имея предоставленный контекст. Он получает реальный авторитет только над той работой, для которой ему известен контекст — описанным, ограниченным, с письменными пределами — и только по мере накопления доказательств. Авторитет автоматически сокращается, когда производительность падает.

Статья 6. Проектируйте фабрику исключений. Счастливый путь — это то, что показывает диаграмма процесса; исключения — это то, где компания действительно живёт. Дизайн, обрабатывающий только счастливый путь, автоматизирует лёгкие восемьдесят процентов и рушится на двадцати процентах, где сосредоточены затраты. Эскалация, откат и восстановление решаются на этапе проектирования, а не обнаруживаются в продакшене.

II. Что институт строит и сохраняет

Статья 7. Стройте карту и рельсы по ходу. Каждое внедрение ИИ должно оставлять после себя два элемента: лучшую карту того, как работа действительно происходит, и автоматизации для стабильных частей. Стройте оба вместе с ИИ, одновременно, с первого проекта — а не как отдельную программу позже.

Статья 8. Захватывайте суждения, а не разговоры. Каждое взаимодействие с моделью либо привязывается к работе, к которой относится — процессу, делу, решению — либо исчезает по окончании сессии. Захват начинается с первой контролируемой делегации, а не с автономии.

Статья 9. Арендуйте модели; владеете памятью. Никогда не привязывайтесь к одной модели — переключайтесь по возможностям, стоимости и месту хранения данных, не переписывая работу. То, что институт владеет, — это память: карта его работы, запись решений и исправлений, а со временем модели, обученные на его собственных проверенных данных, внутри его собственных стен.

Статья 10. Обучение регулируется, а не самоизменяется. Доказательства предлагают; названный владелец одобряет; ничего не становится оперативным без этого одобрения. Запись решений доступна только для добавления.

III. Что происходит с людьми

Статья 11. Одна программа, а не две. Внедрение ИИ и трансформация рабочей силы — это одна и та же программа. Каждое решение о внедрении — это решение о рабочей силе; каждое решение о рабочей силе меняет то, что ИИ может безопасно выполнять.

Статья 12. Ведите оба реестра. Реестр продуктивности фиксирует, что стало быстрее и дешевле. Институциональный реестр фиксирует, что было потеряно, сохранено или восстановлено: доверие, наставничество, память о клиентах, суждения под давлением, культура. Отчитывайтесь по обоим.

Статья 13. Перепроектируйте роли вокруг оставшейся работы. Каждая роль генерирует два результата: видимый продукт работы, который ИИ всё больше поглощает, и развивающийся результат, который он не поглощает — доверие, построенное со временем, наставничество, отношения с клиентами, суждения в исключительных случаях. Перепроектируйте роли вокруг второго, прежде чем удалять их ради первого.

Статья 14. Целенаправленно перестройте ученичество. Старое ученичество — младшие, обучающиеся ремеслу через рутинную работу — умирает, когда рутина переходит к машинам. Создавайте его замену сознательно: карта как учебная площадка, старшие обучают суждениям, младшие обучают машинную естественную скорость. Не отрезайте младших.

Статья 15. Демократизация, а не анархия. Люди, владеющие работой, создают свою собственную работу — приложения, автоматизации, агентов, делегированные задачи, исправления карты — внутри ограничений которые определяет институт, а их платформа обеспечивает соблюдение.

Пункт о поправках

Конституция, которая не может сказать, что её будет поправлять, — это догма. Статья 3 опирается на ограничение, которое, как я полагаю, не будет нарушено — точное выполнение не допускает приемлемой вариативности при любой способности модели. Статьи 8‑10 опираются на то, как институты учатся и отвечают за себя, что меняется медленнее любой технологии. Наиболее уязвимыми являются статьи о людях — не потому, что они слабы, а потому что давление игнорировать их будет сильнее именно тогда, когда квартальные показатели вознаграждают пустую версию. Поправки будут заработаны на основе доказательств и сделаны публично.

Так что спорьте с ней. Скажите, какую статью ваше учреждение не могло бы подписать и почему — это возражение именно тот дебат, который этот документ призван инициировать. Обоснования каждой статьи и сильнейшие аргументы против них появятся в более развернутом виде. Но не ждите этого: соберите собственные правила вашего учреждения в один короткий документ — что оно будет всегда делать и чего никогда не будет делать — подпишите их и в публичном порядке вносите поправки, когда потребуют доказательства. Когда эта технология уляжется — а она уляжется — выживут те институты, которые смогут письменно заявить, чего они не будут делать и чего никогда не прекратят делать, пока всё остальное изменится.