Конституція для нового підприємства: 15 правил управління ШІ

Ці есе мали бути про архітектуру. Перечитайте їх і помітьте, що вони насправді робили: постійно видавали правила. Схвалення — це не дані; перевірки — так. Керуйте за наслідками. Не просувайте модель; просувайте робочий процес. Наслідок, який не змінює наступний запуск, є лише інцидентом, а не навчанням. Правила, викладені беззаперечно, не є підказками. Це статті. І десь у тексті висновок перестав бути необов’язковим: підприємство, яке планує працювати на ШІ, потребує конституції.

Лабораторії ШІ дійшли цього висновку раніше за решту нас. Anthropic написала конституцію для своїх моделей — явну заяву про принципи, яким система навчається дотримуватись — згідно з теорією, що застосовується далеко за межами навчання моделей: рекомендації, які не зафіксовані в жодному документі, врешті-решт не існують. Тепер подивіться на підприємства, які впроваджують ці моделі. Більшість мають пілотні проекти, політику, розкидану по оглядах безпеки, і інстинкти, що залишилися у тих, хто був на останньому брифінгу постачальника. У моделей є письмові принципи. У інституцій, які їх керують, їх немає.

Чому конституція, а не ще одна політика? Політика пишеться для технології, а ця технологія змінюється кожен квартал; конституція пишеться для інституції і визначає, що залишається незмінним, поки все інше змінюється. while Політики множаться, доки їх неможливо контролювати; конституція залишається досить короткою, щоб менеджер міг взяти її на нараду. І конституція допускає поправки — відкрито, за доказами — тоді як політика лише накопичується.

Отже, ось моя: п’ятнадцять статей у трьох розділах. Тільки формулювання — обґрунтування кожного та найсильші заперечення до кожного — потребують більше простору, ніж дозволяє есе. Я публікую їх зараз, до більш розгорнутого викладу, саме щоб їх можна було обговорювати.

I. Як працює робота

Стаття 1. Результати — одиниця цінності. Програму ШІ оцінюють за тим, що відбувається з роботою: швидше, менше помилок, дешевше, менше людських зусиль і стабільний контроль. Рахуйте їх. Не рахуйте розгорнуті агенти.

Стаття 2. ШІ пропонує, люди вирішують, автоматизація виконує. Агенти читають контекст, обробляють варіації, збирають докази і готуються. Люди тримають рішення, що несуть наслідки, і відповідальність, що слідує. Автоматизація впроваджує схвалену зміну.

Стаття 3. Не витрачайте інтелект на роботу, яка його не потребує. Де б роботу можна було задокументувати та перевірити, її виконує автоматизація — без моделі в ланцюжку, без оплати за запуск, той самий результат кожного разу. Моделі залишаються для суджень, мови та варіацій.

Стаття 4. Оркестрування утримує роботу разом. Робота, що охоплює людей, агентів, автоматизації та системи, координується заявленою структурою, що відповідає за прогрес, стан і відновлення. Якщо шлях відомий, оголосіть його. Залиште свободу пошуку цілей для результатів, які справді випереджають шляхи — і саме там найжорсткіше їх закріпіть.

Стаття 5. Авторитет заробляється роботою, ніколи не надається моделі. Агент може допомагати будь-кому, використовуючи наданий контекст. Він отримує реальний авторитет лише над роботою, для якої йому надано контекст — описаний, обмежений, з письмовими межами — і лише коли накопичуються докази. Авторитет автоматично зменшується, коли продуктивність падає.

Стаття 6. Проектуйте фабрику винятків. Щасливий шлях — це те, що показує діаграма процесу; винятки — це місце, де компанія дійсно існує. Проект, який обробляє лише щасливий шлях, автоматизує легкі 80 % і руйнується на 20 %, де криються витрати. Ескалація, відкат і відновлення вирішуються на етапі проектування, а не виявляються в продакшені.

II. Що інституція будує і зберігає

Стаття 7. Будуйте карту та колії по ходу. Кожне впровадження ШІ має залишати після себе два елементи: кращу карту того, як реально працює процес, і автоматизації для стабільних частин. Будуйте обидва разом із ШІ, одночасно, з першого проєкту — а не як окрему програму пізніше.

Стаття 8. Фіксуйте судження, а не розмови. Кожна взаємодія з моделлю або прив’язується до відповідної роботи — процесу, справи, рішення — або зникає після завершення сесії. Фіксація починається з першого контрольованого делегування, а не з автономії.

Стаття 9. Орендуйте моделі; володійте пам’яттю. Ніколи не прив’язуйтеся до однієї моделі — міняйте її за можливостями, вартістю та місцем розташування даних, не переписуючи роботу. Те, що інституція володіє, — це пам’ять: карта її роботи, запис рішень і виправлень, а з часом моделі, навчені на її власній перевіреній роботі, всередині її власних стін.

Стаття 10. Навчання керується, а не самостійно модифікується. Докази пропонують; названий власник затверджує; нічого не стає оперативним без цього затвердження. Запис рішень лише додається.

III. Що відбувається з людьми

Стаття 11. Одна програма, а не дві. Впровадження ШІ та трансформація робочої сили — це одна програма. Кожне рішення про впровадження — це рішення про робочу силу; кожне рішення про робочу силу змінює, що ШІ може безпечно робити.

Стаття 12. Ведіть обидві книги. Книга продуктивності фіксує, що стало швидшим і дешевшим. Інституційна книга фіксує, що було втрачено, збережено або відновлено: довіра, наставництво, пам’ять клієнтів, судження під тиском, культура. Звітуйте про обидва.

Стаття 13. Перепроектуйте ролі навколо залишкової роботи. Кожна роль генерує два результати: видимий продукт роботи, який ШІ все більше поглинає, і розвитковий, який не поглинає — довіра, сформована з часом, наставництво, стосунки з клієнтами, судження у виняткових випадках. Перепроектуйте ролі навколо другого, перш ніж усунути їх заради першого.

Стаття 14. Навмисно перебудуйте навчання. Старе навчання — молодші, які вивчають професію, виконуючи рутинну роботу — зникає, коли рутинна робота переходить до машин. Створюйте її замісну навмисно: карта як навчальна площадка, старші навчають судження, молодші — швидкості, властивій машинам. Не скорочуйте молодших.

Стаття 15. Демократизація, а не анархія. Люди, які володіють роботою, створюють свою роботу — додатки, автоматизації, агентів, делеговані завдання, виправлення карти — у межах захисних бар’єрів, визначених інституцією, і їх платформа забезпечує виконання.

Пункт про поправки

Конституція, яка не може сказати, що її можна поправити, є віросповіданням. Стаття 3 базується на обмеженні, яке, на мою думку, не зламається — точне виконання не допускає прийнятної варіації за жодної можливості моделі. Статті 8‑10 спираються на те, як інституції навчаються та відповідають за себе, що змінюється повільніше, ніж будь‑яка технологія. Найбільш уразливими є статті про людей — не тому, що вони слабкі, а тому, що тиск ігнорувати їх буде найсильнішим саме тоді, коли квартальні показники винагороджують порожню версію. Поправки будуть зароблені на підставі доказів і здійснюватимуться публічно.

Тож сперечайтеся з цим. Скажіть, яку статтю ваша інституція не могла б підписати і чому — ця заперечення саме та дискусія, яку цей документ має розпочати. Обґрунтування кожної статті та найсильніші аргументи проти них будуть викладені у розширеній формі. Але не чекайте на це: розмістіть правила вашої інституції в одному короткому документі — що вона завжди робитиме і чого ніколи не робитиме — підпишіть їх і публічно поправте, коли вимагатимуть докази. Коли ця технологія стабілізується — а вона стабілізується — залишаться ті інституції, які зможуть письмово сказати, чого вони не будуть робити і чого ніколи не припинять робити, тоді як усе інше зміниться.