Ústava pro nový podnik: 15 pravidel pro řízení AI

Tyto eseje měly být o architektuře. Přečtěte si je znovu a všimněte si, co ve skutečnosti udělaly: neustále vydávaly pravidla. Schválení nejsou data; ověření jsou. Řiďte se důsledky. Nepropagujte model; propagujte pracovní postup. Důsledek, který nezmění další běh, je jen incident, ne učení. Pravidla vyjádřená přímo nejsou tipy. Jsou to články. A někde v textu se závěr přestal být volitelný: podnik, který chce fungovat na AI, potřebuje ústavu.

Laboratoře AI dospěly k tomuto závěru dříve než my ostatní. Anthropic napsala ústavu pro své modely — explicitní prohlášení principů, které má systém osvojit — na teorii, která platí daleko za trénink modelu: směrnice, která neexistuje v žádném dokumentu, nakonec neexistuje nikde. Podívejte se nyní na podniky nasazující tyto modely. Většina má piloty, politiku roztroušenou napříč bezpečnostními revizemi a intuice, které přebírá kdokoliv, kdo byl na poslední prezentaci dodavatele. Modely mají sepsané principy. Instituce, které je provozují, ne.

Proč ústava a ne další politika? Politika se píše pro technologii, a tato technologie se mění každé čtvrtletí; ústava se píše pro instituci a stanoví, co platí zatímco se všechno pod ní mění. Politiky se hromadí, až je nikdo nedokáže udržet; ústava zůstane dostatečně stručná, aby si ji manažer mohl vzít na schůzku. A ústava umožňuje změny — otevřeně, na základě důkazů — kde politika jen hromadí další vrstvy.

Takže tady je moje: patnáct článků ve třech sekcích. Pouze tvrzení — odůvodnění za každým a nejsilnější námitky proti nim vyžadují více prostoru, než poskytuje esej. Publikuji je nyní, před tím delším zpracováním, právě proto, aby s nimi šlo debatovat.

I. How the Work Runs

Article 1. Outcomes are the unit of value. AI program se hodnotí podle toho, co se stane s prací: rychleji, méně chyb, levněji, s menší lidskou námahou a s kontrolou, která vydrží. Počítejte s těmito výsledky. Nepočítejte s nasazenými agenty.

Article 2. AI proposes, humans decide, automation executes. Agenti čtou kontext, zvládají variace, sbírají důkazy a připravují podklady. Lidé drží rozhodnutí, která nesou důsledky, a zodpovědnost, která z nich plyne. Automatizace provede schválenou změnu.

Article 3. Do not spend intelligence on work that does not need it. Kdekoliv lze práci zapsat a zkontrolovat, běží jako automatizace — žádný model ve smyčce, nic k placení za běh, stejný výsledek pokaždé. Modely jsou vyhrazeny pro úsudek, jazyk a variabilitu.

Article 4. Orchestration holds the work together. Práce, která zahrnuje lidi, agenty, automatizace a systémy, je koordinována deklarovanou strukturou, která vlastní postup, stav a obnovu. Kde je cesta známá, deklarujte ji. Svobodu hledání cílů si nechte jen pro výsledky, které skutečně překonávají předdefinované cesty — a právě tam ji nejpevněji vázat.

Article 5. Authority is earned by the work, never granted to the model. Agent může pomoci komukoli na základě poskytnutého kontextu. Skutečnou autoritu získá jen nad prací, o které má kontext — popsanou, ohraničenou, s písemnými limity — a to jen s narůstajícím důkazem. Autorita se automaticky zmenšuje, když výkon klesá.

Article 6. Design for the exception factory. Šťastná cesta je to, co ukazuje procesní diagram; výjimky jsou tím, kde firma skutečně žije. Návrh, který řeší jen šťastnou cestu, automatizuje snadných osmdesát procent a selže na dvaceti procentech, kde leží náklady. Eskalace, rollback a obnova jsou rozhodnuty v návrhu, ne objeveny v provozu.

II. What the Institution Builds and Keeps

Article 7. Build the map and the rails as you go. Každé nasazení AI by mělo zanechat dva výstupy: lepší mapu toho, jak práce skutečně probíhá, a automatizace pro stabilní části. Oba vytvořte s AI, současně, od prvního projektu — ne jako samostatný program později.

Article 8. Capture judgment, not conversations. Každá interakce s modelem buď končí připojením k práci, ke které patří — procesu, případu, rozhodnutí — nebo zmizí, když se sezení ukončí. Zachycení začíná první dozorovanou delegací, ne autonomií.

Article 9. Rent the models; own the memory. Nikdy se nespojujte s jediným modelem — přepínejte podle schopností, nákladů a toho, kde musí být data, aniž byste přepisovali práci. To, co instituce vlastní, je paměť: mapa její práce, záznam rozhodnutí a oprav, a časem modely vyškolené na vlastní ověřené práci, uvnitř jejích vlastních zdí.

Article 10. Learning is governed, not self-modifying. Důkazy navrhují; pojmenovaný vlastník schvaluje; nic se nestane provozním bez tohoto schválení. Záznam rozhodnutí je pouze přidávaný.

III. What Happens to the People

Article 11. One program, not two. Adopce AI a transformace pracovní síly jsou jeden program. Každé rozhodnutí o nasazení je rozhodnutí o pracovní síle; každé rozhodnutí o pracovní síle mění, co AI může bezpečně dělat.

Article 12. Keep both ledgers. Účet produktivity zaznamenává, co se zrychlilo a zlevnilo. Institucionální účet zaznamenává, co bylo ztraceno, zachováno nebo přestavěno: důvěra, mentorství, paměť zákazníka, úsudek pod tlakem, kultura. Oba reportujte.

Article 13. Redesign roles around the work that remains. Každá role produkuje dva výstupy: viditelný výstup práce, který AI stále více absorbuje, a vývojový, který ne — důvěra budovaná časem, mentorství, vztahy se zákazníky, úsudek v výjimečných případech. Přetvořte role kolem toho druhého, než je odstraníte kvůli prvnímu.

Article 14. Rebuild the apprenticeship on purpose. Staré učňovství — junioři se učí řemeslu skrze rutinní práci — umírá, když rutinní práci přebírají stroje. Postavte jeho náhradu úmyslně: mapa jako tréninkové pole, senioři učí úsudek, junioři učí rychlost, která je přirozená strojům. Neukrajujte juniory.

Article 15. Democratization, not anarchy. Lidé, kteří vlastní práci, tvoří svou vlastní práci — aplikace, automatizace, agenti, delegované úkoly, opravy mapy —; uvnitř zábran, které instituce definuje, a její platforma vynutí.

The Amendment Clause

Ústava, která nedokáže říci, co by ji měnilo, je pouhým vyznáním. Článek 3 spočívá na limitu, o jehož překročení neočekávám — přesná exekuce nemá žádnou přijatelnou varianci při jakékoli schopnosti modelu. Články 8 až 10 spočívají na tom, jak instituce učí a odpovídá sama sobě, což se mění pomaleji než jakákoli technologie. Nejvíce vystavené jsou články o lidech — ne proto, že jsou slabé, ale protože tlak je ignorovat je bude největší právě ve chvíli, kdy čtvrtletní čísla odmění prázdnou verzi. Změny budou získány na základě důkazů a provedeny veřejně.

Proto s ní debatujte. Řekněte mi, který článek by vaše instituce nemohla podepsat a proč — tato námitka je přesně ta diskuse, kterou má tento dokument zahájit. Odůvodnění za každým článkem a nejsilnější argumenty proti nim přicházejí v delší formě. Ale nečekejte na to: sepište vlastní pravidla instituce do jednoho krátkého dokumentu — co bude vždy dělat a co nikdy nedělá — podepište je a měňte je veřejně, když důkazy vyžadují změnu. Když se tato technologie ustálí — a ustálí — budou stát instituce, které budou schopny písemně říci, co nebudou dělat a co nikdy nepřestanou dělat, zatímco vše ostatní se změní.