Ústava pro nový podnik: 15 pravidel pro řízení AI

Tyto eseje měly být o architektuře. Přečtěte si je znovu a všimněte si, co ve skutečnosti udělaly: neustále vydávaly pravidla. Schválení nejsou data; ověření jsou. Řiďte se důsledky. Nepropagujte model; propagujte pracovní postup. Důsledek, který nezmění další běh, je jen incident, ne učení. Pravidla vyjádřená přímo nejsou tipy. Jsou to články. A někde v textu se závěr přestal být volitelný: podnik, který chce fungovat na AI, potřebuje ústavu.

Laboratoře AI dospěly k tomuto závěru dříve než my ostatní. Anthropic napsala ústavu pro své modely — explicitní prohlášení principů, které má systém osvojit — na teorii, která platí daleko za trénink modelu: směrnice, která neexistuje v žádném dokumentu, nakonec neexistuje nikde. Podívejte se nyní na podniky nasazující tyto modely. Většina má piloty, politiku roztroušenou napříč bezpečnostními revizemi a intuice, které přebírá kdokoliv, kdo byl na poslední prezentaci dodavatele. Modely mají sepsané principy. Instituce, které je provozují, ne.

Proč ústava a ne další politika? Politika se píše pro technologii, a tato technologie se mění každé čtvrtletí; ústava se píše pro instituci a stanoví, co platí zatímco se všechno pod ní mění. Politiky se hromadí, až je nikdo nedokáže udržet; ústava zůstane dostatečně stručná, aby si ji manažer mohl vzít na schůzku. A ústava umožňuje změny — otevřeně, na základě důkazů — kde politika jen hromadí další vrstvy.

Takže tady je moje: patnáct článků ve třech sekcích. Pouze tvrzení — odůvodnění za každým a nejsilnější námitky proti nim vyžadují více prostoru, než poskytuje esej. Publikuji je nyní, před tím delším zpracováním, právě proto, aby s nimi šlo debatovat.

I. Jak probíhá práce

Článek 1. Jednotkou hodnoty jsou výsledky. AI program se hodnotí podle toho, co se stane s prací: rychleji, méně chyb, levněji, s menší lidskou námahou a s kontrolou, která vydrží. Počítejte s těmito výsledky. Nepočítejte s nasazenými agenty.

Article 2. AI proposes, humans decide, automation executes. Agenti čtou kontext, zvládají variace, sbírají důkazy a připravují podklady. Lidé drží rozhodnutí, která nesou důsledky, a zodpovědnost, která z nich plyne. Automatizace provede schválenou změnu.

Článek 3. Neplýtvejte inteligencí na práci, která ji nepotřebuje. Kdekoliv lze práci zapsat a zkontrolovat, běží jako automatizace — žádný model ve smyčce, nic k placení za běh, stejný výsledek pokaždé. Modely jsou vyhrazeny pro úsudek, jazyk a variabilitu.

Článek 4. Orchestrace propojuje práci v celek. Práce, která zahrnuje lidi, agenty, automatizace a systémy, je koordinována deklarovanou strukturou, která vlastní postup, stav a obnovu. Kde je cesta známá, deklarujte ji. Svobodu hledání cílů si nechte jen pro výsledky, které skutečně překonávají předdefinované cesty — a právě tam ji nejpevněji vázat.

Článek 5. Pravomoc si zaslouží vykonaná práce; nikdy se neuděluje samotnému modelu. Agent může pomoci komukoli na základě poskytnutého kontextu. Skutečnou autoritu získá jen nad prací, o které má kontext — popsanou, ohraničenou, s písemnými limity — a to jen s narůstajícím důkazem. Autorita se automaticky zmenšuje, když výkon klesá.

Článek 6. Navrhujte systém pro nepřetržité zpracování výjimek. Šťastná cesta je to, co ukazuje procesní diagram; výjimky jsou tím, kde firma skutečně žije. Návrh, který řeší jen šťastnou cestu, automatizuje snadných osmdesát procent a selže na dvaceti procentech, kde leží náklady. Eskalace, rollback a obnova jsou rozhodnuty v návrhu, ne objeveny v provozu.

II. Co organizace buduje a uchovává

Článek 7. Průběžně budujte mapu i mantinely. Každé nasazení AI by mělo zanechat dva výstupy: lepší mapu toho, jak práce skutečně probíhá, a automatizace pro stabilní části. Oba vytvořte s AI, současně, od prvního projektu — ne jako samostatný program později.

Článek 8. Zachycujte úsudek, nikoli rozhovory. Každá interakce s modelem buď končí připojením k práci, ke které patří — procesu, případu, rozhodnutí — nebo zmizí, když se sezení ukončí. Zachycení začíná první dozorovanou delegací, ne autonomií.

Článek 9. Modely si pronajímejte, paměť vlastněte. Nikdy se nespojujte s jediným modelem — přepínejte podle schopností, nákladů a toho, kde musí být data, aniž byste přepisovali práci. To, co instituce vlastní, je paměť: mapa její práce, záznam rozhodnutí a oprav, a časem modely vyškolené na vlastní ověřené práci, uvnitř jejích vlastních zdí.

Článek 10. Učení podléhá správě, nejde o samovolné úpravy systému. Důkazy navrhují; pojmenovaný vlastník schvaluje; nic se nestane provozním bez tohoto schválení. Záznam rozhodnutí je pouze přidávaný.

III. Co se mění pro lidi

Článek 11. Jeden program, ne dva. Adopce AI a transformace pracovní síly jsou jeden program. Každé rozhodnutí o nasazení je rozhodnutí o pracovní síle; každé rozhodnutí o pracovní síle mění, co AI může bezpečně dělat.

Article 12. Keep both ledgers. Účet produktivity zaznamenává, co se zrychlilo a zlevnilo. Institucionální účet zaznamenává, co bylo ztraceno, zachováno nebo přestavěno: důvěra, mentorství, paměť zákazníka, úsudek pod tlakem, kultura. Oba reportujte.

Článek 13. Přepracujte role podle práce, která zůstává. Každá role produkuje dva výstupy: viditelný výstup práce, který AI stále více absorbuje, a vývojový, který ne — důvěra budovaná časem, mentorství, vztahy se zákazníky, úsudek v výjimečných případech. Přetvořte role kolem toho druhého, než je odstraníte kvůli prvnímu.

Článek 14. Cíleně obnovte systém učení praxí. Staré učňovství — junioři se učí řemeslu skrze rutinní práci — umírá, když rutinní práci přebírají stroje. Postavte jeho náhradu úmyslně: mapa jako tréninkové pole, senioři učí úsudek, junioři učí rychlost, která je přirozená strojům. Neukrajujte juniory.

Článek 15. Demokratizace, nikoli anarchie. Lidé, kteří vlastní práci, tvoří svou vlastní práci — aplikace, automatizace, agenti, delegované úkoly, opravy mapy —; uvnitř zábran, které instituce definuje, a její platforma vynutí.

Ustanovení o změnách

Ústava, která nedokáže říci, co by ji měnilo, je pouhým vyznáním. Článek 3 spočívá na limitu, o jehož překročení neočekávám — přesná exekuce nemá žádnou přijatelnou varianci při jakékoli schopnosti modelu. Články 8 až 10 spočívají na tom, jak instituce učí a odpovídá sama sobě, což se mění pomaleji než jakákoli technologie. Nejvíce vystavené jsou články o lidech — ne proto, že jsou slabé, ale protože tlak je ignorovat je bude největší právě ve chvíli, kdy čtvrtletní čísla odmění prázdnou verzi. Změny budou získány na základě důkazů a provedeny veřejně.

Proto s ní debatujte. Řekněte mi, který článek by vaše instituce nemohla podepsat a proč — tato námitka je přesně ta diskuse, kterou má tento dokument zahájit. Odůvodnění za každým článkem a nejsilnější argumenty proti nim přicházejí v delší formě. Ale nečekejte na to: sepište vlastní pravidla instituce do jednoho krátkého dokumentu — co bude vždy dělat a co nikdy nedělá — podepište je a měňte je veřejně, když důkazy vyžadují změnu. Když se tato technologie ustálí — a ustálí — budou stát instituce, které budou schopny písemně říci, co nebudou dělat a co nikdy nepřestanou dělat, zatímco vše ostatní se změní.