新しい企業のための憲法: AIガバナンスの15ルール

これらのエッセイは建築についてのものと想定されていた。 それらを読み返し、実際に何をしたかに注目してください: 彼らはルールを出し続けました。 承認はデータではなく、検証がデータです。 結果に基づいて統治せよ。 モデルを推進せず、ワークフローを推進せよ。 次の実行を変えない結果は単なるインシデントであり、学習ではない。 平坦に述べられたルールはヒントではありません。それらは条項です。そして、執筆のどこかで結論は任意ではなくなりました: AIで運用することを意図する企業には憲法が必要です。

AIラボは私たちより先にこの結論に達しました。Anthropicはそのモデルのために憲法を書きました — システムが保持するように訓練される原則の明示的な声明 — これはモデル訓練をはるかに超える理論に基づいています: 文書に残らない指針はどこにも存在しなくなる。さて、これらのモデルを導入している企業を見てみましょう。ほとんどはパイロットを持ち、セキュリティレビューに散在するポリシーがあり、最後のベンダーブリーフィングに出席した者の直感が引き継がれています。モデルには書面化された原則がありますが、それを運用する組織にはありません。

なぜ憲法であって、別のポリシーではないのか？ ポリシーは技術向けに書かれ、技術は四半期ごとに変化します；憲法は組織向けに書かれ、下位のすべてが変わってもその間に保たれるものを示します。ポリシーは増殖し続け、誰も保持できなくなります；憲法はマネージャーが会議に持ち込めるほど短く保たれます。そして憲法は修正を認めます—証拠に基づき公開的に— ポリシーはただ蓄積するだけです。

そこで私のものを示します: 15の条項、3つのセクションに分かれています。声明だけ—各条項の背後にある論理と最も強い反論は、エッセイが許す以上のスペースが必要です。私はそれらを、より長い解説の前に今公開しています。正に議論できるようにするためです。

I. 作業の実行方法

第1条. 成果は価値の単位である。 AIプログラムは作業に何が起こるかで評価される: より速く、エラーが少なく、コストが低く、人間の労力が少なく、かつ制御が保たれる。これらを数える。展開されたエージェントは数えない。

第2条. AIは提案し、人間が決定し、オートメーションが実行する。エージェントはコンテキストを読み取り、変動に対処し、証拠を集め、準備する。 人間は結果を伴う決定を保持し、続く説明責任も持つ、そしてそれに続く説明責任を持つ。オートメーションは承認された変更を実行する。

第3条. 必要のない作業に知性を費やすな。作業が文書化されチェックできる限り、オートメーションとして実行されます—ループにモデルは入らず、実行ごとの支払いもなく、毎回同じ結果が得られます。モデルは判断、言語、変動に限定して使用されます。

第4条. オーケストレーションは作業を統合する。人、エージェント、オートメーション、システムにまたがる作業は、進行、状態、復旧を管理する宣言された構造によって調整されます。パスが分かっているところは宣言してください。目標追求の自由は、実際にパスを超える成果のために残し—そこに最も強く束縛します。

第5条. 権限は作業によって得られ、モデルに与えられることはない。エージェントは提供されたコンテキスト上で誰にでも支援できる。実際の権限は、コンテキストが与えられた作業に対してのみ付与され—記述され、範囲が限定され、書面で上限が設定され—証拠が蓄積されるにつれて付与される。パフォーマンスが低下すると権限は自動的に縮小する。

第6条. 例外工場のために設計する。ハッピーパスはプロセス図が示す通りです；例外こそが企業が実際に存在する場所です。ハッピーパスだけを処理する設計は、容易な80％を自動化し、コストがかかる20％で崩壊します。エスカレーション、ロールバック、復旧は設計時に決定され、生産時に発見されるものではありません。

II. 組織が構築し保持するもの

第7条. 進めながらマップとレールを構築する。すべてのAI導入は、2つのものを残すべきです: 作業が実際にどのように実行されるかのより良いマップ、そして安定した部分のオートメーションです。両方をAIと共に、最初のプロジェクトから同時に構築します—後から別プログラムとしてではなく。

第8条. 判断を捉え、会話を捉えない。モデルとのすべてのやり取りは、所属する作業—プロセス、ケース、決定—に付随して残るか、セッション終了時に消失します。捕捉は自律性ではなく、最初の監督付き委任から始まります。

第9条. モデルはレンタルし、記憶は所有する。単一のモデルと結びつくことは決してしない—能力、コスト、データの保存場所に応じて切り替え、作業を書き換えない。組織が所有するのは記憶です: 作業のマップ、決定と修正の記録、そして時間とともに自ら検証された作業で訓練されたモデル、組織内に。

第10条. 学習は統治され、自己修正ではない。証拠が提案し、指名された所有者が承認し、その承認なしに運用になることはない。決定の記録は追記専用です。

III. 人々に起こること

第11条. 1つのプログラム、2つではない。 AI導入と労働力変革は同じプログラムである。すべての導入決定は労働力の決定であり、すべての労働力の決定はAIが安全にできることを変える。

第12条. 両方の帳簿を保持する。生産性帳簿は何が速く、安くなったかを記録し、組織帳簿は何が失われ、保存され、再構築されたかを記録します: 信頼、メンターシップ、顧客の記憶、プレッシャー下での判断、文化。両方を報告する。

第13条. 残る作業に合わせて役割を再設計する。すべての役割は2つの成果物を生み出す: 可視的な作業成果物（AIがますます吸収する）と、そうでない開発的成果物—時間をかけて築かれる信頼、メンターシップ、顧客関係、例外的ケースでの判断。前者のために削除する前に、後者に合わせて役割を再設計する。

第14条. 意図的に徒弟制度を再構築する。従来の徒弟制度—新人がルーチン作業を通じて職業を学ぶ—は、ルーチン作業が機械に移行すると死滅します。その代替を意図的に構築してください: マップを訓練場とし、シニアが判断を教え、新人が機械の本来の速度を教える。新人を削らないこと。

第15条. 民主化、無秩序ではない。作業を所有する人々は、自らの作業—アプリ、オートメーション、エージェント、委任タスク、マップへの修正—を、ガードレール組織が定義し、そのプラットフォームが実施する範囲内で作成する。

修正条項

憲法が何を修正すべきかを言えないものは信条にすぎません。第3条は、私が倒れることを期待しない制限—正確な実行はどのモデル能力でも許容できるばらつきがない—に基づいています。第8条から第10条は、組織がどのように学び自らに答えるかに基づいており、これはいかなる技術よりもゆっくり変化します。最も露出しやすいのは人に関する条項です—それが弱いからではなく、四半期の数値が空洞的なバージョンを報いるときに無視する圧力が最も強くなるからです。修正は証拠によって得られ、公開で行われます。

それについて議論してください。どの条項を貴組織が署名できないか、そしてその理由を教えてください—その異議こそがこの文書が始めるべき議論です。各条項の背後にある論理と、最も強い反論は、より長い形で提供されます。 しかし待たないでください: 貴組織独自のルールを短い文書にまとめてください—常に行うこと、決して行わないこと—それらに署名し、証拠が求めるときに公開で修正してください。この技術が落ち着くとき—そして必ず落ち着く—残る組織は、書面で何をしないか、何を決してやめないかを述べられる組織であり、他のすべてが変わってもそれを維持します。