새로운 기업을 위한 헌법: AI 거버넌스를 위한 15가지 규칙

이 에세이들은 원래 건축에 관한 것이어야 했습니다. 다시 읽어보면 실제로 그들이 무엇을 했는지 알 수 있습니다: 계속해서 규칙을 제시했습니다. 승인은 데이터가 아니고, 검증이 데이터이다. 결과에 따라 통치하라. 모델을 홍보하지 말고; 워크플로우를 홍보하라. 다음 실행을 바꾸지 않는 결과는 단지 사건일 뿐, 학습이 아니다. 그냥 선언된 규칙은 팁이 아닙니다. 그것은 조항입니다. 그리고 글 어디엔가 결론이 선택 사항이 아니게 되었습니다: AI를 기반으로 운영하려는 기업은 헌법이 필요합니다.

AI 연구소들은 우리보다 먼저 이 결론에 도달했습니다. Anthropic은 모델을 위한 헌법 을 작성했습니다 — 시스템이 학습하도록 설계된 원칙을 명시한 선언 — 이는 모델 훈련을 훨씬 넘어서는 이론에 기반합니다: 문서에 존재하지 않는 지침은 어디에도 존재하지 않게 됩니다. 이제 그 모델을 배포하는 기업들을 살펴보세요. 대부분은 파일럿을 진행하고, 보안 검토 전반에 흩어져 있는 정책을 가지고 있으며, 마지막 공급업체 브리핑에 참석한 사람의 직관에 의존합니다. 모델은 서면 원칙을 가지고 있지만, 이를 운영하는 기관은 그렇지 않습니다.

왜 헌법이고 또 다른 정책이 아닐까요? 정책은 기술을 위해 작성되며, 이 기술은 매 분기마다 변합니다; 헌법은 기관을 위해 작성되어, 모든 하위 요소가 변하더라도 유지되는 것을 명시합니다. 정책은 늘어나서 아무도 관리할 수 없게 되지만, 헌법은 관리자가 회의에 가지고 갈 수 있을 만큼 짧게 유지됩니다. 또한 헌법은 증거에 기반해 공개적으로 수정될 수 있는 반면, 정책은 단순히 축적됩니다.

그래서 여기 제안합니다: 세 부분으로 구성된 열다섯 개 조항. 단순히 진술만—각 조항 뒤의 논리와 가장 강력한 반론은 에세이 한 편이 제공할 수 있는 공간보다 더 필요합니다. 저는 이들을 더 긴 논문이 나오기 전에 지금 공개합니다. 바로 논쟁할 수 있도록 하기 위해서입니다.

I. 작업이 진행되는 방식

Article 1. Outcomes are the unit of value. AI 프로그램은 작업에 어떤 일이 일어나는지에 따라 평가된다: 더 빠르게, 오류가 적게, 비용이 낮게, 인간 노력 감소, 그리고 유지되는 제어. 이를 세어 보십시오. 배포된 에이전트를 세지 마십시오.

Article 2. AI proposes, humans decide, automation executes. 에이전트는 컨텍스트를 읽고, 변동을 처리하며, 증거를 수집하고, 준비한다. 인간은 결과를 수반하는 결정을 담당한다, 그리고 그에 따르는 책임도 맡는다. 자동화는 승인된 변화를 실행한다.

Article 3. Do not spend intelligence on work that does not need it. 작업을 문서화하고 검증할 수 있는 경우, 자동화로 실행됩니다 — 루프에 모델이 없으며, 실행당 비용이 없고, 매번 동일한 결과가 나옵니다. 모델은 판단, 언어, 변동에만 사용됩니다.

Article 4. Orchestration holds the work together. 사람, 에이전트, 자동화, 시스템에 걸친 작업은 진행, 상태, 복구를 담당하는 선언된 구조에 의해 조정됩니다. 경로가 알려진 경우 이를 선언하십시오. 실제로 경로를 초월하는 결과에 대해서만 목표 추구 자유를 남겨두고, 바로 그곳에서 가장 강하게 제한하십시오.

Article 5. Authority is earned by the work, never granted to the model. 에이전트는 제공된 컨텍스트에 따라 누구에게든 도움을 줄 수 있습니다. 실제 권한은 해당 컨텍스트를 알고 있는 작업에만 부여되며 — 설명되고, 한계가 정해지고, 서면 제한이 있는 — 증거가 축적될 때만 부여됩니다. 성능이 떨어지면 권한은 자동으로 축소됩니다.

Article 6. Design for the exception factory. 행복 경로는 프로세스 차트에 표시된 대로이며, 예외가 기업이 실제로 존재하는 영역입니다. 행복 경로만 처리하는 설계는 쉬운 80%를 자동화하고, 비용이 발생하는 20%에서는 붕괴됩니다. 에스컬레이션, 롤백, 복구는 생산 단계에서 발견되는 것이 아니라 설계 단계에서 결정됩니다.

II. 기관이 구축하고 유지하는 것

Article 7. Build the map and the rails as you go. 모든 AI 배포는 두 가지를 남겨야 합니다: 실제 작업이 어떻게 진행되는지에 대한 더 나은 지도와 안정성이 입증된 부분에 대한 자동화. 두 가지 모두를 AI와 함께, 첫 프로젝트부터 동시에 구축하십시오 — 나중에 별도 프로그램으로 만들지 마십시오.

Article 8. Capture judgment, not conversations. 모델과의 모든 상호작용은 해당 작업(프로세스, 사례, 결정)에 연결되거나 세션이 종료될 때 사라집니다. 포착은 자율성에서가 아니라 첫 번째 감독된 위임부터 시작됩니다.

Article 9. Rent the models; own the memory. 단일 모델에 얽매지 말고 — 능력, 비용, 데이터 보관 위치에 따라 전환하며 작업을 다시 작성하지 마십시오. 기관이 소유하는 것은 메모리입니다: 작업 지도, 결정 및 수정 기록, 그리고 시간이 지나면 자체 검증된 작업을 기반으로 자체 벽 안에서 학습된 모델들.

Article 10. Learning is governed, not self-modifying. 증거가 제안하고; 지정된 소유자가 승인합니다; 그 승인 없이는 아무것도 운영되지 않습니다. 결정 기록은 추가 전용입니다.

III. 사람들에게 일어나는 일

Article 11. One program, not two. AI 도입과 인력 변환은 동일한 프로그램이다. 모든 배포 결정은 인력 결정이며; 모든 인력 결정은 AI가 안전하게 수행할 수 있는 범위를 변화시킨다.

Article 12. Keep both ledgers. 생산성 장부는 작업이 더 빠르고 저렴해진 것을 기록합니다. 기관 장부는 잃어버리거나 보존하거나 재구축된 것—신뢰, 멘토링, 고객 기억, 압박 하의 판단, 문화—을 기록합니다. 두 장부 모두 보고하십시오.

Article 13. Redesign roles around the work that remains. 각 역할은 두 가지 산출물을 생성합니다: AI가 점점 흡수하는 가시적인 작업 결과물과, 그렇지 않은 개발적 산출물 — 시간에 걸쳐 구축된 신뢰, 멘토링, 고객 관계, 예외적인 경우의 판단. 첫 번째를 위해 삭제하기 전에 두 번째를 중심으로 역할을 재설계하십시오.

Article 14. Rebuild the apprenticeship on purpose. 예전의 견습 제도—신입이 일상 업무를 수행하며 기술을 배우는—는 일상 업무가 기계에 의해 대체될 때 사라집니다. 그 대체물을 의도적으로 구축하십시오: 지도는 훈련장으로, 선배는 판단을 가르치고, 신입은 기계의 고유 속도를 가르칩니다. 신입을 없애지 마십시오.

Article 15. Democratization, not anarchy. 작업을 소유한 사람들은 자신들의 작업—앱, 자동화, 에이전트, 위임된 작업, 지도에 대한 수정—을 기관이 정의한 가드레일를 정의하고, 그 플랫폼이 집행한다.

수정 조항

수정될 내용을 말할 수 없는 헌법은 신조에 불과합니다. 제3조는 제가 기대하지 않는 한계에 기반합니다: 정확한 실행은 어떤 모델 능력에서도 허용 가능한 변동이 없습니다. 제8조부터 제10조는 기관이 스스로 학습하고 답변하는 방식에 기반하며, 이는 어떤 기술보다도 천천히 변합니다. 가장 노출된 조항은 사람에 관한 조항들입니다 — 그것이 약해서가 아니라, 분기 실적이 빈 껍데기 버전을 보상할 때 이를 무시하려는 압력이 가장 강해지기 때문입니다. 수정은 증거에 의해 정당화되고, 공개적으로 이루어질 것입니다.

그러니 이에 대해 논쟁하십시오. 귀 기관이 서명할 수 없는 조항과 그 이유를 알려 주세요 — 그 반대 의견이 바로 이 문서가 시작하려는 논쟁입니다. 각 조항 뒤의 논리와 가장 강력한 반론은 더 긴 형태로 제공될 예정입니다. 하지만 기다리지 마십시오: 귀 기관의 자체 규칙을 하나의 짧은 문서에 정리하십시오 — 항상 할 일과 절대 하지 않을 일 — 그것에 서명하고, 증거가 요구할 때 공개적으로 수정하십시오. 이 기술이 정착하면 — 그리고 정착할 것이며 — 남아 있는 기관은 모든 것이 변하는 가운데, 서면으로 무엇을 하지 않을지와 무엇을 절대 멈추지 않을지를 명시할 수 있는 기관이 될 것입니다.