Konstitusi untuk Perusahaan Baru: 15 Aturan untuk Tata Kelola AI

Esai-esai ini seharusnya tentang arsitektur. Bacalah kembali dan perhatikan apa yang sebenarnya mereka lakukan: mereka terus mengeluarkan aturan. Persetujuan bukan data; verifikasi adalah data. Pemerintahan berdasarkan konsekuensi. Jangan promosikan model; promosikan alur kerja. Konsekuensi yang tidak mengubah jalannya berikutnya hanyalah insiden, bukan pembelajaran. Aturan yang dinyatakan secara tegas bukan sekadar petunjuk. Mereka adalah pasal. Dan di suatu tempat dalam tulisan, kesimpulan tidak lagi opsional: sebuah perusahaan yang berniat beroperasi dengan AI membutuhkan konstitusi.

Laboratorium AI mencapai kesimpulan ini sebelum kami. Anthropic menulis sebuah konstitusi untuk modelnya — pernyataan eksplisit tentang prinsip yang dilatih sistem untuk dipegang — berdasarkan teori yang berlaku jauh melampaui pelatihan model: panduan yang tidak ada dalam dokumen manapun pada akhirnya tidak ada di mana pun. Sekarang lihat perusahaan-perusahaan yang menerapkan model-model itu. Sebagian besar memiliki pilot, kebijakan yang tersebar di seluruh tinjauan keamanan, dan naluri yang dibawa oleh siapa pun yang mengikuti pengarahan vendor terakhir. Model-model tersebut memiliki prinsip tertulis. Institusi yang menjalankannya tidak.

Mengapa konstitusi, bukan kebijakan lain? Kebijakan ditulis untuk sebuah teknologi, dan teknologi ini berubah setiap kuartal; sebuah konstitusi ditulis untuk sebuah institusi, dan menyatakan apa yang tetap sementara semua yang di bawahnya berubah. Kebijakan berlipat ganda sampai tidak ada yang dapat menanganinya; sebuah konstitusi tetap cukup singkat sehingga seorang manajer dapat membawanya ke dalam rapat. Dan sebuah konstitusi mengizinkan amandemen — secara terbuka, berdasarkan bukti — di mana kebijakan hanya menumpuk.

Jadi inilah milik saya: lima belas pasal, dalam tiga bagian. Hanya pernyataan — alasan di balik masing-masing, dan keberatan terkuat terhadap masing-masing, memerlukan ruang lebih daripada yang dapat diberikan sebuah esai. Saya menerbitkannya sekarang, sebelum penjelasan yang lebih panjang, tepat agar dapat diperdebatkan.

I. Bagaimana Pekerjaan Berjalan

Pasal 1. Hasil adalah unit nilai. Sebuah program AI dinilai dari apa yang terjadi pada pekerjaan: lebih cepat, lebih sedikit kesalahan, lebih murah, upaya manusia yang lebih sedikit, dan kontrol yang tetap. Hitung itu. Jangan menghitung agen yang diterapkan.

Pasal 2. AI mengusulkan, manusia memutuskan, otomatisasi mengeksekusi. Agen membaca konteks, menangani variasi, mengumpulkan bukti, dan menyiapkan. Manusia memegang keputusan yang membawa konsekuensi, dan akuntabilitas yang menyertainya. Otomatisasi melaksanakan perubahan yang disetujui.

Pasal 3. Jangan menghabiskan kecerdasan pada pekerjaan yang tidak membutuhkannya. Di mana pun pekerjaan dapat dituliskan dan diperiksa, ia dijalankan sebagai otomatisasi — tidak ada model dalam siklus, tidak ada biaya per jalankan, hasil yang sama setiap kali. Model disediakan untuk penilaian, bahasa, dan variasi.

Pasal 4. Orkestrasi menyatukan pekerjaan. Pekerjaan yang melibatkan orang, agen, otomatisasi, dan sistem dikoordinasikan oleh struktur yang dinyatakan yang mengelola progresi, status, dan pemulihan. Di mana jalur diketahui, nyatakanlah. Simpan kebebasan mengejar tujuan untuk hasil yang benar‑benar melampaui jalur — dan ikatlah dengan kuat tepat di sana.

Pasal 5. Wewenang diperoleh melalui pekerjaan, tidak pernah diberikan kepada model. Seorang agen dapat membantu siapa saja dengan konteks yang diberikan. Ia menerima wewenang nyata hanya atas pekerjaan yang konteksnya telah diketahui — dijelaskan, dibatasi, dengan batas tertulis — dan hanya ketika bukti terkumpul. Wewenang menyusut secara otomatis ketika kinerja menurun.

Pasal 6. Rancang untuk pabrik pengecualian. Jalur bahagia adalah apa yang ditunjukkan diagram proses; pengecualian adalah tempat perusahaan sebenarnya beroperasi. Desain yang hanya menangani jalur bahagia mengotomatisasi delapan puluh persen yang mudah dan runtuh pada dua puluh persen di mana biaya berada. Eskalasi, rollback, dan pemulihan diputuskan pada waktu desain, bukan ditemukan dalam produksi.

II. Apa yang Dibangun dan Dipertahankan oleh Institusi

Pasal 7. Bangun peta dan rel seiring berjalannya. Setiap penerapan AI harus meninggalkan dua hal: peta yang lebih baik tentang bagaimana pekerjaan sebenarnya berjalan, dan otomatisasi untuk bagian yang terbukti stabil. Bangun keduanya dengan AI, secara bersamaan, sejak proyek pertama — bukan sebagai program terpisah kemudian.

Pasal 8. Tangkap penilaian, bukan percakapan. Setiap interaksi dengan model baik terikat pada pekerjaan yang dimilikinya — proses, kasus, keputusan — atau menguap ketika sesi berakhir. Penangkapan dimulai dengan delegasi terawasi pertama, bukan dengan otonomi.

Pasal 9. Sewalah model; miliki memori. Jangan mengikat satu model saja — ganti berdasarkan kemampuan, biaya, dan di mana data Anda harus berada, tanpa menulis ulang pekerjaan. Apa yang dimiliki institusi adalah memori: peta pekerjaannya, catatan keputusan dan koreksinya, dan pada waktunya model yang dilatih pada pekerjaan yang telah divalidasi sendiri, di dalam dindingnya sendiri.

Pasal 10. Pembelajaran diatur, bukan memodifikasi diri sendiri. Bukti mengusulkan; pemilik yang ditunjuk menyetujui; tidak ada yang menjadi operasional tanpa persetujuan itu. Catatan keputusan bersifat hanya tambahkan.

III. Apa yang Terjadi pada Orang

Pasal 11. Satu program, bukan dua. Adopsi AI dan transformasi tenaga kerja adalah program yang sama. Setiap keputusan penerapan adalah keputusan tenaga kerja; setiap keputusan tenaga kerja mengubah apa yang dapat AI lakukan dengan aman.

Pasal 12. Simpan kedua buku besar. Buku besar produktivitas mencatat apa yang menjadi lebih cepat dan lebih murah. Buku besar institusional mencatat apa yang hilang, dipertahankan, atau dibangun kembali: kepercayaan, bimbingan, ingatan pelanggan, penilaian di bawah tekanan, budaya. Laporkan keduanya.

Pasal 13. Rancang ulang peran berdasarkan pekerjaan yang tersisa. Setiap peran menghasilkan dua output: produk kerja yang terlihat, yang semakin banyak diserap AI, dan yang bersifat pengembangan yang tidak — kepercayaan yang dibangun seiring waktu, bimbingan, hubungan pelanggan, penilaian dalam kasus luar biasa. Rancang ulang peran berdasarkan yang kedua sebelum menghapusnya demi yang pertama.

Pasal 14. Bangun kembali magang dengan sengaja. Magang lama — junior belajar keahlian dengan melakukan pekerjaan rutin — mati ketika pekerjaan rutin beralih ke mesin. Bangun penggantinya secara sengaja: peta sebagai arena pelatihan, senior mengajarkan penilaian, junior mengajarkan kecepatan alami mesin. Jangan memotong junior.

Pasal 15. Demokratisasi, bukan anarki. Orang yang memiliki pekerjaan menulis pekerjaan mereka sendiri — aplikasi, otomatisasi, agen, tugas yang didelegasikan, koreksi pada peta — di dalam guardrails yang ditetapkan institusi, dan platformnya menegakkannya.

Klausul Amandemen

Sebuah konstitusi yang tidak dapat menyatakan apa yang akan mengubahnya adalah sebuah kepercayaan. Pasal 3 berlandaskan batas yang saya tidak mengharapkan akan runtuh — pelaksanaan yang tepat tidak memiliki variasi yang dapat diterima pada kemampuan model apa pun. Pasal 8 hingga 10 berlandaskan bagaimana institusi belajar dan bertanggung jawab atas diri mereka sendiri, yang berubah lebih lambat daripada teknologi apa pun. Pasal-pasal yang paling terekspos adalah pasal tentang orang — bukan karena lemah, melainkan karena tekanan untuk mengabaikannya akan paling kuat tepat ketika angka kuartalan memberi penghargaan pada versi kosong. Amandemen akan diperoleh melalui bukti, dan dibuat secara publik.

Jadi berdebatlah dengan itu. Beritahu saya pasal mana yang tidak dapat ditandatangani oleh institusi Anda, dan mengapa — keberatan itu tepat merupakan perdebatan yang ingin dimulai dokumen ini. Alasan di balik setiap pasal, dan argumen terkuat menentangnya, akan hadir dalam bentuk yang lebih panjang. Namun jangan menunggu itu: letakkan aturan institusi Anda sendiri dalam satu dokumen singkat — apa yang selalu akan dilakukannya, dan apa yang tidak akan pernah dilakukannya — tandatangani, dan amandemen secara publik ketika bukti menuntutnya. Ketika teknologi ini menetap — dan akan menetap — institusi yang masih bertahan akan menjadi yang dapat menyatakan, secara tertulis, apa yang tidak akan mereka lakukan dan apa yang tidak akan pernah mereka hentikan, sementara segala hal lain berubah.