O Constituție pentru Noua Întreprindere: 15 Reguli pentru Guvernanța AI

Aceste eseuri au fost presupuse a fi despre arhitectură. Citiți-le din nou și observați ce au făcut de fapt: au continuat să emită reguli. Aprobările nu sunt date; verificările sunt. Guvernați prin consecință. Nu promovați modelul; promovați fluxul de lucru. O consecință care nu modifică următoarea rulare este doar un incident, nu învățare. Regulile enunțate în mod categoric nu sunt sugestii. Sunt articole. Și undeva în scriere, concluzia a încetat să mai fie opțională: o întreprindere care intenționează să funcționeze cu AI are nevoie de o constituție.

Laboratoarele de AI au ajuns la această concluzie înaintea celorlalți. Anthropic a scris o constitutie pentru modelele sale — o declarație explicită a principiilor pe care sistemul este antrenat să le respecte — pe o teorie care se aplică mult dincolo de antrenarea modelelor: ghidarea care nu trăiește în niciun document ajunge să nu aibă niciun loc. Acum priviți întreprinderile care implementează acele modele. Majoritatea au proiecte pilot, o politică împrăștiată în reviziile de securitate și instincte transmise de cei care au participat la ultima prezentare a furnizorului. Modelele au principii scrise. Instituțiile care le administrează nu le au.

De ce o constituție și nu o altă politică? O politică este scrisă pentru o tehnologie, iar această tehnologie se schimbă în fiecare trimestru; o constituție este scrisă pentru o instituție și stabilește ce rămâne în timp ce totul de dedesubt se schimbă. Politicile se înmulțesc până când nimeni nu le poate susține; o constituție rămâne suficient de scurtă încât un manager să o poată duce la o ședință. Și o constituție permite amendamente — deschis, pe baza dovezilor — unde politica doar se acumulează.

Așadar, iată-le pe ale mele: cincisprezece articole, în trei secțiuni. Doar declarații — raționamentul din spatele fiecărui articol și cele mai puternice obiecții la fiecare — necesită mai mult spațiu decât permite un eseu. Le public acum, înainte de tratamentul mai amplu, tocmai pentru a putea fi dezbătute.

I. Cum Funcționează Munca

Articolul 1. Rezultatele sunt unitatea de valoare. Un program AI este evaluat în funcție de ceea ce se întâmplă cu munca: mai rapid, cu mai puține erori, mai ieftin, cu mai puțin efort uman și cu control solid. Numărați-le. Nu numărați agenții implementați.

Articolul 2. AI propune, oamenii decid, automatizarea execută. Agenții citesc contextul, gestionează variațiile, colectează dovezi și se pregătesc. Oamenii dețin deciziile care au consecințe, și responsabilitatea care decurge. Automatizarea realizează modificarea aprobată.

Articolul 3. Nu cheltuiți inteligență pe munca care nu are nevoie de ea. Oriunde munca poate fi documentată și verificată, rulează ca automatizare — fără model în buclă, fără cost pe rulare, același rezultat de fiecare dată. Modelele sunt rezervate pentru judecată, limbaj și variație.

Articolul 4. Orchestrarea menține munca împreună. Munca care implică oameni, agenți, automatizări și sisteme este coordonată de o structură declarată care deține progresul, starea și recuperarea. Unde calea este cunoscută, declarați-o. Păstrați libertatea de căutare a obiectivelor pentru rezultate care într-adevăr depășesc căile — și fixați-o cel mai ferm exact acolo.

Articolul 5. Autoritatea este câștigată prin muncă, niciodată acordată modelului. Un agent poate asista pe oricine în contextul furnizat. Primește autoritate reală doar asupra muncii pentru care i s-a oferit contextul — descris, delimitat, cu limite scrise — și numai pe măsură ce dovezile se acumulează. Autoritatea scade automat când performanța scade.

Articolul 6. Proiectați pentru fabrica de excepții. Calea fericită este cea reprezentată în diagrama procesului; excepțiile sunt locul unde compania trăiește cu adevărat. Un design care gestionează doar calea fericită automatizează cei optzeci la sută ușori și se prăbușește pe cei douăzeci la sută unde costurile apar. Escaladarea, revenirea și recuperarea sunt decise în timpul proiectării, nu descoperite în producție.

II. Ce Construiește și Păstrează Instituția

Articolul 7. Construiți harta și șinele pe parcurs. Fiecare implementare AI ar trebui să lase în urmă două lucruri: o hartă mai bună a modului în care munca rulează efectiv și automatizări pentru părțile care s-au dovedit stabile. Construiți ambele cu AI, în același timp, de la primul proiect — nu ca un program separat ulterior.

Articolul 8. Capturați judecata, nu conversațiile. Fiecare interacțiune cu un model fie se atașează muncii căreia îi aparține — procesul, cazul, decizia — fie se evaporă când sesiunea se încheie. Captura începe cu prima delegare supravegheată, nu cu autonomia.

Articolul 9. Închiriați modelele; dețineți memoria. Nu vă legați de un singur model — schimbați-l în funcție de capacitate, cost și locul unde trebuie să locuiască datele, fără a rescrie munca. Ceea ce instituția deține este memoria: harta muncii sale, înregistrarea deciziilor și corecțiilor, și, în timp, modele antrenate pe propria muncă validată, în interiorul propriilor sale limite.

Articolul 10. Învățarea este guvernată, nu auto-modificatoare. Dovezile propun; un proprietar numit aprobă; nimic nu devine operațional fără acea aprobare. Înregistrarea deciziilor este doar adăugare.

III. Ce Se Întâmplă cu Oamenii

Articolul 11. Un program, nu două. Adoptarea AI și transformarea forței de muncă sunt același program. Fiecare decizie de implementare este o decizie a forței de muncă; fiecare decizie a forței de muncă modifică ce poate face AI în siguranță.

Articolul 12. Păstrați ambele registre. Registrul productivității înregistrează ce a devenit mai rapid și mai ieftin. Registrul instituțional înregistrează ce s-a pierdut, păstrat sau reconstruit: încredere, mentorat, memorie a clienților, judecată sub presiune, cultură. Raportați ambele.

Articolul 13. Redesignați rolurile în jurul muncii care rămâne. Fiecare rol produce două rezultate: produsul de muncă vizibil, pe care AI îl absoarbe tot mai mult, și cel de dezvoltare, pe care nu îl absoarbe — încredere construită în timp, mentorat, relații cu clienții, judecată în cazurile excepționale. Redesignați rolurile în jurul celui de-al doilea înainte de a le elimina pe cele pentru primul.

Articolul 14. Reconstruiți ucenicia în mod deliberat. Vechiul sistem de ucenicie — juniorii învățând meseria prin efectuarea muncii de rutină — moare când munca de rutină este preluată de mașini. Construiți înlocuitorul în mod deliberat: harta ca teren de instruire, seniorii predând judecata, juniorii predau viteza nativă a mașinilor. Nu eliminați juniorii.

Articolul 15. Democratizare, nu anarhie. Cei care dețin munca își creează propria muncă — aplicații, automatizări, agenți, sarcini delegate, corecții ale hărții — în interiorul gardărilor pe care instituția le definește, iar platforma sa le aplică.

Clauza de Amendament

O constituție care nu poate spune ce ar modifica este un credo. Articolul 3 se bazează pe o limită pe care nu mă aștept să o depășească — execuția exactă nu are nicio variație acceptabilă la nicio capacitate a modelului. Articolele 8 până la 10 se bazează pe modul în care instituțiile învață și răspund pe cont propriu, ceea ce se schimbă mai lent decât orice tehnologie. Cele mai expuse articole sunt cele despre oameni — nu pentru că sunt slabe, ci pentru că presiunea de a le ignora va fi cea mai puternică exact când cifrele trimestriale recompensează versiunea goală. Amendamentele vor fi câștigate prin dovezi și făcute în public.

Așadar, dezbateți-l. Spuneți-mi care articol instituția dumneavoastră nu ar putea semna și de ce — acea obiecție este exact dezbaterea pe care acest document o inițiază. Raționamentul din spatele fiecărui articol și cele mai puternice argumente împotriva lor vor apărea într-o formă mai amplă. Dar nu așteptați: puneți regulile proprii ale instituției într-un document scurt — ce va face întotdeauna și ce nu va face niciodată — semnați-le și modificați-le în public când dovezile o cer. Când această tehnologie se va stabiliza — și se va stabiliza — instituțiile care vor rămâne în picioare vor fi cele care pot spune, în scris, ce nu vor face și ce nu vor înceta niciodată să facă, în timp ce tot restul s-a schimbat.