Una Costituzione per la Nuova Impresa: 15 Regole per la Governance dell’IA

Questi saggi dovevano parlare di architettura. Rileggili e nota cosa hanno realmente fatto: hanno continuato a emettere regole. Le approvazioni non sono dati; le verifiche lo sono. Governare per conseguenza. Non promuovere il modello; promuovi il flusso di lavoro. Una conseguenza che non cambia la prossima esecuzione è solo un incidente, non un apprendimento. Le regole enunciate in modo netto non sono consigli. Sono articoli. E da qualche parte nella scrittura, la conclusione ha smesso di essere opzionale: un’impresa che intende operare con l’IA ha bisogno di una costituzione.

I laboratori di IA hanno raggiunto questa conclusione prima di noi. Anthropic ha redatto una costituzione per i suoi modelli — una dichiarazione esplicita dei principi a cui il sistema è addestrato a aderire — basata su una teoria che si applica ben oltre l’addestramento dei modelli: una guida che non vive in alcun documento finisce per non vivere da nessuna parte. Ora osserviamo le imprese che implementano quei modelli. La maggior parte ha progetti pilota, una politica sparsa tra le revisioni di sicurezza e intuizioni trasmesse da chi ha partecipato all’ultimo briefing del fornitore. I modelli hanno principi scritti. Le istituzioni che li gestiscono non li hanno.

Perché una costituzione e non un’altra politica? Una politica è scritta per una tecnologia, e questa tecnologia cambia ogni trimestre; una costituzione è scritta per un’istituzione, e stabilisce ciò che rimane mentre tutto ciò che è sottostante cambia. Le politiche si moltiplicano finché nessuno riesce a gestirle; una costituzione rimane sufficientemente breve da permettere a un manager di portarla in una riunione. E una costituzione ammette emendamenti — apertamente, basandosi su evidenze — dove la politica si accresce semplicemente.

Ecco la mia: quindici articoli, in tre sezioni. Solo le affermazioni — il ragionamento dietro ciascuna, e le obiezioni più forti a ciascuna — meritano più spazio di quanto consenta un saggio. Le pubblico ora, prima di quel trattamento più lungo, proprio perché possono essere dibattute.

I. Come il lavoro si svolge

Articolo 1. I risultati sono l’unità di valore. Un programma di IA è valutato in base a ciò che accade al lavoro: più veloce, meno errori, più economico, meno sforzo umano e controllo che resiste. Conta questi. Non contare gli agenti distribuiti.

Articolo 2. L’IA propone, gli esseri umani decidono, l’automazione esegue. Gli agenti leggono il contesto, gestiscono le variazioni, raccolgono prove e si preparano. Gli esseri umani detengono le decisioni che comportano conseguenze, e la responsabilità che ne deriva. L’automazione attua il cambiamento approvato.

Articolo 3. Non spendere intelligenza su lavori che non ne hanno bisogno. Ovunque il lavoro possa essere documentato e verificato, viene eseguito come automazione — nessun modello nel ciclo, niente da pagare per esecuzione, lo stesso risultato ogni volta. I modelli sono riservati al giudizio, al linguaggio e alla variazione.

Articolo 4. L’orchestrazione tiene il lavoro insieme. Il lavoro che coinvolge persone, agenti, automazioni e sistemi è coordinato da una struttura dichiarata che possiede la progressione, lo stato e il recupero. Dove il percorso è noto, dichiaralo. Riserva la libertà di ricerca di obiettivi per i risultati che realmente superano i percorsi — e vincolala al massimo proprio lì.

Articolo 5. L’autorità è guadagnata dal lavoro, mai concessa al modello. Un agente può assistere chiunque nel contesto fornito. Riceve autorità reale solo sul lavoro per cui gli è stato fornito il contesto da conoscere — descritto, delimitato, con limiti scritti — e solo man mano che le evidenze si accumulano. L’autorità si riduce automaticamente quando le prestazioni calano.

Articolo 6. Progettare per la fabbrica di eccezioni. Il percorso ottimale è ciò che mostra il diagramma di processo; le eccezioni sono dove l’azienda vive realmente. Un progetto che gestisce solo il percorso ottimale automatizza l’ottanta percento più semplice e collassa sul venti percento dove risiedono i costi. Escalation, rollback e recupero sono decisi in fase di progettazione, non scoperti in produzione.

II. Ciò che l’Istituzione Costruisce e Conserva

Articolo 7. Costruisci la mappa e le rotaie man mano. Ogni implementazione di IA dovrebbe lasciare due cose dietro di sé: una mappa migliore di come il lavoro si svolge realmente, e automazioni per le parti che si sono dimostrate stabili. Costruisci entrambe con l’IA, contemporaneamente, fin dal primo progetto — non come programma separato in seguito.

Articolo 8. Catturare il giudizio, non le conversazioni. Ogni interazione con un modello o si collega al lavoro a cui appartiene — il processo, il caso, la decisione — o svanisce al termine della sessione. La cattura inizia con la prima delega supervisionata, non con l’autonomia.

Articolo 9. Noleggiare i modelli; possedere la memoria. Non legarsi a un solo modello — cambialo in base a capacità, costo e dove devono risiedere i tuoi dati, senza riscrivere il lavoro. Ciò che l’istituzione possiede è la memoria: la mappa del suo lavoro, il registro delle sue decisioni e correzioni, e col tempo modelli addestrati sul proprio lavoro convalidato, all’interno delle proprie mura.

Articolo 10. L’apprendimento è governato, non auto-modificante. Le evidenze propongono; un proprietario nominato approva; nulla diventa operativo senza tale approvazione. Il registro delle decisioni è solo in aggiunta.

III. Cosa accade alle persone

Articolo 11. Un programma, non due. L’adozione dell’IA e la trasformazione della forza lavoro sono lo stesso programma. Ogni decisione di implementazione è una decisione sulla forza lavoro; ogni decisione sulla forza lavoro modifica ciò che l’IA può fare in sicurezza.

Articolo 12. Conservare entrambi i registri. Il registro della produttività registra ciò che è diventato più veloce e più economico. Il registro istituzionale registra ciò che è stato perso, preservato o ricostruito: fiducia, mentorship, memoria del cliente, giudizio sotto pressione, cultura. Riporta entrambi.

Articolo 13. Ridisegnare i ruoli attorno al lavoro che rimane. Ogni ruolo produce due risultati: il prodotto di lavoro visibile, che l’IA assorbe sempre più, e quello di sviluppo che non assorbe — fiducia costruita nel tempo, mentorship, relazioni con i clienti, giudizio nei casi eccezionali. Ridisegna i ruoli attorno al secondo prima di eliminarli per il primo.

Articolo 14. Ricostruire l’apprendistato intenzionalmente. Il vecchio apprendistato — i junior che apprendono il mestiere facendo il lavoro di routine — muore quando il lavoro di routine passa alle macchine. Costruisci deliberatamente il suo sostituto: la mappa come campo di addestramento, i senior che insegnano il giudizio, i junior che insegnano la velocità nativa delle macchine. Non tagliare i junior.

Articolo 15. Democratizzazione, non anarchia. Le persone che possiedono il lavoro creano il proprio lavoro — app, automazioni, agenti, compiti delegati, correzioni alla mappa — all’interno linee guida che l’istituzione definisce, e la sua piattaforma fa rispettare.

La clausola di emendamento

Una costituzione che non può dire cosa la modificherebbe è un credo. L’articolo 3 si basa su un limite che non mi aspetto venga superato — l’esecuzione esatta non ha una variazione accettabile a nessuna capacità del modello. Gli articoli 8 fino al 10 si basano su come le istituzioni apprendono e rispondono da sole, il che cambia più lentamente di qualsiasi tecnologia. Gli articoli più esposti sono quelli sulle persone — non perché siano deboli, ma perché la pressione a ignorarli sarà più forte proprio quando i risultati trimestrali premiano la versione vuota. Gli emendamenti saranno guadagnati dalle evidenze e resi pubblici.

Quindi discutilo. Dimmi quale articolo la tua istituzione non potrebbe firmare, e perché — quell’obiezione è esattamente il dibattito che questo documento intende avviare. Il ragionamento dietro ogni articolo, e i casi più forti contro di essi, arriveranno in una forma più estesa. Ma non aspettare: inserisci le regole della tua istituzione in un unico documento breve — ciò che farà sempre e ciò che non farà mai — firmale, e amendale pubblicamente quando le evidenze lo richiedono. Quando questa tecnologia si stabilizzerà — e lo farà — le istituzioni che rimarranno in piedi saranno quelle che potranno dire, per iscritto, cosa non faranno e cosa non smetteranno mai di fare, mentre tutto il resto cambierà.