En forfatning for den nye virksomhed: 15 regler for AI-styring

Disse essays skulle handle om arkitektur. Læs dem igen og bemærk hvad de faktisk gjorde: de fortsatte med at udstede regler. Godkendelser er ikke data; verifikationer er. Styr efter konsekvens. Promover ikke modellen; promover arbejdsgangen. En konsekvens, der ikke ændrer den næste kørsel, er kun en hændelse, ikke læring. Regler, der udtrykkes fladt, er ikke tips. De er artikler. Og et sted i teksten stoppede konklusionen med at være valgfri: en virksomhed, der har til hensigt at køre på AI, har brug for en forfatning.

AI-laboratorierne nåede denne konklusion før resten af os. Anthropic skrev en forfatning for sine modeller — en eksplicit erklæring af principper, som systemet er trænet til at overholde — baseret på en teori, der gælder langt ud over modeltræning: vejledning, der ikke findes i noget dokument, ender ingen steder. Se nu på de virksomheder, der implementerer disse modeller. De fleste har pilotprojekter, en politik spredt over sikkerhedsgennemgange og instinkter fra dem, der sad i den sidste leverandørbriefing. Modellerne har skrevne principper. Institutionerne, der driver dem, har det ikke.

Hvorfor en forfatning og ikke en anden politik? En politik skrives for en teknologi, og denne teknologi ændrer sig hver kvartal; en forfatning skrives for en institution og fastslår, hvad der gælder mens alt underliggende ændrer sig. Politikker multiplicerer indtil ingen kan holde styr på dem; en forfatning forbliver kort nok til, at en leder kan tage den med til et møde. Og en forfatning tillader amendment — åbent, på grundlag af beviser — hvor politik blot akkumuleres.

Denne er min: femten artikler i tre sektioner. Kun udsagn — begrundelsen bag hver og de stærkeste indvendinger mod hver — fortjener mere plads, end et essay giver. Jeg offentliggør dem nu, før den længere behandling, netop så de kan blive diskuteret.

I. Sådan kører arbejdet

Artikel 1. Resultater er værdienheden. Et AI-program vurderes ud fra, hvad der sker med arbejdet: hurtigere, færre fejl, billigere, mindre menneskelig indsats og kontrol, der holder. Tæl dem. Tæl ikke de implementerede agenter.

Artikel 2. AI foreslår, mennesker beslutter, automatisering udfører. Agenter læser kontekst, håndterer variation, indsamler beviser og forbereder. Mennesker har beslutningerne, der medfører konsekvens, og ansvaret der følger. Automatisering gennemfører den godkendte ændring.

Artikel 3. Brug ikke intelligens på arbejde, der ikke har brug for det. Hvor arbejdet kan skrives ned og kontrolleres, kører det som automatisering — ingen model i kredsløbet, intet at betale pr. kørsel, samme resultat hver gang. Modeller er forbeholdt dømmekraft, sprog og variation.

Artikel 4. Orkestrering holder arbejdet sammen. Arbejde, der spænder over mennesker, agenter, automatiseringer og systemer, koordineres af en erklæret struktur, der ejer fremdrift, tilstand og genoprettelse. Hvor vejen er kendt, erklær den. Gem målrettet frihed til resultater, der virkelig overgår veje — og bind den hårdest netop der.

Artikel 5. Autoritet opnås gennem arbejdet, aldrig tildeles modellen. En agent kan assistere enhver med leveret kontekst. Den får reel autoritet kun over arbejde, den har fået kontekst til at forstå — beskrevet, afgrænset, med skrevne begrænsninger — og kun efterhånden som beviser akkumuleres. Autoriteten mindskes automatisk, når præstationen falder.

Artikel 6. Design til undtagelsesfabrikken. Den glade sti er det, procesdiagrammet viser; undtagelserne er, hvor virksomheden faktisk befinder sig. Et design, der kun håndterer den glade sti, automatiserer de lette otte procent og kollapser på de tyve procent, hvor omkostningerne ligger. Eskalerings-, rollback- og genoprettelsesprocedurer beslutes på designstadiet, ikke opdages i produktion.

II. Hvad institutionen bygger og bevarer

Artikel 7. Byg kortet og sporet mens du går. Hver AI-implementering bør efterlade to ting: et bedre kort over, hvordan arbejdet faktisk kører, og automatiseringer for de dele, der viste sig stabile. Byg begge med AI’en, samtidigt, fra det første projekt — ikke som et separat program senere.

Artikel 8. Indfang dømmekraft, ikke samtaler. Hver interaktion med en model knytter sig enten til det arbejde, den tilhører — processen, sagen, beslutningen — eller forsvinder, når sessionen slutter. Indfangning starter med den første overvågede delegation, ikke med autonomi.

Artikel 9. Lej modellerne; behold hukommelsen. Bryd aldrig et enkelt models ægteskab — skift efter kapacitet, omkostning og hvor dine data skal bo, uden at omskrive arbejdet. Det institutionen ejer, er hukommelsen: kortet over sit arbejde, registreringen af sine beslutninger og korrektioner, og med tiden modeller trænet på sit eget validerede arbejde, inden for sine egne vægge.

Artikel 10. Læring er styret, ikke selvmodificerende. Beviser foreslår; en navngivet ejer godkender; intet bliver operationelt uden den godkendelse. Registreringen af beslutninger er kun tilføjelsesbaseret.

III. Hvad sker der med folkene

Artikel 11. Ét program, ikke to. AI-implementering og arbejdsstyrketransformation er det samme program. Hver implementeringsbeslutning er en arbejdsstyrkebeslutning; hver arbejdsstyrkebeslutning ændrer, hvad AI’en sikkert kan gøre.

Artikel 12. Behold begge regnskaber. Produktivitetsregnskabet registrerer, hvad der blev hurtigere og billigere. Det institutionelle regnskab registrerer, hvad der gik tabt, blev bevaret eller genopbygget: tillid, mentorordning, kundeminder, dømmekraft under pres, kultur. Rapportér begge.

Artikel 13. Redesign roller omkring det arbejde, der forbliver. Hver rolle producerer to output: det synlige arbejdsprodukt, som AI i stigende grad absorberer, og det udviklingsmæssige, som den ikke gør — tillid opbygget over tid, mentorordning, kundeforhold, dømmekraft i de ekstraordinære tilfælde. Redesign roller omkring den anden, før du sletter dem for den første.

Artikel 14. Genopbyg lærlingeordningen med vilje. Den gamle lærlingeordning — juniorer, der lærer faget ved at udføre rutinearbejdet — dør, når rutinearbejdet overlades til maskiner. Byg dens erstatning bevidst: kortet som træningsgrundlag, seniorer, der underviser i dømmekraft, juniorer, der lærer maskinernes naturlige hastighed. Skær ikke juniorerne væk.

Artikel 15. Demokratisering, ikke anarki. De personer, der ejer arbejdet, forfatter deres eget arbejde — apps, automatiseringer, agenter, delegerede opgaver, korrektioner til kortet — inden for sikkerhedsrammer som institutionen definerer, og dens platform håndhæver.

Ændringsklausulen

En forfatning, der ikke kan sige, hvad der ville ændre den, er et trosbekendelse. Artikel 3 hviler på en grænse, jeg ikke forventer vil brydes — præcis udførelse har ingen acceptabel variation ved nogen modelkapacitet. Artiklerne 8 til 10 hviler på, hvordan institutioner lærer og svarer for sig selv, hvilket ændrer sig langsommere end enhver teknologi. De mest udsatte artikler er folkartiklerne — ikke fordi de er svage, men fordi presset for at ignorere dem vil være stærkest netop når kvartalsresultater belønner den hule version. Ændringer vil blive opnået gennem beviser og foretaget offentligt.

Så argumenter imod den. Fortæl mig, hvilken artikel din institution ikke kunne underskrive, og hvorfor — den indvending er netop den debat, dette dokument er skabt for at starte. Begrundelserne bag hver artikel og de stærkeste modargumenter kommer i en længere udgave. Men vent ikke på den: saml din institutions egne regler i ét kort dokument — hvad den altid vil gøre, og hvad den aldrig vil gøre — underskriv dem, og ændr dem offentligt, når beviserne kræver det. Når denne teknologi falder til ro — og den vil falde til ro — vil de institutioner, der stadig står, være dem, der kan sige skriftligt, hvad de ikke vil gøre, og hvad de aldrig vil stoppe med at gøre, mens alt andet ændres.