Kortet og skinnerne: Bygning af sikker arkitektur til virksomheds AI

Del én endte med et krav: virksomheds AI vil lykkes, når institutioner lærer at bygge selv løkken. Denne artikel handler om, hvad løkken står på. En agent, der arbejder i et virkeligt firma, har brug for to ting, som firmaet næsten sikkert ikke har i dag: et kort over arbejdet og skinner for konsekvenserne.

Kortet

Her er den ubehagelige kendsgerning under de fleste stagnende AI-programmer: firmaet kan ikke give agenten en beskrivelse af sit eget arbejde, fordi ingen sådan beskrivelse findes. De fleste firmaer har kortlagt deres navneord — databaser fulde af kunder, fakturaer, krav, kontrakter. Kun få har kortlagt arbejdet: hvad der kan gøres med disse ting, af hvem, under hvilke betingelser og hvad der sker herefter. Denne viden lever i hovederne på erfarne mennesker og i en proceskort, der beskriver, hvordan arbejdet var designet for fem år siden, ikke hvordan det køres i dag.

En menneskelig nyansat lukker denne kløft ved at lære ved at se, prøve, spørge. En agent lærer ikke på den måde. Den har brug for, at arbejdet er skrevet ned: de ting, som virksomheden håndterer, og hvor hver enkelt står, det arbejde, der udføres på dem, de beslutninger, der vælger den næste vej, hvem der er berettiget til at flytte tingene fremad, og hvad der følger, når de gør det — den optegnelse, der ændres, den godkendelse det kræver, måden det får ændret på. Denne skrevne beskrivelse er kortet.

Tre regler holder et kort i live. Det skal være skrevet af de mennesker, der ejer arbejdet, og sikret af ingeniører — et kort, som kun ingeniører kan opdatere, bliver stædig, og et kort, som kun operatører kan redigere, bliver usikkert. Det skal være versioneret, fordi en agent aldrig skal handle imod en mening, der er ændret stille. Og det skal være offentliggjort — læseligt for agenten, anmelderen og revisoren. Hvis en agent skal opdage jeres virksomhed ved at sy sammen API-kald, har I eksponeret systemer, ikke beskrevet arbejde. API’er er, hvordan tingene udføres. Kortet er, hvordan arbejdet forstås.

Kortet er vigtigt af en grund, der varer længere end enhver produktcyklus: agenten er ikke den varige aktiv. Kortet er. Modeller vil forbedres og skiftes ud, agentrammer vil komme og gå — og beskrivelsen af jeres eget arbejde, med dets regler og undtagelser og akkumulerede korrektioner, er det, som hver fremtidig agent arver på dag én.

Skinnerne

Kortet siger, hvad der må ske. Skinnerne er, hvad gør det ske præcis.

Noget af det arbejde, en agent berører, er dom: læs den beskidte e-mail, væg exceptionen, anbefal vejen. Men meget af det er repetition — samme check, samme opdatering, samme posting, tusindvis af gange. Repetition har ikke brug for intelligens. Det har brug for at være præcist. En model er probabilistisk af design, og til udførelse er sandsynligvis rigtig forkert: en betalingsposting har ingen acceptabel variation, uanset hvor god modellen bliver. Stabil arbejde hører hjemme på skinner — deterministisk automatisering, der kører på samme måde hver gang, koster ingenting per kørsel og efterlader en ren revisionsstier.

Dette er, hvor to kurver divergerer. At bygge skinner bliver lettere, fordi at beskrive arbejde, generere kode, skrive tests og reparere brudte stier er præcis den type arbejde, som AI accelererer. At udrulle fri-roaming-agenter inde i konsekvensfulde processer bliver ikke lettere i samme takt, fordi jo tættere en agent kommer på handling, jo mere behøver den grænser, beviser, godkendelser, revision og ejere. Konsekvens er svær, og den bliver svær. Så lad agenter udforske, og lad dem hjælpe jeres teams med at lære arbejdet — derefter flyt hver sti på skinner, så snart det stopper med at ændre sig. Lad ikke høj-volumen, stabilt arbejde være inde i en probabilistisk løkke, fordi agenter er fashionable.

Styr efter konsekvens

Med kortet og skinnerne på plads, er der én spørgsmål tilbage, før en agent berører rigtigt arbejde: hvad skal den være berettiget til at gøre? Branchens vane er at svare i rørledningstermer — agenten “bruger værktøjer” — som om at se op en politik, beregne en variation, udarbejde en besked, godkende en faktura og betale den var én type ting. De er ikke. En model, der ser op en politik, er ikke det samme som en model, der afviser et krav. En model, der beregner en mængde, er ikke det samme som en model, der betaler den. At læse information, tage en stilling, forberede en handling, ændre en optegnelse og flytte penge er forskellige typer arbejde, og forskellen er konsekvens: hvad det koster virksomheden, når skridtet er forkert.

Styret skal følge denne gradient, ikke rørledningen. Arbejde, der kun læser, har brug for adgangskontrol. Arbejde, der anbefaler, har brug for et menneske, der faktisk beslutter. Arbejde, der ændrer en optegnelse, har brug for tilladelse, en revisionsstier, en måde at gøre det om på og en navngivet ejer. Arbejde, der flytter penge, har brug for alt dette, plus garantien for, at en halv-færdig ændring ikke kan efterlade virksomheden i en tilstand, der er forkert. Styr efter konsekvens og de sikre brug af AI åbner sig hurtigt; styr alt på samme måde, og du får enten lamelse eller en incident.

Tillid er oparbejdet af arbejdsprocessen

Denne gradient er også, hvordan tillid vokser. Med et kort og skinner, stopper tillid med at være en følelse om modellen og bliver en egenskab af arbejdet. En arbejdsproces — én beskrevet del af forretningen, med dets port fra del én — opnår tilladelse skridt for skridt, klatrer op ad samme gradient: først kun udarbejde, derefter måske anbefale, derefter måske forberede handlingen, som et menneske godkender, derefter måske udføre den rutinemæssige sag og eskalere undtagelserne, og endelig kører under revision, med mennesker, der overvåger resultaterne i stedet for at klikke på hver sag.

Hvert skridt op er oparbejdet med bevis fra porten — de inspicerede beslutninger, korrektionerne, årsagerne — og hvert skridt ned er automatisk, når ydelsen falder. En bedre model opnår ikke handlingstilladelse.

Fremme ikke modellen. Fremme arbejdsprocessen.

Start med én arbejdsproces

Ingen af dette kræver et virksomhedsomfattende program, og det skal ikke starte som ét. Vælg én konsekvensfuld arbejdsproces med rigtig volumen, rigtig fejlomkostning og en ejer, der vil have det fikset. Kortlæg dette ene stykke arbejde. Sæt dets stabile skridt på skinner. Sæt dets port. Derefter check beskrivelsen mod ni enkle spørgsmål:

• Hvilke forretningsobjekter flyttes?
• Hvor står hver af dem lige nu?
• Hvad er arbejdet, der udføres?
• Hvad er beslutningen, der vælger den næste vej?
• Hvad sker, hvis dette er godkendt?
• Hvad må agenten bruge?
• Hvad kører automatisk?
• Hvem foreslår, hvem godkender, hvem udfører, hvem er ansvarlig?
• Hvis noget går galt, hvad ændrer sig før den næste kørsel?

Hvis de mennesker, der ejer arbejdet, kan svare på disse ni for én arbejdsproces, kan en agent arbejde inde i det sikkert — foreslå, blive valideret og lade skinnerne udføre. Hvis de ikke kan, vil ingen mængde af modellens kvalitet redde udrulningen.

Fejlene er lige så genkendelige som mønsteret. En chatbot med adgang til følsomme systemer, men uden kort over arbejdet. En hentelag, der besvarer politispørgsmål, men ikke kan vise politikens kilde. En agent, der kan godkende arbejde, men ikke kan sige, hvem der ejer godkendelsen. En anmelder, der ser anbefalingen, men ikke konsekvensen af at godkende den. En arbejdsproces, der er fremmet til autonomi, fordi modellen forbedredes, ikke fordi arbejdsprocessen oparbejdede tillid.

Kortet, skinnerne og porten: det er arkitekturen. Den tilbageværende spørgsmål er, hvordan man bygger det i én arbejdsproces — og det er del tre.