Kartet og skinnene: Bygging av trygg arkitektur for bedrifts AI

Del en endte med et krav: bedrifts AI vil lykkes når institusjoner lærer å bygge løkken selv. Denne artikkelen handler om hva løkken står på. En agent som arbeider i et virkelig selskap trenger to ting som selskapet nesten sikkert ikke har i dag: et kart over arbeidet, og skinner for konsekvensene.

Kartet

Her er den ubehagelige fakta under de fleste stalled AI-programmer: selskapet kan ikke gi agenten en beskrivelse av sin egen arbeid, fordi ingen slik beskrivelse eksisterer. De fleste selskaper har kartlagt sine substantiver — databaser fulle av kunder, fakturaer, krav, kontrakter. Nesten ingen har kartlagt arbeidet: hva som kan gjøres med disse tingene, av hvem, under hva betingelser, og hva som skjer etterpå. Denne kunnskapen bor i hodene på erfarne mennesker og i en prosesskart som beskriver hvordan arbeidet var designet for fem år siden, ikke hvordan det kjører i dag.

En menneskelig nyansatt lukker denne gapen ved å være lærling — å se, prøve, spørre. En agent lærer ikke på den måten. Den trenger arbeidet skrevet ned: tingene bedriften håndterer og hvor hver enkelt står, arbeidet som utføres på dem, beslutningene som velger neste steg, hvem som er tillatt å flytte tingene fremover, og hva som følger når de gjør det — rekorden som endres, godkjenningen det trenger, måten det blir gjort om på. Den skrevne beskrivelsen er kartet.

Tre regler holder kartet i live. Det må være skrevet av de menneskene som eier arbeidet og gjort trygt av ingeniører — et kart som bare ingeniører kan oppdatere, blir stående, og et kart som bare operatører kan redigere, blir usikkert. Det må være versjonert, fordi en agent aldri skal handle mot mening som har endret seg stille. Og det må være publisert — lesbar for agenten, gjennomgåeren og revisoren like. Hvis en agent må oppdage bedriftens arbeid ved å sy sammen API-kall, har du eksponert systemer, ikke beskrevet arbeid. API-er er hvordan ting blir utført. Kartet er hvordan arbeidet forstås.

Kartet er viktig av en grunn som varer lengre enn noen produktcyklus: agenten er ikke den varige eiendelen. Kartet er. Modeller vil bli bedre og byttes ut, agent-rammeverk vil komme og gå — og beskrivelsen av eget arbeid, med sine regler og unntak og akkumulerte korreksjoner, er hva hver fremtidig agent arver på dag én.

Skinnene

Kartet sier hva som kan skje. Skinnene er hva som gjør det skje nøyaktig.

Noen av arbeidet en agent berører er dømmekraft: lese det uordente e-post, vurdere unntaket, anbefale veien. Men mye av det er repetisjon — samme sjekking, samme oppdatering, samme posting, tusenvis av ganger. Repetisjon trenger ikke intelligens. Den trenger å være nøyaktig. En modell er probabilistisk av design, og for utførelse, er kanskje riktig feil: en betalingsposting har ingen akseptabel variasjon, uansett hvor god modellen blir. Stabil arbeid hører hjemme på skinner — deterministisk automatisering som kjører på samme måte hver gang, koster ingenting per kjøring, og etterlater en ren revisjonslogg.

Dette er der to kurver divergerer. Bygging av skinner blir enklere, fordi å beskrive arbeid, generere kode, skrive tester og reparere brutte stier er nettopp den type arbeid AI akselerer. Utrolige agenter inni konsekvensfulle prosesser blir ikke enklere i samme takt, fordi jo nærmere en agent kommer til handling, jo mer den trenger grenser, bevis, godkjenninger, revisjon og eiere. Konsekvens er vanskelig, og den forblir vanskelig. La agenter utforske, og la dem hjelpe teamene dine å lære arbeidet — så flytt hver sti på skinner så snart den slutter å endre seg. La ikke høy-volum, stabilt arbeid inne i en probabilistisk løkke fordi agenter er på moten.

Styr etter konsekvens

Med kartet og skinnene på plass, er det en spørsmål som gjenstår før en agent berører virkelig arbeid: hva skal den være tillatt å gjøre? Bransjens vanlige svar er å svare i rørledningstermer — agenten “bruker verktøy” — som om å se opp en policy, beregne en variasjon, utarbeide et brev, godkjenne en faktura og betale den var ett og samme type arbeid. De er ikke. En modell som ser opp en policy er ikke det samme som en modell som avviser et krav. En modell som beregner en sum er ikke det samme som en modell som betaler den. Å lese informasjon, å ta en posisjon, å forberede en handling, å endre en rekord og å flytte penger er forskjellige typer arbeid, og forskjellen er konsekvens: hva det koster selskapet når steget er feil.

Styring bør følge den gradienten, ikke rørledningene. Arbeid som bare leser trenger tilgangskontroll. Arbeid som anbefaler trenger en menneske som faktisk bestemmer. Arbeid som endrer en rekord trenger tillatelse, en revisjonslogg, en måte å gjøre det om på og en navngitt eier. Arbeid som flytter penger trenger all dette, pluss garantien for at en halvfullført endring ikke kan la selskapet i en tilstand som er enkel feil. Styr etter konsekvens og de trygge bruksområdene for AI åpner seg raskt; styr alt på samme måte, og du får enten lammelse eller en hendelse.

Tillit er tjent av arbeidsflyten

Den gradienten er også hvordan tillit vokser. Med kartet og skinnene, slutter tillit å være en følelse om modellen og blir en egenskap av arbeidet. En arbeidsflyt — ett beskrevet stykke bedrift, med sin portal fra del en — tjener tillatelse ett steg om gangen, klatrer samme gradient: først det bare utarbeider, så det kan anbefale, så det kan forberede handlingen en menneske godkjenner, så det kan utføre rutine-tilfeller og eskalere unntak, og til slutt kjører under revisjon, med mennesker som ser på resultater i stedet for å klikke på hver enkelt sak.

Hvert steg opp er tjent med bevis fra portalen — de inspiserte beslutningene, korreksjonene, grunnene — og hvert steg ned er automatisk når ytelsen faller. En bedre modell tjener ikke handlingerettigheter.

Ikke fremme modellen. Fremme arbeidsflyten.

Start med én arbeidsflyt

Ingen av dette krever et bedrifts-omfattende program, og det bør ikke starte som ett. Velg én konsekvensfull arbeidsflyt med virkelig volum, virkelig feilkostnad og en eier som ønsker å fikse det. Kartlegg dette ene stykke arbeid. Plasser de stabile stegene på skinner. Sett portalen. Så sjekk beskrivelsen mot ni enkle spørsmål:

• Hvilke forretningsobjekter flyttes?
• Hvor står hver enkelt nå?
• Hva slags arbeid utføres?
• Hva slags beslutning velger neste steg?
• Hva skjer hvis dette godkjennes?
• Hva kan agenten bruke?
• Hva kjører automatisk?
• Hvem foreslår, hvem godkjenner, hvem utfører, hvem er ansvarlig?
• Hva skjer hvis noe går galt, hva endrer seg før neste kjøring?

Hvis menneskene som eier arbeidet kan svare på disse ni for én arbeidsflyt, kan en agent arbeide trygt inne i den — foreslå, bli valideret og la skinnene utføre. Hvis de ikke kan, vil ingen modellkvalitet redde utrullingen.

Feilene er like gjenkjennelige som mønsteret. En chatbot med tilgang til sensitive systemer, men uten kart over arbeidet. En innhentingssjikt som svarer på policy-spørsmål, men ikke kan vise policykilden. En agent som kan godkjenne arbeid, men ikke kan si hvem som eier godkjenningen. En gjennomgåer som ser anbefalingen, men ikke konsekvensen av å godkjenne den. En arbeidsflyt som er fremmet til autonomi fordi modellen ble bedre, ikke fordi arbeidsflyten tjente tillit.

Kartet, skinnene og portalen: det er arkitekturen. Den gjenværende spørsmålet er hvordan å bygge det i én arbeidsflyt — og det er del tre.