Kartan och räls: Bygga säker arkitektur för företags AI

Del ett slutade med ett påstående: företags AI kommer att lyckas när institutioner lär sig att bygga själva loopen. Den här essän handlar om vad loopen vilar på. En agent som arbetar i ett riktigt företag behöver två saker som företaget nästan säkert inte har idag: en karta över arbetet och räls för konsekvenserna.

Kartan

Här är den obekväma sanningen under de flesta stuckna AI-program: företaget kan inte ge agenten en beskrivning av sitt eget arbete, eftersom ingen sådan beskrivning finns. De flesta företag har kartlagt sina substantiv — databaser fulla av kunder, fakturor, anspråk, kontrakt. Nästan inga har kartlagt arbetet: vad som kan göras med dessa saker, av vem, under vilka förhållanden och vad som händer efteråt. Den kunskapen finns i huvudet på erfarna människor och i en processkarta som beskriver hur arbetet var utformat för fem år sedan, inte hur det fungerar idag.

En ny människa som anställs stänger den luckan genom lärande — att titta, prova, fråga. En agent lär sig inte på det sättet. Den behöver arbetet skrivet ner: de saker som företaget hanterar och var och en står, arbetet som utförs på dem, besluten som väljer vägen, vem som får flytta saker framåt och vad som händer när de gör det — den post som ändras, godkännandet det behöver, sättet det får ogjort. Den skrivna beskrivningen är kartan.

Tre regler håller en karta vid liv. Den måste skrivas av de människor som äger arbetet och göras säker av ingenjörer — en karta som bara ingenjörer kan uppdatera blir gammal, och en karta som bara operatörer kan redigera blir osäker. Den måste versioneras, eftersom en agent aldrig bör agera mot en mening som har ändrats tyst. Och den måste publiceras — läsbar av agenten, granskaren och revisorn. Om en agent måste upptäcka ditt företag genom att sy ihop API-anrop, har du exponerat system, inte beskrivit arbete. API:er är hur saker utförs. Kartan är hur arbetet förstås.

Kartan är viktig av en anledning som överlever varje produktcykel: agenten är inte den bestående tillgången. Kartan är. Modeller kommer att förbättras och bytas ut, agentramverk kommer och går — och beskrivningen av ditt eget arbete, med dess regler och undantag och ackumulerade korrigeringar, är vad varje framtida agent ärver på dag ett.

Räls

Kartan säger vad som kan hända. Rälsen är vad som gör det hända exakt.

En del av arbetet som en agent berör är bedömning: läs det smutsiga e-postmeddelandet, väg undantaget, rekommendera vägen. Men mycket av det är upprepning — samma kontroll, samma uppdatering, samma inlägg, tusentals gånger. Upprepning behöver inte intelligens. Den behöver vara exakt. En modell är probabilistisk av design, och för utförande är förmodligen rätt fel: en betalningspostning har ingen acceptabel variation, oavsett hur bra modellen blir. Stabilt arbete hör hemma på räls — deterministisk automatisering som körs på samma sätt varje gång, kostar ingenting per körning och lämnar en ren revisionslogg.

Här är två kurvor som divergerar. Att bygga räls blir lättare, eftersom att beskriva arbete, generera kod, skriva tester och reparera trasiga vägar är exakt den typen av arbete som AI accelererar. Att distribuera fria agenter inuti konsekvensrika processer blir inte lättare i samma takt, eftersom ju närmare en agent kommer till handling, desto mer behöver den gränser, bevis, godkännanden, revision och ägare. Konsekvens är svårt, och det förblir svårt. Låt agenter utforska, och låt dem hjälpa dina team att lära sig arbetet — sedan flytta varje väg till räls så snart det slutar ändras. Lämna inte högvolym, stabilt arbete inuti en probabilistisk loop bara för att agenter är på modet.

Styr genom konsekvens

Med kartan och rälsen på plats, återstår en fråga innan en agent berör riktigt arbete: vad bör den tillåtas göra? Branschens vana är att svara i rörledningstermer — agenten “använder verktyg” — som om att titta upp en policy, beräkna en variation, utarbeta ett brev, godkänna en faktura och betala den vore en sorts sak. De är inte. En modell som tittar upp en policy är inte samma sak som en modell som avslår ett anspråk. En modell som beräknar ett belopp är inte samma sak som en modell som betalar det. Att läsa information, ta en position, förbereda en handling, ändra en post och flytta pengar är olika typer av arbete, och skillnaden är konsekvens: vad det kostar företaget när steget är fel.

Styrning bör följa den gradienten, inte rörledningen. Arbete som bara läser behöver åtkomstkontroll. Arbete som rekommenderar behöver en människa som faktiskt beslutar. Arbete som ändrar en post behöver tillstånd, en revisionslogg, ett sätt att ångra det och en namngiven ägare. Arbete som flyttar pengar behöver allt det, plus garantin att en ofullständig ändring inte kan lämna företaget i en tillstånd som är enkelt fel. Styr genom konsekvens och de säkra användningarna av AI öppnar sig snabbt; styr allt på samma sätt, och du får antingen paralys eller en incident.

Förtroende vinner genom arbetsflödet

Den gradienten är också hur förtroende växer. Med en karta och räls, slutar förtroende vara en känsla om modellen och blir en egenskap hos arbetet. Ett arbetsflöde — en beskriven del av affären, med sin grind från del ett — tjänar tillstånd ett steg i taget, klättrar samma gradient: först det bara utarbetar, sedan det kan rekommendera, sedan det kan förbereda handlingen en människa godkänner, sedan det kan utföra de rutinmässiga fallen och eskalera undantagen, och slutligen det körs under revision, med människor som tittar på resultaten istället för att klicka på varje fall.

Varje steg upp är tjänat med bevis från grinden — de inspekterade besluten, korrigeringarna, skälen — och varje steg ner är automatiskt när prestationen sjunker. En bättre modell tjänar inte handlingstillstånd.

Främja inte modellen. Främja arbetsflödet.

Börja med ett arbetsflöde

Inget av detta kräver ett företagsomfattande program, och det bör inte starta som ett. Välj ett konsekvensfullt arbetsflöde med riktigt volym, riktigt felkostnad och en ägare som vill ha det fixat. Kartlägg det här arbetet. Sätt dess stabila steg på räls. Ställ dess grind. Sedan kontrollera beskrivningen mot nio enkla frågor:

• Vilka affärsobjekt flyttas?
• Var står var och en av dem just nu?
• Vilket arbete utförs?
• Vilket beslut väljer nästa väg?
• Vad händer om detta godkänns?
• Vad får agenten använda?
• Vad körs automatiskt?
• Vem föreslår, vem godkänner, vem utför, vem är ansvarig?
• Om något går fel, vad ändras innan nästa körning?

Om de människor som äger arbetet kan svara på dessa nio för ett arbetsflöde, kan en agent arbeta inuti det säkert — föreslå, valideras och låt rälsen utföra. Om de inte kan, kommer ingen modellkvalitet att rädda distributionen.

Misslyckandena är lika igenkännliga som mönstret. En chattbot med åtkomst till känsliga system men ingen karta över arbetet. Ett återställningsskikt som svarar på policyfrågor men inte kan visa policykällan. En agent som kan godkänna arbete men inte kan säga vem som äger godkännandet. En granskare som ser rekommendationen men inte konsekvensen av att godkänna den. Ett arbetsflöde som främjas till autonomi för att modellen förbättrades, inte för att arbetsflödet tjänade förtroende.

Kartan, rälsen och grinden: det är arkitekturen. Den återstående frågan är hur man bygger det i ett arbetsflöde — och det är del tre.