Mapa i tory: Budowanie bezpiecznej architektury dla przedsiębiorstw AI

Część pierwsza zakończyła się twierdzeniem: przedsiębiorstwa AI będą odnoszyć sukcesy, gdy instytucje nauczą się budować pętle samej w sobie. Ten esej dotyczy tego, na czym opiera się pętla. Agent pracujący w prawdziwej firmie potrzebuje dwóch rzeczy, których firma prawdopodobnie nie posiada obecnie: mapy pracy i torów dla konsekwencji.

Mapa

Oto niekomfortowy fakt leżący u podstawy większości zablokowanych programów AI: firma nie może przekazać agentowi opisu swojej własnej pracy, ponieważ taki opis nie istnieje. Większość firm ma zmapowane swoje rzeczowniki — bazy danych pełne klientów, faktur, roszczeń, umów. Prawie żadna z nich nie zmapowała pracy: co można zrobić z tymi rzeczami, kto może to zrobić, w jakich warunkach i co się dzieje później. Ta wiedza żyje w głowach doświadczonych ludzi i w wykresie procesu, który opisuje, jak praca była zaprojektowana pięć lat temu, a nie jak działa dzisiaj.

Nowy pracownik zamyka tę lukę przez praktykę — obserwację, próby, pytania. Agent nie uczy się w ten sposób. Potrzebuje pracy zapisanej: rzeczy, które firma obsługuje, i gdzie każda z nich się znajduje, praca wykonywana na nich, decyzje, które wybierają ścieżkę, kto jest upoważniony do przesunięcia rzeczy do przodu, i co się dzieje, gdy to zrobi — zapis, który się zmienia, zatwierdzenie, które jest potrzebne, sposób, w jaki się to robi, i sposób, w jaki to się cofa. Ten zapisany opis to mapa.

Trzy reguły utrzymują mapę żywą. Musi być napisana przez ludzi, którzy posiadają pracę, i musi być zabezpieczona przez inżynierów — mapa, którą tylko inżynierowie mogą aktualizować, staje się nieświeża, a mapa, którą tylko operatorzy mogą edytować, staje się niebezpieczna. Musi być wersjonowana, ponieważ agent nie powinien działać przeciwko znaczeniu, które się zmieniło bezgłośnie. I musi być opublikowana — czytelna dla agenta, recenzenta i audytora. Jeśli agent musi odkryć Twoją firmę, łącząc wywołania API, masz systemy narażone, a nie opisaną pracę. API to sposób, w jaki rzeczy są wykonywane. Mapa to sposób, w jaki praca jest rozumiana.

Mapa ma znaczenie z powodu, który przetrwa każdy cykl produktu: agent nie jest trwałym aktywem. Mapa jest. Modele będą się poprawiać i będą wymieniane, ramy agentów przyjdą i pójdą — a opis Twojej własnej pracy, z jego regułami, wyjątkami i nagromadzonymi poprawkami, jest tym, co każdy przyszły agent odziedziczy w dniu pierwszym.

Tory

Mapa mówi, co może się zdarzyć. Tory są tym, co sprawia, że to się dzieje dokładnie.

Część pracy, którą agent dotyka, to sądy: czytanie nieładnych e-maili, ważenie wyjątku, rekomendowanie ścieżki. Ale większość z nich to powtarzalność — ta sama kontrola, ta sama aktualizacja, ten sam post, tysiące razy. Powtarzalność nie potrzebuje inteligencji. Potrzebuje być dokładna. Model jest probabilistyczny z założenia, a do wykonania, prawdopodobnie poprawny jest błędny: postowanie płatności nie ma akceptowalnej zmienności, niezależnie od tego, jak dobrze model się staje. Stabilna praca należy do torów — deterministyczna automatyzacja, która działa w ten sam sposób za każdym razem, nie kosztuje nic za uruchomienie i pozostawia czysty ślad audytowy.

To jest miejsce, w którym dwie krzywe się rozchodzą. Budowanie torów staje się łatwiejsze, ponieważ opisywanie pracy, generowanie kodu, pisanie testów i naprawianie złamanych ścieżek jest dokładnie tym rodzajem pracy, który przyspiesza AI. Wdrożenie wolno poruszających się agentów wewnątrz procesów o konsekwencjach nie staje się łatwiejsze w tym samym tempie, ponieważ im bliżej agent jest do działania, tym więcej potrzebuje granic, dowodów, zatwierdzeń, audytu i właścicieli. Konsekwencja jest trudna i pozostaje trudna. Pozwól agentom badać, a pozwól im pomóc Twoim zespołom nauczyć się pracy — a następnie przenieś każdą ścieżkę na tory, tak szybko, jak przestaje się zmieniać. Nie pozostawiaj wysokoobjętościowej, stabilnej pracy wewnątrz probabilistycznej pętli, ponieważ agenci są modni.

Rządzić konsekwencją

Z mapą i torami na miejscu, pozostaje jedna pytanie, zanim agent dotknie się rzeczywistej pracy: co powinno być dozwolone? Przemysł ma zwyczaj odpowiadać w kwestiach instalacji — agent “używa narzędzi” — jakby szukanie polityki, obliczanie zmienności, opracowywanie listu, zatwierdzanie faktury i płacenie jej były jednym rodzajem rzeczy. Nie są. Model szukający polityki nie jest tym samym co model odrzucający roszczenie. Model obliczający kwotę nie jest tym samym co model płacący ją. Czytanie informacji, przyjmowanie stanowiska, przygotowanie działania, zmiana rekordu i przeniesienie pieniędzy to różne rodzaje pracy, a różnica to konsekwencja: co to kosztuje firmę, gdy krok jest błędny.

Rządzić powinno się tą gradientem, a nie instalacją. Praca, która tylko czyta, potrzebuje kontroli dostępu. Praca, która rekomenduje, potrzebuje człowieka, który naprawdę decyduje. Praca, która zmienia rekord, potrzebuje pozwolenia, śladu audytowego, sposobu, w jaki to się cofa, i nazwanego właściciela. Praca, która przenosi pieniądze, potrzebuje wszystkiego tego, plus gwarancji, że półukończona zmiana nie może pozostawić firmy w stanie, który jest po prostu błędny. Rządzić konsekwencją i bezpieczne użycie AI otwierają się szybko; rządzić wszystkim w ten sam sposób, a otrzymujesz albo paraliż, albo incydent.

Zaufanie jest zdobywane przez przepływ pracy

Ten gradient jest również tym, jak zaufanie rośnie. Z mapą i torami, zaufanie przestaje być uczuciem o modelu i staje się właściwością pracy. Przepływ pracy — jeden opisany kawałek biznesu, ze swoją bramą z części pierwszej — zdobywa pozwolenie krok po kroku, wspinając się po tym samym gradientzie: najpierw tylko projektuje, potem może rekomendować, potem może przygotować działanie, które człowiek zatwierdza, potem może wykonać rutynowe przypadki i eskalować wyjątki, i w końcu działa pod audytem, z ludźmi obserwującymi wyniki zamiast klikania na każdy przypadek.

Każdy krok w górę jest zdobywany z dowodami z bramy — sprawdzonymi decyzjami, poprawkami, powodami — a każdy krok w dół jest automatyczny, gdy wyniki spadają. Lepszy model nie zdobywa praw do działania.

Nie awansuj modelu. Awansuj przepływ pracy.

Zacznij od jednego przepływu pracy

Żadna z tych rzeczy nie wymaga programu na poziomie przedsiębiorstwa, i nie powinna zaczynać się jako taka. Wybierz jeden konsekwentny przepływ pracy z rzeczywistą objętością, rzeczywistym kosztem błędu i właścicielem, który chce to naprawić. Zmapuj ten jeden kawałek pracy. Połóż jego stabilne kroki na tory. Ustaw jego bramę. Potem sprawdź opis przeciwko dziewięciu prostym pytaniam:

• Jakie obiekty biznesowe są przenoszone?
• Gdzie każdy z nich się znajduje teraz?
• Jaką pracę jest wykonywana?
• Jaką decyzję wybiera następną ścieżkę?
• Co się dzieje, gdy to jest zatwierdzone?
• Co może agent użyć?
• Co działa automatycznie?
• Kto proponuje, kto zatwierdza, kto wykonuje, kto jest odpowiedzialny?
• Jeśli coś pójdzie nie tak, co się zmieni przed następnym uruchomieniem?

Jeśli ludzie, którzy posiadają pracę, mogą odpowiedzieć na te dziewięć pytań dla jednego przepływu pracy, agent może pracować wewnątrz niego bezpiecznie — proponować, być walidowanym i pozwolić torom wykonać. Jeśli nie, żadna jakość modelu nie uratuje wdrożenia.

Awaryjne są równie rozpoznawalne, jak wzorzec. Chatbot z dostępem do wrażliwych systemów, ale bez mapy pracy. Warstwa pobierania, która odpowiada na pytania polityki, ale nie może pokazać źródła polityki. Agent, który może zatwierdzić pracę, ale nie może powiedzieć, kto jest właścicielem zatwierdzenia.

Mapa, tory i brama: to jest architektura. Pozostaje pytanie, jak zbudować ją w jednym przepływie pracy — i to jest część trzecia.