La Mappa e i Binari: Costruire un’Architettura Sicura per l’Intelligenza Artificiale Aziendale

La prima parte si è conclusa con un’affermazione: l’intelligenza artificiale aziendale avrà successo quando le istituzioni impareranno a costruire il ciclo stesso. Questo saggio è su cosa si basa il ciclo. Un agente che lavora all’interno di una società reale ha bisogno di due cose che la società quasi certamente non ha oggi: una mappa del lavoro e binari per le conseguenze.

La Mappa

Ecco il fatto scomodo sotto la maggior parte dei programmi di intelligenza artificiale bloccati: la società non può fornire all’agente una descrizione del proprio lavoro, perché non esiste una tale descrizione. La maggior parte delle società ha mappato i nomi — database pieni di clienti, fatture, reclami, contratti. Quasi nessuna ha mappato il lavoro: cosa può essere fatto a quelle cose, da chi, in quali condizioni e cosa succede dopo. Quella conoscenza vive nelle teste di persone esperte e in un diagramma di processo che descrive come il lavoro è stato progettato cinque anni fa, non come funziona oggi.

Un nuovo assunto umano chiude quella lacuna con un apprendistato — guardando, provando, chiedendo. Un agente non impara in quel modo. Ha bisogno del lavoro scritto: le cose che l’azienda gestisce e dove si trova ogni una, il lavoro eseguito su di esse, le decisioni che scelgono il percorso, chi è autorizzato a farlo proseguire, e cosa segue quando lo fa — il record che cambia, l’approvazione di cui ha bisogno, il modo in cui viene annullato. Quella descrizione scritta è la mappa.

Tre regole mantengono una mappa viva. Deve essere scritta dalle persone che possiedono il lavoro e resa sicura dagli ingegneri — una mappa che solo gli ingegneri possono aggiornare diventa obsoleta, e una mappa che solo gli operatori possono modificare diventa insicura. Deve essere versionata, perché un agente non dovrebbe mai agire contro un significato che è cambiato silenziosamente. E deve essere pubblicata — leggibile dall’agente, dal revisore e dall’auditor allo stesso modo. Se un agente deve scoprire il tuo business cucendo insieme chiamate API, hai esposto sistemi, non descritto il lavoro. Le API sono come vengono eseguite le cose. La mappa è come il lavoro è compreso.

La mappa è importante per una ragione che dura più a lungo di qualsiasi ciclo di prodotto: l’agente non è l’asset duraturo. La mappa lo è. I modelli miglioreranno e saranno sostituiti, i framework degli agenti arriveranno e se ne andranno — e la descrizione del tuo stesso lavoro, con le sue regole ed eccezioni e correzioni accumulate, è ciò che ogni agente futuro eredita il primo giorno.

I Binari

La mappa dice cosa può accadere. I binari sono ciò che lo fanno accadere esattamente.

Parte del lavoro che un agente tocca è il giudizio: leggere l’email confusa, valutare l’eccezione, raccomandare il percorso. Ma gran parte di esso è ripetizione — lo stesso controllo, lo stesso aggiornamento, lo stesso posting, migliaia di volte. La ripetizione non ha bisogno di intelligenza. Ha bisogno di essere esatta. Un modello è probabilistico per design, e per l’esecuzione, probabilmente giusto è sbagliato: un posting di pagamento non ha varianza accettabile, indipendentemente da quanto buono sia il modello. Il lavoro stabile appartiene ai binari — automazione deterministica che funziona allo stesso modo ogni volta, costa nulla per ogni esecuzione e lascia una traccia di audit pulita.

Questo è il punto in cui due curve si stanno divergendo. Costruire binari sta diventando più facile, perché descrivere il lavoro, generare codice, scrivere test e riparare percorsi rotti è esattamente il tipo di lavoro che l’intelligenza artificiale accelera. Distribuire agenti liberi all’interno di processi conseguenti non sta diventando più facile allo stesso ritmo, perché più un agente si avvicina all’azione, più ha bisogno di confini, prove, approvazioni, audit e proprietari. La conseguenza è difficile e rimane difficile. Quindi lasciate che gli agenti esplorino e aiutino i vostri team a imparare il lavoro — poi spostate ogni percorso sui binari non appena smette di cambiare. Non lasciate il lavoro stabile ad alto volume all’interno di un ciclo probabilistico perché gli agenti sono alla moda.

Governare per Conseguenza

Con la mappa e i binari in posizione, una domanda rimane prima che un agente tocchi il lavoro reale: cosa dovrebbe essere autorizzato a fare? L’abitudine dell’industria è rispondere in termini di tubazioni — l’agente “usa strumenti” — come se cercare una politica, calcolare una varianza, redigere una lettera, approvare una fattura e pagarla fossero una cosa sola. Non lo sono. Un modello che cerca una politica non è lo stesso di un modello che nega una richiesta. Un modello che calcola un importo non è lo stesso di un modello che lo paga. Leggere informazioni, prendere una posizione, preparare un’azione, cambiare un record e spostare denaro sono tipi di lavoro diversi, e la differenza è la conseguenza: cosa costa all’azienda quando il passo è sbagliato.

La governance dovrebbe seguire quella curva, non la tubazione. Il lavoro che legge solo ha bisogno di controllo di accesso. Il lavoro che raccomanda ha bisogno di un umano che decide effettivamente. Il lavoro che cambia un record ha bisogno di permesso, di una traccia di audit, di un modo per annullarlo e di un proprietario nominato. Il lavoro che sposta denaro ha bisogno di tutto ciò, più la garanzia che un cambiamento incompleto non possa lasciare l’azienda in uno stato che è semplicemente sbagliato. Governare per conseguenza e gli usi sicuri dell’intelligenza artificiale si aprono rapidamente; governare tutto allo stesso modo e si ottiene paralisi o un incidente.

La Fiducia è Guadagnata dal Flusso di Lavoro

Quella curva è anche come la fiducia cresce. Con una mappa e binari, la fiducia smette di essere un sentimento sul modello e diventa una proprietà del lavoro. Un flusso di lavoro — un pezzo di business descritto, con la sua porta dalla prima parte — guadagna il permesso un passo alla volta, salendo la stessa curva: prima può solo redigere, poi può raccomandare, poi può preparare l’azione che un umano approva, poi può eseguire i casi di routine e escalare le eccezioni, e infine può funzionare sotto audit, con persone che osservano i risultati invece di cliccare su ogni caso.

Ogni passo in alto è guadagnato con prove dalla porta — le decisioni ispezionate, le correzioni, le ragioni — e ogni passo indietro è automatico quando le prestazioni scendono. Un modello migliore non guadagna diritti di azione.

Non promuovere il modello. Promuovere il flusso di lavoro.

Iniziare con un Flusso di Lavoro

Nessuna di queste cose richiede un programma aziendale, e non dovrebbe iniziare come tale. Scegliere un flusso di lavoro consequenziale con un volume reale, un costo di errore reale e un proprietario che lo vuole sistemato. Mappare quel pezzo di lavoro. Mettere i passi stabili sui binari. Impostare la porta. Quindi controllare la descrizione contro nove domande semplici:

• Quali oggetti aziendali si stanno spostando?
• Dove si trova ogni uno in questo momento?
• Qual è il lavoro che viene eseguito?
• Qual è la decisione che sceglie il prossimo percorso?
• Cosa succede se questo viene approvato?
• Cosa può utilizzare l’agente?
• Cosa funziona automaticamente?
• Chi propone, chi approva, chi esegue, chi è responsabile?
• Se qualcosa va storto, cosa cambia prima del prossimo ciclo?

Se le persone che possiedono il lavoro possono rispondere a quelle nove domande per un flusso di lavoro, un agente può lavorare al suo interno in sicurezza — proporre, essere convalidato e lasciare che i binari eseguano. Se non possono, nessuna quantità di qualità del modello salverà il deploy.

I fallimenti sono riconoscibili quanto il modello. Un chatbot con accesso a sistemi sensibili ma senza mappa del lavoro. Un livello di recupero che risponde a domande di politica ma non può mostrare la fonte della politica. Un agente che può approvare il lavoro ma non può dire chi possiede l’approvazione. Un revisore che vede la raccomandazione ma non la conseguenza dell’approvazione. Un flusso di lavoro promosso all’autonomia perché il modello è migliorato, non perché il flusso di lavoro ha guadagnato fiducia.

La mappa, i binari e la porta: quella è l’architettura. La domanda rimanente è come costruirlo in un flusso di lavoro — e quella è la terza parte.