Kartta ja raiteet: Turvallisen arkkitehtuurin rakentaminen yritysten tekoälylle

Osa yksi päättyi väitteeseen: yritysten tekoäly onnistuu, kun instituutiot oppivat rakentamaan itsensä silmukkaan. Tämä esseesi käsittelee sitä, mitä silmukka tarkoittaa. Agentti, joka toimii oikeassa yrityksessä, tarvitsee kaksi asiaa, joita yrityksellä luultavasti ei ole tällä hetkellä: kartan työstä ja raiteet seurauksille.

Kartta

Tässä on epämukava tosiasia useimpien jumiutuneiden tekoälyohjelmien alla: yritys ei voi antaa agentille kuvausta omasta työstään, koska sellaista kuvausta ei ole olemassa. Useimmat yritykset ovat kartoittaneet substantiiveja — tietokannat täynnä asiakkaita, laskuja, vaatimuksia, sopimuksia. Melkein kukaan ei ole kartoittanut työtä: mitä voidaan tehdä noille asioille, kuka tekee sen, millaisissa olosuhteissa ja mitä tapahtuu sen jälkeen. Tieto elää kokeneiden ihmisten päässä ja prosessikaaviossa, joka kuvailee, miten työ suunniteltiin viisi vuotta sitten, ei sitä, miten se toimii tällä hetkellä.

Uusi ihmishenkilö sulkee tämän aukon opiskellessaan — katsomalla, yrittäessä, kysymällä. Agentti ei opi noin. Sille tarvitaan työ kirjattuna: asiat, joita liiketoiminta käsittelee, ja missä kussakin niistä parhaillaan on, työ, jota niille tehdään, päätökset, jotka valitsevat seuraavan polun, kuka saa edetä asiassa, ja mitä seurailee, kun he tekevät niin — muistiinpano, joka muuttuu, hyväksyntä, jota se tarvitsee, tapa, jolla se tehdään peruuttamiskelpoiseksi. Kirjattu kuvaus on kartta.

Kolme sääntöä pitää kartan elävänä. Se on kirjoitettava työn omistajien toimesta ja turvalliseksi insinöörien toimesta — kartta, jota vain insinöörit voivat päivittää, menee vanhanaikaiseksi, ja kartta, jota vain operoijat voivat muokata, tulee turvattomaksi. Se on versionoitava, koska agentti ei saa toimia vastaan merkitystä, joka on muuttunut hiljaisesti. Ja se on julkaistava — luettavissa agentille, tarkastajalle ja tilintarkastajalle. Jos agentin on löydettävä liiketoimintasi yhdistelemällä API-kutsuja, olet altistanut järjestelmiä, ei kuvaillut työtä. API-kutsut ovat tapa, jolla asiat toteutetaan. Kartta on tapa, jolla työ ymmärretään.

Kartta on tärkeä syystä, joka kestää tuotteen eliniän: agentti ei ole kestävä omaisuus. Kartta on. Mallit paranevat ja vaihdetaan, agenttikehykset tulevat ja menevät — ja kuvaus omasta työstä, sen sääntöjensä, poikkeustensa ja kertyneensä korjauksensa kanssa, on se, mitä jokainen tuleva agentti perii ensimmäisenä päivänä.

Raiteet

Kartta kertoo, mitä voi tapahtua. Raiteet ovat ne, jotka tekevät sen täsmälleen.

Osa työstä, jota agentti koskettaa, on arviointi: lue sotkuinen sähköposti, punnitse poikkeus, suosittele polku. Mutta paljon siitä on toisto — sama tarkastus, sama päivitys, sama julkaisu, tuhannet kertaa. Toisto ei tarvitse älykkyyttä. Se tarvitsee olla tarkka. Malli on todennäköisyysrakenteinen suunnittelun vuoksi, ja suorittamiseksi, todennäköisesti oikein on väärin: maksujen julkaisemisella ei ole hyväksyttyä vaihtelua, riippumatta siitä, kuinka hyvä malli on. Vakaat työt kuuluvat raiteille — deterministinen automaatio, joka toimii samalla tavalla joka kerta, joka maksaa mitään suoritukseen, ja jättää puhdasuden tarkastusjäljen.

Tässä kaksi käyrää erkanee. Raiteiden rakentaminen on helpompaa, koska työn kuvaaminen, koodin generointi, testien kirjoittaminen ja rikkinäisten polkujen korjaaminen on juuri sellaista työtä, jota tekoäly kiihdyttää. Vapaiden agenttien käyttäminen merkittävissä prosesseissa ei ole helpompaa samalla tahdilla, koska mitä lähempänä agentti on toimintaa, sitä enemmän se tarvitsee rajoja, näyttöä, hyväksyntää, tarkastusta ja omistajia. Seuraus on vaikea, ja se pysyy vaikeana. Anna agenttien tutkia, ja anna heidän auttaa tiimisi oppimaan työtä — sitten siirrä kunkin polun raiteille, kun se lopettaa muuttumisen. Älä jätä suurivolyymistä, vakaata työtä todennäköisyyssilmukkaan, koska agentit ovat muodikkaita.

Hallitse seurauksella

Kun kartta ja raiteet ovat paikoillaan, yksi kysymys on jäljellä ennen kuin agentti koskettaa oikeaa työtä: mitä sille pitäisi sallia tehdä? Teollisuuden tapa on vastata putkistotermien mukaisesti — agentti “käyttää työkaluja” — kuin etsimällä käytäntöä, laskemalla poikkeaman, luomalla kirjeen, hyväksymällä laskun ja maksamalla sen olisi yksi asia. Ne eivät ole. Malli, joka etsii käytäntöä, ei ole sama kuin malli, joka kieltää vaatimuksen. Malli, joka laskee määrän, ei ole sama kuin malli, joka maksaa sen. Tiedon lukeminen, kannan ottaminen, toimenpiteen valmisteleminen, kirjanpidon muuttaminen ja rahan siirtäminen ovat erilaisia työtehtäviä, ja ero on seuraus: mitä se maksaa yritykselle, kun askel on väärä.

Hallintoa pitäisi seurata tämän gradientin mukaan, ei putkistoa. Työ, joka vain lukee, tarvitsee pääsyrajoituksen. Työ, joka suosittelee, tarvitsee ihmisen, joka todella päättää. Työ, joka muuttaa kirjanpitoa, tarvitsee luvan, tarkastusjäljen, tapa, jolla se voidaan peruuttaa, ja nimetyn omistajan. Työ, joka siirtää rahaa, tarvitsee kaiken tämän, plus takuu, ettei puolivalmis muutos jätä yritystä tilaan, joka on yksinkertaisesti väärä. Hallitse seurauksella ja turvalliset tekoälyn käytöt aukeavat nopeasti; hallitse kaikkea samalla tavalla, ja saat joko halvauksen tai tapahtuman.

Luottamus on ansaittava työnkulun kautta

Tämä gradientti on myös se, miten luottamus kasvaa. Kartan ja raiteiden kanssa luottamus lopettaa tunteen mallista ja tulee työn ominaisuudeksi. Työnkulku — yksi kuvattu liiketoimintapala, portilla osa yksi — ansaitsee luvan askeleen kerrallaan, kiipeäen saman gradientin: ensin se vain luonnostelee, sitten se saa suositella, sitten se saa valmistella toimenpidettä, jonka ihminen hyväksyy, sitten se saa suorittaa rutiininomaiset tapaukset ja eskaloimaan poikkeukset, ja lopulta se toimii tarkastuksen alaisena, kun ihmiset tarkkailevat tuloksia sen sijaan, että he klikkaavat jokaisessa tapauksessa.

Jokainen askel ylöspäin on ansaittu todisteiden kautta portista — tarkasteltujen päätösten, korjauksien, syiden — ja jokainen askel alaspäin on automaattinen, kun suoritus laskee. Parempi malli ei ansaitse toimintaoikeuksia.

Älä ylennä mallia. Ylennä työnkulkua.

Aloita yhdellä työnkululla

Tämä ei vaadi yrityksenlaajuista ohjelmaa, eikä se pitäisi aloittaa sellaisena. Valitse yksi merkittävä työnkulku, jolla on todellinen volyymi, todellinen virheenkustannus ja omistaja, joka haluaa sen korjatun. Kartoita tuo yksi työn osa. Aseta sen vakaat askelmat raiteille. Aseta portti. Sitten tarkasta kuvaus yhdeksää yksinkertaista kysymystä:

• Mitkä liiketoimintakohteet liikkuvat?
• Missä kussakin niistä on parhaillaan?
• Mikä työ tehdään?
• Mikä päätös valitsee seuraavan polun?
• Mitä tapahtuu, kun tämä on hyväksytty?
• Mitä agentti saa käyttää?
• Mitä suoritetaan automaattisesti?
• Kuka ehdottaa, kuka hyväksyy, kuka suorittaa, kuka on vastuussa?
• Mitä muuttuu, jos jotain menee pieleen, ennen seuraavaa suoritusta?

Jos työn omistajat voivat vastata noihin yhdeksään yhdellä työnkululla, agentti voi toimia siinä turvallisesti — ehdottaa, tarkastaa ja annaa raiteiden suorittaa. Jos he eivät voi, mikään mallin laatu ei pelasta käyttöönottoa.

Epäonnistumiset ovat yhtä tunnistettavissa kuin malli. Chatbotti, jolla on pääsy herkillä järjestelmillä, mutta ei karttaa työstä. Noutolokerikko, joka vastaa käytäntöä, mutta ei voi näyttää käytännön lähdettä. Agentti, joka voi hyväksyä työn, mutta ei voi sanoa, kuka omistaa hyväksynnän. Tarkastaja, joka näkee suosituksen, mutta ei seurauksen siitä, että se hyväksytään. Työnkulku, joka on ylennetty itsehallintoon, koska malli parani, ei koska työnkulku ansaitsi luottamusta.

Kartta, raiteet ja portti: se on arkkitehtuuri. Jäljellä oleva kysymys on, miten rakentaa se yhdessä työnkulussa — ja se on osa kolme.