Harta și șinele: Construirea unei Arhitecturi Sigure pentru Inteligența Artificială Întreprinderilor

Prima parte s-a încheiat cu o afirmație: inteligența artificială întreprinderilor va reuși atunci când instituțiile vor învăța să construiască bucla în sine. Acest eseu este despre ceea ce stă la baza buclei. Un agent care lucrează într-o companie reală are nevoie de două lucruri pe care compania aproape sigur că nu le are astăzi: o hartă a muncii și șine pentru consecințe.

Harta

Aici este un fapt incomod de sub majoritatea programelor de inteligență artificială blocate: compania nu poate să-i dea agentului o descriere a propriului său lucru, pentru că o astfel de descriere nu există. Majoritatea companiilor au hărțit substantivele — baze de date pline de clienți, facturi, reclamații, contracte. Aproape niciuna nu a hărțit munca: ce se poate face cu aceste lucruri, de către cine, în ce condiții și ce se întâmplă după. Această cunoaștere trăiește în capetele oamenilor experimentați și într-un proces care descrie cum a fost proiectată munca acum cinci ani, nu cum rulează astăzi.

Un nou angajat uman închide această lacună prin ucenicie — urmărind, încercând, întrebând. Un agent nu învață în acest fel. Are nevoie de munca scrisă: lucrurile pe care le gestionează afacerea și unde se află fiecare, munca efectuată asupra lor, deciziile care aleg calea, cine este autorizat să mute lucrurile înainte și ce se întâmplă atunci când o fac — înregistrarea care se schimbă, aprobarea de care are nevoie, modul în care este anulată. Această descriere scrisă este harta.

Treisprezece reguli păstrează o hartă vie. Trebuie să fie scrisă de oamenii care dețin munca și să fie securizată de ingineri — o hartă pe care doar inginerii o pot actualiza se învechește, și o hartă pe care doar operatorii o pot edita devine nesigură. Trebuie să fie versiune și să fie publicată — citită de agent, de reviewer și de auditor în același timp. Dacă un agent trebuie să descopere afacerea dvs. prin combinarea apelurilor API, ați expus sisteme, nu ați descris munca. API-urile sunt modul în care se execută lucrurile. Harta este modul în care se înțelege munca.

Harta contează dintr-un motiv care durează mai mult decât orice ciclu de produs: agentul nu este activul durabil. Harta este. Modelele se vor îmbunătăți și vor fi înlocuite, cadrele de agent vor veni și vor dispărea — și descrierea propriului dvs. lucru, cu regulile și excepțiile și corecțiile acumulate, este ceea ce moștenesc toți agenții viitori în prima zi.

Șinele

Harta spune ce poate să se întâmple. Șinele sunt ceea ce fac să se întâmple exact.

Unele dintre lucrurile pe care le atinge agentul sunt judecăți: citiți e-mailul murdar, cântăriți excepția, recomandați calea. Dar multe dintre ele sunt repetiții — aceeași verificare, aceeași actualizare, aceeași postare, de mii de ori. Repetiția nu are nevoie de inteligență. Are nevoie să fie exactă. Un model este probabilistic prin design și pentru execuție, probabil corect este greșit: o postare de plată nu are nicio varianță acceptabilă, indiferent cât de bun este modelul. Munca stabilă aparține șinelor — automatizarea deterministică care rulează în același mod de fiecare dată, costă nimic pe execuție și lasă o urmă de audit curată.

Aici se despart două curbe. Construirea șinelor devine mai ușoară, pentru că descrierea muncii, generarea codului, scrierea testelor și repararea căilor întrerupte este exact tipul de muncă pe care inteligența artificială o accelerează. Implementarea agenților care se deplasează liber în procese cu consecințe nu devine mai ușoară în același ritm, pentru că cu cât un agent se apropie de acțiune, cu atât are nevoie de limite, dovezi, aprobări, audit și proprietari. Consecința este grea și rămâne grea. Așadar, lăsați agenții să exploreze și să ajute echipele dvs. să învețe munca — apoi mutați fiecare cale pe șine de îndată ce încetează să se schimbe. Nu lăsați munca stabilă de volum mare în interiorul unui buclă probabilistică, pentru că agenții sunt la modă.

Guvernați prin Consecință

Cu harta și șinele în loc, o întrebare rămâne înainte ca un agent să atingă munca reală: ce ar trebui să-i fie permis să facă? Obișnuința industriei este să răspundă în termeni de instalații — agentul “utilizează unelte” — ca și cum căutarea unei politici, calcularea unei abateri, redactarea unei scrisori, aprobarea unei facturi și plata acesteia ar fi un singur fel de lucru. Nu sunt. Un model care caută o politică nu este același lucru cu un model care refuză o pretenție. Un model care calculează o sumă nu este același lucru cu un model care o plătește. Citirea informațiilor, luarea unei poziții, pregătirea unei acțiuni, schimbarea unui înregistrării și mutarea banilor sunt lucruri diferite, iar diferența este consecința: ce costă companiei atunci când pasul este greșit.

Guvernarea ar trebui să urmeze această pantă, nu instalațiile. Munca care doar citește are nevoie de controlul accesului. Munca care recomandă are nevoie de un om care decide în realitate. Munca care schimbă o înregistrare are nevoie de permisiune, de o urmă de audit, de o modalitate de anulare și de un proprietar numit. Munca care mută bani are nevoie de toate acestea, plus garanția că o schimbare jumătate-terminată nu poate lăsa compania într-o stare care este pur și simplu greșită. Guvernați prin consecință și utilizările sigure ale inteligenței artificiale se deschid rapid; guvernați totul în același mod și veți obține paralizie sau un incident.

Încrederea se Câștigă prin Fluxul de Lucru

Această pantă este și modul în care crește încrederea. Cu o hartă și șine, încrederea încetează să mai fie un sentiment despre model și devine o proprietate a muncii. Un flux de lucru — un singur fragment de afaceri, cu poarta sa din partea întâi — câștigă permisiunea pas cu pas, urcând aceeași pantă: mai întâi doar proiectează, apoi poate recomanda, apoi poate pregăti acțiunea pe care un om o aprobă, apoi poate executa cazurile obișnuite și poate escalada excepțiile, și în final rulează sub audit, cu oameni care urmăresc rezultatele în loc de a face clic pe fiecare caz.

Fiecare pas în sus este câștigat cu dovezi de la poartă — deciziile inspectate, corecțiile, motivele — și fiecare pas în jos este automat atunci când performanța scade. Un model mai bun nu câștigă drepturi de acțiune.

Nu promovați modelul. Promovați fluxul de lucru.

Începeți cu un Singur Flux de Lucru

Niciuna dintre acestea nu necesită un program la nivel de întreprindere și nu ar trebui să înceapă ca atare. Alegeți un singur flux de lucru consecvent cu volum real, cost real de eroare și un proprietar care vrea să-l repare. Hărțiți acea singură bucată de muncă. Puneți pașii săi stabili pe șine. Setati poarta. Apoi verificați descrierea împotriva a nouă întrebări simple:

• Care sunt obiectele de afaceri care se deplasează?
• Unde se află fiecare dintre ele în acest moment?
• Care este munca efectuată?
• Care este decizia care alege următoarea cale?
• Ce se întâmplă dacă acesta este aprobat?
• Ce poate utiliza agentul?
• Ce rulează automat?
• Cine propune, cine aprobă, cine execută, cine este responsabil?
• Dacă ceva merge prost, ce se schimbă înainte de a doua rulare?

Dacă oamenii care dețin munca pot răspunde la aceste nouă întrebări pentru un singur flux de lucru, un agent poate lucra în siguranță în interiorul său — să propună, să fie validat și să lase șinele să execute. Dacă nu pot, nicio calitate a modelului nu va salva implementarea.

Eșecurile sunt la fel de recunoscute ca și modelul. Un chatbot cu acces la sisteme sensibile, dar fără o hartă a muncii. Un strat de recuperare care răspunde la întrebări de politică, dar nu poate arăta sursa politicii. Un agent care poate aproba munca, dar nu poate spune cine deține aprobarea. Un reviewer care vede recomandarea, dar nu și consecința aprobării. Un flux de lucru promovat la autonomie, pentru că modelul s-a îmbunătățit, nu pentru că fluxul de lucru a câștigat încredere.

Harta, șinele și poarta: aceasta este arhitectura. Întrebarea rămasă este cum să o construiți într-un singur flux de lucru — și aceasta este partea a treia.