Agenții sunt întotdeauna angajați din prima zi. Este timpul să proiectăm pentru ei.

Până în 2027, 74% din companii se așteaptă să folosească agenți într-o anumită măsură, conform unui studiu recent Deloitte. De-a lungul anilor, am proiectat și construit software pentru a îmbunătăți experiența umană de navigare în aplicațiile, site-urile, sistemele de operare și documentele noastre. Acum, utilizatorul nu mai este deloc un om. Acest lucru are implicații mai largi decât trecerea de la tablouri de bord și fluxurile de lucru controlate pe care le proiectăm pentru sarcinile umane. Suntem într-un moment în care trebuie să proiectăm mediile de operare ale agenților, în timp ce de asemenea proiectăm fluxuri de lucru umane pentru a ghida eficient experiența agenților în aceste medii.  

Suntem încă la început în învățarea a ceea ce au cu adevărat nevoie agenții de la noi pentru a avea succes în mod repetabil și fiabil. Instinctul este să tratăm integrarea agenților exclusiv ca o problemă de prompting sau interfață utilizator. Proiectarea unui mediu de execuție bine guvernat este un teritoriu nou pentru noi ca cultură. Totuși, principiile de bază ale unui design bun și ale unei bune gestionări nu s-au schimbat: îi datorăm agenților un context clar, o direcție neambiguuă și o intenție explicită.

Context: De ce programarea a venit prima

Contextul este, probabil, cel mai important factor dacă dorim ca agenții să livreze în mod repetabil la nivelul pe care îl vizăm. Dezvoltarea software are mai mult din acesta înregistrat decât aproape orice alt domeniu: depozite, scheme API, relațiile dintre sisteme, revizii de cod și discuții în comunitate. Prin urmare, are sens ca laboratoarele de frontieră AI să fi început cu programarea. Este unul dintre puținele domenii în care o cantitate semnificativă de context este deja documentată. 

Dar, așa cum îți va spune orice nou angajat dintr-o echipă de software, chiar și cu toate aceste date, agenții vor lipsi în continuare de memoria instituțională încorporată în regulile nespuse pe care nimeni nu le-a documentat vreodată. Această lacună este răspândită: 43% dintre dezvoltatori sunt preocupați că instrumentele AI nu au suficient context despre proiectul sau baza lor de cod specifică. Cunoașterea tacită acoperă totul, de la convențiile zilnice, cum ar fi bibliotecile preferate pentru sarcini specifice, până la fantome operaționale cu impact major: o corecție de ultim moment, făcută noaptea târziu, care persistă pentru totdeauna, sau o coloană aparent goală din baza de date care susține în secret un raport de venituri personalizat. Acest context trăiește în mintea unui inginer senior, într-un fir recent de discuție pe Slack sau nicăieri. Rar se regăsește în însăși baza de cod.  

Dacă acest lucru este adevărat în software, unul dintre cele mai bine documentate domenii, este ușor de înțeles de ce agenții întâmpină dificultăți în a performa eficient de la prima zi în multe alte industrii. În domeniul sănătății și al dreptului, o mare parte a cunoștințelor instituționale care modelează munca de zi cu zi este învățată și internalizată. Aceasta trăiește în experiența oamenilor, nu în documentația formală. Un agent juridic poate să nu cunoască structura, tonul sau argumentarea preferată de un anumit partener pentru un dosar, în timp ce un agent din domeniul sănătății poate să nu înțeleagă fluxurile de lucru locale și practicile de escaladare pe care le folosește o clinică aglomerată pentru a susține triajul condus de clinicieni. Documentația singură nu poate închide această lacună, deoarece provocarea nu constă doar în accesul la informație; ci în transferul de context. Pentru a oferi agenților ce le trebuie pentru a reuși, trebuie să îi integrăm la fel cum am face cu un nou angajat.

Direcție: De ce osmoza nu funcționează

Integrarea unui nou coleg necesită mai mult decât furnizarea materialelor și accesului adecvat. Când suntem implicați în succesul celor din jur, oferim o direcție solidă privind ce trebuie făcut cu noile materiale și acces: așteptări, claritate asupra a ceea ce încercăm să realizăm și feedback pe parcurs. Adopt această mentalitate în proiectarea pentru agenți. Ofer direcții clare și specifice (în raport cu sarcina curentă). Acest lucru este valabil pentru orice coleg, indiferent de vechimea sa. Totuși, în cazul unui nou angajat, direcția trebuie să meargă mai departe, deoarece acesta nu are încă niciun context instituțional.

Gândește-te la un agent ca la un nou angajat care nu încetează niciodată să fie nou. Este dornic și capabil (și, sincer, are energie nelimitată), dar nu poate absorbi și reține la fel de multe dintre regulile nespuse așa cum face o persoană în timp. Oamenii învață prin osmoză și experiență, în timp ce agenții învață din arhitectura construită explicit în mediul lor de lucru.

Cu un nou angajat, poți închide această lacună în timp prin întrebări, feedback și noi perspective pe care le captează despre procesele și preferințele organizației. Conversații la aparatul de cafea sau prânzuri de echipă. Cu un agent, trebuie să construiești închiderea acelei lacune în designul în sine. Acest lucru poate include: 

• Oferirea agentului unei ferestre de context structurate care separă regulile durabile, faptele specifice sarcinii și istoricul relevant, în loc să i se arunce o grămadă de documente. 
• Definirea în prealabil a permisiunilor și limitelor de decizie: ce poate face independent, ce necesită aprobare și ce nu trebuie să acceseze niciodată. 
• Înglobarea câtorva exemple concrete de rezultate solide direct în experiență, astfel încât agentul să aibă un model clar despre cum trebuie realizată munca.
• Distribuirea blocajelor anterioare pe care le-ai întâmpinat.

Proiectarea unui mediu de agent bine guvernat nu înseamnă să facem munca mai ușoară pentru model. Este vorba despre protejarea echipei umane de inginerie de datoria tehnică invizibilă. Dar chiar și un agent bine direcționat poate urma instrucțiunile perfect și totuși să rateze esența. Direcția îi spune ce să facă, dar nu îi arată cum arată „bunul”. Această lacună este locul unde intervine intenția.

Intenție: De ce agenții deviază spre mijloc

Este important să ne amintim că agenții sunt mașini de potrivire a modelelor, antrenați pe cantități masive de cunoștințe și înclinați în mod natural să ofere media statistică. Fără o intenție clară și explicită, acea ieșire medie este exact ceea ce va returna un agent. Dacă soliciți unui agent să „adauge un punct final de autentificare a utilizatorului”, acesta va genera o rută Express de tip manual cu hash simplu de parolă. Funcționează, dar ignoră complet serviciul de autentificare personalizat al echipei tale, omite telemetria necesară și rupe formatul standardizat al erorilor. Este o funcționalitate adecvată pe hârtie, dar în funcție de context, reprezintă un bug arhitectural în practică. Ușurința cu care astfel de „buguri” sunt introduse nu poate fi subestimată.

Pentru a preveni acest lucru, direcția trebuie să fie asociată cu verificarea activă a intenției și cu jurnalizarea. Barierele de siguranță nu ar trebui să verifice doar dacă codul compilează, deși acest aspect este important. Barierele trebuie să impună explicit standardele opiniate, regulile pentru cazuri limită și contextul de domeniu care transformă ieșirea generică în lucru pregătit pentru producție. Jurnalizarea contează ca indicator de stare al sistemului pentru noi, oamenii. Această trasabilitate este esențială pentru încredere. 

În interacțiunile umane există mult spațiu pentru incertitudine. Cineva poate să-ți împărtășească o primă versiune, iar împreună puteți discuta ce este solid și ce necesită îmbunătățiri. Acest lucru funcționează deoarece nu ne așteptăm ca colegii noștri umani să fie mașini autonome. Pentru a capta cu adevărat puterea și promisiunea colegilor agenți (de care avem nevoie să funcționeze mai autonom…), putem proiecta multe dintre aceste verificări de direcție. Schimbul de idei trebuie să continue, dar nu poate să se bazeze exclusiv pe efort manual. Prin încărcarea anticipată a unor criterii clare de acceptare și a regulilor de verificare, permiți agentului să ruleze propriile bucle de feedback interne. Proiectarea pentru prevenirea erorilor este un alt principiu solid de UX pe care îl putem aplica în această nouă lume: oferirea agenților posibilitatea de a semnala o încredere scăzută înainte de a se angaja într-o acțiune, în loc să se bazeze silențios pe o presupunere.

Unde metafora se rupe

Cadru de nou angajat funcționează, până când nu mai funcționează. Cu un angajat uman, experiența generează competență, care la rândul său generează judecată. Observarea modului în care noul tău angajat internalizează „de ce”-ul din spatele contextului și direcției este ceea ce construiește încrederea în timp și, în general, este cumulativ. Un agent nu are unde să acumuleze și să stocheze această experiență.

Prima săptămână și cea de sută a unui nou angajat arată diferit. Prima sarcină și a mia a unui agent arată identic, cu excepția cazului în care proiectezi și construiești ceva care să le diferențieze. Aceasta este noua noastră provocare de design.

Responsabilitatea agentului depinde de design

Dacă responsabilitatea nu poate locui în agent, trebuie să locuiască în scheletul din jurul său. Se rezumă la aceleași trei întrebări pe care le-aș pune înainte de a încredința o sarcină oricărui nou angajat: Ce context are? Ce direcție i-am oferit? Care este intenția mea reală?

Data viitoare când încredințezi o sarcină unui agent, nu verifica doar rezultatul. Verifică mai întâi propriile intrări. I-ai oferit contextul de care ar avea nevoie un nou angajat în prima zi? A fost direcția ta suficient de specifică pentru a rezista unei interpretări literale? A fost intenția ta suficient de clară încât „răspunsul median” să nu fie cel mai bun pe care îl poate oferi?

Cu acest ghid clar în mână (în byte?), se întâmplă ceva interesant: un agent nu are nevoie de un interval lung de timp pentru a deveni de încredere. Contextul, direcția și verificarea pe care le construiești dinainte definesc modul în care funcționează la fiecare sarcină. Un nou angajat îți câștigă încrederea în timp; un agent trebuie să o câștige de fiecare dată prin sistemul pe care l-ai proiectat. Responsabilitatea nu este ceva în care se dezvoltă, ci este încorporată din start. Întrebarea nu este când agentul tău va fi pregătit pentru mai multă responsabilitate. Este dacă l-ai proiectat să câștige acea responsabilitate la fiecare sarcină.