Agenții AI pot face munca. Dar pot întreprinderile să îi opereze?

Agenții AI devin remarcabil de buni la îndeplinirea sarcinilor. Oferiți unui agent un scop, acces la instrumentele potrivite, context suficient și un flux de lucru bine definit, iar acesta poate cerceta informații, analiza documente, lua decizii, actualiza sisteme și coordona cu alți agenți.

Aceasta este partea captivantă a AI-ului agentic. Este, de asemenea, partea pe care o vedem de obicei în demonstrații.

Operațiunile întreprinderii arată diferit. O cerere de împrumut se modifică pe parcursul procesului de aprobare. Un client furnizează informații noi după ce verificarea este finalizată. Două sisteme nu sunt de acord cu privire la același cont. O aprobare care era valabilă ieri poate să nu mai fie valabilă astăzi. Un agent rezumă un caz înainte de a-l preda altui agent, iar un detaliu aparent minor dispare în proces.

Calea optimă poate reprezenta 80% din ceea ce trebuie să facă un agent. Întreprinderile trăiesc în cei 20% rămași.

Încadrarea 80/20 nu este o statistică a industriei. Este o modalitate de a descrie unde se ascunde complexitatea operațională. Partea dificilă a operațiunilor întreprinderii nu este adesea cazul normal, ci excepțiile, transferurile, dependențele, contextul în schimbare și deciziile în care organizația rămâne responsabilă pentru rezultat.

Pe măsură ce AI trece de la a răspunde la întrebări la a efectua acțiuni, această complexitate operațională devine mult mai importantă. Întreprinderile vor trebui să se gândească dincolo de modul în care sunt construiți agenții și să înceapă să se gândească la modul în care sunt operați.

Asta este locul în care Agentic Operations începe.

De la generarea răspunsurilor la efectuarea acțiunilor

Primul val al AI-ului generativ în întreprinderi a fost în mare parte despre informație. Modelele rezumau documente, generau rapoarte, răspundeau la întrebări, căutau în cunoștințele întreprinderii și ajutau angajații să finalizeze sarcinile existente mai rapid.

Agenții introduc ceva fundamental diferit. Ei pot efectua acțiuni care schimbă starea unui proces de afaceri. Un agent poate aproba sau respinge ceva, actualiza un sistem de evidență, trimite o comunicare către client, declanșa un alt flux de lucru, apela un alt agent sau lua o decizie care determină ce se întâmplă în continuare.

OpenAI descrie agenții în ghidul său practic ca sisteme care îndeplinesc independent sarcini în numele utilizatorilor, folosind modele pentru a gestiona execuția fluxului de lucru și instrumente pentru a interacționa cu sistemele externe. Consecința operațională a unui răspuns incorect este foarte diferită de consecința unei acțiuni incorecte.

Întrebarea întreprinderii se schimbă, așadar. Nu mai este suficient să ne întrebăm dacă un model a generat un răspuns bun sau dacă un agent a finalizat cu succes sarcina atribuită. Întreprinderile au din ce în ce mai mult nevoie să știe dacă o acțiune ar fi trebuit să aibă loc deloc, având în vedere contextul de afaceri, politicile, autoritatea și tot ceea ce s-a întâmplat anterior în proces.

Figura 1: AI generativ produce o ieșire. AI agentic schimbă starea afacerii.

Odată ce AI poate schimba starea afacerii și poate influența deciziile ulterioare, fiabilitatea nu mai poate fi măsurată doar la nivel de model.

Un agent poate reuși în timp ce procesul de afaceri eșuează

Luați în considerare un flux de lucru de aprobare a împrumuturilor alimentat de AI. Un agent extrage documentele cererii, altul verifică veniturile, altul evaluează informațiile de credit, iar un agent ulterior rezumă cazul înainte ca un agent de aprobare să ia sau să recomande o decizie.

Fiecare agent are o responsabilitate clar definită și poate îndeplini corect acea responsabilitate. Agentul de documente poate extrage informațiile corecte. Agentul de verificare a veniturilor poate finaliza cu succes sarcina sa. Agentul de rezumat poate crea un rezumat precis al informațiilor disponibile. Agentul de aprobare poate urma corect instrucțiunile.

Decizia finală de afaceri poate fi încă greșită.

Imaginați-vă că informațiile actualizate despre venituri sosesc după verificarea inițială. Documentul nou este procesat, dar semnificația lui este redusă când cazul este rezumat pentru pasul următor. Agentul final de aprobare primește un rezumat rezonabil, dar nu contextul complet al afacerii care a existat pe parcursul întregului proces.

Nimic nu s-a prăbușit neapărat. Niciun API nu a eșuat. Niciun agent individual nu a hallucinat neapărat. Fiecare componentă ar putea raporta o execuție reușită, în timp ce procesul de afaceri ajunge la un rezultat greșit.

Anthropic discută o provocare conexă în ghidul său privind construirea de agenți eficienți, observând că sistemele autonome pot întâmpina erori cumulate pe măsură ce fac mai mulți pași. Problema devine mai largă decât acuratețea modelului, deoarece starea, contextul, deciziile și presupunerile se propagă prin fluxul de lucru.

Acest lucru creează o distincție importantă între fiabilitatea agentului și fiabilitatea procesului de afaceri. O întreprindere nu experimentează în final un agent individual. Experimentează rezultatul produs de întregul proces.

Figura 2: Succesul local nu garantează succesul în afaceri

Acesta este unul dintre schimbările importante introduse de Agentic AI. Un flux de lucru poate eșua chiar și atunci când fiecare componentă pare sănătoasă la o inspecție independentă.

Capacitatea nu este autoritatea

Marea parte a stivei actuale de agenți este, în mod firesc, concentrată pe capacitate. Echipele doresc să știe dacă un agent poate raționa, să selecteze instrumentul potrivit, să finalizeze o sarcină, să se recupereze din erori și să opereze cu o acuratețe și latență acceptabile.

Întreprinderile au o altă cerință: autoritatea.

Să presupunem că un agent de subscriere este capabil să aprobe un împrumut. Acest lucru nu înseamnă că ar trebui să aprobe fiecare împrumut pe care îl poate evalua. Autoritatea sa poate depinde de suma împrumutului, de categoria de risc, de tipul de client, de dovezile disponibile, de nivelul de încredere, de deciziile anterioare sau de faptul dacă cererea s-a modificat după o revizuire anterioară.

Acest lucru creează o limită între ceea ce poate face și ceea ce este autorizat să facă.

OpenAI recomandă evaluarea riscului asociat cu instrumentele agenților și adăugarea de măsuri de protecție sau intervenție umană în jurul acțiunilor sensibile și ireversibile. Microsoft adoptă o abordare similară în ghidul său pentru procesele de bază ale afacerii operate de agenți, unde agenții pot lua decizii de rutină în limite definite, în timp ce drepturile de decizie determină care acțiuni pot fi efectuate independent și care necesită aprobare umană.

Pe măsură ce capacitatea agenților se îmbunătățește, această distincție devine mai importantă, nu mai puțin. Agenții mai capabili pot întreprinde acțiuni cu consecințe mai mari. Prin urmare, întreprinderile au nevoie de modalități mai clare de a defini și impune limitele în care aceste acțiuni sunt permise.

Întrebarea trece de la Poate agentul să facă asta? la În ce condiții ar trebui să i se permită agentului să facă asta?

Politica de afaceri trebuie să se apropie de execuție

Întreprinderile au deja mecanisme extinse pentru controlul proceselor operate de oameni. Folosesc SOP-uri, matrici de aprobare, politici de conformitate, praguri de risc, instruire, separarea atribuțiilor, audituri și proceduri de escaladare. Majoritatea acestor mecanisme au fost concepute în jurul unei presupuneri simple: o persoană citește regula, înțelege situația și aplică regula în timp ce îndeplinește munca.

Agenții schimbă acea presupunere.

Luați în considerare o politică care solicită aprobare secundară pentru tranzacțiile care depășesc un anumit prag. Când un om efectuează sarcina, politica poate exista într-un document susținut de instruire și controale de flux de lucru. Când un agent poate executa sute sau mii de acțiuni rapid, existența acelui document de politică nu împiedică în sine o acțiune care îl încalcă.

Undeva între politica scrisă și acțiunea de afaceri, politica trebuie să devină operațională.

Acest lucru nu înseamnă că fiecare politică trebuie să devină cod determinist. Unele controale vor fi deterministe, altele vor necesita interpretare semantică, altele vor depinde de risc sau încredere, iar altele vor continua să necesite judecata umană. Schimbarea arhitecturală mai amplă este că politica de afaceri începe să se apropie de calea de execuție.

AWS subliniază acest aspect în mod specific în contextul Agentic AI în serviciile financiare, inclusiv necesitatea validării acțiunilor agenților bazate pe politici și a traselor de audit în jurul activităților cu consecințe.

Istoric, organizațiile puteau defini numeroase cerințe de guvernanță înainte de execuție și să verifice conformitatea ulterior prin audituri și revizuiri. Când sistemele autonome acționează continuu și la viteza mașinii, unele controale trebuie să funcționeze în timp ce procesul rulează.

Prezența umană în buclă este necesară, dar nu este modelul operațional

Cel mai frecvent răspuns la incertitudinea dintr-un flux de lucru AI este să se introducă un om în buclă. Aceasta are sens, în special pentru deciziile cu consecințe, dar devine problematică când revizuirea umană este tratată ca răspuns la fiecare excepție.

Imaginați-vă o operațiune agentică care procesează mii sau milioane de decizii. Dacă fiecare situație neobișnuită, rezultat cu încredere scăzută, ambiguitate a politicii sau excepție este redirecționată către o persoană, organizația nu a eliminat blocajul operațional. Pur și simplu a mutat blocajul într-o coadă de revizuire. În timp, acest lucru poate genera o altă problemă: când oamenilor li se cere să aprobe prea multe decizii de rutină, supravegherea umană în sine poate deveni mai puțin semnificativă.

Oamenii rămân esențiali, dar rolul lor trebuie să se schimbe. În loc să revizuiască fiecare decizie, ar trebui să se concentreze pe situațiile în care judecata este cu adevărat necesară, unde autoritatea unui agent a fost atinsă sau în care sistemul întâlnește o condiție pe care nu ar trebui să o rezolve independent.

Un model operațional scalabil, prin urmare, nu poate să se bazeze doar pe evaluarea riscului și revizuirea umană. Înainte ca o acțiune a unui agent să devină o acțiune de afaceri, sistemul trebuie să ia în considerare contextul de afaceri curent, politicile relevante, autoritatea agentului și ce s‑a întâmplat deja în fluxul de lucru. Rezultatul poate fi continuarea, solicitarea de dovezi suplimentare, suspendarea acțiunii sau escaladarea deciziei către un om.

Figura 3: Revizuirea umană devine un rezultat al controlului în timp real

Acest lucru schimbă rolul supravegherii umane. Un om nu mai este inserat în fiecare pas incert în mod implicit. Intervenția umană devine un posibil rezultat atunci când contextul de afaceri, politica, autoritatea sau consecința unei acțiuni necesită judecată.

Distincția este importantă la scară de întreprindere. Unele acțiuni ar trebui să continue automat deoarece se încadrează clar în politică și autoritate. Altele ar trebui să fie puse în pauză deoarece dovezile necesare lipsesc sau starea afacerii s‑a schimbat. Altele ar trebui să fie escaladate deoarece decizia a depășit o limită pe care organizația a rezervat-o în mod intenționat pentru oameni.

Scopul nu este de a elimina oamenii din buclă. Este de a plasa oamenii în buclile potrivite, permițând în același timp deciziilor de rutină să avanseze în limite clar definite. Pe măsură ce sistemele agentice se dimensionează, calitatea supravegherii umane poate depinde mai puțin de câte decizii revizuiește personalul și mai mult de capacitatea sistemului operațional de a identifica deciziile în care judecata umană contează cu adevărat.

Observabilitatea este necesară, dar a vedea nu înseamnă a controla

Industria a înregistrat progrese semnificative în observabilitatea AI. Echipele pot inspecta prompturi, răspunsuri ale modelelor, trasări, apeluri de instrumente, latență, utilizarea token‑urilor și, din ce în ce mai mult, întreaga traiectorie pe care un agent a parcurs‑o înainte de a produce un rezultat.

Această vizibilitate este esențială. ghidul OpenAI privind siguranța și evaluarea agenților subliniază, de asemenea, tehnici precum evaluările și gradarea trasărilor pentru a înțelege comportamentul agenților.

Dar vizibilitatea singură nu rezolvă problema operațională.

Imaginați-vă că descoperiți că un agent de subscriere a încălcat o politică de aprobare de 2.700 de ori săptămâna trecută. Aceasta ar reprezenta o observabilitate excelentă și operațiuni dezastruoase.

Pentru procesele de afaceri cu consecințe, întreprinderile au nevoie, în cele din urmă, de capacitatea nu doar de a înțelege comportamentul agenților, ci și de a reacționa în timp ce procesul rulează.

Figura 4: Bucla de control operațional

Observabilitatea răspunde la ce a făcut agentul. Operațiunile agentice trebuie, de asemenea, să răspundă la dacă agentul ar trebui să continue.

Această distincție devine deosebit de importantă când o acțiune este costisitoare, cu consecințe, dificil de inversat sau capabilă să influențeze multe decizii ulterioare.

Cele mai dificile eșecuri pot apărea între agenți

Există o altă provocare care devine vizibilă pe măsură ce întreprinderile trec la fluxuri de lucru cu mai mulți agenți și de durată mai lungă. Multe politici de afaceri nu sunt locale unei singure acțiuni.

Luați în considerare o politică care limitează expunerea financiară totală pe parcursul unei secvențe de decizii. Fiecare tranzacție individuală poate fi sub pragul permis, în timp ce expunerea cumulativă îl depășește. Analizând fiecare acțiune independent, nu s‑ar observa nicio încălcare.

Aceeași problemă poate apărea și în ceea ce privește autoritatea. Un agent poate fi autorizat să colecteze informații, dar nu să ia o decizie finală. După mai multe transferuri, un agent din aval poate primi informațiile fără a păstra restricțiile de autoritate atașate sarcinii inițiale. Fiecare pas individual poate părea rezonabil, în timp ce secvența încalcă procesul de afaceri intenționat.

Contextul creează o problemă similară. Informațiile care erau relevante în prima etapă a unui flux de lucru pot fi rezumate, transformate sau omise la câteva etape mai târziu. Agentul din aval nu poate raționa asupra informațiilor pe care nu le mai are, chiar dacă raționamentul său este în altă parte corect.

Aceste eșecuri sugerează că unitatea de fiabilitate trebuie extinsă.

Vom continua să evaluăm modelele întrebându-ne dacă răspunsurile lor sunt corecte. Vom evalua agenții întrebându-ne dacă și-au îndeplinit sarcinile corect. Dar la nivel de flux de lucru, întrebarea devine dacă informațiile, autoritatea și politica au supraviețuit pe parcursul secvenței de acțiuni. La nivel de afacere, întrebarea devine dacă rezultatul final a fost atât corect, cât și permis.

Acest lucru este, de asemenea, în concordanță cu perspectiva mai largă a ciclului de viață din Cadru de gestionare a riscurilor AI al NIST, care subliniază măsurarea și gestionarea continuă a riscului AI, în loc să trateze evaluarea ca o activitate unică înainte de implementare.

Aici începe Operațiunile Agentice

Guvernanța AI, evaluarea modelelor, LLMOps, observabilitatea, securitatea și AI responsabilă abordează deja părți importante ale operării sistemelor AI. Operațiunile Agentice nu înlocuiesc aceste discipline. Ele se ocupă de stratul operațional care devine important atunci când sistemele autonome și semi-autonome încep să participe direct la procesele de afaceri.

Operațiunile Agentice reprezintă disciplina operării sistemelor AI autonome și semi-autonome în cadrul proceselor reale de afaceri, incluzând modul în care autoritatea, contextul, deciziile, excepțiile, intervenția umană și responsabilitatea sunt gestionate în timpul execuției.

Distincția contează deoarece obiectul gestionat nu mai este doar un model. Este un proces de afaceri continuu în care software-ul poate lua decizii și efectua acțiuni în mod independent.

În practică, aceasta creează un set diferit de întrebări operaționale. Ce este autorizat să facă un agent? Ce context de afaceri trebuie să persiste pe parcursul unui flux de lucru de lungă durată? Ce se întâmplă când noi dovezi invalidează o decizie anterioară? Cum poate o organizație să detecteze când acțiuni acceptabile individual, colectiv încalcă o politică? Când ar trebui ca un agent să continue, să pună în pauză, să se oprească sau să escaladeze? Luni mai târziu, poate organizația să reconstruiască motivul pentru care a fost luată o anumită decizie?

Există, de asemenea, o problemă de proprietate. Când un agent își îndeplinește corect sarcina tehnică, dar rezultatul de afaceri este greșit, cine deține eșecul? Delegarea execuției unui agent nu delegă responsabilitatea organizației care îl operează.

Agenții pot executa munca. Întreprinderea deține în continuare rezultatul.

Scopul este Autonomia Controlată

Viitorul AI-ului Agentic este uneori descris ca o progresie spre autonomie completă, în care oamenii dispar treptat din fluxurile de lucru ale afacerilor. Pentru majoritatea întreprinderilor, acesta este probabil un obiectiv greșit.

Scopul mai util este autonomia controlată.

Multe procese asistate de AI astăzi urmează un model în care un agent propune o acțiune și o persoană ia decizia finală. Pe măsură ce încrederea crește, unele fluxuri de lucru vor permite agenților să ia decizii în cadrul autorității definite, în timp ce sistemul înconjurător supraveghează execuția și oamenii gestionează excepțiile. Fluxurile de lucru mature, cu risc scăzut, pot în cele din urmă permite agenților să decidă și să acționeze independent, în timp ce deciziile cu consecințe rămân monitorizate și înregistrate.

Fig 5 : Nivelul crescând de autonomie

Granița adecvată va diferi în funcție de proces. O bancă poate permite o autonomie substanțială în clasificarea documentelor, în timp ce impune controale stricte în jurul deciziilor de credit. Un asigurător poate automatiza cererile de despăgubire de rutină, escaladând combinații neobișnuite de dovezi. O organizație din domeniul sănătății poate permite agenților să colecteze și să rezume informații, rezervând deciziile cu consecințe pentru oameni.

Întrebarea importantă, prin urmare, nu este simplu cât de autonom poate deveni un agent. Ci câtă autonomie poate opera în mod responsabil o organizație.

Acest lucru schimbă, de asemenea, rolul controalelor. Controalele nu sunt neapărat mecanisme pentru reducerea autonomiei. Dacă sunt implementate corect, ele permit unei organizații să extindă autonomia cu o încredere sporită.

Operarea Agenților poate deveni mai dificilă decât construirea lor

Modelele vor continua să se îmbunătățească. Utilizarea instrumentelor se va îmbunătăți. Cadrele de agenți se vor îmbunătăți. Raționamentul se va îmbunătăți, iar multe probleme care par dificile astăzi vor deveni în cele din urmă de rutină.

Totuși, modele mai bune nu elimină politicile de afaceri, contextul în schimbare, excepțiile, limitele organizaționale sau responsabilitatea. În anumite moduri, agenții mai buni fac ca aceste probleme să fie mai importante. Un sistem care nu poate acționa autonom are o autoritate operațională limitată. Un sistem capabil să execute mii de decizii de afaceri creează o responsabilitate cu totul diferită.

Acesta este motivul pentru care următoarea fază a AI-ului în întreprinderi s-ar putea să nu fie determinată de organizația care implementează cei mai mulți agenți. Ar putea fi determinată de organizațiile care învață cum să îi opereze.

Primele 80% demonstrează că agentul poate funcționa. Restul de 20% determină dacă întreprinderea îl poate încredința afacerii.

Pe măsură ce agenții devin mai capabili, întrebarea definitorie a întreprinderii poate trece de la ce pot face agenții noștri la ceva mai dificil:

Ce suntem dispuși să le permitem să facă, în ce condiții și cum vom ști când aceste condiții se schimbă?

Aici începe Operațiunile Agentice.