De ce datele mai bune, singure, nu sunt suficiente pentru agenții IA

De ani de zile, unul dintre cele mai frecvente sfaturi privind inteligența artificială în companii a fost să se înceapă prin a pune la punct datele. Logica este simplă: pentru a lua decizii utile, un sistem are nevoie de informații exacte și accesibile.

Afirmația rămâne valabilă și astăzi, dar devine incompletă pe măsură ce agenții IA trec de la a răspunde la întrebări și a genera conținut la a acționa în numele angajaților și al organizațiilor. Datele îi pot spune unui agent ce este adevărat despre un client, o tranzacție, o cerere de despăgubire sau o solicitare, dar nu îi spun neapărat ce ar trebui să facă în continuare și nici care ar fi consecințele unei acțiuni. Această distincție contează când un agent nu se mai limitează la a oferi un răspuns, ci aprobă o solicitare, actualizează o înregistrare, contactează un client sau duce mai departe un dosar.

Angajații din companii trebuie să învețe să lucreze într-un cadru care include lanțuri de aprobare, reguli de afaceri, dependențe, excepții și proceduri de escaladare; și agenții au nevoie de o modalitate de a face același lucru. Întrucât Gartner estimează că 40% dintre aplicațiile pentru companii vor include agenți IA specializați în anumite sarcini până la sfârșitul lui 2026, față de mai puțin de 5% în 2025, lacunele de cunoștințe ale agenților vor deveni tot mai greu de ignorat. 

Gartner estimează, de asemenea, că, până în 2028, 80% din rentabilitatea tangibilă a investițiilor în IA agentică va proveni de la agenți specializați în domenii specifice. Specializarea este importantă, dar rezolvă doar o parte a problemei. Cunoașterea unui anumit domeniu nu îi spune automat unui agent unde începe și unde se termină responsabilitatea sa, cum se încadrează sarcina sa într-un proces mai amplu sau cine ar trebui să preia responsabilitatea când ceva depășește atribuțiile sale. Pentru a deveni participanți de încredere la activitatea companiilor, agenții au nevoie atât de contextul proceselor și al fluxurilor de lucru, cât și de date de afaceri.

Datele bune nu îi spun unui agent ce urmează

Să luăm exemplul unei cereri de împrumut, pentru care un agent ar putea avea acces la istoricul financiar al solicitantului, la informații despre locul de muncă și la alte documente relevante. Aceste informații îl pot ajuta să înțeleagă cererea, dar nu îi spun cum o gestionează organizația.

Ce verificări trebuie efectuate mai întâi? Ce se schimbă când solicitantul îndeplinește o condiție, dar nu și alta? Ce informații sunt obligatorii înainte ca dosarul să poată avansa? Ce decizii pot fi luate automat și care trebuie trimise unui specialist în evaluarea creditelor?

Majoritatea activităților din companii presupun numeroase astfel de trasee condiționale. Un proces poate avansa automat când sunt îndeplinite anumite criterii, se poate opri pentru a colecta informații suplimentare sau poate urma o cu totul altă cale atunci când apare o excepție. Acțiunea potrivită depinde nu doar de informațiile disponibile, ci și de etapa în care se află activitatea și de ceea ce s-a întâmplat deja.

Aceasta schimbă sensul fiabilității pentru un agent destinat companiilor. Un răspuns corect nu este suficient dacă următoarea acțiune este greșită. Un agent poate interpreta corect informațiile pe care le are la dispoziție și totuși poate trimite un dosar în etapa greșită, poate omite aprobarea obligatorie sau poate acționa înainte ca o dependență să fi fost rezolvată.

McKinsey a prezentat recent informații despre colaborarea sa cu o companie de tehnologie medicală, care a descoperit că platforma IA pe care o utiliza nu putea susține câteva dintre regulile esențiale ale fluxurilor sale de lucru. În loc să amâne data lansării pentru a remedia aceste lacune, compania și-a continuat planul și, în cele din urmă, a rămas nevalorificată o valoare estimată la 30% din cea pe care IA ar fi trebuit să o genereze. Acest exemplu subliniază necesitatea ca organizațiile să țină cont de procesul din jurul unei sarcini, nu doar de informațiile necesare pentru a o îndeplini. 

Corelați măsurile de protecție cu deciziile pe care le poate lua un agent

Pe măsură ce agenții dobândesc capacitatea de a acționa, și guvernanța trebuie să devină mai specifică. Un agent care caută un document cu o politică nu prezintă același nivel de risc ca unul care modifică un cont de client, aprobă o plată sau inițiază o tranzacție. Cu toate acestea, organizațiile pot ajunge cu ușurință la una dintre două extreme: fie le permit agenților prea multă libertate de acțiune, fie cer aprobarea unei persoane pentru aproape orice.

Controalele aplicate unui agent ar trebui să reflecte deciziile pe care acesta le poate lua și consecințele posibile. O acțiune repetitivă, cu risc scăzut, poate fi efectuată în mod independent. O altă acțiune poate necesita aprobare dacă depășește o anumită valoare. Un caz neobișnuit poate necesita escaladarea imediată către un angajat.

Supravegherea umană este cel mai utilă când este deliberată. Dacă o persoană trebuie să aprobe fiecare etapă de rutină, o mare parte din beneficiile introducerii unui agent dispar. Însă eliminarea punctelor de control din deciziile care necesită cu adevărat discernământ sau asumarea răspunderii creează o altă problemă.

IBM Research a susținut necesitatea unor reguli explicite privind acțiunile pe care agenții au voie să le întreprindă și punctele în care este necesară supravegherea umană. Aceste controale trebuie să țină cont și de procesul la care participă agentul. Autoritatea unui agent nu rămâne neapărat constantă de la începutul până la sfârșitul unui dosar. Ceea ce poate face în siguranță poate depinde de etapa procesului, de informațiile deja verificate, de deciziile luate anterior și de consecințele următoarei acțiuni.

Asta înseamnă că organizațiile trebuie să integreze guvernanța chiar în fluxul de lucru. În loc să-i acorde unui agent un set larg de permisiuni și să se bazeze pe el în orice situație, organizațiile pot stabili unde are voie să acționeze independent, unde trebuie îndeplinite condiții suplimentare și unde responsabilitatea trebuie transferată unei persoane. Întrebarea nu mai este atât dacă un agent este autonom, cât în ce puncte ale unui proces este potrivită autonomia.

Agenții trebuie să lucreze cu structurile deja existente în companie

Contextul procesului devine și mai important atunci când un agent trebuie să interacționeze cu restul organizației. Organizațiile nu pornesc de la zero. O singură solicitare a unui client poate trece deja printr-un sistem CRM, un depozit de documente, o platformă de gestionare a cazurilor și un sistem ERP, implicând totodată angajați din mai multe departamente.

Introducerea unui agent într-o parte a acestui mediu nu face automat întregul proces mai eficient. Agentul își poate îndeplini perfect sarcina individuală, dar, dacă un angajat trebuie apoi să copieze rezultatul într-o altă aplicație, să stabilească cine are nevoie de el în continuare sau să reia manual procesul în altă parte, blocajul doar s-a mutat.

De aceea, companiile trebuie să privească agenții ca pe niște participanți la un proces mai amplu, nu ca pe instrumente izolate. Ce declanșează activitatea agentului? Ce informații primește? De ce este responsabil? Unde ajunge activitatea după ce agentul și-a încheiat sarcina? Și ce se întâmplă când nu o poate duce la bun sfârșit?

Aceste întrebări devin și mai importante pe măsură ce organizațiile introduc mai mulți agenți specializați. Deloitte a identificat orchestrarea drept o cerință esențială pentru companiile care fac tranziția către sisteme cu mai mulți agenți, în care agenți diferiți pot îndeplini roluri distincte și își pot coordona activitatea. Orchestrarea la nivelul întregii companii trebuie să includă modul în care agenții comunică și se coordonează între ei, nu doar modul în care operează individual. Fără această supraveghere, agenții riscă să acționeze pe baza unui context incomplet, să declanșeze acțiuni contradictorii sau să ocolească regulile de afaceri și procesele de aprobare stabilite. Agenții continuă să opereze în organizații în care există deja aplicații, angajați, reguli de afaceri și procese care pot dura zile, săptămâni sau luni.

Începeți cu procesul care trebuie finalizat și stabiliți ce rol au agenții, oamenii și sistemele existente în cadrul acestuia. Un agent poate gestiona independent o etapă, un alt agent poate efectua o verificare specializată, un angajat poate lua o decizie în funcție de situație, iar un sistem existent poate executa tranzacția finală. Important este ca activitatea să poată trece de la un participant la altul fără ca informațiile de context să se piardă pe parcurs.

Autonomia necesită structură

A le oferi agenților mai multă structură nu înseamnă că fiecare acțiune trebuie supusă unui nou nivel de restricții. De fapt, se poate întâmpla chiar contrariul. Procesele clare le pot oferi organizațiilor mai multă încredere în privința domeniilor în care agenții pot opera independent, deoarece limitele, excepțiile și situațiile care impun escaladarea au fost deja definite. Un agent nu are nevoie de libertate nelimitată pentru a aduce o valoare reală. Are nevoie de suficientă responsabilitate pentru a duce activitatea mai departe, de suficient context pentru a ști ce urmează și de o înțelegere clară a situațiilor în care responsabilitatea revine altcuiva.

Datele mai bune vor continua să sporească capabilitățile agenților. Însă capabilitățile, de unele singure, nu fac un agent util în cadrul unei companii. Adevăratul test este dacă poate întreprinde acțiunea potrivită, la momentul potrivit al unui proces și în limitele stabilite de companie.