O singură politică, mii de agenți: de ce guvernanța IA în întreprinderi cedează la scară

O mare parte a discuțiilor despre adoptarea agenților IA autonomi s-a concentrat, pe bună dreptate, asupra guvernanței, considerată o provocare esențială. Gartner a estimat recent că 40% dintre întreprinderi își vor retrograda sau dezafecta agenții IA autonomi până în 2027 – nu pentru că tehnologia a eșuat, ci pentru că guvernanța lor a eșuat. Potrivit lui Shiva Varma, analist senior și director la Gartner, vinovată este „guvernanța binară”: tratarea agenților fie ca sisteme complet restricționate, fie ca sisteme pe deplin de încredere, fără nicio cale de mijloc.

În prezent, multe organizații tind fie să interzică total instrumentele IA, fie să implementeze agenți cu măsuri de protecție insuficiente. Niciuna dintre abordări nu se poate extinde cu ușurință. Chiar și atunci când departamentul IT interzice instrumentele IA externe, IA din umbră continuă să existe. Dezvoltatorii vor, în mod firesc, să construiască și să rezolve probleme; dacă guvernanța pare excesiv de birocratică, vor ocoli controalele și vor folosi instrumente neverificate pentru a-și putea continua activitatea. În schimb, măsurile de protecție insuficiente expun organizațiile la riscuri de securitate, de conformitate și operaționale, care se amplifică în timp. 

Provocarea este că agenții IA nu pot fi guvernați în mod uniform printr-o abordare statică, universală.  Era guvernanței universale se apropie de sfârșit, deoarece aceste sisteme nu au același profil de risc: diferă prin software-ul pe care se bazează, capabilități, niveluri de acces și grade de autonomie. Aplicarea unor controale statice, specifice erei industriale, unui software care funcționează la viteza mașinilor nu va da rezultate.  Guvernanța eficientă va depinde de capacitatea organizațiilor de a înțelege lanțul de aprovizionare software din spatele fiecărui agent și de a adapta controalele la riscurile pe care acesta le introduce.  

Guvernanța mediilor de dezvoltare software bazate pe agenți

Controlul real presupune gestionarea eficientă a tuturor elementelor software care intră în componența agentului. Multe echipe consideră, în mod eronat, că acești agenți sunt „fiabili și de încredere”, trecând cu vederea elementele standard care le influențează funcționalitatea și securitatea. 

Fiecare agent IA autonom este construit pe baza unei structuri recognoscibile: un model de bază, servere MCP (Model Context Protocol) care îl conectează la datele companiei și la sisteme externe, pluginuri care îi extind capabilitățile și fișiere de competențe care îi indică modul de funcționare. Liderii IT trebuie să țină cont de următoarele: 

• Agenții IA sunt ecosisteme software: Se bazează pe o configurație standard care include modele, MCP-uri, instrumente, pluginuri, competențe și software cu sursă deschisă.
• Serverele MCP pot prezenta riscuri: Ele conectează agenții la datele companiei și pot fi descărcate la fel ca orice alt software. Dacă nu sunt verificate, ar putea permite hackerilor să pătrundă în sistemul dumneavoastră. De exemplu, o analiză recentă de securitate realizată de JFrog evidențiază aceste riscuri specifice din lanțul de aprovizionare software în mcp-run-python, inclusiv o vulnerabilitate de tip falsificare a cererilor către server (SSRF) (CVE-2026-25904) și o vulnerabilitate cauzată de lipsa izolării (CVE-2026-25905) care poate duce la preluarea completă a controlului asupra MCP.
• Pluginurile pot spori riscurile: Agenți diferiți au nevoie de pluginuri diferite (de exemplu, un plugin OpenAI nu va funcționa în Microsoft Copilot), ceea ce înseamnă că firmele ajung adesea să gestioneze mai multe variante, iar un singur plugin rău intenționat ar putea fura informații sensibile.
• Competențele definesc comportamentul agentului: Aceste fișiere cu instrucțiuni îi spun agentului cum să lucreze. Pentru că dezvoltatorii le preiau din surse comunitare, o competență compromisă poate modifica pe ascuns modul în care funcționează un agent.
• Riscurile software-ului cu sursă deschisă: La baza tuturor funcționalităților soluțiilor create prin programare bazată pe agenți stă folosirea fișierelor binare cu sursă deschisă pentru a furniza aceste funcționalități. Agenții de programare pot folosi la fel de ușor pachete rău intenționate în locul celor sigure, fără să conștientizeze riscul.
• Vizibilitatea este esențială: Multe echipe nu știu că există aceste probleme, ceea ce îi lasă pe agenții lor extrem de vulnerabili. Organizațiile gestionează în continuare dependențele software bazându-se pe încredere, în loc să efectueze verificări amănunțite.

Rolul unui sistem de evidență în guvernanța eficientă a IA

Competiția pentru implementarea agenților IA în întreprinderi nu poate fi câștigată cu o mentalitate de ieri. Impunerea unor procese monolitice și excesiv de stricte, bazate pe aprobări manuale pentru fiecare flux de lucru, înăbușă inovația, în timp ce agenții lăsați nesupravegheați creează riscuri inutile.

Pentru a extinde utilizarea IA în siguranță, organizațiile trebuie să adopte o abordare pe mai multe niveluri pentru guvernarea și securizarea componentelor software, inclusiv a pachetelor, fișierelor binare, MCP-urilor, competențelor și dependențelor. Prin instituirea unui sistem de evidență, întreprinderile pot selecta toate componentele utilizate, pot scana totul înainte de folosire, pot aplica politici la momentul potrivit în ciclul de dezvoltare și pot păstra posibilitatea de a reveni instantaneu la o versiune anterioară. Astfel, când se dezvăluie următoarea vulnerabilitate, răspunsul la întrebarea „suntem expuși?” poate fi oferit în câteva minute, nu în câteva zile.

Totuși, agenții AI extind suprafața de atac și o fac să evolueze mult mai rapid. Agenții cu un grad ridicat de autonomie pot lua sute de decizii pe minut, pot înlănțui apeluri de instrumente, accesa date și executa cod într-un ritm pe care controalele tradiționale din etapa de preluare nu îl pot ține. Deși evaluările și procesele de aprobare inițiale joacă în continuare un rol important, ele nu pot, singure, să securizeze sistemele care funcționează la viteza mașinilor.

Acești agenți necesită aplicarea dinamică a controalelor în timpul execuției, cu posibilitatea de a detecta comportamentele anormale chiar în momentul în care apar și de a interveni înainte ca pagubele să se extindă. Gândiți-vă la un întrerupător automat: revocarea accesului la o competență compromisă, deconectarea unui context de date nesigur sau blocarea unui anumit apel de instrument în momentul în care ceva nu funcționează.

Dincolo de abordarea „universală”

O guvernanță rigidă și uniformă este o cale sigură spre eșec. Fereastra de oportunitate pentru a anticipa această problemă se închide, iar datoria de guvernanță se acumulează pe măsură ce implementarea agenților se accelerează. Prin urmare, iată patru măsuri pe care liderii din domeniul securității și al ingineriei le pot lua acum pentru a-și consolida sistemele de întreprindere:

1. Inventariați ce funcționează deja. Majoritatea întreprinderilor nu pot ține o evidență completă a agenților AI din organizație, darămite a serverelor MCP, a pluginurilor și a fișierelor de competențe care îi alimentează. Înainte de a putea evalua riscurile sau guverna ceva, trebuie să știți ce există.
2. Tratați componentele AI ca artefacte software. Serverele MCP, fișierele de competențe și pluginurile nu sunt configurații — sunt cod, cu aceleași riscuri în lanțul de aprovizionare ca orice dependență open-source. Aplicați aceleași procese de verificare, scanare și urmărire a provenienței pe care le-ați aplica oricărei biblioteci terțe.
3. Clasificați agenții în funcție de gradul de autonomie și adaptați controalele în consecință. Definiți ce înseamnă „grad ridicat de autonomie” pentru organizația dumneavoastră și construiți în jurul acestui criteriu un cadru de politici pe niveluri. Agenții cu un grad ridicat de autonomie au nevoie de aplicarea controalelor în timpul execuției, nu doar de verificări inițiale. Începeți cu cele mai sensibile sisteme și extindeți apoi măsurile.
4. Asigurați-vă că guvernanța este suficient de rapidă pentru ca dezvoltatorii, fie ei oameni, fie agenți, să nu o ocolească. AI-ul din umbră este o problemă de fricțiune. Dacă aprobarea unui server MCP nou durează două săptămâni, dezvoltatorii vor găsi o altă soluție. Scanarea automatizată, însoțită de aplicarea clară a politicilor, este singurul model care se poate adapta la ritmul real al dezvoltării AI.

Guvernanța devine mult mai eficientă atunci când reflectă riscurile reale pe care le prezintă fiecare agent, în loc să îi trateze pe toți la fel. Vor ieși în avantaj întreprinderile care adaptează guvernanța la realitățile fiecărui agent, sprijinindu-se pe un sistem de evidență care aplică politicile la fiecare punct de control, oferă vizibilitate asupra fiecărei componente și permite echipelor să reacționeze în momentul în care ceva nu funcționează.