Strategii de securitate cibernetică pentru dezvoltarea agenților cu cod redus și cu cod extins

Pe măsură ce organizațiile folosesc agenți de inteligență artificială în diferite sisteme de business, viteza de dezvoltare și supravegherea securității devin strâns legate. Strategiile de securitate cibernetică pentru dezvoltarea agenților cu cod redus și cu cod extins trebuie să țină cont de modul în care fiecare abordare acordă acces la informații și permite efectuarea unor acțiuni. Măsurile de protecție specifice pot aborda aceste diferențe, iar guvernanța comună menține activitatea agenților aliniată cu sarcinile autorizate pe măsură ce implementările se extind.

Ce diferențiază dezvoltarea agenților AI cu cod redus de cea cu cod extins

Platformele cu cod redus le permit creatorilor să asambleze agenți prin interfețe vizuale și conectori preconfigurați care leagă serviciile de business. Dezvoltarea cu cod extins le oferă programatorilor mai multă flexibilitate pentru a defini comportamentul agenților prin cod personalizat, integrări cu instrumente și medii de execuție. Ambele abordări necesită supravegherea informațiilor la care agenții pot avea acces și a acțiunilor pe care le pot efectua.

Responsabilitățile privind securitatea diferă, deoarece controlul se află în locuri diferite. Creatorii care folosesc platforme cu cod redus lucrează în cadrul unor setări ale platformei care reglementează partajarea și accesul conectorilor, ceea ce face deosebit de importante deciziile de configurare. Echipele care dezvoltă cu cod extins au o responsabilitate mai mare pentru software-ul și mediile în care sunt executate instrucțiunile agenților, inclusiv pentru delimitarea accesului la fișiere și acreditări.

Cybersecurity and Infrastructure Security Agency identifică mai multe riscuri asociate cu IA agentică, care oferă un cadru util pentru ambele abordări. Suprafața de atac extinsă se referă la punctele suplimentare de acces, în timp ce acumularea excesivă de privilegii se referă la extinderea treptată a accesului. Nealinierea comportamentală presupune abateri de la sarcinile prevăzute, iar înregistrările neclare ale evenimentelor îngreunează investigarea. Un conector utilizat pe scară largă și un instrument de linie de comandă fără restricții pot genera forme diferite ale acelorași probleme.

Riscuri de securitate pentru agenții AI cu cod redus și soluții

Accesibilitatea dezvoltării cu cod redus le permite și angajaților din afara echipelor tradiționale de dezvoltare să creeze agenți. Supravegherea securității trebuie să îi includă și pe acești creatori, astfel încât conexiunile ușor de configurat să respecte utilizările autorizate în cadrul activității organizației.

Limitele securității în mediile cu cod redus

Dezvoltatorii fără pregătire formală în programare pot conecta un agent la fișiere partajate sau aplicații de business fără să înțeleagă pe deplin permisiunile acestuia. Accesul acordat prin aceste conexiuni poate expune informații sensibile sau poate permite acțiuni care depășesc fluxul de lucru prevăzut. Partajarea extinsă și responsabilitățile neclare pot agrava această expunere.

Amploarea adoptării face importantă supravegherea consecventă în toate departamentele. Într-o analiză de piață din 2024, Forrester raportează că 87% dintre dezvoltatorii din întreprinderi folosesc platforme cu cod redus pentru anumite activități de dezvoltare. Această constatare se referă la dezvoltare în general, așadar arată cât de răspândite sunt platformele, fără a măsura în mod specific adoptarea agenților AI.

Modalități practice de a spori securitatea agenților cu cod redus

Echipele ar trebui să verifice permisiunile conectorilor în raport cu sarcina atribuită fiecărui agent și să aplice principiul privilegiului minim. Un registru central ar trebui să consemneze responsabilul și serviciile conectate pentru fiecare implementare, precum și cerințele de aprobare pentru acțiunile sensibile. Astfel, echipele de securitate pot identifica agenții neînregistrați și pot investiga accesul necorespunzător.

Abordarea Microsoft privind guvernanța datelor pune accentul pe accesul controlat la informațiile de business. Naveen Jangir, arhitect principal la Microsoft Digital, recomandă organizațiilor să „guverneze și să protejeze informațiile prin restricții de acces adecvate”. Aceste controale le permit utilizatorilor autorizați și capabilităților AI să le utilizeze fără expunere inutilă și în limitele permisiunilor stabilite. Aplicarea unor politici pentru conectori, împreună cu desemnarea clară a responsabililor, poate integra aceste restricții în activitatea de dezvoltare de zi cu zi.

Riscuri de securitate pentru agenții AI cu cod extins și soluții

Când echipele folosesc agenți de programare AI pentru a crea sisteme personalizate, modificările generate pot apărea mai repede decât reușesc oamenii să le examineze. Prin urmare, securitatea dezvoltării cu cod extins necesită controale atât asupra procesului de dezvoltare, cât și asupra mediilor în care agenții execută sarcini.

Provocările specifice de securitate ale dezvoltării cu cod extins

Agenții de programare se pot confrunta cu injecții indirecte de prompt atunci când citesc depozite externe care conțin instrucțiuni introduse de atacatori. Dacă un agent urmează aceste instrucțiuni în timp ce are acces la instrumente de dezvoltare, poate executa comenzi nesigure sau poate expune acreditări. Consecințele posibile depind, în parte, de fișierele, instrumentele și destinațiile externe la care mediul său de execuție îi permite să ajungă.

Recomandările NVIDIA privind izolarea în medii de tip sandbox abordează expunerea acreditărilor în limitele mediului de execuție. Acestea precizează că „mediile sandbox ar trebui să se bazeze pe injectarea explicită a secretelor” pentru a limita accesul la acreditări. Prin urmare, agenții nu ar trebui să moștenească acreditările complete ale mediului atunci când sarcinile lor necesită doar acces limitat. Echipele ar trebui să furnizeze acreditări pentru sarcina specifică și să păstreze secretele fără legătură cu aceasta în afara accesului agentului.

Strategii pentru consolidarea fluxurilor de lucru cu agenți dezvoltați cu mult cod

Mediile de execuție restricționate ar trebui să limiteze accesul la fișiere și conexiunile externe în funcție de sarcină. Echipele ar trebui, de asemenea, să aplice testarea statică de securitate a aplicațiilor asupra codului generat. Evaluatori independenți ar trebui să examineze deciziile de autorizare sau logica de business care ar putea scăpa verificărilor automate. Aceste niveluri de protecție vizează limitele de execuție și vulnerabilitățile software-ului rezultat.

Amazon Web Services recomandă separarea generării codului de evaluarea acestuia în cadrul său de control al agenților de programare. Compania menționează că „o sesiune separată ajută la evitarea tendinței de a-și confirma propriile concluzii”. Totuși, două sesiuni care folosesc același model pot avea aceleași puncte oarbe fundamentale în timpul evaluării. Atunci când este posibil, folosirea unui model diferit pentru evaluare și examinarea de către oameni a modificărilor sensibile din punct de vedere al securității pot asigura un control suplimentar.

Construirea unei strategii de securitate care să acopere ambele abordări

Securitatea IA în dezvoltarea agenților low-code și high-code necesită o imagine de ansamblu comună asupra activității ori de câte ori agenții fac schimb de informații. De exemplu, un flux de lucru low-code ar putea trimite conținut unui agent construit la comandă, care apoi apelează un alt serviciu de business. Examinarea fiecărei componente separat poate priva echipele de securitate de contextul necesar pentru a înțelege întregul flux.

Experții în securitatea IA de la Darktrace susțin că organizațiile trebuie să inspecteze solicitările și sesiunile, precum și răspunsurile, în cadrul instrumentelor de IA generativă pentru întreprinderi și al ambelor abordări de dezvoltare. Perspectiva sa include, de asemenea, mediile de tip software ca serviciu și cele de tip edge pentru acces securizat. Cu această vizibilitate, organizațiile obțin contextul necesar pentru ca „să poată detecta atacurile subtile prin prompturi conversaționale și înlănțuirea malițioasă a acțiunilor”.

Perspectiva Darktrace susține o strategie mai amplă de securitate a IA pentru dezvoltarea agenților low-code și high-code, deoarece vizibilitatea asupra solicitărilor, monitorizarea sesiunilor și supravegherea identității ajută echipele să înțeleagă cum interacționează agenții prin intermediul instrumentelor conectate. Echipele de securitate ar trebui să examineze cum se modifică instrucțiunile de-a lungul sesiunilor conectate și dacă acțiunile ulterioare rămân în concordanță cu autorizarea inițială. De asemenea, ar trebui să țină cont de sensibilitatea informațiilor păstrate în scopul investigării.

Guvernanță și monitorizare pentru securitatea pe termen lung a agenților IA

Fiecare agent ar trebui să aibă un responsabil identificat și un domeniu clar definit de activități permise, indiferent de metoda de dezvoltare. Guvernanța ar trebui să stabilească, de asemenea, cine poate aproba modificările acestui domeniu și cine poate suspenda activitatea atunci când un agent se comportă în mod neașteptat.

Cercetările privind guvernanța agenților sugerează că aceștia au nevoie de o autoritate care poate fi autentificată și auditată, pentru a asigura responsabilitatea. Această abordare asociază persoana care acordă permisiunea cu sarcinile pe care le poate îndeplini un agent. Astfel, organizațiile pot verifica dacă o acțiune respectă autorizarea respectivă.

Echipele ar trebui să păstreze jurnale de activitate care să coreleze permisiunile delegate cu utilizarea instrumentelor și rezultatele obținute. Revizuirile periodice ar trebui să reexamineze aceste permisiuni pe măsură ce se schimbă capabilitățile, să elimine accesul rămas după finalizarea activităților și să confirme că atribuirea responsabilităților este actualizată. Echipele de dezvoltare și securitate pot utiliza aceste revizuiri pentru a menține controalele operaționale aliniate la scopul aprobat al agentului.

Cum să rămânem cu un pas înaintea riscurilor de securitate asociate agenților IA

Dezvoltarea low-code impune gestionarea atentă a permisiunilor platformei și a guvernanței conectorilor, în timp ce dezvoltarea high-code necesită o atenție sporită acordată mediilor de execuție personalizate și revizuirii codului. Monitorizarea centralizată și responsabilitatea consecventă oferă o bază comună pentru supravegherea modului în care agenții accesează informații și acționează în sistemele de business conectate. Pe măsură ce capacitățile se extind, dezvoltatorii ar trebui să reevalueze măsurile de protecție în paralel cu modificările aduse instrumentelor și responsabilităților agenților, menținând clară sfera activităților permise pentru fiecare implementare pe tot parcursul ciclului său de viață.