2026 va vedea explozia agenților AI în întreprinderi: suntem pregătiți pentru riscurile de securitate?

Întreprinderile se grăbesc să adopte agenți AI, dar le lipsește infrastructura pentru a face acest lucru în siguranță. Agenții sunt diferiți de instrumentele AI: aceștia lucrează autonom, accesează date continuu și acționează la viteza mașinilor, fără a necesita supraveghere. Acest lucru creează riscuri complet noi, pentru care trebuie să ne pregătim.

Oamenii folosesc deja agenți AI la locul de muncă – fără a informa neapărat șefii. Cum putem fi siguri că bot-urile OpenClaw nu șterg fișiere importante? Trei din patru întreprinderi mari vor adopta sisteme multi-agent până la sfârșitul anului 2026, conform Gartner. Cum putem fi siguri că fiecare dintre acești agenți nu deschide porți pentru atacatori, care ne pot ataca în moduri noi?

Infrastructura de securitate actuală este concepută pentru a aborda amenințările cunoscute, care se desfășoară la viteza umană. Acest lucru nu ține cont de agenții răuvoitori care pot interveni în codul întreprinderii, fără ca noi să știm. Sau de atacatorii care ne pot ataca prin injecții de prompturi: instrucțiuni ascunse în cod sau prompturi care pot determina AI-ul să expună informații sensibile sau să execute coduri maligne.

Adevărul este că companiile sunt mai înfometate decât pregătite pentru această undă care vine. Doar 29% dintre organizații “sunt de acord puternic” că au protecții AI sigure în loc, conform unui sondaj Microsoft.

Liderii companiilor trebuie să facă mai multe lucruri.

1. Să implementeze măsuri de securitate native AI la nivelul întregii companii.
2. Să trateze agenții AI cu aceleași măsuri de securitate ca și oamenii.
3. Să crească vizibilitatea asupra a ceea ce fac acești agenți.

Prin executarea acestor controale, securitatea poate ține pasul cu viteza agenților și poate permite inovația, în loc să o încetinească.

Crearea securității native AI

În februarie, un cercetător de securitate de la Meta a făcut o postare surprinzătoare pe X: bot-ul său OpenClaw a început să șteargă e-mailurile și a ignorat ordinele de a se opri. Până când a putut interveni manual, daunele fuseseră deja făcute.

Acest lucru este o ilustrare a vitezei incredibile cu care AI-ul răuvoitor poate acționa, făcând controlul uman insuficient. Securitatea trebuie să se deplaseze la fel de rapid ca și agenții AI și să urmeze aceleași căi.

Acest lucru necesită o schimbare sistemică a infrastructurii de securitate a companiei, și nu doar actualizări ale instrumentelor existente. Mai multe domenii trebuie să fie implicate în această schimbare.

Evitarea situațiilor cu viteza rapidă, cum a fost cazul cercetătorului de la Meta, necesită instrumente AI care pot detecta anomalii în timp real și pot răspunde automat. De exemplu, agenții supraveghetori pot fi utilizați pentru a revizui sarcinile cu impact ridicat efectuate de alți agenți. Instrumentele de inteligență amenințătoare agențială (ATI) pot detecta și pot acționa automat în stadiile incipiente ale unui atac potențial.

Un alt mecanism important de prevenire este asigurarea siguranței modelului în sine, care este utilizat pe sistemele companiei. Platforme precum ProtectAI, TrojAI sau Aim Security pot testa pericole directe, cum ar fi injecția de prompturi, utilizând instrumente AI pentru a curăța codul înainte de publicare.

Asigurarea provenienței datelor la care au acces agenții AI este, de asemenea, crucială. Instrumente precum Databricks Unity Catalog, Collibra sau Alation permit echipelor să guverneze mișcarea datelor.

Putem preveni, de asemenea, tamperarea agenților noștri AI, asigurându-ne că dispozitivele fizice pe care le utilizăm pentru a-i implementa sunt securizate. Platforme precum CrowdStrike pot ajuta la prevenirea utilizării necorespunzătoare a credențialelor AI și pot detecta comportamentul anormal.

Trebuie să avem principii care să guverneze operațiunile noastre interne, precum și modul în care selectăm furnizorii noștri. Putem utiliza cadre industriale existente pentru orientare, cum ar fi Google SAIF pentru a construi o arhitectură securizată, AWS CAF-AI pentru guvernarea AI sau NIST AI RMF pentru conformitate. Proiectul de securitate AI Gen al OWASP – o inițiativă cu sursă deschisă pentru mitigarea riscurilor AI – oferă orientări de securitate relevante pentru întreprinderile care implementează AI.

Tratarea AI-ului cu aceleași limitări ca și oamenii

Anul trecut, un investitor utiliza un agent AI Replit pentru a crea cod – până când, în ziua a noua, agentul a decis să șteargă cod dintr-o bază de date de producție live, afectând 1.200 de companii.

Deoarece agenții pot acționa autonom, acordarea lor acces necontrolat la o gamă largă de documente, date și API-uri poate fi dezastruoasă. Unul dintre motive este că întreprinderile nu le atribuie de obicei o “identitate” în același mod în care o facem pentru utilizatorii umani, ceea ce înseamnă că nu pot urmări, monitoriza și gestiona accesul lor la diferite spații.

Întreprinderile pot acționa prin atribuirea de identități utilizatorilor non-umani: furnizorii de gestionare a accesului pot gestiona îndeaproape care sunt zonele la care agenții au acces, pentru cât timp și pot identifica orice comportament riscant. Acest lucru reduce accesul excesiv la zonele în care agentul nu are nevoie să fie. De asemenea, limitează ceea ce poate face în zonele în care operează.

Atribuirea de identități agenților reduce, de asemenea, amenințarea din partea actorilor externi.

Când o echipă de cercetători a injectat prompturi maligne într-o aplicație AI care gestionează contracte juridice, un utilizator a putut recupera date private care aparțineau unui alt utilizator. Este evident că nu a existat o separare securizată a datelor la nivel de utilizator, iar autorizarea pentru astfel de date a fost acordată AI-ului, chiar și atunci când nu era relevant pentru scenariul respectiv.

Stabilirea de limite pentru “identitățile” AI înseamnă că acestea nu vor avea acces “permanent” la toate zonele. De exemplu, agenții vor necesita autorizare pentru anumite funcții sau vor avea capacități de citire numai în anumite zone. Prin urmare, chiar dacă un agent AI este compromis sau manipulat de un actor răuvoitor, impactul va rămâne limitat, în loc de a fi catastrofal.

Liderii trebuie, de asemenea, să-și educe echipele cu privire la pericolul reprezentat de agenții care operează clandestin. Riscul este mai mare atunci când angajații conectează “agenți AI umbra” la spațiile de lucru, fără ca liderii să știe și să ofere identificatori și măsuri de securitate corespunzătoare. În plus, o abordare de “zero privilegii” (ZSP) creează o bază de zero acces pentru orice agent. Astfel, dacă un angajat conectează un agent AI neautorizat, acesta va intra într-un mediu în care toate porțile sunt închise.

Aveți ochi pe agentul dvs.

Deși știm că “AI-ul este o cutie neagră”, implementarea acestuia în afacerea dvs. trebuie să fie observată și monitorizată.

Pentru a impune politici de securitate stricte, fiecare agent trebuie să fie guvernat: aceștia trebuie să aibă documentație clară a proprietății, responsabilităților și controalelor, astfel încât să puteți urmări cu exactitate căile pe care le parcurg. Trebuie să aveți telemetrie continuă – monitorizare la distanță – care să urmărească comportamentul agentului și să alimenteze instrumentele de securitate existente, astfel încât acestea să poată detecta anomalii și să execute scoruri de încredere adaptabile.

Liderii trebuie să ia această nouă frontieră a securității în serios și să se asigure că diferitele echipe sunt responsabile pentru utilizarea agenților AI. Ei pot crea noi indicatori de performanță pentru conformitate, cum ar fi “Numărul de seturi de date cu proveniență verificată”, “% de agenți AI cu identități gestionate” sau “Scor de încredere AI”.

Acest lucru este critic pentru prevenire, dar și pentru a fi auditabil – chiar și identificatorii non-umani trebuie să aibă un traseu de audit pentru ca o organizație să fie conformă.

În general, înțelegem cum se comportă oamenii și care sunt căile pe care le parcurg în spațiile de lucru. Dar AI-ul este o bestie complet nouă. Există multe lucruri pe care nu le știm despre modul în care operează. Unele companii aleg soluția pe termen scurt de a bloca AI-ul din birou – dar acest lucru va întârzia doar problema sau va determina angajații să utilizeze agenți AI umbra. Pregătiți-vă arhitectura de securitate proactiv pentru agenții care sunt deja omniprezenți.