Cum să abordați provocările de securitate a rețelei legate de inteligența artificială agentică

Inteligența artificială agentică (AI) reprezintă următorul frontier al inteligenței artificiale, promițând să depășească chiar și capacitățile inteligenței artificiale generative (GenAI). În contrast cu majoritatea sistemelor GenAI, care se bazează pe prompturi umane sau supraveghere, inteligența artificială agentică este proactivă deoarece nu necesită intrări de la utilizator pentru a rezolva probleme complexe, cu mai multe etape. Prin utilizarea unui ecosistem digital de modele de limbaj mare (LLM), învățare automată (ML) și prelucrare a limbajului natural (NLP), inteligența artificială agentică efectuează sarcini în mod autonom, în numele unui utilizator sau sistem, îmbunătățind masiv productivitatea și operațiunile.

Deși inteligența artificială agentică se află încă în stadiul incipient, experții au subliniat câteva cazuri de utilizare revoluționare. Luați în considerare un mediu de asistență pentru clienți al unei bănci, în care un agent de inteligență artificială face mai mult decât să răspundă pur și simplu la întrebările unui utilizator atunci când i se cere. În schimb, agentul va efectua în realitate tranzacții sau sarcini, cum ar fi transferul de fonduri, atunci când este solicitat de utilizator. Un alt exemplu ar putea fi într-un mediu financiar, în care sistemele de inteligență artificială agentică asistă analiștii umani, analizând în mod autonom și rapid cantități mari de date pentru a genera rapoarte gata pentru audit, pentru luarea deciziilor bazate pe date.

Posibilitățile incredibile ale inteligenței artificiale agențice sunt incontestabile. Cu toate acestea, ca orice tehnologie nouă, există preocupări legate de securitate, guvernanță și conformitate. Natura unică a acestor agenți de inteligență artificială prezintă mai multe provocări de securitate și guvernanță pentru organizații. Întreprinderile trebuie să abordeze aceste provocări pentru a putea nu numai să beneficieze de avantajele inteligenței artificiale agențice, ci și pentru a asigura securitatea și eficiența rețelei.

Ce provocări de securitate a rețelei creează inteligența artificială agentică pentru organizații?

Agenții de inteligență artificială au patru operațiuni de bază. Prima este percepția și colectarea datelor. Acești sute, mii sau poate milioane de agenți colectează și recoltează date din multiple locuri, fie din cloud, dintr-un mediu local, de la margine, etc., și aceste date pot fi fizic de oriunde, și nu doar dintr-o anumită locație geografică. A doua etapă este luarea deciziilor. Odată ce acești agenți au colectat date, ei utilizează modele de inteligență artificială și învățare automată pentru a lua decizii. A treia etapă este acțiunea și executarea. După ce au luat o decizie, acești agenți acționează corespunzător pentru a pune în aplicare acea decizie. Ultima etapă este învățarea, în care acești agenți utilizează datele colectate anterior și ulterior deciziei lor pentru a ajusta și adapta corespunzător.

În acest proces, inteligența artificială agentică necesită acces la seturi de date imense pentru a funcționa eficient. Agenții se vor integra de obicei cu sisteme de date care manipulează sau stochează informații sensibile, cum ar fi înregistrări financiare, baze de date medicale și alte informații cu caracter personal (PII). Din nefericire, inteligența artificială agentică complică eforturile de securizare a infrastructurii rețelei împotriva vulnerabilităților, în special în ceea ce privește conectivitatea cross-cloud. De asemenea, prezintă provocări de securitate la ieșire, făcând dificil pentru afaceri să se apere împotriva exfiltrării, precum și a încălcărilor de comandă și control. Dacă un agent de inteligență artificială este compromis, datele sensibile ar putea fi ușor furate sau divulgate. În același mod, agenții ar putea fi preluați de actori maliciși și utilizați pentru a genera și distribui informații false la scară largă. Când apar încălcări, nu există doar sancțiuni financiare, ci și consecințe reputaționale.

Capacități cheie, cum ar fi observabilitatea și trasabilitatea, pot fi frustrate de inteligența artificială agentică, deoarece este dificil să urmăriți care seturi de date accesează agenții de inteligență artificială, crește riscul ca datele să fie expuse sau accesate de utilizatori neautorizați. În mod similar, învățarea dinamică și adaptarea inteligenței artificiale agențice pot împiedica auditurile de securitate tradiționale, care se bazează pe jurnale structurate pentru a urmări fluxul de date. Inteligența artificială agentică este, de asemenea, efemeră, dinamică și funcționează în mod continuu, creând o nevoie de 24/7 pentru a menține o vizibilitate și securitate optimă. Scala este o altă provocare. Suprafața de atac a crescut exponențial, extinzându-se dincolo de centrul de date local și cloud, pentru a include și marginea. Într-adevăr, în funcție de organizație, inteligența artificială agentică poate adăuga mii până la milioane de noi puncte de acces la margine. Acești agenți funcționează în numeroase locații, fie în clouduri diferite, local, la margine, etc., făcând rețeaua mai vulnerabilă la atac.

Abordarea cuprinzătoare a provocărilor de securitate a inteligenței artificiale agențice

Organizațiile pot aborda provocările de securitate ale inteligenței artificiale agențice prin aplicarea soluțiilor de securitate și a celor mai bune practici la fiecare din cele patru etape operaționale de bază:

1. Percepția și colectarea datelor: Întreprinderile au nevoie de o conectivitate de rețea cu lățime de bandă ridicată, criptată de la capăt la capăt, pentru a permite agenților lor să colecteze cantitatea imensă de date necesare pentru a funcționa. Reamintiți-vă că aceste date pot fi sensibile sau deosebit de valoroase, în funcție de cazul de utilizare. Companiile ar trebui să implementeze o soluție de conectivitate criptată de înaltă viteză pentru a funcționa între toate aceste surse de date și pentru a proteja datele sensibile și cu caracter personal.
2. Luarea deciziilor: Companiile trebuie să se asigure că agenții lor de inteligență artificială au acces la modelele și infrastructura de inteligență artificială și învățare automată corecte pentru a lua deciziile corecte. Prin implementarea unui firewall de cloud, întreprinderile pot obține conectivitatea și securitatea de care agenții lor de inteligență artificială au nevoie pentru a accesa modelele corecte într-un mod auditabil.
3. Executarea acțiunii: Agenții de inteligență artificială iau măsuri pe baza deciziei. Cu toate acestea, întreprinderile trebuie să identifice care agent, din sutele sau mii de agenți, a luat acea decizie. De asemenea, au nevoie să știe cum comunică agenții lor între ei pentru a evita conflicte sau “roboți care luptă cu roboți”. Prin urmare, organizațiile au nevoie de observabilitate și trasabilitate a acțiunilor efectuate de agenții lor de inteligență artificială. Observabilitatea reprezintă capacitatea de a urmări, monitoriza și înțelege stările interne și comportamentul agenților de inteligență artificială în timp real. Trasabilitatea reprezintă capacitatea de a urmări și documenta datele, deciziile și acțiunile efectuate de un agent de inteligență artificială.
4. Învățarea și adaptarea: Companiile cheltuiesc milioane, dacă nu sute de milioane sau mai mult, pentru a ajusta algoritmii lor, ceea ce crește valoarea și precizia acestor agenți. Dacă un actor rău obține controlul asupra acelui model și îl extrage, toate aceste resurse ar putea ajunge în mâinile lor în doar câteva minute. Întreprinderile pot proteja investițiile lor prin funcții de securitate la ieșire care apără împotriva exfiltrării și a încălcărilor de comandă și control.

Capitalizarea inteligenței artificiale agențice într-un mod securizat și responsabil

Inteligența artificială agentică are un potențial remarcabil, permițând companiilor să atingă noi culmi de productivitate și eficiență. Dar, ca orice tehnologie emergentă în spațiul inteligenței artificiale, organizațiile trebuie să ia măsuri de precauție pentru a-și proteja rețelele și datele sensibile. Securitatea este mai importantă decât oricând, având în vedere actorii malefici foarte sofisticați și bine organizați, finanțați de state, cum ar fi Salt Typhoon și Silk Typhoon, care continuă să efectueze atacuri la scară largă.

Organizațiile ar trebui să colaboreze cu experți în securitatea cloud-ului pentru a dezvolta o strategie de securitate robustă, scalabilă și pregătită pentru viitor, capabilă să abordeze provocările unice ale inteligenței artificiale agențice. Acești parteneri pot permite întreprinderilor să urmărească, să gestioneze și să securizeze agenții lor de inteligență artificială; în plus, ei ajută companiile să obțină conștientizarea necesară pentru a satisface standardele legate de conformitate și guvernanță.