Când AI devine rebel: atenuarea amenințărilor interne în era agenților autonomi

 Ridicarea prolifică a agenților AI creează noi provocări pentru echipele de securitate și IT. La începutul acestei schimbări către fluxuri de lucru mai automate cu agenți pentru continuitatea afacerilor, testele recente au arătat că agenții AI pot prezenta comportamente nesigure sau înșelătoare în anumite condiții, creând o nouă amenințare internă pentru companii din diverse industrii.

Prezentând o nevoie critică pentru organizații de a monitoriza corespunzător agenții AI care accesează date sensibile și acționează fără supraveghere umană, aceasta introduce potențial noi clase de risc care sunt mai rapide, mai imprevizibile și mai greu de atribuit. Realitatea acestor riscuri este dublă. Pe de o parte, echipele de securitate trebuie să fie pregătite pentru actori răi care utilizează agenți AI pentru a întări atacurile de inginerie socială care vizează angajații lor. Pe de altă parte, trebuie să fie pregătite și pentru agenții AI interni, sancționați de companie, care pot prezenta un comportament care creează o nouă categorie de riscuri și vulnerabilități de securitate.

Cum agenții AI interni pot duce la amenințări interne

Agenții AI prezintă două riscuri interne de securitate majore în rețelele enterprise. În primul rând, ei operează autonom, fără limitele etice sau răspunderea încorporată pe care lucrătorii umani le urmează în mod natural. Lucrând pe baza unor obiective inferate și nu a unor instrucțiuni explicite, eficiența și persistența lor pot depăși limitele și îi pot face să acționeze fără aprobare. Fără controale și echilibre adecvate, expuneri pot fi create și trecute cu vederea ușor.

Acești agenți pot avea, de asemenea, acces la cantități mari de date, dar lipsesc de capacitatea de a diferenția între informații privilegiate și informații de rutină. Prin urmare, chiar și sarcini simple, cum ar fi analiza seturilor de date, pot duce la scurgeri de date sau expunerea acestora către părți externe. Această provocare devine și mai complexă atunci când AI este scalat pe sisteme și fluxuri de lucru disparate, cu reguli și protocoale de date diferite. Agenții care operează în regiuni diferite adesea încalcă regulile specifice de manipulare a datelor din cauza aplicării inconstante a politicilor, construind astfel riscuri de securitate. Realitatea este că doar 30% dintre companiile americane hărțuiesc activ care agenți AI au acces la sisteme critice, creând un punct orb major de securitate.

Cum agenții AI externi pot duce la amenințări interne

Unul dintre modurile de intrare cel mai frecvente pentru hackeri este prin atacuri de phishing și inginerie socială. Actorii răi și gangurile cibernetice utilizează agenți AI pentru a-și îmbunătăți aceste atacuri și pentru a efectua incidente de deepfake și de impersonare sofisticate. Agenții AI pot fi utilizați pentru a crea atacuri de phishing și inginerie socială care par mai reale și mai credibile pentru un ochi neantrenat. 60% din încălcările de securitate din 2024 au implicat un element uman, iar aproape un sfert dintre acestea au provenit din inginerie socială. Acest număr va crește doar pe măsură ce utilizarea agenților AI va continua să sprijine aceste metode de intrare.

Agenții AI pot fi antrenați pentru a căuta prin cantități mari de date de pe rețelele de socializare și date personale de pe diverse platforme și canale pentru a trimite comunicări personalizate și țintite. Mesajele care imită tonul și vocea expeditorilor sunt mai susceptibile de a fi de succes și mai greu de diferențiat de la mass-media reală. Agenții AI pot învăța să-și adapteze campaniile pentru a-și îmbunătăți eficacitatea, schimbând direcția atacului atunci când unul nu funcționează sau imitând un atac care a reușit.

Atunci când vine vorba de deepfake, agenții AI pot genera aceste impersonări la viteze remarcabile, ceea ce duce la manipulare în masă. Actorii răi utilizează, de asemenea, agenți AI pentru a comunica prin apeluri video în timp real, cu latență minimă, și pentru a-și îmbunătăți credibilitatea. Ei pot reacționa la reacția țintei în timp real și-și pot schimba abordarea dacă este necesar. Aceste atacuri îmbunătățite pot crește riscul de amenințări interne din partea angajaților care nu sunt conștienți și care pot fi păcăliți să expună date sensibile, să autorizeze tranzacții sau să împărtășească credențiale cu actori de amenințare.

Rolul echipelor de securitate în abordarea provocărilor agenților AI

Echipele de securitate trebuie să ia măsuri specifice pentru a limita punctele oarbe create de agenții AI. Departamentele IT ar trebui să limiteze, în primul rând, accesul agenților AI la date sensibile prin controale de guvernanță a datelor și vizibilitate în timp real. Pașii pentru a realiza acest lucru includ clasificarea identităților agenților AI în sistemele IAM și monitorizarea activității lor cu aceeași rigurozitate ca și conturile privilegiate. Partea de vizibilitate merge mai departe prin monitorizarea activității de rețea pentru a urmări liniile de comportament atribuite agenților AI. Cu vizibilitate, echipele IT pot monitoriza mișcarea accesului privilegiat și anomaliile, nu numai pentru a sprijini eforturile de prevenire, ci și pentru a accelera eforturile de conținere și recuperare în cazul unui agent compromis.

În plus, prin identificarea noilor modele și tactici utilizate în atacurile agenților AI, organizațiile pot actualiza strategiile lor de apărare și pot antrena sistemele de securitate pentru a recunoaște și a împiedica amenințări similare în viitor.

Menținerea în fața amenințărilor interne introduse de agenții AI

Realitatea este că agenții AI introduc un risc intern nou datorită autonomiei și accesului lor în creștere la sisteme sensibile. Mai mult, actorii de amenințare vor continua să utilizeze agenți AI pentru a exploata mai eficient vulnerabilitățile umane prin deepfake, phishing și inginerie socială.

Pe măsură ce această tehnologie evoluează, companiile trebuie să-și îmbunătățească vizibilitatea asupra accesului și comportamentului agenților AI înainte de a-i integra în fluxurile de lucru. Acest lucru include investiții în monitorizarea proactivă, 360 de grade, în timp real, alături de o forță de muncă de agenți AI. În timp ce agenții AI pot rezolva blocaje și provocări de afaceri critice, ei necesită o abordare proactivă pentru a limita amenințările interne viitoare.