Lideri de opinie

IA poate extinde securitatea. Dar ce anume extindem?

Eyal Fisher
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieProcesarea mai multor date nu îmbunătățește automat detectarea amenințărilor fără…
Vezi mai mult
  • Procesarea mai multor date nu îmbunătățește automat detectarea amenințărilor fără context organizațional.
  • Modelele ajustate fin pot sprijini investigații la scară largă la un cost mai previzibil decât modelele de frontieră.
  • Autonomia ar trebui să fie proporțională cu riscul, cu guvernanța concepută înainte de extinderea agenților.

În prezent, echipele de securitate din companii se confruntă cu mai multă activitate, telemetrie și alerte decât pot investiga în mod realist, manual. Estimările variază, iar unele cercetări sugerează că o echipă medie de operațiuni de securitate primește peste 4.400 de alerte pe zi. Pe măsură ce organizațiile se extind și adaugă mai multe instrumente, iar IA facilitează tot mai multe atacuri, numărul alertelor va crește inevitabil. Vedem deja companii cu două milioane de puncte terminale în infrastructură, iar echipele de securitate care investighează manual aceste alerte nu au șanse egale în fața atacatorilor care recurg tot mai mult la agenți.

Pentru cei care se ocupă de apărare, agenții IA pot schimba această situație preluând investigațiile și alte sarcini repetitive din întregul mediu. Totuși, capacitatea de a procesa mai multe date nu se traduce automat într-o mai bună detectare a amenințărilor sau într-un răspuns mai eficient. Nu este nevoie doar de amploare, ci și de context.

Importanța contextului în evaluarea amplorii

Un agent care investighează milioane de puncte terminale trebuie să înțeleagă ce caută, ce comportament este neobișnuit în mediul respectiv și care constatări justifică investigații suplimentare. Fără acest context, automatizarea riscă să amplifice zgomotul și să genereze concluzii irelevante sau înșelătoare.

De asemenea, este important să reținem că nu toate organizațiile vor putea să se bazeze pe investigații realizate cu modele de frontieră pentru fiecare alertă; costurile vor deveni mult prea mari.

Mediile de securitate diferă prin infrastructură, aplicații, cerințe operaționale, obligații de reglementare și toleranță la risc. Cei care se ocupă de apărare trebuie să mențină aplicațiile în funcțiune, să gestioneze cerințele de conformitate și să evite perturbarea operațiunilor.

Pentru a fi eficienți, agenții trebuie să integreze cunoștințele organizaționale, inclusiv investigațiile anterioare, procedurile consacrate și discernământul analiștilor cu experiență. O mare parte din aceste cunoștințe nu poate fi pur și simplu introdusă într-un agent într-o foaie de calcul sau într-un alt format; agentul trebuie să le observe în practică, învățând de la specialiștii experimentați în apărare, aflați în acțiune.

Pentru companii, întrebarea esențială este cum pot prelua aceste cunoștințe instituționale și le pot transforma în sisteme capabile să ia decizii consecvente și adecvate contextului, cu viteza mașinilor.

Cum să operaționalizăm cunoștințele organizaționale

Organizațiile au nevoie de mecanisme pentru a capta și aplica cunoștințele care stau la baza investigațiilor, inclusiv deciziile luate în cazuri anterioare, procedurile consacrate și modul în care analiștii interpretează probele. Companiile pot avea și procese, instrumente și cunoștințe tacite „personalizate” care trebuie, de asemenea, consemnate.

Specializarea modelelor este o posibilă abordare. Ajustarea fină a modelelor pentru fiecare client din mediul enterprise poate sprijini investigații la scară largă, la un cost mai previzibil, menținând totodată performanțe ridicate. Modelele cu sursă deschisă ajustate fin pot fi deosebit de utile pentru sarcini care implică populații foarte mari de puncte terminale.

Organizațiile trebuie, de asemenea, să evalueze performanța agenților pe măsură ce se schimbă modelele, fluxurile de lucru și mediile enterprise. Mediile sintetice, numite și gemeni digitali, pot oferi contexte reprezentative pentru testarea diferitelor versiuni ale agenților atunci când datele de producție nu mai sunt disponibile sau au devenit învechite.

Ajustarea fină nu este singura modalitate de a furniza context. Recuperarea informațiilor, memoria, orchestrarea fluxurilor de lucru și controalele explicite bazate pe politici sunt abordări alternative. Cerința esențială este ca metoda aleasă să îmbunătățească performanța agentului în mediul în care acesta va funcționa.

Autonomia la scară largă necesită limite clare, supraveghere și coordonare

Identificarea corectă a unei amenințări este doar o parte a provocării. Agenții trebuie să înțeleagă ce acțiuni sunt autorizați să întreprindă, când este necesară aprobarea unei persoane și cum să evite perturbarea operațiunilor legitime ale companiei. Pentru o implementare de încredere, este esențial să se stabilească unde pot acționa agenții în mod autonom și unde este necesară luarea deciziilor de către oameni.

Autonomia la scară largă necesită și economii de scară. Companiile care folosesc modele de frontieră pentru milioane de investigații își vor provoca falimentul. De aceea, este esențial să se găsească cea mai eficientă metodă de a desfășura investigații cu un model IA, fie că este vorba despre un model lingvistic de mici dimensiuni (SLM), fie despre unul proprietar.

Nivelul de autonomie ar trebui să fie proporțional cu riscul. Sarcinile de rutină, bine înțelese, pot fi potrivite pentru executarea autonomă, în timp ce acțiunile cu consecințe importante sau perturbatoare pot necesita aprobarea unei persoane sau o autorizare suplimentară. Securitatea companiilor depinde și de coordonarea dintre echipe. O investigație care identifică o amenințare și impune modificarea configurației unui paravan de protecție trebuie transferată fără întreruperi echipei responsabile de acel sistem, cu autorizarea și asumarea răspunderii corespunzătoare pentru remediere.

Prin urmare, guvernanța și proiectarea fluxurilor de lucru sunt componente esențiale ale implementării agenților, nu controale care pot fi adăugate după ce tehnologia a fost extinsă.

Următorul indicator al succesului IA în securitate este calitatea rezultatelor sale

Organizațiile ar trebui să evalueze agenții folosind indicatori bazați pe rezultate, inclusiv acuratețea investigațiilor, ratele alarmelor fals pozitive și fals negative, timpul necesar investigării și remedierii, costul per investigație, calitatea escaladărilor și respectarea politicilor de autorizare.

Evaluarea continuă este esențială pe măsură ce modelele și fluxurile de lucru se schimbă. Testarea diferitelor versiuni ale agenților pe cazuri reprezentative și folosirea unor medii sintetice pot ajuta organizațiile să identifice regresiile înainte de a implementa actualizări în producție.

Liderii din domeniul securității trebuie să pună în balanță beneficiile automatizării și riscurile operaționale ale implementării. Disponibilitatea aplicațiilor, obligațiile de conformitate, toleranța organizației la risc și termenele de implementare influențează toate viteza cu care pot fi adoptate noile capabilități.

IA le oferă echipelor de securitate ocazia de a aborda o problemă persistentă legată de capacitate, însă amploarea brută nu este scopul final. Adevărata oportunitate constă în combinarea vitezei mașinilor cu contextul organizațional, autoritatea adecvată și judecata umană, astfel încât agenții să poată distinge ce este important, să ia măsurile potrivite și să implice persoanele potrivite atunci când este necesar.

Eyal Fisher este cofondator și director tehnic al Legion Security, unde coordonează viziunea tehnică din spatele platformei de operațiuni de securitate bazate pe agenți a companiei. Lider de opinie în domeniul inteligenței artificiale și antreprenor, Eyal a cofondat anterior compania de inteligență artificială generativă ART AI și un startup de securitate în cloud și aduce cu sine experiență de cercetare de la University of Cambridge. Recunoscut drept un pionier al inteligenței artificiale generative, și-a dedicat cariera depășirii limitelor modului în care învățarea automată poate fi aplicată operațiunilor de securitate din lumea reală.