AI vs AI: Noua Realitate a Securității Cibernetice

Atacurile cibernetice bazate pe inteligență artificială (AI) au sosit, confirmând ceea ce a fost odată doar un risc teoretic, dar anticipat, și anunță o nouă eră în peisajul amenințărilor. Cu agenți AI care pot lansa campanii complexe, de la capăt la capăt, în minute, criminalii cibernetici pot identifica și exploata vulnerabilitățile întreprinderilor la viteza mașinilor. Regulile de angajament s-au schimbat: apărarea cibernetică de ieri nu mai poate ține pasul cu ofensiva condusă de AI de astăzi.

Pe măsură ce AI încărcăturile cibernetice, întreprinderile trebuie să-și desfășoare propriile capabilități defensive bazate pe AI pentru a ține pasul în ceea ce privește viteza, scala și precizia. Pentru moment, adversarii cibernetici urmează încă tactici, tehnici și proceduri (TTP) familiare, dar AI accelerează și îmbunătățește “cartea” lor de joc. Mai mult, modelele AI ale întreprinderilor însele sunt, de asemenea, o țintă nouă prin otrăvirea modelului și ingineria socială bazată pe limbaj, ceea ce necesită ca echipele de securitate cibernetică să-și protejeze corespunzător capabilitățile AI. Prin urmare, securitatea ar trebui să fie o parte centrală a strategiei mai largi a unei organizații privind AI.

Ce diferențiază atacurile cibernetice bazate pe AI?

Într-o lume digitală deja saturată de încercări virtuale de intruziune cibernetică, bariera de intrare pentru un actor malicios a fost redusă, sporind nu numai volumul, ci și complexitatea atacurilor. Atacurile bazate pe AI pot utiliza AI sau învățarea automată (ML) pentru a automatiza, accelera sau îmbunătăți orice și fiecare fază a ciclului de atac, de la recunoaștere și colectare de informații până la exploatare și extragere de date sensibile.

A te baza exclusiv pe procesele și tehnologiile de securitate existente, fără a desfășura aceeași tehnologie avansată pe care o utilizează adversarii, oferă adversarului un avantaj care este aproape imposibil de escaladat fără AI defensiv. Organizațiile sunt deja copleșite de monitorizarea întreprinderii lor de către actori tradiționali de amenințare. Atacurile bazate pe AI vor exacerba oboseala alertelor. Acest lucru necesită o evoluție de la procese gestionate de oameni la un mediu cibernetic hibrid om/digital.

Hartă Toate Activele Digitale

În lumea de astăzi, înțelegerea punctelor de intrare potențiale din întregul mediu al întreprinderii este esențială, dar încă în afara posibilităților pentru multe întreprinderi mari. Dincolo de sistemele și activele digitale este nevoie de o cartografiere cuprinzătoare a tuturor identităților și acceselor din cadrul organizației. Identitatea digitală, care leagă caracteristicile fizice și comportamentale de un individ, este bine înțeleasă cu controalele existente necesare pentru gestionarea accesului digital.

Cu toate acestea, înțelegerea peisajului întreprinderii de identități non-umane (NHIs) este esențială pentru securizarea activelor digitale. Realizarea valorii potențiale a AI în cadrul unei organizații înseamnă acordarea permisiunii agenților AI să finalizeze în mod autonom un proces de afaceri. La fel ca și mediile de cloud din era anterioară de securitate, fluxurile de lucru agențice de astăzi pornesc și opresc NHIs la scară, necesitând o capacitate avansată de gestionare și urmărire a locului în care funcționează și modul în care își îndeplinesc misiunile sau rolurile intenționate.

Întreprinderile ar trebui să extindă guvernanța identității pe parcursul ciclului de viață al identității agenților și să monitorizeze acțiunile agenților, la fel cum monitorizează astăzi accesul utilizatorilor umani pentru comportamente de risc interne sau compromiterea conturilor de către actori de amenințare. Pe măsură ce capacitățile agenților capătă mai multă autonomie și lucrează asupra unor sarcini critice pentru afaceri, înțelegerea aspectului amprentei de identitate și a modelului de acces este crucială pentru implementarea controalelor de acces și monitorizare necesare pentru protejarea lor și a întreprinderii de abuz.

Blochează Modelele AI

Capacitățile AI au promisiunea de a debloca eficiența și productivitatea, dar și potențialul de a fi întoarse împotriva organizațiilor. Introducerea AI în fiecare aspect al operațiunilor de afaceri nu mai este un “ar fi bine” – este o necesitate pentru succes în peisajul competitiv de astăzi. Prin urmare, implementarea securizată a AI este o componentă necesară pentru a realiza în siguranță întregul potențial de afaceri și rezultate.

Trecerea la apărarea cibernetică bazată pe AI este în curs, în timp ce modelele AI însele au devenit ținte. Adversarii pot încerca să otrăvească datele care alimentează aceste modele și să le manipuleze pentru a lua acțiuni neintenționate sau pentru a divulga informații sensibile.

Atacurile adversarilor împotriva AI pot veni în diferite forme, cum ar fi atacurile de otrăvire, atacurile de injecție de promt și altele. Pentru a proteja corespunzător AI de manipularea potențială, organizațiile ar trebui să utilizeze filozofia Agenției pentru Infrastructură și Securitate Cibernetică (CISA) de Securizat prin Design. Acest lucru începe cu datele care alimentează formarea modelului. Blocarea intrărilor devreme în procesul de dezvoltare stabilește fundația pentru ieșiri fiabile în timpul implementării.

Înțelegerea intrărilor care merg în dezvoltarea modelelor și capacităților este posibilă prin guvernanță intenționată a datelor, împreună cu controlul accesului la modelele însele. Controalele critice care permit validarea ieșirilor dorite vin sub forma prevenirii pierderii de date (DLP); aplicarea politicii și a securității; ancorarea prin surse verificabile; și controale stricte de aprobare pentru acțiuni cu impact ridicat, auditabilitate și testare continuă, inclusiv testarea de penetrare a modelelor pentru a le întări.

Încorporează AI în Operațiunile de Securitate

Până acum, aplicarea AI la apărarea cibernetică a fost tactică, cu multe organizații care atașează AI la procese umano-centrice legacy, mai degrabă decât reevaluând strategic cum să construiască procese centrate pe AI. Acest lucru este ca și cum ai încerca să pui un motor V8 pe o bicicletă. Următoarea evoluție a activării AI va consta în proiectarea proceselor de la zero, cu AI agențic și automatizare native în proiectare. Metodele și procesele de securitate dovedite, cum ar fi detectarea amenințărilor, vânătoarea de amenințări și ingineria detectării, sunt încă articolele critice care sunt imperative pentru securitatea organizațională în era AI. Transformarea proceselor de securitate actuale pentru a permite augmentarea AI poate pune o bază solidă pentru viitoarele operațiuni de securitate cibernetică împuternicite de AI.

În plus, automatizarea nu este un concept nou, unic apariției AI; fluxurile de lucru de securitate și procesele au fost automate de ani, cu organizații mature având capacități de orchestrare și automatizare foarte sofisticate. Cu toate acestea, AI îmbunătățește automatizarea bazată pe reguli existentă și o evoluează mai departe, permițând fluxuri de lucru automate dinamice, adaptabile, bogate în context, care pot ajuta la abordarea vitezei și agilității necesare pentru aceste riscuri emergente AI.

Ce urmează?

Securitatea trebuie să rămână în continuare o prioritate pentru afaceri și IT pentru a ține activele și utilizatorii lor critici în siguranță de exploatarea malicioasă. AI securizat prin design este o necesitate, având în vedere viteza cu care modelele AI pot fi implementate și solicitate să efectueze activități mai critice. Echipele de securitate ar trebui să gândească strategic despre transformarea proceselor de la zero pentru a implementa corespunzător noile capabilități AI și a ține pasul în jocul de șah cibernetic.

Liderii de securitate pot face mai multe pași concreți în perioada imediat următoare: efectuarea unei revizuiri cuprinzătoare a proceselor de securitate actuale pentru a identifica lacunele, oportunitățile de modernizare și zonele care pot fi transformate. Rămâneți la curent cu amenințările, tendințele și tehnologiile emergente AI. Mai presus de toate, rămâneți ancorați în principiul fundamental de securitate al apărării în profunzime, care s-a dovedit a fi eficient de-a lungul timpului – protecție stratificată și validare de la identitate la punct de capăt, la rețea, la date, cu capacități robuste de monitorizare și răspuns, care sunt întotdeauna testate.

Potențialul transformator al AI promite un avantaj prea mare pentru a fi evitat, iar gena este ieșită din sticlă pentru actorii de amenințare. Prin urmare, rolul liderilor de securitate în această nouă eră este același ca și cum a fost întotdeauna: sprijinirea organizațiilor în atingerea obiectivelor de afaceri cu atenționarea riscurilor – doar acum la viteza mașinilor, cu utilizarea AI.