AI contra AI: Noua Realitate a Securității Cibernetice

Atacurile cibernetice bazate pe inteligență artificială (AI) au sosit, confirmând ceea ce a fost odată doar un risc teoretic, dar anticipat, și anunță o nouă eră în peisajul amenințărilor. Cu agenți AI care pot lansa campanii complexe, de la început până la sfârșit, în doar câteva minute, criminalii cibernetici pot identifica și exploata vulnerabilitățile întreprinderilor la viteza mașinilor. Regulile jocului s-au schimbat: apărarea cibernetică de ieri nu mai poate ține pasul cu ofensiva bazată pe AI de astăzi.

Pe măsură ce AI încărcăturile cibernetice, întreprinderile trebuie să-și dezvolte propriile capacități defensive bazate pe AI pentru a ține pasul în ceea ce privește viteza, scala și precizia. Pentru moment, adversarii cibernetici urmează încă tactici, tehnici și proceduri (TTP) familiare, dar AI accelerează și îmbunătățește “cartea” lor de joc. Mai mult, modelele AI ale întreprinderilor însele sunt, de asemenea, o țintă nouă prin otrăvirea modelului și ingineria socială bazată pe limbaj, ceea ce necesită ca echipele de securitate să-și protejeze corespunzător capacitățile AI. Prin urmare, securitatea ar trebui să fie o parte integrantă a strategiei mai largi a unei organizații privind AI.

Ce Diferențiază Atacurile Cibernetice Bazate pe AI?

Într-o lume digitală deja saturată de încercări de intruziune cibernetică aproape neîntreruptă, bariera de intrare pentru un actor malign a fost redusă, ceea ce a dus la o creștere atât a volumului, cât și a complexității atacurilor. Atacurile bazate pe AI pot utiliza AI sau învățare automată (ML) pentru a automatiza, accelera sau îmbunătăți orice fază a ciclului de atac, de la recunoaștere și colectare de informații până la exploatare și extragere de date sensibile.

A te baza exclusiv pe procesele și tehnologiile de securitate existente, fără a utiliza tehnologia avansată pe care o folosesc adversarii, oferă adversarului un avantaj care este aproape imposibil de depășit fără AI defensiv. Organizațiile sunt deja copleșite de monitorizarea mediului lor de la actori tradiționali. Atacurile bazate pe AI vor exacerba oboseala de alerte. Acest lucru necesită o evoluție de la procese gestionate de oameni la o forță de muncă cibernetică umană/digitală hibridă.

Hartă Toate Activele Digitale

În lumea de astăzi, înțelegerea punctelor de intrare potențiale din întregul mediu al unei întreprinderi este esențială, dar încă dincolo de posibilitățile multor întreprinderi mari. Dincolo de sistemele și activele digitale este nevoie de o hartă cuprinzătoare a tuturor identităților și accesului în cadrul unei organizații. Identitatea digitală, care leagă caracteristicile fizice și comportamentale de un individ, este bine înțeleasă, împreună cu controalele existente necesare pentru a gestiona accesul digital.

Înțelegerea peisajului întreprinderii cu privire la identitățile non-umane (NHIs) este esențială pentru securizarea activelor digitale. Realizarea valorii potențiale a AI în cadrul unei organizații înseamnă acordarea permisiunii agenților AI de a-și desfășura autonom procesele de afaceri. La fel ca și mediile cloud din era de securitate anterioară, fluxurile de lucru activate de agenți de astăzi se pornește și se opresc la scară, necesitând o capacitate avansată de a gestiona și urmări unde în mediu funcționează și cum își îndeplinesc misiunile sau rolurile intenționate.

Întreprinderile ar trebui să extindă guvernanța identității pe parcursul ciclului de viață al identității agenților și să monitorizeze acțiunile agenților, la fel cum monitorizează astăzi accesul utilizatorilor umani pentru comportamente de risc de insider sau compromis de cont de către actori maligni. Pe măsură ce capacitățile agenților capătă mai multă autonomie și lucrează la procese de afaceri critice, înțelegerea aspectului lor de identitate și a modelului de acces este crucială pentru implementarea controalelor de acces și monitorizare necesare pentru a le proteja pe ele și pe întreprindere de abuz.

Blochează Modelele AI

Capacitățile AI au promisiunea de a debloca eficiența și productivitatea, dar și potențialul de a fi întors împotriva organizațiilor. Introducerea AI în toate aspectele operațiunilor de afaceri nu mai este “de dorit”, ci o necesitate pentru succes în peisajul competitiv de astăzi. Prin urmare, implementarea securizată a AI este o componentă necesară pentru a realiza în siguranță potențialul de afaceri și rezultatele complete.

Tranzitia către apărarea cibernetică împuternicită de AI este în desfășurare, în timp ce modelele AI însele au devenit ținte. Adversarii pot încerca să otrăvească datele care alimentează aceste modele și să le manipuleze pentru a lua acțiuni neintenționate sau pentru a divulga informații sensibile.

Atacurile adversarilor împotriva AI pot veni în diferite forme, cum ar fi atacurile de otrăvire, atacurile de injecție de prompt și altele. Pentru a proteja corespunzător AI de manipulare potențială, organizațiile ar trebui să utilizeze filozofia Agenției pentru Infrastructură și Securitate Cibernetică (CISA) de Proiectat pentru Securitate. Acest lucru începe cu datele care alimentează formarea modelului. Blocarea intrărilor devreme în procesul de dezvoltare stabilește baza pentru ieșiri fiabile în timpul implementării.

Înțelegerea intrărilor care merg în dezvoltarea modelelor și capacităților este posibilă prin guvernanța intenționată a datelor a datelor, împreună cu controlul accesului la modelele însele. Controalele critice care permit validarea ieșirilor dorite vin sub forma prevenirii pierderii de date (DLP); aplicarea politicilor și a siguranței; ancorarea prin surse verificabile; și controale stricte de aprobare pentru acțiuni cu impact ridicat, auditabilitate și testare continuă, inclusiv testarea de penetrare a modelelor pentru a le întări.

Încorporează AI în Operațiunile de Securitate

Până acum, aplicarea AI în apărarea cibernetică a fost tactică, cu multe organizații care au adăugat AI la procese umane legacy, în loc să reconsidere strategic cum să construiască procese centrate pe AI. Acest lucru este ca și cum ai încerca să pui un motor V8 pe o bicicletă. Următoarea evoluție a împuternicirii AI va consta în proiectarea proceselor de la zero, cu AI agențial și automatizare native în proiectare. Metodele și procesele de operațiuni de securitate dovedite și adevărate, cum ar fi detectarea amenințărilor, vânătoarea de amenințări și ingineria detectării, sunt încă elemente critice care sunt imperative pentru securitatea organizațională în era AI. Transformarea proceselor de securitate actuale pentru a permite îmbunătățirea AI poate pune bazele solide pentru viitoarea operațiune de securitate împuternicită de AI (SOC).

În plus, automatizarea nu este un concept nou, unic emergenței AI; fluxurile de lucru și procesele de securitate au fost automate de ani de zile, cu organizații mature având capacități de orchestrare și automatizare foarte sofisticate. Cu toate acestea, AI îmbunătățește automatizarea bazată pe reguli existentă și o evoluează mai departe, permițând fluxuri de lucru automate dinamice, adaptabile și bogate în context care pot ajuta la abordarea vitezei și agilității necesare pentru aceste riscuri emergente AI.

Ce Urmează?

Securitatea trebuie să rămână o prioritate pentru afaceri și IT pentru a păstra activele și utilizatorii critici în siguranță de exploatarea malignă. AI securizat prin proiectare este o necesitate, având în vedere viteza cu care pot fi implementate modelele AI și solicitate să efectueze activități mai critice. Echipele de securitate ar trebui să gândească strategic despre transformarea proceselor de la zero pentru a implementa corespunzător noile capacități AI și a ține pasul în jocul de șoarece și pisică cibernetic.

Liderii de securitate pot lua mai multe pași concreți în perioada următoare: efectuarea unei revizuiri cuprinzătoare a proceselor de securitate actuale pentru a identifica lacunele, oportunitățile de modernizare și domeniile care pot fi transformate. Rămâneți la curent cu amenințările, tendințele și tehnologiile emergente AI. Mai presus de toate, rămâneți ancorați în principiul fundamental de securitate al apărării în profunzime, care s-a dovedit a fi eficient de-a lungul timpului – protecție stratificată și validare de la identitate la punct de capăt, la rețea, la date, cu capacități robuste de monitorizare și răspuns care sunt întotdeauna testate.

Potențialul transformațional al AI promite o cotă prea mare pentru a renunța la adoptarea lui, și geniul a ieșit din sticlă pentru actorii amenințători. Prin urmare, rolul liderilor de securitate în această nouă eră rămâne același ca întotdeauna: sprijinirea organizațiilor în atingerea obiectivelor de afaceri cu atenționarea riscurilor – doar acum la viteza mașinilor, cu utilizarea AI.