Simon Edwards, CEO și Fondator al SE Labs – Seria de Interviuri

Simon Edwards, CEO și Fondator al SE Labs, este un expert în testarea securității cibernetice cu peste trei decenii de experiență în cercetare în securitate, evaluarea produselor, jurnalism tehnic și standarde din industrie. Înainte de a fonda SE Labs în 2015, Edwards a condus Dennis Technology Labs, unde a coordonat inițiative de testare a securității, și anterior a petrecut mulți ani ca jurnalist și editor de tehnologie. De asemenea, a deținut poziții de conducere superioară în Anti-Malware Testing Standards Organization (AMTSO), inclusiv președinte, director și co-președinte. Edwards testează produse de securitate din mijlocul anilor ’90 și a fost pionier în abordări timpurii de testare anti-malware în condiții reale, concepute pentru a evalua cum tehnologiile de securitate performează împotriva atacurilor complete, livrate prin internet, și nu doar a probelor de malware izolate.

SE Labs este o companie independentă de testare și consultanță în securitate cibernetică care evaluează cum tehnologiile de securitate performează în fața atacurilor realiste. Cercetătorii săi reproduc tehnicile atacatorilor pe întreaga lanț de atac pentru a evalua produse, inclusiv protecție endpoint, Detectare și Răspuns la Endpoint (EDR), servicii de securitate în cloud, firewall-uri, securitate email și tehnologii de detectare a rețelei. Pe lângă testarea comparativă publică, SE Labs oferă certificare, testare avansată de securitate, validare de produse și servicii de consultanță pentru întreprinderi și furnizori de securitate cibernetică. Compania publică metodologiile de testare și cadrele de emulare a amenințărilor și este certificată conform ISO/IEC 27001:2022 și BS EN ISO 9001:2015 pentru furnizarea de testare a produselor de securitate IT.

Cariera dumneavoastră se întinde pe mai mult de trei decenii în jurnalismul tehnologic, consultanță în securitate, testare independentă și roluri de conducere în Anti-Malware Testing Standards Organization (AMTSO). Cum a modelat această experiență modul în care separați progresele reale în securitatea cibernetică alimentată de AI de tehnologiile care sunt în principal poziționate ca „AI” în scopuri de marketing?

Jurnalismul m-a învățat să pun la îndoială afirmațiile, în timp ce testarea independentă mi-a arătat că singurul răspuns fiabil provine din dovezi. Companiile de securitate cibernetică au folosit învățarea automată și luarea deciziilor automate de mulți ani, așa că adăugarea cuvântului „AI” la denumirea unui produs nu reprezintă neapărat un progres tehnic.

Trei aspecte de bază de luat în considerare: Ce face efectiv AI-ul? Ce rezultat de securitate măsurabil îmbunătățește? Și poate un tester independent să reproducă acea îmbunătățire?

Dacă răspunsul este pur și simplu că produsul analizează o cantitate mare de date sau automatizează un proces existent, etichetarea ca AI poate fi mai mult o strategie de poziționare decât o capacitate reală.

Un progres autentic se descurcă bine în fața atacurilor necunoscute sau complet noi, îmbunătățește protecția sau răspunsul, reduce sarcina asupra analiștilor și o face fără a introduce riscuri inacceptabile. Orice altceva este fie o lipsă de îmbunătățire, fie o retrogradare!

„AI-driven” a devenit o afirmație comună în rândul produselor de securitate cibernetică. Care sunt cele mai importante capabilități ce ar trebui testate independent înainte ca o organizație să accepte că o platformă de securitate alimentată de AI livrează cu adevărat ceea ce promite furnizorul?

Nu aș începe prin a testa dacă un produs conține AI. Aș începe prin a testa afirmațiile de securitate făcute pentru el. Nu contează cu adevărat cum funcționează un produs, atâta timp cât funcționează. Acesta este scopul exact al programului de testare PIVOT, care câștigă în prezent multă tracțiune în industrie.

Testarea în acest mod înseamnă expunerea produsului la atacuri complete și măsurarea modului în care răspunde. Probabil ar trebui să detecteze activitatea și apoi să prevină progresul atacului. Acest lucru depinde de modul în care produsul este construit și configurat. Și de afirmațiile de marketing pe care le face furnizorul.

Trebuie, de asemenea, să examinăm povestea investigativă prezentată clientului. A înțeles sistemul ce s-a întâmplat, a conectat evenimentele relevante și a făcut dovezile vizibile persoanei care trebuie să acționeze?

Testul ar trebui să includă variații necunoscute, configurații realiste ale clienților și activități de business normale. De asemenea, trebuie să măsoare alarmele false, cerințele de resurse și acțiunile care pot fi considerate potențial nesigure. Dacă sistemul este autonom, trebuie să știm când acționează, de ce acționează, ce permisiuni folosește și dacă deciziile sale pot fi anulate.

Am văzut câteva povești în presă despre securitatea AI care devine rebelă și depășește limitele, eventual și legea. Întrebarea importantă nu este dacă platforma pare inteligentă. Este dacă produce rezultate de securitate constant mai bune și mai sigure.

Agentele AI autonome pot executa potențial recunoaștere, exploatare, mișcare laterală și alte etape ale unui atac mult mai rapid decât un atacator uman. Cum trebuie să se schimbe testarea securității cibernetice când atacurile încep să opereze la viteza mașinii?

Unitatea de testare trebuie să treacă de la tehnica individuală la campania completă care operează sub presiune de timp. Prin aceasta înțeleg că, în loc să se testeze diferite modalități de atac pe parcursul unei dimineți sau al unei săptămâni, testarea anumitor măsuri de securitate trebuie să se facă rapid. În caz contrar, nu este realist, iar realismul este foarte important.

Testele tradiționale pot lăsa goluri convenabile între etape, astfel încât fiecare eveniment să poată fi examinat separat. Un atacator autonom poate comprima recunoașterea, exploatarea și mișcarea laterală într-o perioadă mult mai scurtă. Acest lucru ar putea expune slăbiciuni care nu sunt vizibile în testele mai lente, inclusiv întârzieri în telemetrie, sisteme supraîncărcate și acțiuni defensive care apar doar după ce atacul și-a atins obiectivul.

Pentru a vă oferi un exemplu extrem de simplu, dacă pătrundem într-un Mac, descărcăm toate fișierele și furăm parolele conturilor, nu are prea mult sens dacă antivirusul afișează veștile proaste o zi mai târziu.

Testarea răspunsurilor de securitate la atacatori AI necesită, prin urmare, instrumentație cu rezoluție înaltă și măsurarea precisă a latenței de detectare și răspuns. Ar trebui să examineze dacă performanța se deteriorează pe măsură ce volumul și viteza activității cresc și dacă apărarea poate întrerupe un atac fără a aștepta o decizie umană la fiecare etapă.

Atacul se poate adapta, de asemenea, la ceea ce descoperă. Testarea trebuie să reflecte acest lucru, păstrând în același timp adevărul de bază, dovezile și capacitatea de reluare. Viteza mașinii nu ar trebui să însemne abandonarea metodologiei controlate. Trebuie să continuăm să proiectăm teste controlate care să poată opera și să măsoare evenimentele la aceeași viteză cu sistemele evaluate.

SE Labs folosește scenarii de atac realiste bazate pe tacticile și tehnicile grupurilor de amenințare, cum ar fi Scattered Spider. Cum recreați acești adversari într-un mediu controlat, asigurându-vă că testul reflectă modul în care un atac real s-ar desfășura, în loc să testeze doar pe baza unei liste de verificare predefinite?

Începem cu obiectivele adversarului, comportamentele cunoscute și luarea deciziilor probabile, în loc să tratăm tehnicile sale ca pe o listă de cumpărături.

Testul urmează un lanț de atac realist prin recunoaștere, acces inițial, execuție, escaladare de privilegii, activitate post-compromitere și mișcare laterală. În mod important, testerul poate folosi doar informațiile descoperite efectiv în timpul recunoașterii și atacului. Nu oferim atacatorului cunoștințe care nu ar fi disponibile într-o angajare reală.

Scenariul este delimitat și atent controlat, dar nu este pur și simplu o succesiune de apăsări de butoane predefinite. Dacă o rută este blocată, atacatorul poate urmări o alternativă credibilă în cadrul regulilor testului. Acest lucru permite produsului de securitate să influențeze modul în care scenariul evoluează.

În același timp, fiecare acțiune și rezultat important sunt înregistrate pentru a putea explica rezultatul și a compara produsele în mod corect. Controlat nu trebuie să însemne rigid scriptat. Ar trebui să însemne sigur, observabil și susținut de dovezi.

Produsele de securitate cibernetică au fost evaluate tradițional în mare măsură pe baza capacității lor de a detecta amenințări. De ce ar trebui organizațiile să se uite tot mai mult la protecție, izolare și răspuns la incidente atunci când evaluează sistemele de securitate alimentate de AI?

Detectarea nu este același lucru cu apărarea. O platformă poate genera o alertă precisă, permițând totuși atacatorului să își atingă obiectivul. De aceea programul de testare PIVOT include atât detectarea, cât și protecția ca părți comune și separate ale testării globale.

Puteți compara detectarea în securitatea cibernetică cu o cameră CCTV. Ar trebui să observe o intruziune și să vă ofere indicii despre ce s-a întâmplat, dar nu va opri fizic un intrus. Protecția în securitatea cibernetică este mult mai activă. Poate expulza sau neutraliza un atacator, prevenind daunele.

Organizațiile trebuie să știe dacă produsul a împiedicat activitatea inițială, a întrerupt lanțul de atac, a restricționat mișcarea laterală, a protejat activele importante și a susținut recuperarea. Dacă un atac reușește, întrebările următoare sunt cât de repede a fost izolat și dacă clientul a primit suficiente informații fiabile pentru a răspunde eficient.

Acest aspect devine deosebit de important în sistemele alimentate de AI, deoarece, deși pot produce rezumate foarte convingătoare ale celor întâmplate, o explicație persuasivă nu înlocuiește protecția. Explicația trebuie susținută de dovezi și să conducă la o acțiune adecvată.

Prin urmare, măsurăm detectarea și protecția separat. De asemenea, examinăm dacă detectarea revendicată a fost cu adevărat vizibilă și utilă pentru client. În final, valoarea unui sistem de securitate constă în schimbarea rezultatului unui atac, nu doar în observarea acestuia.

Pe măsură ce platformele de securitate introduc agenți autonomi capabili să investigheze alerte și să ia acțiuni de remediere, cum ar trebui laboratoarele independente să testeze întregul flux de lucru uman‑și‑AI, în loc să evalueze tehnologia de detectare de bază în izolare?

Testul ar trebui să urmărească întregul proces, de la prima activitate malițioasă până la rezultatul final de securitate, care poate fi oprirea atacului sau succesul complet – sau ceva între aceste două extreme.

Trebuie să examinăm ce a observat agentul, ce a concluzionat, ce a recomandat sau făcut, ce i s-a arătat operatorului uman și cum a răspuns operatorul (sau ce opțiuni i s-au prezentat). Aceasta include calitatea dovezilor, claritatea predării, timpul necesar, numărul de intervenții și dacă omul a putut înțelege, contesta sau inversa decizia agentului.

Modurile de operare diferite contează, de asemenea. Un agent care recomandă o acțiune pentru aprobare prezintă un risc diferit față de cel care poate izola automat sistemele, dezactiva conturi sau modifica controalele de securitate.

Un sistem nu a reușit pur și simplu pentru că detectorul său de bază a identificat atacul. Dacă creează o coadă incomprehensibilă, ascunde dovezi importante, recomandă răspunsul greșit sau întreprinde o acțiune perturbatoare, fluxul de lucru global a eșuat. Testarea independentă ar trebui să măsoare performanța combinată a tehnologiei, a componentelor sale autonome și a oamenilor care se așteaptă să le folosească.

Un risc al standardizării benchmark-urilor de securitate este că furnizorii pot optimiza produsele în mod specific pentru test. Cum poate testarea independentă să rămână reproductibilă și corectă, introducând în același timp suficientă imprevizibilitate pentru a arăta cum se comportă produsele în fața atacurilor necunoscute?

Reproductibilitatea nu necesită furnizarea în avans a întrebărilor de examen participanților.

Un test credibil ar trebui să publice metodologia, mediul, principiile de punctaj, configurația produsului și cerințele de dovezi. Furnizorii ar trebui să înțeleagă regulile și să aibă o șansă corectă de a verifica că produsele lor funcționează corect. Totuși, campania de atac exactă, încărcăturile și unele dintre căile de atac ar trebui să rămână necunoscute până la desfășurarea testului.

De exemplu, în PIVOT nu dezvăluim ce grupuri de atacuri vom replica până după finalizarea testării. Țintele reale nu primesc un avertisment înainte de începerea unui atac!

Putem combina un nucleu standard, care permite compararea în timp, cu variații necunoscute care testează capacitatea generală. Stabilirea unei linii de bază și o perioadă ascunsă de liniște pot arăta cum se comportă produsul înainte de atac. Configurația ar trebui apoi să fie controlată, jurnalele păstrate și orice afirmație verificată în raport cu dovezile proprii ale testerului.

Echitatea înseamnă aplicarea acelorași reguli și standarde de probă fiecărui participant. Nu înseamnă repetarea unui atac atât de previzibil încât un furnizor să recunoască benchmark-ul în loc să recunoască amenințarea.

În plus, transparența radicală ajută furnizorii să reproducă atacurile, ceea ce este important dacă doresc să rezolve orice problemă întâlnită, cum ar fi eșecul în detectarea sau protejarea împotriva unei amenințări. SE Labs, în esență, își instruiește clienții când aceștia întâmpină probleme.

Agenții autonomi de securitate introduc o categorie diferită de risc deoarece o decizie falsă ar putea declanșa o acțiune de remediere inutilă sau chiar perturbatoare. Cum ar trebui testarea să măsoare fals-pozitivele, raționamentul incorect și acțiunile autonome potențial dăunătoare alături de acuratețea detectării tradiționale?

Testarea tradițională a fals-pozitivelor reprezintă doar primul nivel. În cazul unui agent autonom, trebuie să distingem între o alertă falsă, o concluzie neîntărită și o acțiune incorectă. Fiecare are un impact potențial diferit.

Testele ar trebui să expună sistemul la activități legitime care seamănă cu comportamente malițioase, precum și la dovezi incomplete, ambigue sau înșelătoare. Dacă agentul consumă conținut neîncrezător, testarea ar trebui să examineze și dacă acel conținut poate influența deciziile sale în mod necorespunzător.

Raționamentul ar trebui evaluat în funcție de faptul dacă concluzia este susținută de dovezile disponibile, nu de cât de plauzibilă sau încrezătoare pare explicația. Pentru acțiunile autonome, ar trebui să măsurăm amploarea, proporționalitatea, utilizarea permisiunilor, controalele de aprobare, auditabilitatea și reversibilitatea.

Scorarea trebuie să reflecte consecințele. O alertă inutilă este incomodă; dezactivarea unui cont important sau izolarea unui sistem critic ar putea perturba organizația. O măsură de siguranță utilă trebuie, prin urmare, să ia în considerare atât frecvența erorilor, cât și daunele pe care fiecare eroare le poate provoca.

Toate acestea spuse, uneori clientul alege o politică care cauzează probleme. Acest lucru nu este neapărat vina furnizorului de securitate.

Inteligența artificială generativă și modelele open-source din ce în ce mai capabile reduc bariera pentru automatizarea părților din procesul de atac. Așteptați ca AI să facă atacurile cibernetice fundamental mai sofisticate sau pericolul mai mare este că atacatorii vor putea pur și simplu să opereze la o scară și viteză mult mai mari?

Așteptarea mea este că pericolul mai imediat este legat de scară, viteză și costuri reduse.

AI poate ajuta atacatorii să colecteze informații, să personalizeze ingineria socială, să modifice codul și să coordoneze părți ale unei campanii. Unele atacuri vor deveni mai sofisticate ca rezultat, în special când AI ajută la conectarea tehnicilor existente sau la adaptarea lor la o țintă specifică. Dar AI nu elimină nevoia de acces, acreditări, vulnerabilități exploatabile sau greșeli ale apărătorilor.

AI nu este, de asemenea, foarte bun la producerea de exploatări fiabile, lucru deja dificil chiar și pentru un om priceput. Prin urmare, reduce probabilitatea unor atacuri fundamental mai sofisticate, în opinia mea fermă.

Schimbarea majoră constă în faptul că activitățile care anterior necesitau timp, abilitate sau o echipă de persoane pot fi încercate mai rapid și pe un număr mult mai mare de ținte. AI poate ridica competența atacatorilor relativ obișnuiți, permițând în același timp atacatorilor capabili să desfășoare simultan mai multe operațiuni.

Este semnificativ chiar dacă tehnicile de atac de bază nu sunt revoluționare. Pericolul nu este neapărat o formă complet nouă de atac cibernetic. Este vorba de atacuri familiare care devin mai rapide, mai ieftine, mai personalizate și mult mai numeroase.

Pe măsură ce agenții AI defensivi și ofensivi devin mai autonomi, cum ar trebui să arate un mediu credibil de testare a securității cibernetice pentru a ține pasul? Am putea ajunge, în cele din urmă, la un punct în care produsele de securitate trebuie să fie provocate continuu de adversari AI adaptivi, în loc să fie evaluate în principal prin teste periodice de securitate?

Un mediu credibil va trebui să semene cu o organizație în viață, nu cu o colecție de ținte izolate. Ar trebui să includă puncte finale, sisteme de identitate, e‑mail, rețele, servicii cloud, utilizatori reali și activități de afaceri normale. De asemenea, trebuie să ofere instrumentație completă pentru ca fiecare decizie și consecință să poată fi reconstruită.

Adversarii adaptivi ar putea primi obiective și limite, apoi li s‑ar permite să aleagă rutele în funcție de ceea ce descoperă și de modul în care produsul defensiv răspunde. Testul ar necesita în continuare condiții de pornire controlate, o descriere fiabilă a celor întâmplate și capacitatea de a reda evenimentele importante. Fără aceste elemente, testarea adaptivă ar putea părea impresionantă, dar ar fi slabă din punct de vedere științific.

Mă aștept ca testarea să devină mai continuă, în special când produsele, modelele și politicile se pot schimba frecvent. Totuși, provocarea continuă ar trebui să completeze, nu să elimine, testarea comparativă periodică. Organizațiile au nevoie de ambele: repere controlate, cum ar fi PIVOT, care susțin responsabilitatea și compararea, și evaluări adaptive continue care dezvăluie cum se comportă sistemele pe măsură ce amenințările și produsele în sine se modifică.

Cred că ar trebui să ne îngrijorăm mai mult de faptul că oameni relativ nepricepuți pot pătrunde în sisteme și rețele, decât de roboții care creează următoarea generație de tehnologie de atac cibernetic.

Vă mulțumim pentru interviul excelent, cititorii care doresc să afle mai multe ar trebui să viziteze SE Labs.