Hiperia inteligenței artificiale eclipsează deciziile umane care duc la încălcări

Inteligența artificială a reschimbat modul în care organizațiile gândesc despre amenințări, cu atenția adesea concentrată pe operațiuni la scară largă, recunoaștere automată și impersoanare tot mai convingătoare. Aceste evoluții merită atenție, dar au și distorsionat înțelegerea industriei cu privire la locul unde începe cea mai comună expunere.

Chiar și pe măsură ce organizațiile se concentrează pe amenințări mai avansate, conduse de inteligență artificială, atacatorii continuă să pătrundă prin manipularea instinctului uman. Atacurile ClickFix, o formă sofisticată de inginerie socială, au reprezentat 47% din incidentele de acces inițial observate anul trecut. Acest lucru arată cât de des o încălcare începe cu o persoană care ia o decizie rapidă sub presiune, nu cu o lacună în tehnologie.

Gap-ul de răspuns uman

Atacurile ClickFix sunt eficiente pentru că imită semnalele pe care echipele tehnice sunt instruite să le abordeze. Ele nu depind de vulnerabilități de software sau de erori de configurare. În schimb, ele exploatează o așteptare simplă: atunci când ceva pare în neregulă, cineva va încerca să o corecteze imediat.

Acest instinct este intensificat în medii tehnice în care timpul de funcționare, răspunsul și acțiunea rapidă sunt așteptări de bază. Administratorii și personalul de suport sunt condiționați să răspundă rapid la avertizări, prompturi de sistem sau solicitări de acces. Atacatorii înțeleg această presiune și proiectează campanii care semănă cu semnalele exacte pe care profesioniștii sunt instruiți să le abordeze.

Inteligența artificială a făcut această ecuație și mai periculoasă. Uneltele generative permit atacatorilor să creeze capcane cu gramatică aproape perfectă, terminologie de sistem contextualmente exactă și interfețe falsificate care seamănă îndeaproape cu software-ul real al întreprinderii. În timp ce o promptare neîndemânatică dădea odinioară de gol o încercare de inginerie socială, astăzi atacurile pot fi de nediferențiat de o alertă de securitate legitimă, lărgind decalajul dintre ceea ce utilizatorii sunt instruiți să identifice și ceea ce întâlnesc de fapt în teren.

Momentul în care lucrurile merg prost

O provocare cheie cu incidentele ClickFix este că momentul crucial pare normal. Un utilizator aprobă o promptare, resetează accesul sau autorizează o schimbare. Acțiunea în sine se amestecă în activitatea de zi cu zi, ceea ce creează o provocare pentru instrumentele de securitate tradiționale. Aceste sisteme detectează anomalii tehnice, dar nu pot interpreta cu ușurință contextul din spatele unei decizii grăbite.

O secvență tipică ar putea arăta astfel: un utilizator întâmpină o avertizare de browser care îi spune că sesiunea sa a expirat sau că un plugin necesar trebuie actualizat. Ei fac clic pe o promptare care rulează o comandă PowerShell în fundal — una pe care nu o văd niciodată — în timp ce interfața vizibilă le spune pur și simplu că problema este rezolvată. Întreaga interacțiune durează sub 30 de secunde. Nimic în jurnalul sistemului nu o marchează ca pe ceva neobișnuit, deoarece, tehnic, nu s-a întâmplat nimic neobișnuit. Un utilizator legitim a rulat o comandă pe o mașină legitimă.

Acest lucru duce la mai multe consecințe. Astăzi, 74% din încălcări au implicat elementul uman, inclusiv atacuri de inginerie socială, erori și abuz. Riscurile comportamentale umane rareori apar în interiorul tablourilor de bord. Controalele nu sunt problema. Stratul lipsă este vizibilitatea în ceea ce privește care decizii sunt cel mai probabil să fie grăbite și cum aceste decizii creează deschideri pentru atacatori.

Reevaluarea erorii umane

Comportamentul uman nu ar trebui tratat ca o preocupare izolată de instruire; ar trebui să fie considerat un component de bază al arhitecturii de securitate.

În loc de a-l trata ca pe un rezultat imprevizibil, organizațiile ar trebui să-l trateze ca pe un factor de risc măsurabil. Liderii de securitate pot realiza acest lucru prin integrarea insight-urilor centrate pe om în postura lor defensivă. Sistemele ar trebui să fie proiectate cu așteptări realiste cu privire la modul în care oamenii se comportă, nu cu presupunerea că vor avea întotdeauna un comportament ideal.

Măsurarea aici este concretă, nu abstractă. Organizațiile pot urmări viteza deciziilor, cât de repede utilizatorii aprobă promptări cu impact ridicat în timpul orelor de operare de vârf, și pot utiliza monitorizarea modelului de aprobare pentru a identifica anomalii, cum ar fi autorizările din afara orelor de program sau anulările repetate ale avertizărilor standard. Bazarea comportamentală, aplicată la nivel individual sau de rol, oferă echipelor de securitate un punct de referință pentru ceea ce “normal” înseamnă, astfel încât deviațiile să fie înregistrate ca semnal și nu ca zgomot.

Abordarea cauzei radicale

Îmbunătățirea apărării împotriva atacurilor de tip ClickFix începe cu înțelegerea condițiilor care duc la decizii grăbite. Liderii pot studia modele precum aprobări rapide, aproape de rată, sau răspunsuri inconsistente la prompturi de sistem. Aceste observații dezvăluie unde instinctul poate învinge prudența.

Fluxurile de lucru ar trebui, de asemenea, să fie evaluate pentru punctele de presiune care invită la greșeli. Acțiunile cu impact ridicat beneficiază de mici pași de verificare care permit utilizatorilor să se oprească și să evalueze ceea ce aprobă. În același timp, sarcinile rutiniere ar trebui să fie simplificate pentru a reduce oboseala care îi încurajează pe oameni să treacă prin promptări fără o considerare atentă.

Organizațiile pot obține o perspectivă mai bună prin utilizarea simulărilor care reflectă presiunea realistă. Testele tradiționale de phishing sunt utile pentru conștientizare, dar nu evaluează cum răspunde cineva atunci când gestionează mai multe sarcini sau gestionează o preocupare operațională urgentă. Scenariile construite în jurul presiunii de timp sau a întreruperii sistemului dezvăluie modele comportamentale care altfel sunt greu de detectat.

Simulările eficiente introduc variabile pe care testele tradiționale le ignorează, încărcătura de sarcini concurente, ferestrele de oboseală de la sfârșitul zilei și întreruperile din fluxul de lucru care forțează o schimbare de context exact înainte de a apărea o promptare cu risc ridicat. Un utilizator care identifică un e-mail de phishing în izolare poate aproba o promptare malignă fără ezitare atunci când gestionează o incidentă activă la ora 16:45. Construirea unor teste care reproduc aceste condiții generează date comportamentale pe care organizațiile le pot folosi cu adevărat, și nu doar metrici de conștientizare pe baza trecut/nu a trecut care nu se traduc într-o îmbunătățire a răspunsului sub presiune.

De asemenea, ajută la planificarea incidentelor care încep cu acțiuni legitime. Multe echipe se concentrează pe detectarea comportamentului neautorizat. În practică, primul semn semnificativ al unui atac poate fi o promptare aprobată care nu ar fi trebuit să fie aprobată. Integrarea acestei așteptări în planificarea răspunsului la incidente face mai ușor să identifice indicatorii timpurii care altfel ar fi trecuți cu vederea.

Întărirea punctului de eșec

Amenințările activate de inteligență artificială vor continua să evolueze, dar multe încălcări se datorează în continuare unei decizii umane luate în momentul respectiv. Abordarea acestei realități nu necesită încetinirea operațiunilor sau abandonarea automatizării. Ea necesită proiectarea sistemelor și a fluxurilor de lucru care reflectă modul în care oamenii lucrează în mod natural și construirea de garduri în jurul punctelor în care instinctul tinde să învingă prudența.

Organizațiile care incorporează luarea deciziilor umane în înțelegerea lor a suprafeței de atac obțin o vedere mai precisă a riscului operațional. Acest lucru duce la apărări mai puternice, sprijinite atât de controale tehnice, cât și de o înțelegere mai realistă a modului în care utilizatorii interacționează cu sistemele în timpul activității zilnice de lucru.