Framtiden för cybersäkerhet: AI, automatisering och den mänskliga faktorn

Under det senaste decenniet, i takt med den explosiva tillväxten av informationsteknologi, har den mörka verkligheten av cybersäkerhetshot också utvecklats dramatiskt. Cyberattacker, som tidigare främst drevs av retsamhetssyndare som sökte berömmelse eller ekonomisk vinst, har blivit betydligt mer sofistikerade och riktade. Från statsstödd spioneri till företags- och identitetsstöld, är motiven bakom cyberbrott alltmer illvilliga och farliga. Även om ekonomisk vinst fortfarande är en viktig anledning till cyberbrott, har den överträffats av mer illvilliga syften som att stjäla kritisk data och tillgångar. Cyberangripare utnyttjar omfattande banbrytande tekniker, inklusive artificiell intelligens, för att infiltrera system och utföra skadliga aktiviteter. I USA rapporterade Federal Bureau of Investigation (FBI) över 800 000 cyberbrottsrelaterade klagomål som lämnades in 2022, med totala förluster som översteg 10 miljarder dollar, vilket slog 2021 års total på 6,9 miljarder dollar, enligt byråns Internet Crime Complaint Center.

Med det snabbt föränderliga hotlandskapet är det dags för organisationer att anta en mångfacetterad strategi för cybersäkerhet. Strategin bör omfatta hur angripare får tillträde; förhindra initial kompromiss; snabbt upptäcka intrång; och möjliggöra snabb respons och avhjälpning. Att skydda digitala tillgångar kräver att man utnyttjar kraften från AI och automatisering samtidigt som man säkerställer att kompetenta mänskliga analytiker förblir en integrerad del av säkerhetsposturen.

Att skydda en organisation kräver en flerskiktsstrategi som tar hänsyn till de olika ingångspunkter och attackvektorer som används av motståndare. I breda drag är dessa under fyra huvudkategorier: 1) Webb- och nätverksattacker; 2) Användarbetende och identitetsbaserade attacker; 3) Entitetsattacker som riktar sig mot moln- och hybridmiljöer; och 4) Malware, inklusive ransomware, avancerade varaktiga hot och annan skadlig kod.

Att utnyttja AI och automatisering

Att distribuera AI- och maskinlärningsmodeller (ML) som är anpassade till var och en av dessa attackklasser är avgörande för proaktiv hotdetektering och förebyggande. För webb- och nätverksattacker måste modellerna identifiera hot som phishing, webbläsarutnyttjande och Distributed Denial-of-Service (DDoS)-attacker i realtid. Användar- och entitetsbeteendeanalys med AI kan upptäcka avvikande aktiviteter som tyder på kontokompromiss eller missbruk av systemresurser och data. Slutligen kan AI-driven malwareanalys snabbt triagera nya stammar, identifiera skadligt beteende och mildra effekten av filbaserade hot. Genom att implementera AI- och ML-modeller över detta spektrum av attackytor kan organisationer avsevärt förbättra sin förmåga att autonomt identifiera attacker i de tidigaste stadierna innan de eskalerar till fullständiga incidenter.

När AI/ML-modellerna har identifierat potentiell hotaktivitet över olika attackvektorer står organisationer inför en annan nyckelutmaning – att ge mening åt de frekventa varningarna och skilja kritiska incidenter från bruset. Med så många datapunkter och upptäckter som genereras, blir det avgörande att tillämpa ett annat lager av AI/ML för att korrelera och prioritera de allvarligaste varningarna som motiverar ytterligare utredning och respons. Varningsutmattning är ett alltmer kritiskt problem som måste lösas.

AI kan spela en avgörande roll i denna varningsprocess genom att konsumera och analysera stora mängder säkerhetstelemetri, fusionera insikter från flera upptäcktkällor, inklusive hotinformation, och presentera endast de mest tillförlitliga incidenterna för respons. Detta minskar bördan på mänskliga analytiker, som annars skulle bli överhopade med omfattande falska positiva och lågkvalitativa varningar som saknar tillräcklig kontext för att bestämma allvaret och nästa steg.

Även om hotaktörer har varit aktiva med att distribuera AI för att driva attacker som DDoS, riktad phishing och ransomware, har den defensiva sidan halkat efter i AI-antagande. Men detta förändras snabbt eftersom säkerhetsleverantörer tävlar om att utveckla avancerade AI/ML-modeller som kan upptäcka och blockera dessa AI-drivna hot.

Framtiden för defensiv AI ligger i att distribuera specialiserade små språkmodeller som är anpassade till specifika attacktyper och användningsfall snarare än att förlita sig på stora, generativa AI-modeller ensamma. Stora språkmodeller visar mer löfte för cybersäkerhetsoperationer som att automatisera hjälpdesksfunktioner, hämta standardoperativa förfaranden och assistera mänskliga analytiker. Den tunga lyftningen av exakt hotdetektering och förebyggande kommer att hanteras bäst av de högt specialiserade små AI/ML-modellerna.

Den mänskliga expertisens roll

Det är avgörande att utnyttja AI/ML tillsammans med processautomatisering för att möjliggöra snabb avhjälpning och inneslutning av verifierade hot. På detta stadium, utrustade med högt förtroende för incidenter, kan AI-system starta automatiserade playbook-svar anpassade till varje specifik attacktyp – blockera skadliga IP-adresser, isolera komprometterade värdar, tillämpa adaptiva principer och mer. Men mänsklig expertis förblir integrerad, validerar AI-utdata, tillämpar kritiskt tänkande och övervakar de autonoma responsåtgärderna för att säkerställa skydd utan affärsavbrott.

Nyanserad förståelse är vad människor bidrar med. Dessutom kräver analys av nya och komplexa malware-hot kreativitet och problemlösningsförmåga som kan ligga bortom maskinernas räckvidd.

Mänsklig expertis är avgörande inom flera nyckelområden:

• Validering och kontextualisering: AI-system, trots sin sofistikering, kan ibland generera falska positiva eller missförstå data. Mänskliga analytiker behövs för att validera AI-utdata och ge den nödvändiga kontext som AI kan förbise. Detta säkerställer att responsen är lämplig och proportionerlig mot det faktiska hotet.
• Komplex hotutredning: Vissa hot är för komplexa för AI att hantera ensam. Mänskliga experter kan gräva djupare i dessa incidenter, använda sin erfarenhet och intuition för att avslöja dolda aspekter av hotet som AI kan missa. Denna mänskliga insikt är avgörande för att förstå omfattningen av sofistikerade attacker och utveckla effektiva motåtgärder.
• Strategiskt beslutsfattande: Medan AI kan hantera rutinuppgifter och datahantering, kräver strategiska beslut om den övergripande säkerhetsposturen och långsiktiga försvarsstrategier mänskligt omdöme. Experter kan tolka AI-genererade insikter för att fatta informerade beslut om resurstilldelning, principförändringar och strategiska initiativ.
• Kontinuerlig förbättring: Mänskliga analytiker bidrar till den kontinuerliga förbättringen av AI-system genom att tillhandahålla feedback och utbildningsdata. Deras insikter hjälper till att förfinansiera AI-algoritmer, vilket gör dem mer exakta och effektiva över tid. Detta symbiotiska förhållandet mellan mänsklig expertis och AI säkerställer att båda utvecklas tillsammans för att hantera nya hot.

Optimerad mänsklig-maskin samverkan

Under denna övergång ligger behovet av AI-system som kan lära sig av historiska data (övervakad inlärning) och kontinuerligt anpassa sig för att upptäcka nya attacker genom ostrukturerad/förstärkt inlärning. Att kombinera dessa metoder kommer att vara avgörande för att ligga före angriparnas utvecklande AI-förmågor.

Sammanfattningsvis kommer AI att vara avgörande för försvarare att skala upp sin upptäckts- och responsförmåga. Mänsklig expertis måste förbli tätt integrerad för att utreda komplexa hot, granska AI-systemutdata och vägleda strategiska försvarsstrategier. En optimerad mänsklig-maskin samverkansmodell är idealisk för framtiden.

När stora mängder säkerhetsdata ackumuleras över tid kan organisationer tillämpa AI-analyser på denna skatt av telemetri för att hämta insikter för proaktiv hotjakt och förstärkning av försvar. Kontinuerligt lärande från tidigare incidenter möjliggör prediktiv modellering av nya attackmönster. När AI-förmågorna utvecklas kommer rollen för små och specialiserade språkmodeller anpassade till specifika säkerhetsanvändningsfall att växa. Dessa modeller kan hjälpa till att ytterligare minska ‘varningsutmattning’ genom att exakt triagera de viktigaste varningarna för mänsklig analys. Autonom respons, driven av AI, kan också expandera för att hantera fler Tier 1-säkerhetsuppgifter.

Men mänskligt omdöme och kritiskt tänkande kommer att förbli oumbärliga, särskilt för incidenter med hög allvarlighetsgrad. Utan tvekan är framtiden en av optimerad mänsklig-maskin samverkan, där AI hanterar omfattande datahantering och rutinuppgifter, vilket möjliggör för mänskliga experter att fokusera på att utreda komplexa hot och högnivåsäkerhetsstrategi.