AI mod AI: Den nye cybersecurity-reality

AI-drevne cyberangreb er ankommet, hvilket bekræfter, hvad der tidligere kun var en teoretisk, men forventet, risiko, og de markerer en ny æra i trusselslandskabet. Med AI-agenter, der nu kan lancere komplekse, end-to-end-kampagner på få minutter, kan cyberkriminelle pege på og udnytte virksomhedssårbarheder med maskinehastighed. Reglerne for engagement er ændret: gårsdagens cyberforsvar kan ikke længere holde trit med i dagens AI-drevne angreb.

Da AI giver cybertruslerne en ekstra boost, har virksomheder brug for at udvikle deres egne AI-drevne defensive evner for at holde trit i hastighed, omfang og præcision. For nuværende kan cybermodstandere stadig følge kendte taktikker, teknikker og procedurer (TTP’er), men AI accelererer og opgraderer deres playbook. Desuden er virksomhedens AI-modeller selv et nyt mål via model forgiftning og sprogdrevet social engineering, hvilket kræver, at cybersikkerhedsteams ordentligt sikrer deres AI-kapaciteter. Derfor bør sikkerhed være en kernekomponent i en organisations overordnede AI-strategi.

Hvad adskiller AI-drevne cyberangreb?

I en digital verden, der allerede er mættet med næsten konstante cyberintrusionsforsøg, er barrieren for indtrængen for en skadelig aktør blevet reduceret, hvilket ikke kun øger volumen, men også kompleksiteten af angreb. AI-drevne angreb kan nu udnytte AI eller maskinel læring (ML) til at automatisere, accelerere eller forbedre enhver fase af angrebslivscyklussen, fra rekognoscering og informationsindsamling til udnyttelse og eksfiltration af følsomme data.

At stole udelukkende på eksisterende sikkerhedsprocesser og -teknologier uden at udvikle den samme avancerede teknologi, som modstanderne udnytter, giver modstanderen en fordel, der er næsten umulig at opnå uden defensiv AI. Virksomheder er allerede overvældede af overvågning af deres virksomhed fra traditionelle trusler. AI-drevne angreb vil forværre alarmtrætheden. Dette nødvendiggør en udvikling fra menneskestyret processer til en hybrid cyber-menneske/digital arbejdsstyrke.

Kortlæg hver digital aktiv

I dagens verden er det at forstå de potentielle indgangspunkter på tværs af en virksomhedsomgivelser en grundlæggende betingelse, men stadig utilgængelig for mange store virksomheder. Ud over kun digitale systemer og aktiver er der behov for en omfattende kortlægning af alle identiteter og adgang i en organisation. Digital identitet, der binder fysiske og adfærdsmæssige karakteristika tilbage til en enkelt person, er godt forstået med de eksisterende kontroller, der er nødvendige for at styre digital adgang.

Men at forstå virksomhedens landskab af ikke-menneskelige identiteter (NHI’er) er afgørende for at sikre digitale aktiver. At realisere det potentielle værdi af AI inden for en organisation indebærer at give AI-agenter adgang og tilladelse til at udføre en forretningsproces selvstændigt. Ligesom cloud-miljøer i den forrige sikkerhedsera spinner dagens agenter-drevne arbejdsprocesser op og ned NHI’er i stor skala, hvilket kræver en avanceret evne til at styre og spore, hvor i miljøet de opererer, og hvordan de opnår de ønskede missioner eller roller.

Virksomheder bør udvide identitetsstyring på tværs af agent-identitetslivscyklussen og overvåge agent-handlinger, ligesom de i dag overvåger adgang til menneskelige brugere til indre risikoadfærd eller konto-kompromittering fra trusler. Da agent-kapaciteterne tager på mere autonomi og forretningskritisk arbejde, er det afgørende at implementere adgangs- og overvågningskontroller, der er nødvendige for at beskytte dem og virksomheden mod misbrug.

Lås AI-modellerne ned

AI-kapaciteter har løftet om at låse effektivitet og produktivitet op, men også potentialet for at blive vendt imod organisationer. At introducere AI i alle aspekter af forretningsoperationer er ikke længere et “nice to have” – det er en nødvendighed for succes i dagens konkurrencelandskab. Derfor er det at sikre en sikker AI-udvikling en nødvendig komponent for at realisere den fulde forretningspotentiale og resultater på en sikker måde.

Overgangen til AI-empoweret cyberforsvar er i gang, mens AI-modellerne selv er blevet mål. Modstandere kan forsøge at forgifte data, der føder disse modeller, og manipulere dem til at udføre uventede handlinger eller endda afsløre følsomme oplysninger.

Adversarielle angreb mod AI kan komme i forskellige former, såsom forgiftningangreb, prompt-injektionsangreb og andre. For at beskytte AI mod potentiel manipulation bør organisationer udnytte Cyber Infrastructure and Security Agency (CISA)’s filosofi om Secure by Design. Dette starter med data, der føder modellens træning. At låse indgangene tidligt i udviklingsprocessen lægger grundlaget for pålidelige udgangspunkter i implementeringen.

At forstå, hvilke indgangspunkter der går ind i udviklingen af modeller og kapaciteter, er muligt gennem bevidst datastyring sammen med kontrol over adgang til modellerne selv. Kritiske kontroller, der giver mulighed for at validere ønskede udgangspunkter, kommer i form af data-loss prevention (DLP); politik- og sikkerhedsstyring; grundlæggelse via verificerbare kilder; og stramme godkendelseskontroller for høj-impakt handlinger, revision og kontinuerlig test, herunder penetrationstest af modeller for at gøre dem slagkraftige.

Integrer AI i sikkerhedsoperationer

Indtil nu har anvendelsen af AI i cyberforsvar været taktisk, hvor mange organisationer har boltet AI på legacy, menneskecentrerede processer, snarere end strategisk at genoverveje, hvordan man bygger AI-centrerede processer. Dette er som at forsøge at montere en V8-motor på en cykel. Den næste udvikling af AI-aktivering vil være at designe processer fra bunden, med agenter AI og automation indbygget i designet. Prøvede og sande sikkerhedsoperationsmetoder og -processer, såsom trusselsdetektion, trusseljagt og detektionsingeniørarbejde, er stadig de kritiske elementer, der er afgørende for organisationsikkerheden i AI-æraen. At omforme nuværende sikkerhedsprocesser for at aktivere AI-forbedring kan lægge grundlaget for fremtidens AI-empowerede sikkerhedsoperationscenter (SOC).

Derudover er automation ikke et nyt begreb, der er unikt for AI’s opdukken; sikkerhedsarbejdsprocesser og -processer er blevet automatiseret i årevis, og modne organisationer har meget avancerede orkestrerings- og automationsfunktioner. AI forbedrer dog eksisterende regelbaseret automation og udvikler den yderligere, hvilket giver mulighed for dynamiske, tilpasningsdygtige, kontekstrige automatiserede arbejdsprocesser, der kan hjælpe med at tackle den hastighed og agility, der kræves for disse nye AI-risici.

Hvad kommer herefter?

Sikkerhed skal fortsat være øverst på dagsordenen for forretnings- og IT-chefer for at holde deres kritiske aktiver og brugere sikre mod skadelig udnyttelse. Sikkerhed ved design er en nødvendighed, given den hastighed, hvormed AI-modeller kan implementeres og bedes om at udføre mere kritiske aktiviteter. Cybersikkerhedsteams skal tænke strategisk om at omforme processer fra bunden for at implementere nye AI-kapaciteter på en måde, der kan holde trit i cyberspillet.

Sikkerhedsledere kan træffe flere konkrete skridt på kort sigt: gennemføre en omfattende gennemgang af nuværende sikkerhedsprocesser for at pege på huller, moderniseringsmuligheder og områder, der er modne til transformation. Hold øje med AI’s opdukken af trusler, tendenser og teknologier. Over alt skal man fastholde den grundlæggende sikkerhedsprincip om forsvar i dybden, der har bevist sig over tid – lagdelt beskyttelse og validering fra identitet til endpoint, til netværk, til data, med robust overvågning og responsfunktioner, der altid testes.

Den transformerende potentiale i AI lover for stor en gevinst til at frasige sig dens adoption, og genien er ude af flasken for truslerne. Derfor er sikkerhedsledernes rolle i denne næste æra den samme, som den altid har været: at støtte organisationer i at opnå deres forretningsmæssige mål med omhyggelig risikomildning – blot nu med maskinehastighed ved hjælp af AI.