AI mot AI: Den nye cybersecurity-reality

AI-drevne cyberangrep har ankommet, og bekrefter hva som tidligere bare var en teoretisk, men forventet, risiko, og de markerer en ny æra i trussellandskapet. Med AI-agenter som nå kan lansere komplekse, end-to-end-kampanjer på minutter, kan cyberkriminelle peke ut og utnytte bedrifts-sårbarheter med maskin-hastighet. Reglene for engasjement har endret seg: gårsdagens cyber-forsvar kan ikke lenger holde pace med dagens AI-drevne angrep.

Da AI gir cyber-trusler en kraftig økning, må bedrifter utvikle sine egne AI-drevne defensive evner for å holde pace i størrelse, hastighet og presisjon. For nå, følger cyber-motstandere fortsatt kjente taktikker, teknikker og prosedyrer (TTPs), men AI akselerer og oppgraderer deres playbook. I tillegg er bedriftens AI-modeller selv et nytt mål via modell-forgiftning og språk-drevet sosial ingenjørkunst, og krever at cyber-teamene ordentlig sikrer sine AI-evner. Derfor bør sikkerhet være en kjernedel av en organisasjons større AI-strategi.

Hva skiller AI-drevne cyberangrep?

I en digital verden som allerede er mettet med nesten konstante cyber-inntrengningsforsøk, er barrieren for inngang for en skadelig aktør blitt redusert, og øker ikke bare volumet, men også kompleksiteten av angrep. AI-drevne angrep kan nå utnytte AI eller maskinlæring (ML) for å automatisere, akselerere eller forbedre hver fase av angrepslivssyklusen, fra rekognosering og informasjonsinnsamling til utnyttelse og eksfiltrering av sensitive data.

Å stole eksklusivt på eksisterende sikkerhetsprosesser og -teknologier uten å utvikle de samme avanserte teknologier som motstanderne utnytter, gir motstanderen en fordel som er nesten umulig å skala uten defensiv AI. Organisasjoner er allerede overveldet av å overvåke sine bedrifter fra tradisjonelle trusler. AI-drevne angrep vil forverre alarm-utmattelsen. Dette nødvendiggjør en evolusjon fra menneske-styrte prosesser til en hybrid cyber-menneske/digital arbeidsstyrke.

Kartleg every digital eiendom

I dagens verden er det å forstå de potensielle inngangspunktene over en bedriftsmiljø en nødvendighet, men fortsatt utenfor rekkevidde for mange store bedrifter. Forbi bare digitale systemer og eiendommer er det behov for en omfattende kartlegging av alle identiteter og tilganger i en organisasjon. Digital identitet, som binder de fysiske og atferdsmessige karakteristika tilbake til en enkelt person, er godt forstått med de eksisterende kontrollene som trengs for å håndtere digital tilgang.

Men å forstå bedriftens landskap av ikke-menneskelige identiteter (NHIs) er essensielt for å sikre digitale eiendommer. Å realisere det potensielle verdien av AI i en organisasjon innebærer å gi AI-agenter tilgang og tillatelse til å fullføre en forretningsprosess autonomt. Liksom sky-miljøer i den forrige sikkerhetsæraen, spinner dagens agenter-drevne arbeidsflyter opp og ned NHIs i skala, og nødvendiggjør en avansert evne til å håndtere og spore hvor i miljøet de opererer og hvordan de oppnår mål eller roller.

Bedrifter bør utvide identitetsstyring over agent-identitetslivssyklusen og overvåke agent-handlinger, slik de overvåker menneskelig bruker-tilgang i dag for insider-risikoadferd eller konto-kompromittering fra trusler. Ettersom agenter-tjenester tar på seg mer autonomi og forretnings-kritisk arbeid, er det kritisk å implementere tilgangs- og overvåkingskontroller som trengs for å beskytte dem og bedriften mot misbruk.

Lås ned AI-modeller

AI-kapasiteter har løftet om å låse opp effisiens og produktivitet, men også potensialet for å bli snudd mot organisasjoner. Å innføre AI i hver enkelt del av forretningsdriften er ikke lenger et “nice to have” – det er et krav for suksess i dagens konkurranse-landskap. Derfor er det å sikre AI en nødvendig komponent for å trygt realisere det fulle forretnings-potensialet og resultater.

Skiftet til AI-empoweret cyber-forsvar er pågående, mens AI-modellene selv har blitt mål. Motstandere kan prøve å forgifte dataene som mates inn i disse modellene og manipulere dem til å utføre uventede handlinger eller til og med avsløre sensitive informasjon.

Adversarial-angrep mot AI kan komme i forskjellige former, som forgift-angrep, prompt-injeksjonsangrep og andre. For å beskytte AI mot potensiell manipulering, bør organisasjoner utnytte Cyber Infrastructure and Security Agency (CISA) filosofien om Sikker ved design. Dette starter med dataene som mates inn i modellens trening. Å låse ned inngangene tidlig i utviklingsprosessen setter grunnlaget for pålitelige utgangspunkter i drift.

Å forstå inngangene som går inn i å utvikle modellene og kapasitetene er mulig gjennom bevisst data-styring sammen med kontroll over tilgangen til modellene selv. Kritiske kontroller som tillater validering av ønskede utgangspunkter kommer i form av data-tap-forhindring (DLP); policy- og sikkerhets-gjennomføring; grunnleggelse via verifiserbare kilder; og strenge godkjenning-kontroller for høy-impakt-handlinger, overvåkbarhet og kontinuerlig testing, inkludert penetrerings-testing av modeller for å gjøre dem slagkraftige.

Integrer AI i sikkerhets-operasjoner

Inntil nå har anvendelsen av AI i cyber-forsvar vært taktisk, med mange organisasjoner som setter AI på legacy, menneske-sentriske prosesser, i stedet for å strategisk omtenke hvordan å bygge AI-sentriske prosesser. Dette er som å prøve å sette en V8-motor på en sykkel. Den neste evolusjonen av AI-aktivering vil være å designe prosesser fra bunnen av, med agenter-AI og automatisering innført i designet. Prøvede og sanne sikkerhets-operasjons-metoder og -prosesser, som trussel-opptreden, trussel-jakt og deteksjons-injenering, er fortsatt kritiske elementer som er avgjørende for organisatorisk sikkerhet i AI-æraen. Å omforme nåværende sikkerhets-prosesser for å aktivere AI-forbedring kan legge en sterk grunnlag for fremtidens AI-empoweret sikkerhets-operasjons-senter (SOC).

I tillegg er automatisering ikke et nytt konsept unikt for AI; sikkerhets-arbeidsflyter og -prosesser har vært automatisert i årevis, med modne organisasjoner som har svært sofistikerte orkestrering- og automatiserings-kapasiteter. Men AI forbedrer eksisterende regel-basert automatisering og utvikler den videre, og tillater dynamiske, tilpasningsdyktige, kontekst-rike automatiserte arbeidsflyter som kan hjelpe med å håndtere hastigheten og smidigheten som kreves for disse nye AI-risikoene.

Hva kommer neste?

Sikkerhet må fortsatt være toppen av sinnet for bedrift og IT for å holde sine kritiske eiendommer og brukere trygge fra skadelig utnyttelse. Sikker ved design-AI er en nødvendighet gitt hastigheten som AI-modeller kan bli deployert og bedt om å utføre mer kritiske aktiviteter. Cyber-teamene bør tenke strategisk om å omforme prosesser fra bunnen av for å implementere nye AI-kapasiteter og holde pace i cyber-katt-og-mus-spillet.

Sikkerhets-ledere kan ta flere konkrete skritt i nær fremtid: gjennomføre en omfattende gjennomgang av nåværende sikkerhets-prosesser for å peke ut hull, moderniserings-muligheter og områder som er modne for transformasjon. Holde øye på AI-emergende trusler, trender og teknologier. Over alt, forbli ankret til den grunnleggende sikkerhets-prinsippet om forsvar i dybden som har bevist seg over tid – lagd beskyttelse og validering fra identitet, til endpoint, til nettverk, til data, med robust overvåking og respons-kapasiteter som alltid testes.

Transformasjons-potensialet til AI lover for stor en oppside til å forkaste dets adopsjon, og genen er ute av flasken for trusler-aktører. Derfor er rollen til sikkerhets-ledere i denne neste æraen den samme som den alltid har vært: å støtte organisasjonene i å oppnå sine forretnings-mål med omtenksom risiko-mildring – bare nå med maskin-hastighet og bruk av AI.