Er virksomheder klar til den næste bølge af AI-drevne cyberangreb?

Ved at analysere nuværende trends kan eksperter forudsige, hvordan cyberkriminelle vil udnytte kunstig intelligens i fremtiden. Med denne information kan de identificere de største opkomne trusler og afgøre, om virksomheder er forberedt. De kan endda være i stand til at finde en løsning.

Tilstanden for AI-trusler i de seneste år

Selvom AI-teknologi er relativt ny, er den allerede blevet et fremtrædende værktøj for hackere. Disse trends antyder, at AI-cyberangreb er på vej op.

1. Modelmanipulation

Ved at rette sig direkte mod store sprogmodeller (LLM’er) kan truselaktører manipulere modeladfærd, mindske udgangsaccuraten eller afsløre personligt identificerbare træningsdata. Dataforgiftning og prompt-teknik er almindelige angrebsteknikker.

Nogle angreb er ledet af truselaktører, der søger at forårsage kaos eller stjæle følsomme oplysninger. Andre er administreret af utilfredse kunstnere, der ønsker at beskytte deres kunstværker mod AI-scraping. Uanset hvad, påvirkes virksomheden og dens slutbrugere negativt.

2. Impersonationsangreb

I 2024 modtog en Ferrari-direktør flere WhatsApp-besked fra CEO’en, Benedetto Vigna. Vigna talte om en forestående overtagelse og opfordrede sin medarbejder til at underskrive en fortrolighedsaftale. Han ringede endda for at diskutere finansiering. Der var dog et problem — det var ikke ham.

Deepfaken var næsten perfekt, idet den imiterede Vignas syditalienske accent exceptionelt godt. Der var dog små inkonsistenser i stemmen, der fik direktøren til at være på vagt overfor svindelen. Medarbejderen spurgte om titlen på en bog, Vigna havde anbefalet få dage tidligere, et spørgsmål, som kun den rigtige CEO ville kende svaret på. Svindleren lagde straks røret på.

AI kan klone en persons stemme, browseadfærd, skrivestil og lighed. Da denne teknologi udvikler sig, bliver det sværere at identificere deepfakes. Svindlerne stiller ofte offeret i en akut situation for at forhindre dem i at stille spørgsmål om små inkonsistenser.

3. AI-phishing

I fortiden kunne en person identificere en phishing-e-mail ved at se efter dårlig grammatik, mistænkelige links, generiske hilsner og urentable anmodninger. Nu kan hackere med hjælp af naturlig sprogbehandlingsteknologi skabe overbevisende beskeder med fejlfri grammatik.

Forskere fandt ud af, at fuldt automatiserede AI-aktiverede spear-phishing-e-mails har en klik-rate på 54%, hvilket er på niveau med phishing-e-mails skrevet af mennesker. Da disse svindel er mere overbevisende, bliver de mere almindelige. Studier har fundet, at over 80% af phishing-e-mails viser tegn på AI-medvirken.

4. Social engineering

Social engineering indebærer at manipulere nogen til at udføre en handling eller afsløre oplysninger. AI gør det muligt for hackere at svare hurtigere og skabe mere overbevisende beskeder. Enhver naturlig sprogbehandlingsmodel kan udføre en semantisk analyse for at identificere modtagerens emotionelle tilstand, hvilket gør det mere sandsynligt, at de giver efter.

Ud over at forbedre social engineering-teknikker, sænker maskinlærings-teknologien traditionelle indgangsbarrierer, hvilket gør det muligt for nybegyndere at udføre sofistikerede kampagner. Hvis alle kan blive cyberkriminelle, kan alle blive mål.

Den næste bølge af data-drevne AI-angreb

I begyndelsen af 2026 forventes AI-angreb at forblive på et lavt modenhedsniveau. Imidlertid vil de udvikle sig eksponentielt, hvilket giver cyberkriminelle mulighed for at gå ind i optimerings-, udviklings- og skala-stadierne. De vil snart være i stand til at lancere fuldt automatiserede kampagner. Bekræftede eksempler på AI-cyberangreb vil ikke være sjældne længe.

Polymorft malware er en AI-aktiveret virus, der kan ændre sin kode hver gang den replikerer for at undgå opdækning. Angribere kan levere payloaden gennem AI-økosystemer, kalde på LLM’er på køretid for at generere kommandoer eller direkte indlejre virusset i LLM’en. Google (GOOGL ) Threat Intelligence Group opdagede, at modstandere havde anvendt denne malware for første gang i 2025.

Malware-familierne er PROMPTFLUX og PROMPTSTEAL. Under kørsel bruger de LLM’er til at anmode om VBScript-forstening og undgåelsesteknikker. De undgår signatur-baseret opdækning ved at forstene deres egen kode påkrævet.

Beviser tyder på, at disse trusler stadig er i testfasen — nogle ufuldstændige funktioner er kommenteret ud, og ansøgningens programmeringskald er begrænsede. Disse AI-malware-familier kan stadig være under udvikling, men deres eksistens repræsenterer et enormt skridt i retning af autonome, adaptive angrebsteknikker.

NYU Tandon-forskning viser, at LLM’er allerede kan udføre ransomware-angreb autonomt, kaldet Ransomware 3.0. De kan udføre rekognoscering, generere payload og personliggøre afpresning uden menneskelig indblanding. Det kræver kun naturlige sprog-prompter indlejret i binærfilen. Modellen giver polymorfe varianter, der tilpasser sig kørselsmiljøet ved dynamisk at generere den skadelige kode på køretid.

Er virksomheder forberedt på AI-angreb?

Trods milliarder i cybersikkerhedsudgifter fortsætter private virksomheder med at kæmpe for at følge med den udviklende trusselslandskab. Maskinlærings-teknologi kan gøre eksisterende opdækning- og responssoftware forældet, hvilket yderligere komplicerer forsvar. Det hjælper ikke, at mange ikke opfylder grundlæggende sikkerhedsstandarder.

2024 DIB Cybersecurity Maturity Report undersøgte 400 informations-tekniske fagfolk i USA’s forsvarindustrielle base (DIB). Over halvdelen af respondenternes rapporterede, at de var år væk fra Cybersecurity Maturity Model Certification (CMMC) 2.0-overensstemmelse, trods den tilsvarende NIST 800-171-overensstemmelse havde været defineret i Forsvarsministeriets kontrakter siden 2016. Mange vurderer deres sikkerhedsstillings tilstand som værende langt bedre, end den faktisk er.

De nye CMMC-krav trådte i kraft den 10. november 2025. Fremover vil alle Forsvarsministeriets kontrakter kræve et vis niveau af CMMC-overensstemmelse som en betingelse for kontrakttildeles. De nye regler er tiltænkt at styrke DIB-cybersikkerheden, men vil de være effektive i AI-alderen?

Er defensiv AI svaret?

At bekæmpe ild med ild kan være den eneste måde at bekæmpe den uundgåelige bølge af AI-angreb. Med defensiv AI kan organisationer dynamisk reagere på trusler i realtid. Denne tilgang kommer dog med sine egne sikkerhedsfejl — at sikre modellen mod manipulation kræver kontinuerlig overvågning og revision.

Ifølge Harvard Business Review gør konventionelle løsninger virksomheder sårbare over for AI-cyberangreb. For at opnå cybersikkerhed må de bruge maskinlærings-teknologi til at forudsige og automatisk reagere på trusler.

Der er ingen enkel løsning på, om defensiv AI er svaret på dette problem. Skal virksomheder bruge deres ressourcer på at implementere uprøvede maskinlæringsværktøjer eller udvide deres informations-tekniske hold? Det er umuligt at forudsige, hvilken investering der vil give afkast i længden.

Store virksomheder kan opleve betydelige afkast med automatiseret cybersikkerhed, mens små virksomheder måske har svært ved at retfærdiggøre omkostningerne. Konventionel automatiseringsteknologi kan måske lukke hullet til en langt lavere pris, men den kan ikke reagere på dynamiske trusler.

Steve Durbin, CEO for Information Security Forum, fastslår, at AI-adopterings har betydelige fordele, men den har også store ulemper. For eksempel oplever virksomheder ofte en stigning i falske positive alarmer, hvilket spilder sikkerhedsholdets tid. Desuden kan overafhængighed af AI føre til, at hold bliver overbevisende, hvilket resulterer i sikkerhedsfejl.

Navigering i AI-trusselslandskabet

Det er umuligt at bestemme den præcise omfang af AI’s tilstedeværelse i trusselslandskabet, da angribere kan udnytte det til at skabe skadelig kode eller udarbejde phishing-e-mails, snarere end at bruge det på køretid. Enlige cyberkriminelle og statsstøttede truselgrupper kunne bruge det i stor målestok.

Udfra den tilgængelige information vil modelmanipulation, AI-phishing og polymorft malware være de største cybertrusler i 2026. Cyberkriminelle vil sandsynligvis fortsætte med at bruge LLM’er til at generere, levere og tilpasse skadelige payload, der retter sig mod højværdi-industrier som finans samt almindelige mennesker.