Tilstanden for AI-sikkerhed i 2025: Nøgleindsigter fra Ciscos rapport

Da flere virksomheder adopterer AI, er det blevet endnu vigtigere at forstå de sikkerhedsrisici, det medfører. AI forandre industrier og arbejdsprocesser, men det introducerer også nye sikkerhedsudfordringer, som organisationer må imødekomme. Beskyttelse af AI-systemer er afgørende for at opretholde tillid, beskytte privatliv og sikre en stabil forretning. Denne artikel sammenfatter de vigtigste indsigter fra Ciscos seneste rapport “Tilstanden for AI-sikkerhed i 2025“. Den giver en oversigt over, hvor AI-sikkerheden står i dag, og hvad virksomheder skal overveje for fremtiden.

En voksende sikkerhedsTrussel til AI

Hvis 2024 har lært os noget, så er det, at AI-adoptionen sker hurtigere, end mange organisationer kan sikre den. Ciscos rapport fastslår, at omkring 72% af organisationerne nu bruger AI i deres forretningsfunktioner, men kun 13% føler sig fuldt ud klar til at maksimere dets potentiale på en sikker måde. Denne afstand mellem adoption og beredskab skyldes i høj grad sikkerhedsbekymringer, som forbliver den primære barriere for en bredere brug af AI i virksomhederne. Det, der gør situationen endnu mere bekymrende, er, at AI introducerer nye typer trusler, som traditionelle cybersikkerhedsmetoder ikke er fuldt ud udstyret til at håndtere. I modsætning til konventionel cybersikkerhed, som ofte beskytter faste systemer, medfører AI dynamiske og adaptive trusler, der er sværere at forudsige. Rapporten fremhæver flere nye trusler, som organisationer skal være opmærksomme på:

• Infrastrukturangreb: AI-infrastruktur er blevet et primært mål for angribere. Et bemærkelsesværdigt eksempel er kompromitteringen af NVIDIA’s Container Toolkit, som tillod angribere at få adgang til filsystemer, køre skadelig kode og eskalere privilegier. Ligeledes blev Ray, en open-source AI-ramme for GPU-styring, kompromiteret i et af de første virkelige AI-rammeangreb. Disse tilfælde viser, hvordan svagheder i AI-infrastruktur kan påvirke mange brugere og systemer.
• Supply Chain-risici: AI-supply chain-svagheder udgør en anden betydelig bekymring. Omkring 60% af organisationerne afhænger af open-source AI-komponenter eller økosystemer. Dette skaber en risiko, da angribere kan kompromittere disse vidt brugte værktøjer. Rapporten nævner en teknik kaldet “Sleepy Pickle“, som tillader modstandere at manipulere med AI-modeller, selv efter distribution. Dette gør det ekstremt svært at opdage.
• AI-specifikke angreb: Nye angrebsteknikker udvikler sig hurtigt. Metoder som prompt-injektion, jailbreaking og træningsdata-ekstraktion tillader angribere at omgå sikkerheds kontroller og få adgang til følsomme oplysninger indeholdt i træningsdata.

Angrebsvektorer rettet mod AI-systemer

Rapporten fremhæver opkomsten af angrebsvektorer, som malicious aktører bruger til at udnytte svagheder i AI-systemer. Disse angreb kan forekomme på forskellige stadier af AI-livscyklussen, fra dataindsamling og modeltræning til deployment og inferens. Målet er ofte at få AI til at opføre sig på uventede måder, lække private data eller udføre skadelige handlinger.

Over de seneste år er disse angrebsmetoder blevet mere avancerede og sværere at opdage. Rapporten fremhæver flere typer angrebsvektorer:

• Jailbreaking: Denne teknik indebærer at konstruere adversarial prompts, der omgår en models sikkerhedsforanstaltninger. Trods forbedringer i AI-forsvar har Ciscos forskning vist, at selv simple jailbreaks stadig er effektive mod avancerede modeller som DeepSeek R1.
• Indirekte prompt-injektion: I modsætning til direkte angreb indebærer denne angrebsvektor at manipulere inputdata eller konteksten, som AI-modellen bruger indirekte. Angribere kan levere kompromitteret kilde materiale som skadelige PDF’er eller web sider, hvilket får AI til at generere uventede eller skadelige output. Disse angreb er særligt farlige, da de ikke kræver direkte adgang til AI-systemet, og dermed kan angribere omgå mange traditionelle forsvar.
• Træningsdata-ekstraktion og forgiftning: Ciscos forskere demonstrerede, at chatbots kan narres til at afsløre dele af deres træningsdata. Dette rejser alvorlige bekymringer om dataintegritet, immaterielle rettigheder og overholdelse. Angribere kan også forgifte træningsdata ved at injicere skadelig input. Forbløffende forgiftning af blot 0,01% af store datasæt som LAION-400M eller COYO-700M kan påvirke modeladfærd, og dette kan gøres med en lille budget (omkring 60 USD), hvilket gør disse angreb tilgængelige for mange dårlige aktører.

Rapporten fremhæver alvorlige bekymringer om den nuværende tilstand for disse angreb, med forskere, der opnår en 100% succesrate mod avancerede modeller som DeepSeek R1 og Llama 2. Dette afslører kritiske sikkerheds svagheder og potentielle risici forbundet med deres brug. Derudover identificerer rapporten opkomsten af nye trusler som lyd-baserede jailbreaks, der specifikt er designet til at angribe multimodale AI-modeller.

Findings fra Ciscos AI-sikkerhedsforskning

Ciscos forskningsteam har evaluaret forskellige aspekter af AI-sikkerhed og afsløret flere vigtige fund:

• Algoritme-jailbreaking: Forskere viste, at selv top AI-modeller kan narres automatisk. Ved hjælp af en metode kaldet Tree of Attacks with Pruning (TAP) omgik forskere beskyttelsen på GPT-4 og Llama 2.
• Risici i finjustering: Mange virksomheder finjusterer grundlæggende modeller for at forbedre relevansen for bestemte domæner. Forskere fandt dog ud af, at finjustering kan svække interne sikkerhedsforanstaltninger. Finjusterede versioner var over tre gange mere sårbare over for jailbreaking og 22 gange mere sandsynlige for at producere skadeligt indhold end de originale modeller.
• Træningsdata-ekstraktion: Ciscos forskere brugte en simpel dekompositions metode til at narre chatbots til at genskabe nyhedsartikel fragmenter, hvilket tillod dem at genskabe kilderne til materialet. Dette stiller risici for at afsløre følsomme eller proprietære data.
• Data-forgiftning: Ciscos team demonstrerede, hvor let og billigt det er at forgifte store web datasæt. For omkring 60 USD formåede forskerne at forgifte 0,01% af datasæt som LAION-400M eller COYO-700M. Desuden fremhæver de, at dette niveau af forgiftning er nok til at forårsage bemærkelsesværdige ændringer i modeladfærd.

AI’s rolle i cyberkriminalitet

AI er ikke kun et mål – det bliver også et værktøj for cyberkriminelle. Rapporten nævner, at automatisering og AI-drevet social engineering har gjort angreb mere effektive og sværere at opdage. Fra phishing-svindel til stemme-kloning hjælper AI kriminelle med at skabe overbevisende og personlige angreb. Rapporten identificerer også opkomsten af skadelige AI-værktøjer som “DarkGPT“, der specifikt er designet til at hjælpe med cyberkriminalitet ved at generere phishing-emails eller udnytte svagheder. Det, der gør disse værktøjer særligt bekymrende, er deres tilgængelighed. Selv lavt-uddannede kriminelle kan nu skabe højtydende personlige angreb, der undgår traditionelle forsvar.

Bedste praksis for at sikre AI

Givet den volatile natur af AI-sikkerhed anbefaler Cisco flere praktiske skridt for organisationer:

1. Styr risici på tværs af AI-livscyklussen: Det er afgørende at identificere og reducere risici på hvert stadium af AI-livscyklussen, fra datakilder og modeltræning til deployment og overvågning. Dette inkluderer også at sikre tredjeparts-komponenter, anvende stærke sikkerhedsforanstaltninger og tæt kontrollere adgangspunkter.
2. Brug etablerede cybersikkerhedspraksis: Selv om AI er unikt, er traditionelle cybersikkerhedspraksis stadig essentiel. Teknikker som adgangskontrol, tilladelsestyring og data tabssikring kan spille en vital rolle.
3. Fokus på sårbare områder: Organisationer skal fokusere på områder, der er mest sandsynlige at blive mål for angreb, såsom forsyningskæder og tredjeparts AI-applikationer. Ved at forstå, hvor svaghederne ligger, kan virksomheder implementere mere målrettede forsvar.
4. Uddannelse og træning af medarbejdere: Da AI-værktøjer bliver mere udbredte, er det vigtigt at træne brugere i ansvarlig AI-brug og risikobevidsthed. En velinformerede arbejdsstyrke hjælper med at reducere utilsigtet dataeksponering og misbrug.

Udsigten fremad

AI-adoption vil fortsætte med at vokse, og med det vil sikkerhedsrisici udvikle sig. Regeringer og organisationer verden over anerkender disse udfordringer og begynder at opbygge politikker og reguleringer til at vejlede AI-sikkerhed. Som Ciscos rapport fremhæver, vil balancen mellem AI-sikkerhed og fremgang definere den næste æra af AI-udvikling og -deployment. Organisationer, der prioriterer sikkerhed sammen med innovation, vil være bedst udstyret til at håndtere udfordringerne og udnytte de nye muligheder.