Ny studie afslører skjulte sårbarheder i AI

I den hurtigt udviklende landskab af AI, løber løftet om transformative ændringer over en mangfoldighed af fag, fra de revolutionerende perspektiver af autonome køretøjer, der omformrer transport, til den sofistikerede brug af AI til at fortolke komplekse medicinske billeder. Fremgangen i AI-teknologier har været intet mindre end en digital renæssance, der varsler en fremtid fuld af muligheder og fremskridt.

Men en ny studie kaster lys over en bekymrende aspekt, der ofte er blevet overset: den øgede sårbarhed af AI-systemer over for målrettede adversarial angreb. Denne afsløring stiller spørgsmål ved robustheden af AI-applikationer i kritiske områder og understreger behovet for en dybere forståelse af disse sårbarheder.

Konceptet om adversarial angreb

Adversarial angreb i AI-verdenen er en type cybertrussel, hvor angribere bevidst manipulerer inputdata i et AI-system for at narre det til at træffe forkerte beslutninger eller klassificeringer. Disse angreb udnytter de indbyggede svagheder i, hvordan AI-algoritmer behandler og fortolker data.

For eksempel kan man overveje et autonomet køretøj, der afhænger af AI til at genkende trafikskilte. Et adversarial angreb kunne være så enkelt som at placere en særligt designed sticker på et stopskilt, så AI misfortolker det, muligvis med katastrofale konsekvenser. Ligeledes i det medicinske felt kunne en hacker subtilt ændre data, der fødes ind i et AI-system, der analyserer røntgenbilleder, hvilket kunne føre til forkerte diagnoser. Disse eksempler understreger den kritiske natur af disse sårbarheder, især i applikationer, hvor sikkerhed og menneskeliv er på spil.

Studiets alarmerende fund

Studiet, der er skrevet af Tianfu Wu, en assoc. professor i elektroteknik og datateknik ved North Carolina State University, gik dybt ind i forekomsten af disse adversarial sårbarheder og afslørede, at de er langt mere almindelige, end man tidligere havde troet. Denne afsløring er særligt bekymrende, given den øgede integration af AI i kritiske og hverdags-teknologier.

Wu understreger alvoren i denne situation og siger: “Angribere kan udnytte disse sårbarheder til at tvinge AI til at fortolke data, som de ønsker. Dette er utrolig vigtigt, fordi hvis et AI-system ikke er robust mod disse angreb, ønsker man ikke at sætte systemet i praktisk brug – især for applikationer, der kan påvirke menneskeliv.”

QuadAttacK: Et værktøj til at afsløre sårbarheder

Som svar på disse fund udviklede Wu og hans team QuadAttacK, et banebrydende stykke software designet til at systematisk teste dybe neurale netværk for adversarial sårbarheder. QuadAttacK fungerer ved at observere et AI-systems respons på ren data og lære, hvordan det træffer beslutninger. Derefter manipulerer det data for at teste AI’s sårbarhed.

Wu forklarer: “QuadAttacK observerer disse operationer og lærer, hvordan AI træffer beslutninger relateret til data. Dette giver QuadAttacK mulighed for at bestemme, hvordan data kan manipuleres for at narre AI.”

I testning af konceptet blev QuadAttacK brugt til at evaluere fire bredt anvendte neurale netværk. Resultaterne var chokerende.

“Vi var overraskede over at finde, at alle fire af disse netværk var meget sårbar over for adversarial angreb,” siger Wu, og understreger en kritisk problemstilling i AI-feltet.

Disse fund fungerer som en vækkelseskalde til AI-forskningsfællesskabet og industrier, der afhænger af AI-teknologier. De afslørede sårbarheder udgør ikke kun en risiko for nuværende applikationer, men kaster også tvivl over den fremtidige udvikling af AI-systemer i følsomme områder.

En opfordring til handling for AI-fællesskabet

Den offentlige tilgængelighed af QuadAttacK markerer et væsentligt skridt mod bredere forsknings- og udviklingsindsats for at sikre AI-systemer. Ved at gøre dette værktøj tilgængeligt har Wu og hans team tilbudt et værdifuldt ressource for forskere og udviklere til at identificere og adresse sårbarheder i deres AI-systemer.

Forskningsholdets fund og QuadAttacK-værktøjet præsenteres på Konferencen om Neurale Information Processing Systems (NeurIPS 2023). Hovedforfatteren på artiklen er Thomas Paniagua, en ph.d.-studerende ved NC State, sammen med medforfatter Ryan Grainger, også en ph.d.-studerende ved universitetet. Denne præsentation er ikke blot en akademisk øvelse, men en opfordring til handling for det globale AI-fællesskab til at prioritere sikkerhed i AI-udvikling.

Da vi står ved skillevejen mellem AI-innovation og sikkerhed, tilbyder Wus og hans medarbejderes arbejde både en advarende historie og en vejviser for en fremtid, hvor AI kan være både kraftfuld og sikker. Rejsen fremad er kompleks, men essentiel for den bæredygtige integration af AI i vores digitale samfunds struktur.

Holdet har gjort QuadAttacK offentligt tilgængeligt. Du kan finde det her: https://thomaspaniagua.github.io/quadattack_web/