Ny studie avdekker skjulte sårbarheter i AI

I det raskt utviklende landskapet av AI, lover de transformative endringene å dekke et mangfold av felt, fra de revolusjonære prospektene av autonome kjøretøy som omdefinere transport til den sofistikerte bruken av AI i å tolke komplekse medisinske bilder. Fremgangen av AI-teknologier har vært ikke mindre enn en digital renessanse, som annonserer en fremtid full av muligheter og fremgang.

Men en nylig studie kaster lys over en bekymringsverdig aspekt som ofte har blitt oversett: den økte sårbarheten av AI-systemer for målrettede adversarial angrep. Denne avsløringen setter spørsmål ved robustheten av AI-applikasjoner i kritiske områder og understreker behovet for en dypere forståelse av disse sårbarhetene.

Begrepet adversarial angrep

Adversarial angrep i AI-verden er en type cybertrussel hvor angripere bevisst manipulerer inndata til et AI-system for å lure det til å ta feil beslutninger eller klassifiseringer. Disse angrep utnytter de innebygde svakhetene i måten AI-algoritmer prosesserer og tolker data.

For eksempel, betrakt et autonomt kjøretøy som avhenger av AI for å gjenkjenne trafikkskilt. Et adversarial angrep kunne være så enkelt som å plassere en spesialdesignet sticker på et stoppskilt, som får AI til å misforstå det, potensielt ledende til katastrofale konsekvenser. Liksom i det medisinske feltet, kunne en hacker subtant alterere data som mates inn i et AI-system som analyserer røntgenbilder, ledende til feil diagnoser. Disse eksemplene understreker den kritiske naturen av disse sårbarhetene, spesielt i applikasjoner hvor sikkerhet og menneskeliv er på spill.

Studiens alarmerende funn

Studien, skrevet av Tianfu Wu, en assosiert professor i elektro- og datateknikk ved North Carolina State University, gikk dypt inn i forekomsten av disse adversarial sårbarhetene, og avdekket at de er langt mer vanlige enn tidligere trodd. Denne avsløringen er spesielt bekymringsverdig gitt den økende integreringen av AI i kritiske og hverdagslige teknologier.

Wu understreker alvoret i denne situasjonen, og sier: “Angripere kan utnytte disse sårbarhetene for å få AI til å tolke dataene til å bli hva de vil. Dette er usedvanlig viktig fordi hvis et AI-system ikke er robust mot slike angrep, ønsker du ikke å sette systemet i praktisk bruk — spesielt for applikasjoner som kan påvirke menneskeliv.”

QuadAttacK: Et verktøy for å avdekke sårbarheter

Som respons på disse funnene, utviklet Wu og hans team QuadAttacK, et banebrytende programvareverktøy designet for å systematisk teste dypt neurale nettverk for adversarial sårbarheter. QuadAttacK opererer ved å observere et AI-systems respons på ren data og lære hvordan det tar beslutninger. Det manipulerer deretter dataene for å teste AI-systemets sårbarhet.

Wu forklarer: “QuadAttacK observerer disse operasjonene og lærer hvordan AI-systemet tar beslutninger relatert til dataene. Dette tillater QuadAttacK å bestemme hvordan dataene kunne manipuleres for å lure AI-systemet.”

I proof-of-concept-testing, ble QuadAttacK brukt til å evaluere fire vidt brukte neurale nettverk. Resultatene var slående.

“Vi var overrasket over å finne at alle fire av disse nettverkene var svært sårbar for adversarial angrep,” sier Wu, og understreker en kritisk problemstilling i AI-feltet.

Disse funnene fungerer som en vekker til AI-forskningsfellesskapet og industrier som er avhengige av AI-teknologier. Sårbarhetene som er avdekket, ikke bare utgjør en risiko for nåværende applikasjoner, men kaster også tvil over fremtidig utplassering av AI-systemer i følsomme områder.

En oppfordring til handling for AI-samfunnet

Den offentlige tilgjengeligheten av QuadAttacK markerer et viktig skritt mot bredere forsknings- og utviklingsinnsats for å sikre AI-systemer. Ved å gjøre dette verktøyet tilgjengelig, har Wu og hans team gitt en verdifull ressurs for forskere og utviklere til å identifisere og adresse sårbarheter i sine AI-systemer.

Forskningsgruppens funn og QuadAttacK-verktøyet presenteres på Conference on Neural Information Processing Systems (NeurIPS 2023). Hovedforfatteren av artikkelen er Thomas Paniagua, en ph.d.-student ved NC State, sammen med medforfatter Ryan Grainger, også en ph.d.-student ved universitetet. Denne presentasjonen er ikke bare en akademisk øvelse, men en oppfordring til handling for det globale AI-samfunnet til å prioritere sikkerhet i AI-utvikling.

Som vi står ved skilleveien av AI-innovasjon og sikkerhet, tilbyr arbeidet til Wu og hans medarbeidere både en advarsel og en veikart for en fremtid hvor AI kan være både kraftig og sikker. Reisen fremover er kompleks, men essensiell for den bærekraftige integreringen av AI i det digitale samfunnet.

Teamet har gjort QuadAttacK offentlig tilgjengelig. Du kan finne det her: https://thomaspaniagua.github.io/quadattack_web/