Hvordan Hackere Bruger Kunstig Intelligens

Kunstig intelligens har vist sig at være en værditilførende teknologi på tværs af den globale økonomi.

Da virksomheder fandt sig selv i en situation, hvor de skulle tilpasse sig til aktuelle begivenheder i de sidste par år, fandt nogle af dem måder at proppen halvandet års værd – i Frito-Lays tilfælde – af digitale transformationer ind i en meget kortere tidsramme. Harris Poll og Appen fandt ud af, at AI-budgetterne øgedes med 55% under den globale pandemi.

Som ethvert værktøj har kunstig intelligens ingen indre moralsk værdi. AI’s nyttighed eller potentiale for skade kommer ned til, hvordan systemet “lærer” og hvad mennesker ultimativt gør med det.

Nogle forsøg på at udnytte AI – såsom “at forudsige” kriminalitet, før den sker – viser, at modeller, der er trænet på fordomsfuld data, tenderer til at replikere menneskelige svagheder. Indtil videre har træning af AI med data fra det amerikanske retssystem resulteret i tragisk fordomfuld AI-ræsonnement.

I andre eksempler vælger mennesker mere bevidste måder at udnytte AI’s destruktive potentiale på. Hackere viser igen deres innovative tendenser ved at bruge kunstig intelligens til at forbedre deres angreb, effektivitet og profit. Og da cyberkrig følger mere og mere almindeligt rundt omkring i verden, vil vi sandsynligvis se, at anvendelserne af AI i hacking udvikler sig yderligere.

AI Er En Mulighed Og En Risiko

Kunstig intelligens tilbyder en verden af muligheder for virksomheder, der ønsker at forbedre deres prognoser, forretningsoptimering og kunderetentionstrategier. Det er også en gevinst for dem, der har til hensigt at kompromittere andres digitale suverænitet.

Her er nogle få måder, hvorpå kunstig intelligens kan være modtagelig for diskret manipulation og mere åbenlyse bestræbelser på at vende det mod aggressive handlinger.

1. Kompromittering Af Maskinlogik

Det største fordel for forbrugere og kommercielle virksomheder ved AI er, at det udfører forudsigelige og gentagne handlinger af logik uden menneskelig indgriben. Dette er også dets største svaghed.

Ligesom ethvert andet digitalt konstrukt kan AI være modtagelig for penetration fra ydre kræfter. Hackere, der får adgang til og kompromitterer maskinlogikken, der driver AI, kan få det til at udføre uforudsigelige eller skadelige handlinger. For eksempel kan en AI, der er tildelt industrielt tilstands-overvågning, levere falske læsninger eller lade vedligeholdelsesbeskeder gå ubesvarede.

Da hele pointen med AI-investeringer er at eliminere menneskelig indgriben og tvivl om resultaterne, kan skaden på infrastruktur eller produktkvalitet, forårsaget af et angreb af denne art, muligvis ikke blive opdaget, før der opstår en katastrofal fejl.

2. Brug Af Reverse Engineering Algoritmer

En anden potentiel vej til skade – især hvor immaterielle rettigheder (IP) og forbruger- eller kommercielle data er involveret – er begrebet om reverse engineering. Hackere kan endda stjæle den kunstige intelligenskode selv. Med nok tid til at studere, hvordan det fungerer, kan de til sidst afsløre de datasets, der blev brugt til at træne AI’en fra starten.

Dette kan føre til flere resultater, hvoraf det første er AI-forgiftning. Andre eksempler kan omfatte, at hackere udnytter AI-træningsdataene selv til at få kompromitterende oplysninger om markeder, konkurrenter, regeringer, leverandører eller almindelige forbrugere.

3. At Lære Om Mål

Overvågning af mål er sandsynligvis en af de mere urolige implikationer af, at AI falder i hænderne på hackere. AI’s evne til at nå konklusioner om en persons evner, videnområder, temperament og sandsynlighed for at blive offer for målretning, svindel eller misbrug er bevist særligt bekymrende for nogle cybersecurity-eksperter.

Kunstig intelligens kan indtage og nå overraskende detaljerede konklusioner om mennesker, hold og grupper på baggrund af nogle af de mest usandsynlige datapunkter. En “engageret” eller “afledt” person kan skrive hurtigt, lege med musen eller skifte mellem browserfaneblade hurtigt. En bruger, der er “forvirret” eller “tøvende”, kan pause, før de klikker på sideelementer, eller genbesøge flere sider.

I de rette hænder kan signaler som disse hjælpe HR-afdelinger med at forbedre medarbejderengagement eller hjælpe marketinghold med at polere deres hjemmesider og salgsforsøg.

For hackere kan signaler som disse resultere i en overraskende nuanceret psykologisk profil af et mål. Cyberkriminelle kan muligvis afgøre, baseret på hint, der er usynlige for mennesker, hvilke personer der kan være sårbare over for phishing, smishing, ransomware, finansielt svindel og andre former for skade. Det kan også hjælpe dårlige aktører med at lære, hvordan de bedst kan overbevise deres mål om, at deres svindelforsøg kommer fra legitime kilder.

4. At Afprøve Netværksvulnerabiliteter

Cybersecurity-professionelle offentliggjorde data om 20,175 kendte sikkerhedsvulnerabiliteter i 2021. Det var en stigning i forhold til 2020, hvor der var 17,049 sådanne vulnerabiliteter.

Verden bliver mere og mere digitalt forbundet – nogle ville sige interafhængig – med hvert eneste øjeblik. Verden har i dag en overvældende mængde små og store netværk, med milliarder af forbundne enheder online og endnu flere på vej. Alt er online, fra tilstands-overvågnings-sensorer til virksomhedsplanlægningssoftware.

Kunstig intelligens viser lovende resultater i at hjælpe cybersecurity-hold med at afprøve netværks-, software- og hardware-vulnerabiliteter hurtigere end mennesker alene kan. Hastigheden og omfanget af væksten i verdens digitale infrastruktur gør det næsten umuligt at søge efter trillioner af linjer med kode efter sikkerhedsudnyttelser til at rette. Dette skal ske, mens systemerne er online på grund af omkostningerne ved downtime.

Hvis AI er et cybersecurity-værktøj her, er det også en dobbeltægget sværd. Hackere kan bruge de samme mekanismer som “white hat”-IT-folk til at udføre det samme arbejde: at afprøve netværk, software og firmware efter vulnerabiliteter mere effektivt end menneskelige IT-specialister kan.

En Digital Våbenkapløb

Der er for mange AI-anvendelser i cyberkriminalitet til at nævne dem alle, men her er nogle få flere:

• Hackere kan skjule AI-kode inden for en ellers harmløs applikation, der udfører en skadelig handling, når den registrerer en forudbestemt udløser eller grænseværdi.
• Skadelige AI-modeller kan bruges til at bestemme legitimationsoplysninger eller IT-ledelsesfunktioner ved at overvåge biometriske input, såsom fingeraftryk og stemmegenkendelse.
• Selv hvis et forsøg på cyberangreb til sidst fejler, kan hackere udstyret med AI muligvis bruge maskinel læring til at afgøre, hvad der gik galt, og hvad de kunne gøre anderledes næste gang.

Det syntes at tage kun én velplaceret historie om at hakke en jeep, mens den kører, til at bremse udviklingen af selvstændige køretøjer til en standstill. Et enkelt højprofileret hack, hvor AI fungerer som en central del, kunne føre til en lignende erosion i offentlighedens mening. Nogle meningsmålinger viser, at den gennemsnitlige amerikaner allerede er meget tvivlsom om AI’s fordele.

Altidtilstedeværende computing kommer med cybersecurity-risici – og både hvide og sorte hackere ved det. AI kan hjælpe med at holde vores online-liv sikre, men det er også epicenteret for et nyt digitalt våbenkapløb.