Hvordan hackere utnytter kunstig intelligens

Kunstig intelligens har vist seg å være en verdi-tilleggs-teknologi over hele den globale økonomien.

Da bedrifter fant seg selv i en situasjon der de måtte tilpasse seg aktuelle hendelser over de siste årene, fant noen av dem måter å komprimere en halv decades verdt – i Frito-Lays tilfelle – av digitale transformasjoner inn i en mye kortere tidsramme. Harris Poll og Appen fant ut at AI-budsjettene økte med 55% under den globale pandemien.

Som ethvert verktøy, har kunstig intelligens ingen innebygd moralsk verdi. AI-s nyttighet eller potensiale for skade kommer ned til hvordan systemet “lærer” og hva mennesker ultimate gjør med det.

Noen forsøk på å utnytte AI – som for eksempel “å forutsi” kriminalitet før den skjer – viser at modeller trent på fordomsfulle data tenderer til å replikere menneskelige svakheter. Så langt, har trening av AI med data fra det amerikanske rettssystemet resultert i tragisk fordomfulle AI-resonnering.

I andre eksempler, velger mennesker mer bevisste måter å utnytte AI-s destruktive potensiale. Hackere viser sine innovative tendenser igjen ved å bruke kunstig intelligens til å forbedre deres angreps rekkevidde, effektivitet og lønnsomhet. Og ettersom cyberkrigføring blir mer og mer vanlig rundt om i verden, vil vi sikkert se på anvendelsene av AI i hacking utvikle seg enda videre.

Kunstig intelligens er en mulighet og en risiko

Kunstig intelligens tilbyr en verden av muligheter for bedrifter som ønsker å forbedre prognoser, forretningsoptimalisering og kunderetningsstrategier. Det er også en gevinst for de som har til hensikt å kompromittere andres digitale suverenitet.

Her er noen måter kunstig intelligens kan være utsatt for diskret manipulering og mer åpenbare forsøk på å vende det mot aggressive handlinger.

1. Kompromittering av maskinlogikk

Det største fordelene med AI for forbrukere og kommersielle bedrifter er at det utfører forutsigbare og gjentakende handlinger av logikk uten menneskelig innblanding. Dette er også dens største svakhet.

Som ethvert annet digitalt konstruksjon, kan AI være utsatt for penetrering fra utenfor. Hackere som får tilgang til og kompromitterer maskinlogikken som driver AI, kan få det til å utføre uforutsigbare eller skadelige handlinger. For eksempel, et AI som er ansvarlig for industriell tilstands-overvåking, kan levere feilaktige lesninger eller la vedlikeholdspinger gå ubesvarte.

Ettersom det hele poenget med AI-investeringer er å eliminere menneskelig innblanding og tvil om resultater, kan skaden på infrastruktur eller produktkvalitet forårsaket av et angrep av denne typen kanskje ikke bli lagt merke til før det er for sent.

2. Utnytting av reversering-algoritmer

En annen mulig årsak til skade – spesielt der intellektuell eiendom (IP) og forbruker- eller kommersiell data er involvert – er begrepet reversering. Hackere kan også stjele den kunstige intelligens-koden selv. Med nok tid til å studere hvordan den fungerer, kan de til slutt avdekke datasets som brukes til å trene AI i første omgang.

Dette kan føre til flere resultater, det første av dem er AI-forgiftning. Andre eksempler kan innebære at hackere utnytter AI-trening-data selv til å få kompromitterende informasjon om markeder, konkurrenter, regjeringer, leverandører eller generelle forbrukere.

3. Læring om mål

Overvåking av mål er sannsynligvis en av de mer urolige implikasjonene av at AI havner i hendene på hackere. AI-s evne til å komme til konklusjoner om en persons evner, kunnskapsområder, temperament og sannsynlighet for å bli offer for måling, svindel eller misbruk, er vist å være særlig bekymringsfullt for noen cybersecurity-eksperter.

Kunstig intelligens kan innta og komme til overraskende detaljerte konklusjoner om mennesker, lag og grupper basert på noen av de uventede data-punktene. En “engasjert” eller “distrahert” person kan skrive raskt, leke med musen eller flytte mellom nettleserfane raskt. En bruker som er “forvirret” eller “tøff” kan pause før de klikker på side-elementer eller besøke flere nettsteder.

I de riktige hendene, hjelper slike signaler HR-avdelinger å forbedre ansatt-engasjement eller hjelper markedsføringslag å polere sine nettsider og salgs-kanaler.

For hackere, kan signaler som disse føre til en overraskende nuansert psykologisk profil av et mål. Cyberkriminelle kan kanskje finne ut basert på hint som er usynlige for mennesker hvilke personer som kan være sårbare for phishing, smishing, ransomware, finansiell svindel og andre typer skade. Det kan også hjelpe dårlige aktører å lære hvordan de best kan overbevise sine mål om at deres svindelforsøk kommer fra legitime kilder.

4. Prøving av nettverkssvakheter

Cybersecurity-professionelle publiserte data om 20,175 kjente sikkerhetssvakheter i 2021. Det var en økning fra 2020, da det var 17,049 slike svakheter.

Verden blir mer digitalt sammenkoblet – noen ville si interavhengig – for hver time. Verden har nå en overveldende mengde småskalige og industrielle nettverk, med milliarder av tilkoblede enheter online og flere på vei. Alt er online, fra tilstands-overvåkningssensorer til bedriftsplanleggingsprogramvare.

Kunstig intelligens viser løfte i å hjelpe cybersecurity-lag raskt å prøve nettverk-, programvare- og maskinvare-svakheter raskere enn mennesker kunne alene. Hastigheten og skalaen på veksten av jordens digitale infrastruktur gjør det nærmest umulig å søke gjennom trillioner av linjer med kode for sikkerhetssvakheter å fikse. Dette må alle skje mens disse systemene er online på grunn av kostnadene ved nedtid.

Hvis AI er et cybersecurity-verktøy her, er det også et toegget sverd. Hackere kan bruke de samme mekanismene som “white hat”-IT-flokken til å utføre det samme arbeidet: å prøve nettverk, programvare og firmware for svakheter mer effektivt enn menneskelige IT-eksperter kan.

En digital våpenkappløp

Det er for mange AI-applikasjoner i cyberkriminalitet å nevne alle, men her er noen flere:

• Hackere kunne skjule AI-kode innenfor en ellers harmløs applikasjon som utfører en skadelig handling når den detekterer en forhåndsbestemt utløser eller terskel.
• Skadelige AI-modeller kan brukes til å bestemme legitimasjon eller IT-ledelsesfunksjoner ved å overvåke biometrisk inndata, som fingeravtrykk og tale-gjenkjenning.
• Selv om et forsøk på cyberangrep til slutt feiler, kan hackere utstyrt med AI kanskje bruke maskinlæring til å bestemme hva som gikk galt og hva de kunne gjøre annerledes neste gang.

Det syntes å ta bare en godt plassert historie om hacking av en jeep mens den kjører for å bremse utviklingen av selvkjørende kjøretøy. Et høytprofilert hack hvor AI fungerer som en nøkkel kan føre til en lignende erosjon i offentlig mening. Noen meningsmålinger viser at den gjennomsnittlige amerikaneren er høyt skeptisk til AI-s fordelene allerede.

Alltidtilstedeværende datamaskiner kommer med cybersecurity-risiko – og både “white hat”- og “black hat”-hackere vet det. AI kan hjelpe å holde våre nett-liv trygge, men det er også epicenteret for en ny digital våpenkappløp.