Hur hackare använder artificiell intelligens

AI har visat sig vara en värdeadderande teknik över hela den globala ekonomin.

När företag kämpade för att anpassa sig till aktuella händelser under de senaste åren, hittade några av dem sätt att klämma in ett decenniums värd av digitala transformationer i en mycket kortare tidsram. I Frito-Lays fall – ökade AI-budgetarna med 55% under den globala pandemin.

Som vilket verktyg som helst har artificiell intelligens ingen medfödd moralisk värdering. AI:s användbarhet eller potential för skada beror på hur systemet “lär sig” och vad människor slutligen gör med det.

Vissa försök att utnyttja AI – som att “förutsäga” brott innan de händer – visar att modeller som tränats på partisk data tenderar att replikera mänskliga brister. Hittills har utbildning av AI med data från USA:s rättssystem resulterat i tragiskt partisk AI-resonemang.

I andra exempel väljer människor mer medvetna sätt att utnyttja AI:s destruktiva potential. Hackare visar sin innovativa tendens igen genom att använda artificiell intelligens för att förbättra sina angrepps räckvidd, effektivitet och lönsamhet. Och eftersom cyberkrigföring blir allt vanligare runt om i världen, kommer vi säkert att se tillämpningarna av AI i hacking utvecklas ännu mer.

AI är en möjlighet och en risk

Artificiell intelligens erbjuder en värld av möjligheter för företag som vill förbättra prognoser, affärsoptimering och kundretentionstrategier. Det är också en skatt för de som avser att kompromettera andras digitala suveränitet.

Här är några sätt artificiell intelligens kan vara mottaglig för diskret manipulation och mer öppna försök att vända den mot aggressiva handlingar.

1. Kompromettera maskinlogik

Den främsta fördelen med AI för konsumenter och kommersiella företag är att den utför förutsägbara och upprepningsbara logiska handlingar utan mänskligt ingripande. Detta är också dess största svaghet.

Som vilken digital konstruktion som helst kan AI vara mottaglig för penetration av yttre krafter. Hackare som får tillgång till och komprometterar maskinlogiken som driver AI kan orsaka att den utför oförutsägbara eller skadliga handlingar. Till exempel kan en AI som är uppgift att övervaka industriell kondition leverera falska läsningar eller låta underhållspingar gå obesvarade.

Eftersom hela poängen med AI-investeringar är att eliminera mänskligt ingripande och tvivelaktiga resultat, kan skadan på infrastruktur eller produktkvalitet som orsakas av ett angrepp av detta slag kanske inte märkas förrän en katastrofal misslyckande.

2. Använda omvända ingenjörsalgoritmer

En annan potentiell väg för skada – särskilt när det gäller immateriella rättigheter (IP) och konsument- eller kommersiell data – är begreppet omvänd ingenjörskonst. Hackare kan till och med stjäla den artificiella intelligenskoden själv. Med tillräckligt med tid för att studera hur den fungerar, kan de så småningom avslöja de datamängder som användes för att träna AI från början.

Detta kan leda till flera resultat, varav det första är AI-förgiftning. Andra exempel kan innefatta att hackare använder AI-träningsdata för att få komprometterande information om marknader, konkurrenter, regeringar, leverantörer eller allmänna konsumenter.

3. Lära sig om avsedda mål

Övervakning av mål är troligen en av de mer oroande implikationerna av att AI hamnar i händerna på hackare. AI:s förmåga att dra slutsatser om en persons förmågor, kunskapsområden, temperament och sannolikhet att falla offer för målinriktning, bedrägeri eller missbruk är särskilt oroväckande för vissa cybersäkerhetsexperter.

Artificiell intelligens kan inta och nå förvånansvärt detaljerade slutsatser om människor, team och grupper baserat på några av de mest osannolika datapunkterna. En “engagerad” eller “distracted” person kan skriva snabbt, leka med musen eller flytta mellan webbläsarflikar snabbt. En användare som är “förvirrad” eller “tveksam” kan pausa innan de klickar på sidoelement eller besöka flera webbplatser.

I rätt händer hjälper signaler som dessa HR-avdelningar att förbättra medarbetarengagemanget eller hjälper marknadsföringsteam att polera sina webbplatser och försäljningskanaler.

För hackare kan signaler som dessa resultera i en förvånansvärt nyanserad psykologisk profil av ett avsett mål. Cyberkriminella kan kanske avgöra baserat på osynliga ledtrådar för människor vilka personer som kan vara sårbara för phishing, smishing, ransomware, finansiellt bedrägeri och andra typer av skada. Det kan också hjälpa illvilliga aktörer att lära sig hur de bäst kan övertyga sina mål om att deras bedrägeriförsök kommer från legitima källor.

4. Söka efter nätverksvulnerabiliteter

Cybersäkerhetsproffs publicerade data om 20 175 kända säkerhetsvulnerabiliteter 2021. Det var en ökning jämfört med 2020, då det fanns 17 049 sådana vulnerabiliteter.

Världen blir allt mer digitalt sammanlänkad – några skulle säga interdependent – för varje timme. Världen har nu en hisnande mängd småskaliga och industriella nätverk, med miljarder anslutna enheter online och ännu fler på väg. Allt är online, från konditionsövervakningssensorer till företagsplaneringsprogram.

Artificiell intelligens visar löfte i att hjälpa cybersäkerhetsteam snabbt söka efter nätverks-, programvaru- och maskinvaruvulnerabiliteter snabbare än människor kan ensamma. Hastigheten och omfattningen av den digitala infrastrukturens tillväxt gör det nästan omöjligt att söka efter miljarder rader kod för säkerhetsexploater att laga. Allt detta måste hända medan systemen är online på grund av kostnaden för driftstopp.

Om AI är ett cybersäkerhetsverktyg här, är det också ett tvåeggat svärd. Hackare kan använda samma mekanismer som “white hat”-IT-kollektivet för att utföra samma arbete: söka efter nätverks-, programvaru- och firmware-vulnerabiliteter mer effektivt än mänskliga IT-experter kan.

En digital vapenkapplöpning

Det finns för många AI-tillämpningar i cyberbrott för att nämna dem alla, men här är några fler:

• Hackare kan dölja AI-kod inom en annars harmlös applikation som utför ett skadligt beteende när den upptäcker en förutbestämd utlösare eller tröskel.
• Skadliga AI-modeller kan användas för att fastställa autentiseringsuppgifter eller IT-hanteringsfunktioner genom att övervaka biometrisk inmatning, såsom fingeravtryck och röstigenkänning.
• Även om ett försök till cyberangrepp slutligen misslyckas, kan hackare utrustade med AI använda maskinlärande för att fastställa vad som gick fel och vad de kunde göra annorlunda nästa gång.

Det tycks ha tagit bara en välplacerad historia om att hacka en jeep medan den kör för att sakta ner utvecklingen av autonoma fordon. Ett högprofilerat hack där AI fungerar som en huvudroll kan orsaka en liknande erosion i allmänhetens åsikt. Vissa opinionsmätningar visar att den genomsnittliga amerikanen är mycket tvivlande till AI:s fördelar redan.

Omnipresent datoranvändning kommer med cybersäkerhetsrisker – och både vita och svarta hatt-hackare vet det. AI kan hjälpa till att hålla våra online-liv säkra, men det är också epicentrum för en ny digital vapenkapplöpning.