Tankeledere
Generativ AI i cybersikkerhet: slagmarken, trusselen og nå forsvaret

Viktige punkterGenerativ AI muliggjør sofistikerte flerspråklige phishing-angrep som omgår…
Vis mer
- Generativ AI muliggjør sofistikerte flerspråklige phishing-angrep som omgår tradisjonell e-postsikkerhet.
- Maskin-til-maskin-kamp ved bruk av avanserte deteksjonsplattformer er avgjørende for å motvirke AI-generert sosial manipulering.
- En falsk LinkedIn-annonse med Dall-E-bilder viser at generativ AI nå er bevæpnet for målrettet nettkriminalitet.
Slagmarken
Hva som startet som begeistring rundt mulighetene til Generativ AI, har raskt gått over til bekymring. Generativ AI-verktøy som ChatGPT, Google Bard, Dall-E osv. fortsetter å skape overskrifter på grunn av sikkerhets- og personvernsproblemer. Dette fører til spørsmål om hva som er ekte og hva som ikke er. Generativ AI kan produsere svært troverdig og dermed overbevisende innhold. Så mye at ved slutten av et nylig 60 Minutes-segment om AI, sa programlederen Scott Pelley til seerne: “Vi avslutter med en merknad som aldri har vært vist på 60 Minutes, men en som i AI-revolusjonen, kan du høre ofte: det foregående ble laget med 100% menneskelig innhold.”
Den generative AI-krigen begynner med dette overbevisende og realistiske innholdet, og slagmarken er der hvor hackere utnytter Generativ AI, ved å bruke verktøy som ChatGPT osv. Det er ekstremt enkelt for cyberkriminelle, spesielt de med begrensede ressurser og ingen teknisk kunnskap, å utføre sine forbrytelser gjennom sosial manipulering, phishing og angrep der noen utgir seg for å være en annen.
Trusselen
Generativ AI har kraften til å drive stadig mer sofistikerte cyberangrep.
Fordi teknologien kan produsere så overbevisende og menneskelignende innhold med lettighet, er nye nettsvindler som utnytter AI, vanskeligere for sikkerhetsteam å oppdage. AI-generert svindel kan komme i form av sosial manipulering, som flerkanals-phishing-angrep utført via e-post og meldingsapper. Et eksempel fra virkeligheten kan være en e-post eller melding som inneholder et dokument som sendes til en bedriftsleder fra en tredjepartsleverandør via Outlook (e-post) eller Slack (meldingsapp). E-posten eller meldingen ber dem om å klikke på det for å se en faktura. Med Generativ AI, kan det være nesten umulig å skille mellom en falsk og en ekte e-post eller melding. Dette er hvorfor det er så farlig.
Ett av de mest alarmerende eksemplene er likevel at cyberkriminelle med Generativ AI, kan produsere angrep på flere språk – uavhengig av om hackeren faktisk snakker språket. Målet er å kaste et bredt nett og cyberkriminelle vil ikke diskriminere ofre basert på språk.
Fremveksten av Generativ AI signaliserer at skalaen og effektiviteten til disse angrepene vil fortsette å øke.
Forsvaret
Cyberforsvar mot trusler fra generativ AI har vært den manglende puslespillbrikken. Frem til nå. Ved å bruke maskin mot maskin-kamp, eller å sette AI mot AI, kan vi forsvare oss mot denne nye og voksende trusselen. Men hvordan skal denne strategien defineres og hvordan ser den ut?
Først og fremst må industrien handle for å sette datamaskin mot datamaskin i stedet for menneske mot datamaskin. For å følge opp på denne innsatsen, må vi vurdere avanserte detekteringsplattformer som kan oppdage AI-genererte trusler, redusere tiden det tar å flagge og løse et angrep basert på sosial manipulering som stammer fra Generativ AI. Dette er noe et menneske ikke er i stand til å gjøre.
Vi har nylig utført en test på hvordan dette kan se ut. Vi lot ChatGPT lage en språkbasert phishing-e-post som ber mottakeren ringe tilbake på flere språk for å se om en plattform for naturlig språkforståelse eller en avansert detekteringsplattform kunne oppdage det. Vi ga ChatGPT kommandoen “skriv en hastemelding som ber noen om å ringe om en siste varsel om en programvarelisensavtale.” Vi ba også om å skrive det på engelsk og japansk.
Den avanserte detekteringsplattformen var umiddelbart i stand til å flagge e-postene som et angrep basert på sosial manipulering. MEN, innebygde sikkerhetsmekanismer i e-postsystemet som Outlooks phishing-detekteringsplattform, kunne ikke. Selv før lanseringen av ChatGPT, viste sosial manipulering via konversasjonelle, språkbaserte angrep seg å være suksessfulle fordi de kunne unngå tradisjonelle kontroller og havne i innboksen uten lenke eller skadelig innhold. Så ja, det krever maskin mot maskin-kamp for å forsvare oss, men vi må også være sikre på at vi bruker effektive våpen, som en avansert detekteringsplattform. Alle som har disse verktøyene til disposisjon, har en fordel i kampen mot Generativ AI.
Når det gjelder skalaen og troverdigheten til angrep basert på sosial manipulering som tilbys av ChatGPT og andre former for Generativ AI, kan maskin mot maskin-forsvaret også finjusteres. For eksempel kan dette forsvaret tas i bruk på flere språk. Det er ikke bare begrenset til e-postsikkerhet, men kan også brukes for andre kommunikasjonskanaler som apper som Slack, WhatsApp, Teams osv.
Vær på vakt
Da en av våre ansatte scrollet gjennom LinkedIn, kom de over et forsøk på sosial manipulering ved hjelp av generativ AI. En merkelig annonse for nedlasting av en rapport av typen «whitepaper» dukket opp med hva som bare kan beskrives som bisart annonsemateriell. Ved nærmere inspeksjon, så den ansatte et karakteristisk fargemønster i nedre høyre hjørne på bilder produsert av Dall-E, en AI-modell som genererer bilder fra tekstbaserte kommandoer.
Å møte på denne falske LinkedIn-annonsen var en betydelig påminnelse om nye farer knyttet til sosial manipulering som nå dukker opp når de kombineres med Generativ AI. Det er enda viktigere å være våken og mistenksom.
Tiden da generativ AI brukes til cyberkriminalitet, er her, og vi må være våkne og forberedt på å slå tilbake med alle verktøy som står til vår disposisjon.












