Kan AI een overtuigender phishing-e-mail schrijven dan mensen?

Natuurlijke taalverwerking en geavanceerde vertaalmogelijkheden maken generatieve AI een onmisbaar hulpmiddel voor hackers. AI-gegenereerde phishing-e-mails zijn mogelijk niet gevaarlijker dan door mensen gegenereerde scam-inhoud. Wat moeten gebruikers en beveiligingsexperts weten over de rol van AI in phishing en cyberaanvallen?

Hoe AI phishing-e-mails schrijft

Het aantal gemelde phishing-inhoud is met 61% gestegen van 2021 tot 2022. Van kwaadaardige URLs tot e-mailscams, phishing wordt elk jaar steeds vaker voorkomend. AI is het laatste hulpmiddel dat hackers gebruiken om phishingcampagnes te verbeteren. Terwijl de natuurlijke taalverwerking van AI gunstig is, kunnen hackers het gebruiken om effectievere phishing-inhoud te creëren.

De beschikbaarheid van AI-as-a-Service-platforms zoals ChatGPT maakt het gemakkelijker dan ooit voor iedereen om inhoud te genereren. Een hacker kan een groot taalmodel van AI duizenden voorbeelden van legitieme e-mails laten zien en het dan vragen om originele e-mails te creëren op basis van die voorbeelden. Natuurlijke taalverwerking (NLP) stelt de AI in staat om realistische geschreven inhoud te begrijpen en te recreëren – een perfect hulpmiddel in phishingaanvallen.

Ideaal gesproken genereert de AI een originele e-mail die een door een mens geschreven e-mail imiteert. De hacker kan het vragen om de boodschap aan te passen om details over een bepaald bedrijf, persoon of plaats op te nemen. De AI kan de boodschap zelfs vertalen naar een andere taal. Hackers kunnen effectief volledig originele, gepersonaliseerde phishing-e-mails creëren in enkele ogenblikken, waardoor ze kunnen overstappen van het hergebruik van één kwaadaardige e-mail onder veel doelen.

Zijn AI-gegenereerde phishing-e-mails effectief?

De mogelijkheden van AI-gepowered phishing mogen intimiderend klinken, maar zijn ze gevaarlijker dan door mensen gecreëerde phishing-inhoud? De voordelen van AI-gegenereerde phishing-e-mails komen voornamelijk neer op efficiëntere workflows voor hackers.

Vroeg onderzoek heeft aangetoond dat AI-gegenereerde phishing-e-mails ongeveer even overtuigend zijn als door mensen gegenereerde phishing-e-mails. Hackers zijn ook beperkt in hun toegang tot AI-as-a-Service-platforms. De meeste grote ontwikkelaars – waaronder OpenAI – hebben beveiligingsmaatregelen om illegale toepassingen van AI-modellen te voorkomen.

De belangrijkste voordelen van AI voor phishing-hackers zijn efficiëntie en taal. Het gebruik van AI om scam-e-mails te genereren is sneller dan het handmatig schrijven ervan, waardoor hackers een grotere variëteit aan phishing-e-mails kunnen creëren. Bovendien kunnen ze slachtoffers overal ter wereld targeten, dankzij gemakkelijk toegankelijke AI-vertaaltools met NLP-mogelijkheden.

Dus, AI-gegenereerde phishing-e-mails verhogen het risico van phishingaanvallen, maar zijn mogelijk niet noodzakelijkerwijs overtuigender dan door mensen gegenereerde inhoud.

Hoe te verdedigen tegen AI-gegenereerde phishing

AI is een nuttig hulpmiddel voor hackers, maar het is niet onfeilbaar. Beveiligingstechnologie en gebruikers kunnen ook hun verdedigingsstrategieën verbeteren naarmate phishingaanvallen slimmer worden. Gebruikers moeten beginnen met up-to-date blijven over rode vlaggen van phishing-inhoud, aangezien deze relevant zullen blijven, zelfs met AI-gegenereerde e-mails.

Terwijl het misschien moeilijker wordt om phishing-e-mails op het eerste gezicht te detecteren, kunnen bepaalde beveiligingsstappen het potentieel voor phishing om schade aan te richten minimaliseren of elimineren. Bovendien kunnen nieuwe detectietechnologieën zowel AI- als door mensen geschreven kwaadaardige e-mails detecteren.

Switch naar cloudopslag

Het overschakelen naar cloudopslag is een goede manier om het gevaar van phishing-e-mails en cyberaanvallen te minimaliseren. De geïsoleerde aard van conventionele gegevensopslag maakt het zeer kwetsbaar voor exploitatie door hackers. Een hacker hoeft alleen maar de controle over één harde schijf of server te krijgen en kan dan alle gegevens van iemand gijzelen.

Cloudopslag ontwijkt dit gevaar. Aangezien de gegevens niet zijn gekoppeld aan een specifiek apparaat, is het veel moeilijker voor hackers om enige informatie te verwijderen of te beschadigen. Cloudgebaseerde beveiliging kan ook de weerstand tegen hackingpogingen verbeteren.

Gebruikers kunnen bijvoorbeeld geautomatiseerde kwetsbaarheidsscans implementeren om zwakke plekken in hun cloudbeveiliging te vinden. Dit is ideaal voor het voorkomen dat hackers backdoors of gestolen referenties gebruiken om toegang te krijgen tot gegevens in de cloud. Zelfs als ze dat doen, zal het moeilijk voor hen zijn om enige controle over de gegevens te krijgen, aangezien cloudopslag zo verspreid is.

Maak een DIY-verificatiesysteem

Een DIY-oplossing om te helpen phishingberichten van welke aard dan ook af te schrikken, is het opzetten van een codesysteem onder vertrouwde correspondenten. Dit kan mensen omvatten zoals familie, vrienden en collega’s. Elke keer dat degenen in de groep elkaar een e-mail sturen, kunnen ze een specifieke codezin schrijven om te verifiëren dat de boodschap echt van hen afkomstig is.

Dit codesysteem hoeft niet al te ingewikkeld te zijn. Het idee is simpelweg om een factor toe te voegen aan e-mails die een hacker of AI niet betrouwbaar van tevoren kan kennen. Maak de codezin iets ongebruikelijks, zodat het onwaarschijnlijk is dat het vaak in een AI’s trainings-e-mails voorkomt.

Bijvoorbeeld kan de code “Agloe, New York” zijn. Fictieve nederzettingen zijn onwaarschijnlijk vaak in e-mails te vinden, omdat ze fictieve plaatsen zijn die alleen aan kaarten zijn toegevoegd voor copyrightdoeleinden.

Gebruik AI-phishingdetectie

Hackers zijn niet de enigen die AI gebruiken om hun methodologie te innoveren. Gebruikers en beveiligingsexperts kunnen AI-modellen gebruiken om phishing-inhoud te detecteren, of deze nu door een mens of een AI is geschreven.

Ontwikkelaars kunnen bijvoorbeeld machine learning gebruiken om de natuurlijke communicatiepatronen van legitieme e-mailcorrespondenten te monitoren en te volgen. Als AI snel de unieke communicatiestijl van een individu kan leren, kan het nep-e-mails die niet overeenkomen, herkennen. Dit geldt ongeacht of de e-mail door een mens of een AI is geschreven.

Een van de grootste sterke punten van AI-gepowered phishing is ook een grote zwakte. Hackers kunnen efficiënt geloofwaardige nep-e-mails creëren met AI, maar de communicatiestijl van die e-mails kan niet efficiënt worden gepersonaliseerd. Een hacker heeft meestal niet de technische expertise of middelen om een AI te trainen om de schrijfstijl van een specifiek persoon nauwkeurig te repliceren. Phishingdetectie-AI-modellen kunnen deze zwakte gebruiken om gebruikers te verdedigen.

Het begrijpen van het risico van AI-gepowered phishing

AI kan een waardevol hulpmiddel zijn voor hackers bij het creëren van phishing-e-mails. AI-gegenereerde e-mails zijn echter niet noodzakelijkerwijs overtuigender dan door mensen gegenereerde phishing-inhoud. De belangrijkste rode vlaggen van phishing – zoals dringende oproepen tot actie – blijven relevant, ongeacht wie of wat de phishing-e-mail creëert. Gebruikers en beveiligingsexperts kunnen innovatieve technieken en technologieën gebruiken om hun gegevens te beschermen tegen AI-gepowered phishingcampagnes.