Generatieve AI in Cybersecurity: Het Slagveld, De Bedreiging, & Nu De Verdediging

Het Slagveld

Wat begon als opwinding over de mogelijkheden van Generatieve AI, is snel omgeslagen in bezorgdheid. Generatieve AI-hulpmiddelen zoals ChatGPT, Google Bard, Dall-E, enz. blijven in het nieuws komen vanwege beveiligings- en privacyproblemen. Het leidt zelfs tot vragen over wat echt is en wat niet. Generatieve AI kan zeer overtuigende en dus geloofwaardige inhoud produceren. Zozeer zelfs dat aan het einde van een recente 60 Minutes-segment over AI, presentator Scott Pelley de kijkers achterliet met de volgende verklaring; “We zullen eindigen met een notitie die nooit eerder op 60 Minutes is verschenen, maar een die, in de AI-revolutie, je vaak zult horen: het voorgaande is gemaakt met 100% menselijke inhoud.”

De Generatieve AI-cyberoorlog begint met deze overtuigende en realistische inhoud en het slagveld is waar hackers Generatieve AI gebruiken, met behulp van hulpmiddelen zoals ChatGPT, enz. Het is extreem eenvoudig voor cybercriminelen, vooral voor die met beperkte middelen en geen technische kennis, om hun misdaden te plegen door middel van sociale manipulatie, phishing- en impersonatie-aanvallen.

De Bedreiging

Generatieve AI heeft de mogelijkheid om steeds geavanceerdere cyberaanvallen te faciliteren.

Omdat de technologie zo overtuigende en mensachtige inhoud met gemak kan produceren, zijn nieuwe cyberzwendels die AI gebruiken, moeilijker voor beveiligingsteams om gemakkelijk te herkennen. AI-gegenereerde zwendels kunnen de vorm aannemen van sociale manipulatie-aanvallen, zoals multi-channel phishing-aanvallen die via e-mail en messaging-apps worden uitgevoerd. Een real-world voorbeeld kan een e-mail of bericht zijn dat een document bevat dat naar een corporate executive van een derde partij via Outlook (E-mail) of Slack (Messaging App) wordt gestuurd. De e-mail of het bericht geeft aan dat ze moeten klikken om de factuur te bekijken. Met Generatieve AI kan het bijna onmogelijk zijn om het verschil te zien tussen een valse en echte e-mail of bericht. Dat is waarom het zo gevaarlijk is.

Een van de meest verontrustende voorbeelden is dat cybercriminelen met Generatieve AI aanvallen kunnen produceren in meerdere talen – ongeacht of de hacker de taal zelf spreekt. Het doel is om een breed net uit te werpen en cybercriminelen zullen geen onderscheid maken tussen slachtoffers op basis van taal.

De vooruitgang van Generatieve AI geeft aan dat de omvang en efficiëntie van deze aanvallen zal blijven stijgen.

De Verdediging

Cyberverdediging voor Generatieve AI is notoir de ontbrekende schakel in de puzzel. Tot nu toe. Door machine-tot-machine-gevecht te gebruiken, of AI tegen AI te gebruiken, kunnen we ons verdedigen tegen deze nieuwe en groeiende bedreiging. Maar hoe moet deze strategie worden gedefinieerd en hoe ziet het eruit?

Ten eerste moet de industrie actie ondernemen om computer tegen computer te gebruiken in plaats van mens tegen computer. Om deze inspanning te voltooien, moeten we geavanceerde detectieplatforms overwegen die AI-gegenereerde bedreigingen kunnen detecteren, de tijd die het kost om een sociale manipulatie-aanval te melden en de tijd die het kost om een sociale manipulatie-aanval op te lossen die afkomstig is van Generatieve AI. Iets wat een mens niet kan.

We hebben onlangs een test uitgevoerd om te zien hoe dit eruit kan zien. We hebben ChatGPT een taalgebaseerde callback phishing-e-mail laten maken in meerdere talen om te zien of een Natural Language Understanding-platform of een geavanceerd detectieplatform het kon detecteren. We gaven ChatGPT de prompt, “schrijf een dringende e-mail waarin iemand wordt verzocht om te bellen over een laatste kennisgeving van een softwarelicentieovereenkomst.” We hebben het ook bevolen om het te schrijven in het Engels en Japans.

Het geavanceerde detectieplatform kon de e-mails onmiddellijk markeren als een sociale manipulatie-aanval. MAAR, native e-mailcontroles zoals Outlook’s phishingdetectieplatform konden dit niet. Zelfs voordat de release van ChatGPT, sociale manipulatie via conversational, taalgebaseerde aanvallen, bleek succesvol te zijn omdat ze traditionele controles konden ontwijken en in de inbox terechtkwamen zonder een link of payload. Dus, ja, het vergt machine-tegen-machine-gevecht om ons te verdedigen, maar we moeten er ook zeker van zijn dat we effectief geschut gebruiken, zoals een geavanceerd detectieplatform. Iedereen met deze tools tot zijn beschikking heeft een voordeel in de strijd tegen Generatieve AI.

Wanneer het gaat om de omvang en geloofwaardigheid van sociale manipulatie-aanvallen die worden geboden door ChatGPT en andere vormen van Generatieve AI, kan machine-tegen-machine-verdediging ook worden verfijnd. Bijvoorbeeld, deze verdediging kan worden ingezet in meerdere talen. Het hoeft niet alleen beperkt te zijn tot e-mailbeveiliging, maar kan ook worden gebruikt voor andere communicatiekanalen zoals apps zoals Slack, WhatsApp, Teams, enz.

Blijf Waakzaam

Toen een van onze medewerkers door LinkedIn scrolde, kwam hij een Generatieve AI-sociale manipulatiepoging tegen. Een vreemde “whitepaper”-downloadadvertentie verscheen met een soort “bizarro”-advertentie. Bij nadere inspectie zag de medewerker een kenmerkend kleurpatroon in de rechterbenedenhoek gestempeld op afbeeldingen die door Dall-E zijn gegenereerd, een AI-model dat afbeeldingen uit tekstgebaseerde prompts genereert.

Het tegenkomen van deze valse LinkedIn-advertentie was een belangrijke herinnering aan de nieuwe sociale manipulatiegevaren die nu verschijnen wanneer ze worden gekoppeld aan Generatieve AI. Het is nu meer dan ooit essentieel om waakzaam en achterdochtig te zijn.

De tijd van generatieve AI die wordt gebruikt voor cybercrime is aangebroken, en we moeten waakzaam blijven en bereid zijn om terug te vechten met alle middelen die we tot onze beschikking hebben.