Hoe hackers gebruikmaken van kunstmatige intelligentie

AI heeft zichzelf bewezen als een waardetoevoegende technologie in de hele wereldeconomie.

Terwijl bedrijven de afgelopen jaren moeite hadden om zich aan te passen aan de actualiteit, vonden sommigen van hen manieren om de waarde van een half decennium te proppen - in het geval van Frito-Lay – van digitale transformaties in een veel korter tijdsbestek. Harris Poll en Appen vonden dat AI-budgetten verhoogd met 55% tijdens de wereldwijde pandemie.

Zoals elk hulpmiddel heeft kunstmatige intelligentie geen aangeboren morele waarde. Het nut of de potentiële schade van AI komt neer op hoe het systeem "leert" en wat mensen er uiteindelijk mee doen.

Sommige pogingen om gebruik te maken van AI – zoals het “voorspellen” van misdaad voordat het gebeurt – laten zien dat modellen die zijn getraind op bevooroordeelde gegevens de neiging hebben om menselijke tekortkomingen na te bootsen. Tot nu toe heeft het trainen van AI met behulp van gegevens uit het Amerikaanse rechtssysteem tragische gevolgen gehad bevooroordeelde AI-redenering.

In andere voorbeelden kiezen mensen bewustere manieren om het destructieve potentieel van AI te benutten. Hackers tonen opnieuw hun innovatieve neigingen door kunstmatige intelligentie te gebruiken om het bereik, de effectiviteit en de winstgevendheid van hun aanvallen te verbeteren. En als cyberoorlogvoering komt steeds vaker voor over de hele wereld zullen we de toepassingen van AI bij hacking zeker nog verder zien ontwikkelen.

AI is een kans en een risico

Kunstmatige intelligentie biedt een wereld aan mogelijkheden voor bedrijven die prognoses, bedrijfsoptimalisatie en klantbehoudstrategieën willen verbeteren. Het is ook een meevaller voor diegenen die de digitale soevereiniteit van anderen in gevaar willen brengen.

Hier zijn een paar manieren waarop kunstmatige intelligentie vatbaar kan zijn voor discrete manipulatie en meer openlijke pogingen om het om te zetten in agressieve acties.

1. Compromitterende machinelogica

Het belangrijkste voordeel van AI voor consumenten en commerciële ondernemingen is dat het voorspelbare en herhaalbare logische handelingen uitvoert zonder menselijke tussenkomst. Dit is meteen ook zijn grootste zwakte.

Net als elke andere digitale constructie kan AI vatbaar zijn voor penetratie door krachten van buitenaf. Hackers die toegang hebben tot de machinelogica die AI aandrijft en deze compromitteren, kunnen ervoor zorgen dat deze onvoorspelbare of schadelijke acties uitvoert. Een AI die belast is met het monitoren van industriële condities kan bijvoorbeeld onjuiste meetwaarden leveren of onderhoudspings onbezorgd laten.

Aangezien het hele doel van AI-investeringen is om menselijke tussenkomst en twijfelachtige resultaten te elimineren, wordt de schade aan infrastructuur of productkwaliteit die door een dergelijke aanval wordt veroorzaakt, mogelijk pas opgemerkt als er een catastrofale mislukking optreedt.

2. Gebruik van reverse engineering-algoritmen

Een andere mogelijke manier om schade aan te richten – vooral als het gaat om intellectueel eigendom (IP) en consumenten- of commerciële gegevens – is het idee van reverse engineering. Hackers kunnen zelfs de kunstmatige-intelligentiecode zelf stelen. Met voldoende tijd om te bestuderen hoe het werkt, zouden ze dat uiteindelijk kunnen ontdek de gebruikte datasets om de AI in de eerste plaats te trainen.

Dit kan verschillende resultaten opleveren, waarvan de eerste AI-vergiftiging is. Andere voorbeelden kunnen zijn dat hackers de AI-trainingsgegevens zelf gebruiken om compromitterende informatie over markten, concurrenten, overheden, verkopers of algemene consumenten te verzamelen.

3. Leren over beoogde doelen

Het bewaken van doelen is waarschijnlijk een van de meer verontrustende implicaties van AI die in handen van hackers valt. Het vermogen van AI om conclusies te trekken over iemands capaciteiten, kennisgebieden, temperament en de waarschijnlijkheid om het slachtoffer te worden van doelwitten, fraude of misbruik, blijkt voor sommige cyberbeveiligingsexperts bijzonder zorgwekkend.

Kunstmatige intelligentie kan inslikken en tot verrassend gedetailleerde conclusies komen over mensen, teams en groepen op basis van enkele van de meest onwaarschijnlijke datapunten. Een "verloofd" of "afgeleid" individu kan snel typen, friemelen met de muis of snel schakelen tussen browsertabbladen. Een gebruiker die "verward" of "aarzelend" is, kan pauzeren voordat hij op pagina-elementen klikt of meerdere sites opnieuw bezoeken.

In de juiste handen helpen signalen zoals deze HR-afdelingen om de betrokkenheid van medewerkers te vergroten of helpen marketingteams hun websites en verkooptrechters op te poetsen.

Voor hackers kunnen dergelijke signalen resulteren in een verrassend genuanceerd psychologisch profiel van een beoogd doelwit. Cybercriminelen zouden op basis van hints die onzichtbaar zijn voor mensen kunnen zien welke mensen kwetsbaar zijn voor phishing, smishing, ransomware, financiële fraude en andere vormen van schade. Het kan slechte actoren ook helpen te leren hoe ze hun doelwitten er het beste van kunnen overtuigen dat hun fraudepogingen afkomstig zijn van legitieme bronnen.

4. Netwerkkwetsbaarheden onderzoeken

Cybersecurity-professionals publiceerden gegevens over 20,175 bekende beveiligingsproblemen in 2021. Dat was een stijging ten opzichte van 2020, toen er 17,049 van dergelijke kwetsbaarheden waren.

De wereld wordt met het uur digitaal meer onderling verbonden – sommigen zouden zeggen dat ze onderling afhankelijk zijn. De wereld herbergt nu een duizelingwekkend aantal kleinschalige en industriële netwerken, met miljarden aangesloten apparaten online en er komen er nog meer aan. Alles is online, van conditiebewakingssensoren tot software voor bedrijfsplanning.

Kunstmatige intelligentie is veelbelovend in cyberbeveiligingsteams snel helpen sneller zoeken naar netwerk-, software- en hardwarekwetsbaarheden dan mensen alleen. Door de snelheid en omvang van de groei van de digitale infrastructuur van de aarde is het bijna onmogelijk om biljoenen regels code te doorzoeken op beveiligingslekken die kunnen worden gepatcht. Dit moet allemaal gebeuren terwijl deze systemen online zijn vanwege de kosten van downtime.

Als AI hier een hulpmiddel voor cyberbeveiliging is, is het ook een tweesnijdend zwaard. Hackers kunnen dezelfde mechanismen gebruiken als de "white hat" IT-menigte om hetzelfde werk uit te voeren: netwerken, software en firmware op efficiëntere wijze onderzoeken op kwetsbaarheden dan menselijke IT-specialisten.

Een digitale wapenwedloop

Er zijn te veel AI-toepassingen in cybercriminaliteit om ze allemaal te noemen, maar hier zijn er nog een paar:

• Hackers zouden AI-code kunnen verbergen in een anderszins goedaardige applicatie die kwaadaardig gedrag uitvoert wanneer het een vooraf bepaalde trigger of drempel detecteert.
• Kwaadaardige AI-modellen kunnen worden gebruikt om inloggegevens of IT-beheerfuncties te bepalen door biometrische input te monitoren, zoals vingerafdrukken en spraakherkenning.
• Zelfs als een poging tot cyberaanval uiteindelijk mislukt, kunnen hackers die zijn uitgerust met AI mogelijk machine learning gebruiken om te bepalen wat er mis is gegaan en wat ze de volgende keer anders kunnen doen.

Er leek maar één goed geplaatst verhaal over nodig te zijn een jeep hacken terwijl hij rijdt om de ontwikkeling van autonome voertuigen tot een kruip te vertragen. Eén spraakmakende hack waarbij AI als spil fungeert, kan een vergelijkbare erosie in de publieke opinie veroorzaken. Sommige opiniepeilingen laten zien hoe de gemiddelde Amerikaan is zeer twijfelachtig over de voordelen van AI nu al.

Alomtegenwoordig computergebruik brengt cyberbeveiligingsrisico's met zich mee - en zowel white hat- als black hat-hackers weten dat. AI kan helpen ons online leven veilig te houden, maar het is ook het epicentrum van een nieuwe digitale wapenwedloop.