Die toenemende impak van KI op verkiesingsswendelary hierdie seisoen

In 2022 het kwaadwillige e-posse gerig op die verkiesingswerkers in die provinsie Pennsylvania gestyg rondom sy primêre verkiesings op 17 Mei, wat in ses maande met meer as 546% gestyg het. Gepaard met die potensiaal vir onheilspellende groottaalmodelle (LLM's) bo en behalwe hierdie tradisionele uitvissing-aanvalle, is daar 'n groot waarskynlikheid dat die alledaagse Amerikaner die teiken van 'n selfs meer realistiese bedrogspul hierdie verkiesingseisoen sal wees.

Regerings begin kennis neem, veral namate KI in ons daaglikse lewens geïntegreer word. Byvoorbeeld, die Amerikaanse agentskap vir kuberveiligheid en infrastruktuur van stapel gestuur 'n program om verkiesingsveiligheid 'n hupstoot te gee - wat 'n groeiende vraag van beide die regering en die publiek demonstreer om hulself, en hul data, teen potensiële slegte akteurs hierdie verkiesingseisoen te beskerm.

En selfs meer onlangs, by die 2024 Munich Security Conference, het 20 tegnologie- en KI-maatskappye 'n "Tegniese ooreenkoms om misleidende gebruik van KI in 2024-verkiesings te bekamp," wat riglyne beklemtoon om verkiesings en die verkiesingsproses te beskerm, insluitend voorkoming, herkoms, opsporing, responsiewe beskerming, evaluering en openbare bewustheid. Dit bestaan ​​uit groot tegnologiespelers, insluitend Microsoft, Amazon en Google, en dit dui op 'n belangrike verskuiwing in die bedryf dat selfs buite politieke affiliasies, datasekuriteit 'n onderwerp is wat burgers sowel as kuberkundiges gedurende die res van hierdie verkiesingsjaar sal bekommer. Boonop sal generatiewe KI 'n groot impak hê op hoe slegte akteurs hul aanvalle kan uitvoer, wat dit makliker maak om hoogs realistiese swendelary te maak.

Tipes verkiesings-swendelary

Terwyl verkiesingsseisoen nie die enigste keer is wat ons 'n toename in swendelary sien nie, wanneer dit tyd word om te stem, hetsy in die voorverkiesing of algemene verkiesing, is ons geneig om 'n toename in verskeie metodes en tegnieke te sien. Elkeen hiervan word gebruik met die tipiese doel om toegang tot 'n individu se rekening of geldelike gewin te verkry en die gevolge daarvan om daarvoor te val, kan groot gevolge hê. Trouens, diep valse bedrog alleen het die VSA meer gekos as Van $ 3.4 miljard in verliese.

Enkele voorbeelde van swendelary wat ons rondom die verkiesingseisoen sien, sluit in:

• Phishing: Uitvissing behels die gebruik van vals skakels, e-posse en webwerwe om toegang tot sensitiewe verbruikersinligting te verkry – gewoonlik deur wanware op die teikenstelsel te installeer. Hierdie data word dan gebruik om ander identiteite te steel, toegang tot waardevolle bates te verkry en inkassies met e-pos strooipos te oorlaai. In 'n verkiesingseisoen kan uitvissing-e-posse gekamoefleer word as skenkings-e-posse wat 'n burger kry om op die skakel te klik, omdat hulle dink dat hulle aan 'n kandidaat skenk, maar eintlik in 'n slegte akteur se skema speel.
• Robocalls, nabootsings en AI-gegenereerde stem- of kletsbotte: Soos gesien in New Hampshire wanneer 'n robocall president Biden nageboots het wat burgers aanspoor om nie te stem nie, sal verkiesingsseisoen 'n toename bring in die nabootsing van meningspeilers of politieke kandidate om valslik vertroue te verdien en sensitiewe inligting te kry.
• Deepfakes: Met die opkoms van KI het deepfakes vandag ongelooflik realisties geword en kan dit gebruik word om 'n baas of selfs jou gunsteling-beroemdheid na te doen. Deepfakes is video's of beelde wat KI gebruik om gesigte te vervang of gesigsuitdrukkings of spraak te manipuleer. Baie van die deepfakes wat ons daagliks teëkom, sal in die vorm van 'n video wees, met 'n gedokterde snit wat die persoon uitbeeld wat iets sê of doen wat hulle dalk nog nooit gedoen het nie. Dit sal na verwagting veral hierdie verkiesingseisoen voorkom, met die risiko dat diepvals geskep word om kandidate na te doen. Selfs buite die VSA, soos in die Verenigde Koninkryk, is daar vrese dat diepvals gebruik kan word om verkiesings op te rig.

KI se impak op verkiesings

Bo en behalwe hierdie swendelary, word KI-algoritmes gebruik om meer oortuigende en boeiende vals boodskappe, e-posse en sosiale media-plasings te genereer om gebruikers te mislei om sensitiewe inligting prys te gee.

Microsoft en OpenAI het 'n dreigementinligtingsessie gepubliseer, "Navigeer deur kuberbedreigings en versterking van verdediging in die era van KI,” wat opgemerk het dat vyf bedreigingsakteurs van Rusland, Noord-Korea, Iran en China almal reeds GenAI gebruik het vir nuwe en innoverende maniere om hul bedrywighede teen sagte teikens te verbeter.

Swendelary soos kletsbotte, stemkloning en meer word 'n stap verder geneem met KI as 'n instrument om verkeerde inligting te versprei, wanware te ontwikkel en individue na te doen. Stemkloninginstrumente kan byvoorbeeld byna perfekte replikas van 'n verkiesingsfiguur se stem of gesig skep. KI kan ook gebruik word om oproepsentrums met vals kiesersoproepe te oorstroom, wat hulle met verkeerde inligting oorweldig.

Op die hoogste waarskuwing sal sosiale media wees, aangesien dit 'n hoofvoertuig vir veldtogte hierdie verkiesingseisoen is. Kiesers sal deel as hulle gestem het en dalk selfs ondersteuning vir hul gunstelingkandidaat op hul bladsye toon. Hierdie jaar hou egter 'n nuwe bedreiging in aangesien ons 'n nuwe toename in KI-uitvissing (om swendelary en vishing in te sluit) swendelary sien.

Oorweeg of iemand na hul sosiale media-rekeningondersteuning vir 'n spesifieke kandidaat geplaas het. 'n Paar minute later kry hulle 'n e-pos wat blykbaar van 'n veldtogbestuurder kom, waarin hulle bedank vir hul ondersteuning. Daardie potensiële slagoffer kan met daardie e-pos betrokke raak deur op 'n skakel te klik, hulle oop te maak vir geloofsbriewe, finansiële verlies of installering van wanware. As gevolg van KI se vermoë om geteikende uitvissingsveldtogte in byna intydse te monitor, te skep en te lewer, maak oënskynlik onskuldige sosialemediaplasings gebruikers nou oop vir 'n nuwe vlak van realistiese uitvissingskemas.

Bly waaksaam hierdie verkiesingsseisoen

Aanvalle soos uitvissing sal steeds 'n algemene manier wees vir slegte akteurs om realistiese swendelary te skep wat selfs deur die mees kundige kan glip, en in die era van generatiewe KI is die potensiële impak hiervan net versnel om slegte akteurs vinniger toegang tot sensitiewe inligting.

Terwyl besighede tegnologie ontplooi om hul data en werknemers te beskerm, moet verbruikers ook bewus wees van tegnieke om swendelary raak te sien en te vermy. Sommige hiervan sluit in:

• Kyk uit vir ewekansige of verkeerd gespelde hiperskakels of e-posonderwerplyne
• Om nie op 'n skakel van 'n onbekende sender te klik nie
• Gebruik twee-faktor-verifikasie of biometriese verifikasie waar moontlik
• Maak sosiale media rekeninge privaat
• Rapporteer kwaadwillige aktiwiteit
• Opvoeding van ander kollegas of familielede
• Soek 'n .gov-webwerfdomein om die egtheid van 'n verkiesingskandidaat te verifieer
• As jy IT by jou werkplek het, kan jy ook vra oor:
  • Zero Trust netwerke
  • Uitvissing-bestande twee-faktor-verifikasie
  • E-possekuriteitnutsgoed (DMARC, DKIM, SPF)
  • Metodes om inhoud digitaal te onderteken (of 'n ander manier om jou kommunikasie kriptografies te verifieer)

Alhoewel verkiesingsseisoene 'n tyd is om op 'n hoë gereedheidsgrondslag te wees, kan aanvalle enige tyd plaasvind, daarom is dit belangrik om te verseker dat jou kuberveiligheidsgrondslag sterk en betroubaar is die hele jaar deur.