Generative AI í Cybersecurity: The Battlefield, The Threat, & Now The Defense

Orrustuvöllurinn

Það sem byrjaði sem spenna í kringum getu Generative AI hefur fljótt snúist að áhyggjum. Generative AI verkfæri eins og ChatGPT, Google Bard, Dall-E, o.s.frv. halda áfram að gera fyrirsagnir vegna öryggis- og persónuverndarsjónarmiða. Það leiðir jafnvel til spurninga um hvað sé raunverulegt og hvað ekki. Generative AI getur dælt út mjög trúverðugri og þar af leiðandi sannfærandi efni. Svo mikið að við lok nýlegs 60 mínútna kafla um gervigreind, skildi gestgjafinn Scott Pelley eftir áhorfendum með þessa yfirlýsingu; „Við endum með athugasemd sem hefur aldrei birst á 60 mínútum, en einn, í gervigreindarbyltingunni, gætir þú heyrt oft: fyrri var búin til með 100% mannlegu efni.

Generative AI netstríðið hefst með þessu sannfærandi og raunverulegu efni og á vígvellinum eru tölvuþrjótar að nýta sér Generative AI, nota verkfæri eins og ChatGPT o.s.frv. Það er afar auðvelt fyrir netglæpamenn, sérstaklega þá sem hafa takmarkað fjármagn og enga tækniþekkingu, að fremja glæpi sína með félagslegum verkfræði, vefveiðum og árásum eftir hermdarverkum.

Ógnin

Generative AI hefur vald til að kynda undir sífellt flóknari netárásum.

Vegna þess að tæknin getur framleitt svo sannfærandi og mannlegt efni með auðveldum hætti, er erfiðara fyrir öryggisteymi að koma auga á nýjar netsvindl sem nýta gervigreind. Svindl sem myndast af gervigreind geta komið í formi félagslegra verkfræðiárása eins og margra rása vefveiðaárása sem gerðar eru með tölvupósti og skilaboðaforritum. Raunverulegt dæmi gæti verið tölvupóstur eða skilaboð sem innihalda skjal sem er sent til framkvæmdastjóra fyrirtækisins frá þriðja aðila í gegnum Outlook (Tölvupóstur) eða Slack (skilaboðaforrit). Tölvupósturinn eða skilaboðin vísar þeim til að smella á það til að skoða reikning. Með Generative AI getur verið nánast ómögulegt að greina á milli fölsuðs og raunverulegs tölvupósts eða skilaboða. Þess vegna er það svo hættulegt.

Eitt skelfilegasta dæmið er hins vegar að með Generative AI geta netglæpamenn framkallað árásir á mörgum tungumálum – óháð því hvort tölvuþrjóturinn talar tungumálið í raun og veru. Markmiðið er að varpa breiðu neti og netglæpamenn munu ekki mismuna fórnarlömbum eftir tungumáli.

Framfarir Generative AI gefa til kynna að umfang og skilvirkni þessara árása muni halda áfram að aukast.

Varnarmálið

Netvörn fyrir Generative AI hefur sem kunnugt er verið sá hluti sem vantaði í púsluspilið. Hingað til. Með því að nota vél til að véla bardaga, eða festa gervigreind gegn gervigreind, getum við varið gegn þessari nýju og vaxandi ógn. En hvernig á að skilgreina þessa stefnu og hvernig lítur hún út?

Í fyrsta lagi verður iðnaðurinn að bregðast við til að festa tölvu við tölvu í stað manna vs tölvu. Til að fylgja þessu átaki í gegn verðum við að íhuga háþróaða greiningarvettvang sem getur greint ógnir sem mynda gervigreind, dregið úr þeim tíma sem það tekur að flagga og tíma sem það tekur að leysa félagslega verkfræðiárás sem er upprunnin frá Generative AI. Eitthvað sem manneskjan getur ekki gert.

Við gerðum nýlega prófun á því hvernig þetta getur litið út. Við fengum ChatGPT til að búa til tungumálatengdan svarhringingarpóst á mörgum tungumálum til að sjá hvort Natural Language Understanding pallur eða háþróaður uppgötvunarvettvangur gæti greint það. Við gáfum ChatGPT fyrirmælin, „skrifaðu brýn tölvupóst þar sem þú hvetur einhvern til að hringja um lokatilkynningu um hugbúnaðarleyfissamning. Við skipuðum því líka að skrifa það á ensku og japönsku.

Háþróaður uppgötvunarvettvangur var strax fær um að merkja tölvupóstinn sem félagslega verkfræðiárás. EN, innfæddir tölvupóststýringar eins og phishing uppgötvunarvettvangur Outlook gátu það ekki. Jafnvel áður en ChatGPT kom út, reyndust samfélagsverkfræði sem gerð var með samtali, tungumálatengdum árásum vel vegna þess að þær gátu forðast hefðbundnar stýringar, lent í pósthólf án tengils eða farms. Svo já, það þarf bardaga á móti vél til að verjast, en við verðum líka að vera viss um að við notum skilvirka stórskotalið, eins og háþróaðan uppgötvunarvettvang. Allir sem hafa þessi verkfæri til umráða hafa forskot í baráttunni gegn Generative AI.

Þegar kemur að umfangi og trúverðugleika árása á samfélagsverkfræði sem ChatGPT og aðrar gerðir af Generative AI bjóða upp á, er einnig hægt að betrumbæta vél til vél vörn. Til dæmis er hægt að nota þessa vörn á mörgum tungumálum. Það þarf líka ekki bara að vera takmarkað við tölvupóstöryggi heldur er hægt að nota það fyrir aðrar samskiptaleiðir eins og forrit eins og Slack, WhatsApp, Teams o.fl.

Vertu vakandi

Þegar flett var í gegnum LinkedIn rakst einn af starfsmönnum okkar á tilraun með Generative AI félagsverkfræði. Undarleg „hvítbók“ niðurhalsauglýsing birtist með því sem aðeins er hægt að lýsa rausnarlega sem „furðulegri“ auglýsingu. Við nánari athugun sá starfsmaðurinn greinilegt litamynstur neðst í hægra horninu stimplað á myndir framleiddar af Dall-E, gervigreindarlíkani sem býr til myndir úr texta-undirstaða leiðbeiningum.

Að hitta þessa fölsuðu LinkedIn auglýsingu var veruleg áminning um nýjar hættur í félagsverkfræði sem nú birtast þegar þær eru tengdar við Generative AI. Það er mikilvægara en nokkru sinni fyrr að vera vakandi og tortrygginn.

Tímabil hins skapandi gervigreindar sem er notað fyrir netglæpi er kominn og við verðum að vera vakandi og vera tilbúin til að berjast á móti með hverju tæki sem við höfum yfir að ráða.