Generatiivinen tekoäly kyberTurvallisuudessa: Taistelukenttä, Uhka ja Puolustus

Taistelukenttä

Mitä aluksi herätti innostusta generatiivisen tekoälyn mahdollisuuksista, on nopeasti muuttunut huoleksi. Generatiivisen tekoälyn työkalut, kuten ChatGPT, Google Bard, Dall-E jne., jatkavat otsikoissa turvallisuuden ja yksityisyyden huolen vuoksi. Se johtaa myös kysymyksiin siitä, mikä on totta ja mikä ei. Generatiivinen tekoäly voi tuottaa erittäin uskottavaa ja vakuuttavaa sisältöä. Niin paljon, että viimeksi kuluneen 60 minuutin jakson lopussa AI:sta, isäntä Scott Pelley jätti katsojille seuraavan lausahduksen; “Päätämme 60 minuutin jakson huomautuksella, jota ei ole aiemmin nähty, mutta jota kuulemme usein AI-vallankumouksessa: edellä oleva sisältö on 100%: ia luotua sisältöä.”

Generatiivisen tekoälyn kyber sota alkaa tästä vakuuttavasta ja todellisesta sisällöstä, ja taistelukenttä on siellä, missä hakkerit hyödyntävät generatiivista tekoälyä, käyttäen työkaluja kuten ChatGPT jne. On erittäin helppoa kyber rikollisille, erityisesti niille, joilla on rajalliset resurssit ja ei teknistä osaamista, suorittaa rikoksiaan sosiaalisen insinöörityön, phishauksen ja henkilöllisyyden varastamisen kautta.

Uhka

Generatiivinen tekoäly voi lisätä yhä monimutkaisempia kyberhyökkäyksiä.

Koska teknologia voi tuottaa niin vakuuttavaa ja ihmisen kaltaista sisältöä helposti, uudet kyberhyökkäykset, jotka hyödyntävät tekoälyä, ovat vaikeampia turvallisuustiimille havaita. Tekoälyllä luodut huijaukset voivat olla sosiaalisen insinöörityön muotoja, kuten monikanavaisia phishausta, jotka suoritetaan sähköpostin ja viestisovellusten kautta. Todellinen esimerkki voisi olla sähköposti tai viesti, joka sisältää asiakirjan, joka on lähetetty yrityksen johtajalle kolmannen osapuolen toimittajalta Outlookin (sähköposti) tai Slackin (viestisovellus) kautta. Sähköposti tai viesti ohjaa heidät klikkaamaan sitä tarkastellakseen laskua. Generatiivisen tekoälyn avulla on lähes mahdotonta erottaa väärä ja oikea sähköposti tai viesti. Siksi se on niin vaarallista.

Yksi hälyttävimmistä esimerkeistä on, että generatiivisen tekoälyn avulla kyber rikolliset voivat tuottaa hyökkäyksiä useilla kielillä – riippumatta siitä, puhuuko hakkeri kieltä. Tavoitteena on heittää laaja verkko, eikä kyber rikolliset tee eroa uhreja kielen perusteella.

Generatiivisen tekoälyn kehittyminen merkitsee, että näiden hyökkäysten mittakaava ja tehokkuus jatkavat kasvamistaan.

Puolustus

Kyberpuolustus generatiivista tekoälyä vastaan on ollut puuttuva palanen. Kunnes nyt. Koneiden välistä taistelua tai tekoälyn asettamista toista tekoälyä vastaan voidaan käyttää puolustautumiseen tästä uudesta ja kasvavasta uhkasta. Mutta miten tämä strategia tulisi määritellä, ja miten se näyttäisi?

Ensinnäkin, alan on toimittava tietokoneen asettamiseen tietokoneen vastaan, sen sijaan, että ihminen taistelisi tietokonetta vastaan. Tämän pyrkimyksen toteuttamiseksi on tarkasteltava edistyneitä havaitsemisalustoja, jotka voivat havaita tekoälyllä luotuja uhkia, vähentää aikaa, joka kuluu liputusmerkin antamiseen ja aikaa, joka kuluu sosiaalisen insinöörityksen hyökkäyksen ratkaisemiseen, joka on peräisin generatiivisesta tekoälystä. Jotain, mihin ihminen ei pysty.

Me suorittimme äskettäin kokeen, jossa näytettiin, miten tämä voisi näyttää. Meillä oli ChatGPT, joka loi kielen perustuvan callback-phishing-sähköpostin useilla kielillä, jotta voimme nähdä, voisi kohtuullinen kielentunnistusympäristö tai edistynyt havaintojärjestelmä havaita sen. Me annimme ChatGPT:lle ohjeen “kirjoita kiireellinen sähköposti, jossa kehotetaan jotakuta soittamaan lopullisesta ilmoituksesta ohjelmistolisenssisopimuksen suhteen.” Me myös käskimme sen kirjoittaa sen englanniksi ja japaniksi.

Edistynyt havaintojärjestelmä pystyi välittömästi liputtamaan sähköpostit sosiaalisen insinöörityshyökkäykseksi. MUTTA, alkuperäiset sähköpostiohjaimet, kuten Outlookin phishauskohtaisuuden tunnistusjärjestelmä, eivät voineet. Jo ennen ChatGPT:n julkaisua sosiaalisen insinöörityön kautta tehtyjä, keskusteluperustaisia kielen perustuvia hyökkäyksiä osoittautui onnistuneiksi, koska ne pystyivät välttämään perinteiset ohjaimet ja pääsivät sähköpostilaatikkoon ilman linkkiä tai kuormitusta. Joten, kyllä, se vaatii koneen vastaan koneen taistelua puolustautumiseen, mutta meidän on myös varmistettava, että käytämme tehokkaita aseita, kuten edistynyttä havaintojärjestelmää. Kuka tahansa, jolla on nämä työkalut käytössään, on edullisemmassa asemassa generatiivisen tekoälyn taistelussa.

Kun on kyse sosiaalisen insinöörityshyökkäysten mittakaavasta ja uskottavuudesta, joita ChatGPT ja muut generatiivisen tekoälyn muodot tarjoavat, koneen vastaan koneen puolustus voidaan myös jalostaa. Esimerkiksi, tämä puolustus voidaan käyttää useilla kielillä. Se ei myöskään rajoitu ainoastaan sähköpostiturvallisuuteen, vaan voidaan käyttää myös muita viestintäkanavia, kuten sovelluksia kuten Slack, WhatsApp, Teams jne.

Älä Unohda Valppautta

Kun selaamme LinkedIniä, yksi työntekijöistämme törmäsi generatiivisen tekoälyn sosiaalisen insinöörityksen yritykseen. Outo “whitepaper”-latausmainos ilmestyi, joka voidaan kuvailla ystävällisesti “bizarro”-mainoksella. Lähemmin tarkasteltuna työntekijä huomasi varoittavan värimallin alhaalla oikeassa reunassa, joka on leimattu Dall-E:n tuottamiin kuviin, tekoälymalliin, joka luo kuvia tekstipohjaisista ohjeista.

Tapaaminen tämän väärän LinkedIn-mainoksen kanssa oli merkittävä muistutus uusista sosiaalisen insinöörityksen vaaroista, jotka nyt ilmestyvät, kun ne yhdistetään generatiiviseen tekoälyyn. On entistä tärkeämpää olla valppaita ja epäluuloisia.

Generatiivisen tekoälyn aikakausi, jossa se käytetään kyberrikoksissa, on täällä, ja meidän on oltava valppaita ja valmiita puolustautumaan kaikin käytettävissä olevin välinein.