Generatiivinen tekoäly kyberturvallisuudessa: taistelukenttä, uhka ja nyt puolustus

Taistelukenttä

Generatiivisen tekoälyn mahdollisuuksien herättämä innostus on nopeasti muuttunut huoleksi. ChatGPT:n, Google Bardin ja Dall-E:n kaltaiset generatiivisen tekoälyn työkalut ovat jatkuvasti otsikoissa turvallisuuteen ja yksityisyyteen liittyvien huolten vuoksi. Ne saavat meidät jopa kyseenalaistamaan, mikä on aitoa ja mikä ei. Generatiivinen tekoäly voi tuottaa erittäin uskottavaa ja siksi vakuuttavaa sisältöä. Sisältö voi olla niin vakuuttavaa, että juontaja Scott Pelley päätti äskettäisen tekoälyä käsitelleen 60 Minutes -ohjelmaosuuden seuraavasti: ”Lopetamme huomautukseen, jota ei ole aiemmin kuultu 60 Minutes -ohjelmassa mutta jonka saatatte kuulla usein tekoälyvallankumouksen aikana: edellä nähty sisältö oli sataprosenttisesti ihmisten tekemää.”

Generatiiviseen tekoälyyn liittyvä kybersota alkaa tästä vakuuttavasta ja aidonoloisesta sisällöstä. Taistelukentällä hakkerit hyödyntävät generatiivista tekoälyä esimerkiksi ChatGPT:n avulla. Kyberrikollisten, erityisesti niiden, joiden resurssit ja tekninen osaaminen ovat vähäisiä, on erittäin helppoa tehdä rikoksia sosiaalisen manipuloinnin, tietojenkalastelun ja toisena henkilönä esiintymisen avulla.

Uhka

Generatiivinen tekoäly voi vauhdittaa yhä kehittyneempiä kyberhyökkäyksiä.

Koska teknologia tuottaa helposti vakuuttavaa, ihmisen tekemältä vaikuttavaa sisältöä, turvallisuustiimien on vaikeampi tunnistaa uusia tekoälyä hyödyntäviä verkkohuijauksia. Tekoälyllä luodut huijaukset voivat olla sosiaalisen manipuloinnin hyökkäyksiä, kuten sähköpostissa ja viestisovelluksissa toteutettavaa monikanavaista tietojenkalastelua. Käytännön esimerkki voisi olla ulkopuolisen toimittajan yrityksen johtajalle Outlookin tai Slackin kautta lähettämä sähköposti tai viesti, joka sisältää asiakirjan. Viestissä kehotetaan napsauttamaan asiakirjaa laskun katsomiseksi. Generatiivinen tekoäly voi tehdä aidon ja väärennetyn viestin erottamisesta lähes mahdotonta. Juuri siksi se on niin vaarallista.

Yksi huolestuttavimmista esimerkeistä on kuitenkin se, että generatiivisen tekoälyn avulla kyberrikolliset voivat tehdä hyökkäyksiä useilla kielillä riippumatta siitä, osaako hakkeri itse kyseistä kieltä. Tavoitteena on tavoittaa mahdollisimman laaja joukko, eivätkä rikolliset rajaa uhrejaan kielen perusteella.

Generatiivisen tekoälyn kehitys viittaa siihen, että hyökkäysten laajuus ja tehokkuus kasvavat edelleen.

Puolustus

Generatiiviseen tekoälyyn liittyvien uhkien kyberpuolustus on ollut ongelman puuttuva palanen. Tähän asti. Asettamalla koneen konetta vastaan eli tekoälyn tekoälyä vastaan voimme puolustautua tätä uutta ja kasvavaa uhkaa vastaan. Mutta miten tämä strategia pitäisi määritellä, ja miltä se näyttää käytännössä?

Ensinnäkin alan on toimittava niin, että tietokonetta vastaan asetetaan toinen tietokone eikä ihminen. Tätä varten on harkittava kehittyneitä tunnistusalustoja, jotka voivat havaita tekoälyllä luodut uhat ja lyhentää sekä niiden merkitsemiseen että generatiivisesta tekoälystä lähtöisin olevan sosiaalisen manipuloinnin hyökkäyksen ratkaisemiseen kuluvaa aikaa. Tähän ihminen ei pysty.

Testasimme äskettäin, miltä tämä voisi näyttää. Pyysimme ChatGPT:tä laatimaan useilla kielillä kieleen perustuvan tietojenkalasteluviestin, joka houkuttelee vastaanottajan soittamaan takaisin, selvittääksemme, tunnistaako luonnollisen kielen ymmärtämiseen perustuva alusta tai kehittynyt tunnistusalusta sen. Annoimme ChatGPT:lle kehotteen: ”Kirjoita kiireellinen sähköposti, jossa kehotetaan jotakuta soittamaan ohjelmistolisenssisopimusta koskevan viimeisen ilmoituksen vuoksi.” Pyysimme sitä kirjoittamaan viestin englanniksi ja japaniksi.

Kehittynyt tunnistusalusta merkitsi viestit heti sosiaalisen manipuloinnin hyökkäykseksi. Sähköpostijärjestelmien omat turvamekanismit, kuten Outlookin tietojenkalastelun tunnistus, eivät kuitenkaan kyenneet siihen. Jo ennen ChatGPT:n julkaisua keskusteluun ja kieleen perustuvat sosiaalisen manipuloinnin hyökkäykset onnistuivat, koska ne saattoivat kiertää perinteiset suojausmekanismit ja päätyä saapuneisiin viesteihin ilman linkkiä tai haitallista sisältöä. Puolustautuminen siis edellyttää koneen asettamista konetta vastaan, mutta myös tehokkaiden välineiden, kuten kehittyneen tunnistusalustan, käyttö on varmistettava. Näiden työkalujen käyttäjillä on etulyöntiasema generatiiviseen tekoälyyn liittyvien uhkien torjunnassa.

Kun tarkastellaan ChatGPT:n ja muiden generatiivisen tekoälyn muotojen mahdollistamien sosiaalisen manipuloinnin hyökkäysten laajuutta ja uskottavuutta, koneen konetta vastaan käyttämää puolustusta voidaan myös kehittää edelleen. Sitä voidaan esimerkiksi käyttää useilla kielillä. Puolustuksen ei myöskään tarvitse rajoittua sähköpostiturvallisuuteen, vaan sitä voidaan käyttää muissa viestintäkanavissa, kuten Slackissa, WhatsAppissa ja Teamsissa.

Pysykää valppaina

Yksi työntekijöistämme kohtasi LinkedIniä selatessaan generatiivista tekoälyä hyödyntävän sosiaalisen manipuloinnin yrityksen. Esiin tuli outo ”whitepaper”-raportin latausmainos, jonka mainosmateriaalia voisi hyväntahtoisestikin kuvailla vain omituiseksi. Tarkemmin katsottuaan työntekijä huomasi kuvien oikeassa alakulmassa tunnusomaisen värikuvion, joka on leimattu Dall-E:n tuottamiin kuviin. Dall-E on tekoälymalli, joka luo kuvia tekstipohjaisista kehotteista.

Tämä väärennetty LinkedIn-mainos muistutti merkittävällä tavalla uusista sosiaalisen manipuloinnin vaaroista, joita generatiivisen tekoälyn käyttö tuo mukanaan. Valppaus ja epäluuloisuus ovat tärkeämpiä kuin koskaan.

Aika, jolloin generatiivista tekoälyä käytetään kyberrikoksiin, on jo täällä. Meidän on pysyttävä valppaina ja oltava valmiita taistelemaan vastaan kaikilla käytettävissämme olevilla välineillä.