David Kellerman, Field CTO at Cymulate – Haastattelusarja

David Kellerman on Cymulaten Field CTO ja senior-asiakaspäällikkö tietoturva-alalla. David johtaa asiakkaita menestykseen ja korkeisiin tietoturvaan.

Cymulate on tietoturva-alan yritys, joka tarjoaa uhka-altistuksen validoinnin organisaatioille, jotka haluavat sulkea tietoturva-aukot ennen kuin hyökkääjät hyödyntävät niitä. Sen alusta mahdollistaa organisaatioiden tietoturva-aseman ja kyberresilienssin vahvistamisen jatkuvan löytämisen, validoinnin, priorisoinnin ja ohjatun korjaamisen kautta. Automaation ja tekoälytekniikan avulla Cymulate tarjoaa edistyneen hyökkäys-testauksen tietoturvaohjelmien validointiin, uhkiin ja hyökkäysreiteihin. Avoimena alustana Cymulate integroituu olemassa olevaan tietoturva- ja IT-infrastruktuuriin, jotta se voi ohjata altistumisen hallintaprosessin työkiertoa ja parantaa puolustuksia reaaliajassa. Tarjoamalla Breach and Attack Simulation (BAS), altistumisen hallinnan ja tietoturva-aseman hallinnan, Cymulate auttaa yrityksiä tunnistamaan haavoittuvuuksia.

Mitä pidät ensisijaisena tekijänä, joka ajaa tekoälyyn liittyvien tietoturva-uhkien kasvua vuonna 2025?

Tekoälyyn liittyvät tietoturva-uhkat kasvavat, koska tekoäly on yhä helpommin saatavilla. Uhka-aktöörit pystyvät nyt käyttämään tekoälytyökaluja, joilla he voivat iteroida malwarea, luoda uskottavampia phishingsähköposteja ja tehostaa hyökkäyksiään. Nämä taktiikat eivät ole “uusia”, mutta niiden nopeus ja tarkkuus, joilla ne toteutetaan, on lisännyt merkittävästi jo olemassa olevaan tietoturva-uhkiin, joita tietoturva-ryhmät joutuvat käsittelemään. Organisaatiot kiirehtivät toteuttamaan tekoälytekniikkaa, mutta eivät ymmärrä, että turvallisuuden valvontaa on asetettava sille, jotta se ei ole helppo kohde hyökkääjille.

Onko jotain tiettyjä aloja tai sektoreita, jotka ovat alttiimpia näille tekoälyyn liittyville uhille, ja miksi?

Aloit, jotka jakavat dataa kanavien välillä työntekijöiden, asiakkaiden tai asiakkaiden kanssa, ovat alttiimpia tekoälyyn liittyville uhille, koska tekoäly tekee siitä helpomman hyökkääjille osallistua uskottaviin sosiaalisiin insinööritöihin. Phishing-huijaukset ovat tehokkaita, ja jos hyökkääjät voivat nyt lähettää aidon näköisiä sähköposteja laajemmalle joukolle vastaanottajia, heidän onnistumisprosenttinsa kasvaa merkittävästi. Organisaatiot, jotka altistavat tekoälypalvelujaan julkisesti, kutsuvat mahdollisesti hyökkääjiä kokeilemaan niiden hyödyntämistä. Vaikka se on periytyvä riski julkisista palveluista, on tärkeää tehdä se oikein.

Mitkä ovat avainhaavoittuvuudet, joita organisaatiot kohtaavat, kun ne käyttävät julkisia LLM:itä liiketoimintafunktioihin?

Data-vuoto on todennäköisesti ykköshaaste. Kun käytetään julkista suurta kielen mallia (LLM), on vaikea sanoa, minne se data menee – ja viimeinen asia, mitä haluat tehdä, on vahingossa ladata arkaluontoista tietoa julkisesti saataville tekoälytyökaluun. Jos tarvitset luottamuksellista dataa analyysiin, pidä se sisällä. Älä käytä julkisia LLM:itä, jotka voivat vuotaa tietoa laajempaan internetiin.

Miten organisaatiot voivat tehokkaasti suojella arkaluontoista dataa, kun he testaavat tai toteuttavat tekoälyjärjestelmiä tuotantoon?

Kun testaavat tekoälyjärjestelmiä tuotannossa, organisaatioiden tulisi omaksua hyökkäävä mieli (ei puolustava). Tarkoitan, että tietoturva-ryhmien tulisi proaktiivisesti testata ja validoida tekoälyjärjestelmien turvallisuutta, sen sijaan että reagoivat saapuviin uhkiin. Jatkuvasti seurataan hyökkäyksiä ja validoidaan turvallisuusjärjestelmiä voidaan varmistaa, että arkaluontoinen data on suojattu ja turvallisuusratkaisut toimivat odotetusti.

Miten organisaatiot voivat proaktiivisesti puolustautua tekoälyohjatuilta hyökkäyksiltä, jotka kehittyvät jatkuvasti?

Hyökkääjät käyttävät tekoälyä kehittääkseen uhkia, mutta tietoturva-ryhmät voivat myös käyttää tekoälyä päivittääkseen murto- ja hyökkäysmallin (BAS) työkaluja, jotta ne voidaan varmistaa, että ne ovat suojattu uusimmilta uhilta. Työkalut, kuten Cymulaten päivittäinen uhkailmoitus, lataavat uusimmat uhkat Cymulaten murto- ja hyökkäysmallin ohjelmistoon päivittäin, jotta tietoturva-ryhmät voivat validoida organisaatioiden tietoturvan uusimpien uhkien vastaisesti. Tekoäly voi auttaa automatisoimaan prosesseja, kuten näitä, jotta organisaatiot voivat pysyä joustavina ja valmiina kohtaamaan jopa uusimmat uhkat.

Mikä on automaattisen turvallisuusvalidoinnin rooli, kuten Cymulate, uhkien vähentämisessä, jotka liittyvät tekoälyyn perustuviin tietoturva-uhkiin?

Automaattinen turvallisuusvalidointi voi auttaa organisaatioita pysymään uusimpien tekoälyyn perustuvien tietoturva-uhkien tasolla työkaluilla, jotka on suunniteltu tunnistamaan, validointiin ja priorisointiin uhkia. Koska tekoäly toimii hyökkääjien voimakertoimena, on tärkeää, että ei vain havaita potentiaalisia haavoittuvuuksia verkossa ja järjestelmissä, vaan validoida, mitkä uhkat ovat todellinen uhka organisaatiolle. Vasta silloin voidaan tehokkaasti priorisoida altistumisia ja vähentää vaarallisimpia uhkia ensin, ennen siirtymistä vähemmän kiireellisiin kohteisiin. Hyökkääjät käyttävät tekoälyä tutkimaan digitaalisia ympäristöjä potentiaalisista heikkouksista ennen hyökkäyksen käynnistämistä, joten kykyä vastata vaarallisiin haavoittuvuuksiin automaattisesti ja tehokkaasti on koskaan ollut tärkeämpää.

Miten organisaatiot voivat sisällyttää murto- ja hyökkäysmallin (BAS) työkalut valmistautuakseen tekoälyohjatuille hyökkäyksille?

BAS-ohjelmisto on tärkeä osa altistumisen hallintaa, joka mahdollistaa organisaatioiden luominen todellisia hyökkäyskuvauksia, joita voidaan käyttää validointiin tietoturvaohjelmia vastaan nykyisimpiä uhkia. Uusimmat uhkaindot ja ensisijaiset tutkimukset Cymulaten uhkaindotusryhmältä (yhdistettynä tietoon uusista uhkista ja uusista simulaatioista) sovelletaan päivittäin Cymulaten BAS-työkaluun, joka ilmoittaa tietoturva-johtajille, jos uusi uhka ei ollut estetty tai havaittu olemassa olevilla tietoturvaohjelmilla. BAS: n avulla organisaatiot voivat myös räätälöidä tekoälysimulaatioita yksilöllisiin ympäristöihin ja tietoturvastrategioihin avoimella kehyksellä luoda ja automatisoida mukautettuja kampanjoita ja edistyneitä hyökkäyskuvauksia.

Mitkä ovat kolme tärkeintä suositusta, joita antaisit tietoturva-ryhmille pysyäkseen edellä näitä uusia uhkia?

Uhat muuttuvat yhä monimutkaisemmiksi. Organisaatiot, joilla ei ole tehokasta altistumisen hallintaa, vaarantavat jäävänsä vaarallisesti jälkeen, joten ensisijainen suositukseani olisi toteuttaa ratkaisu, joka mahdollistaa organisaatiolle altistumisen priorisoinnin. Seuraavaksi varmistaisin, että altistumisen hallintaratkaisu sisältää BAS-ominaisuudet, jotka mahdollistavat simuloimalla uusia uhkia (tekoälyä tai muuta) arvioida, miten organisaation tietoturvaohjelmat suoriutuvat. Lopulta suosittaisin tekoälyn käyttämistä validoinnin ja testauksen automatisointiin, jotta ne voidaan tehdä jatkuvasti, ei vain ajoittaisissa tarkastelussa. Uhka-alue muuttuu minuuttien tasolla, joten on kriittinen olla ajan tasalla.

Mitkä kehityssuunnat tekoälytekniikassa ovat seuraavien viiden vuoden aikana, jotka voivat joko pahentaa tai vähentää tietoturvariskejä?

Paljon riippuu siitä, kuinka helposti tekoäly on saatavilla. Tällä hetkellä alempitasoiset hyökkääjät voivat käyttää tekoälyominaisuuksia parantamaan ja tehostamaan hyökkäyksiään, mutta he eivät luo uusia, ennennäkemättömiä taktiikoita – he tekevät vain olemassa olevista taktiikoista tehokkaampia. Tällä hetkellä voimme (melkein) kompensoida sen. Mutta jos tekoäly jatkaa kehittymistään ja säilyy helposti saatavilla, se voi muuttua. Sääntelyllä on rooli tässä – EU (ja jonkin verran Yhdysvallat) on ottanut askelia tekoälyn kehittämisen ja käytön sääntelyyn, joten on mielenkiintoista nähdä, vaikuttaako se tekoälyn kehitykseen.

Odottavatko organisaatiot muutosta tekoälyyn liittyvien tietoturva-uhkien priorisoinnissa verrattuna perinteisiin tietoturvahaasteisiin?

Jo näemme, miten organisaatiot tunnustavat ratkaisujen, kuten BAS ja altistumisen hallinnan, arvon. Tekoäly mahdollistaa hyökkääjille nopeasti käynnistää edistyneitä, kohdennettuja kampanjoita, ja tietoturva-ryhmien tarvitsee kaikki mahdolliset edut pysyäkseen heidän edellään. Organisaatiot, jotka käyttävät validointityökaluja, ovat merkittävästi helpommin ylläpitämässä päänsä vedenpinnan yläpuolella priorisoiden ja vähentäen vaarallisimpia uhkia ensin. Muista, että useimmat hyökkääjät etsivät helppoa saalista. Et voi estää jokaista hyökkäystä, mutta voit välttää olemasta helppo kohde.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Cymulatessa.