Paul Reid, AttackIQ:n vihollisen tutkimuksen varapuheenjohtaja – Haastattelusarja

Paul Reid, AttackIQ:n vihollisen tutkimuksen varapuheenjohtaja, on kokenut ammattilainen nopeasti muuttuvassa kyberTurvallisuuden maailmassa. Yli kaksi vuosikymmentä teknologian strategina johtavissa teknologiayrityksissä, Paul on ohjannut asiakkaita, kumppaneita, analyytikkoja ja toimittajia kehittyvän kyberTurvallisuuden maisemassa. Hänen asiantuntemuksensa kattaa kyberTurvallisuuden, biometrian, verkkoturva ja salakirjoituksen.

Viimeaikaisimmissa tehtävissään hän on johtanut joukkoa kyberuhkaiden metsästäjiä, jotka keskittyvät käyttäytymisanalytiikkaan uusien uhkien havaitsemiseksi asiakkaiden ympäristössä. Paul on julkaissut kirjoituksia Prentice Hall Series in Computer Networking and Distributed Systems -sarjassa ja hänellä on useita kyberTurvallisuuteen liittyviä patenteja.

AttackIQ on johtava kyberTurvallisuusyhtiö, joka erikoistuu murto- ja hyökkäyssimulaatioon (BAS) ja jatkuvaan turvallisuuden validointiin. Sen Adversarial Exposure Validation -alusta käyttää MITRE ATT&CK-pohjaista emulaatiota testaamaan turvallisuuden valvontaa, tunnistamaan haavoittuvuudet ja priorisoida korjaamiset. Perustettu vuonna 2013, AttackIQ auttaa organisaatioita parantamaan puolustusasemiaan, tehostamaan SOC-tehokkuutta ja vähentämään riskiä.

Olet johtanut useita rooleja eri kyberturvallisuusalueilla yli kaksi vuosikymmentä. Mikä herätti sinut vihollisen tutkimukseen, ja miten se matka johti sinut AttackIQ:hen?

Matkani kyberturvallisuuteen alkoi yli 25 vuotta sitten, kun asensin Novell-verkkoja ja työskentelin hakemistopalvelujen parissa — Novell, Microsoft Active Directory, LDAP. Se varhainen kokemus opetti minulle identiteetin, todennuksen ja pääsyn tärkeyden, jotka ovat turvallisuusstrategian perusta.

Siitä lähtien siirryin älykorttien todennukseen, jossa minulla oli mahdollisuus kirjoittaa PKCS #11 -kirjastoja ja syventyä julkisen avaimen infrastruktuuriin (PKI) sen nopean kasvun aikana. Symmetrisen ja asymmetrisen salakirjoituksen työskentely aikana antoi minulle oikean käsityksen siitä, miten salakirjoitus muokkaa luottamusta digitaalisissa ympäristöissä.

Myöhemmin urallani siirryin tietoluokitteluun, jossa auttin organisaatioita ymmärtämään datansa arvoa, jotta he voivat suojella sitä, mikä on tärkeintä. Se kokemus johti luonnollisesti käyttäjän ja entiteetin käyttäytymisanalytiikkaan (UEBA), jossa sain käytännön kokemusta datasta ja koneoppimisesta, mukaan lukien ohjelmointi R-kielellä.

Lopulta olin onnekas johtaessani maailmanlaajuista uhkienmetsästysjoukkoa, jossa seurattiin valtioiden uhkia reaaliajassa. Se oli intensiivinen ja silmä avaava aika. Ei ole parempaa tapaa ymmärtää vihollisen taktiikkaa, tekniikoita ja prosesseja (TTP) kuin osallistua päivittäin heidän toimintaansa.

Silloin tuli esiin toistuva frustraatio: usein sanottiin, “Jos vain he olisivat tehneet X tai olisivat olleet varustettuina Y -valvonnalla…” Väliä oli uhkien tiedostamisen ja toiminnallisen puolustusvalmiuden välillä.

Siksi päädyin AttackIQ:hen. Mahdollisuus soveltaa oppimaani — emuloimaan todellisia vihollisia murto- ja hyökkäyssimulaation kautta ja validoida, ovatko puolustukset todella tehokkaita — oli liian houkutteleva jätettäväksi. Täällä emme vain teoreetisoi uhkista; testaamme, mitaatamme ja parannamme niitä joka päivä.

Meidän tiimimme toimii ohjaavan periaatteen mukaan: “Ajattele pahaa, tee hyvää.” Ajattelemme vihollisen tavoin, ei vahingoittaaksemme, vaan auttaaksemme asiakkaitamme valmistautumaan ja voittamaan heidät.

Olet johtanut tiimejä TITUS:ssa, Intersetissä ja Micro Focusissa, miten kokemuksesi uhkien tiedosta ja kumppanien mahdollistamisesta on muovannut lähestymistapaa operationalisoida vihollisen emulaatiota?

Työskennellessäni sekä teknisissä että markkinointirooleissa yrityksissä kuten TITUS, Interset ja Micro Focus, olen kehittänyt kokonaisvaltaisen ymmärryksen siitä, miten uhkien tiedostamisen on muunnettava toiminnallisiin tuloksiin, eikä vain näkemyksiin. Kumppanien mahdollistaminen opetti minulle, miten viestittää monimutkaisia kyberturvallisuusongelmia tapahtuvasti ja merkityksellisesti erilaisille yleisöille, CISO:ista eturintamajoukkoihin SOC-analyytikoille.

AttackIQ:ssa vihollisen emulaatio ei ole vain uhkakäyttäytymisen toistoa. Se on kytkettynä MITRE ATT&CK-kehykseen, emuloimaan vihollisia uskollisesti ja auttamaan organisaatioita testaamaan, kestävätkö heidän puolustuksensa todellisissa tilanteissa. Se vaatii enemmän kuin teknistä tarkkuutta; se vaatii koulutusta, yhteistyötä ja sidosryhmien osallistamista turvallisuuden ekosysteemiin.

Aikaisemmat roolini auttoivat minua ymmärtämään, miten silittää väliä tiedon ja toiminnan välillä — miten operationalisoida uhkamaisema proaktiivisesti, mitattavasti ja puolustettavasti. Se on AttackIQ:n tehtävän ydin.

Olet nyt johtaja vihollisen tutkimuksessa aikana, jolloin hyökkääjät omaksuvat AI:a laajassa mittakaavassa. Miten olet nähnyt hyökkääjien AI-hyökkäysten kehittyvän viime vuosina — ja miten puolustajat kamppailevat pysymään mukana?

Hyökkääjät käyttävät AI:a lisätäkseen hyökkäystensä nopeutta, tarkkuutta ja mittakaavaa. Näemme enemmän henkilökohtaisia ja uskottavia phishingsähköposteja, AI-luotuja sosiaalisen insinöörityön ja suurempaa hyökkäysten tehokkuutta. Nämä ominaisuudet vähentävät aikaa tiedustelun ja hyökkäyksen välillä, puristaen puolustajan reagointiajan. Monet organisaatiot riippuvat edelleen reaktiivisista prosesseista ja staattisista havaintasäännöistä, jotka eivät ole suunniteltu käsittelemään hyökkääjiä, jotka oppivat ja kehittyvät. Puolustajien on omaksuttava jatkuva validointi ja altistumisen hallinta sulkeakseen tämän aukon, testaakseen puolustuksiaan realistisissa olosuhteissa ja iteroidakseen nopeasti uusien vihollisen käyttäytymisen mukana.

Mikä erottaa vihollisen AI:ta perinteisistä kyberuhkista, ja miksi uskot, että mielentilan muutos — ei vain työkalujen — on tarpeen vastata tehokkaasti?

Perinteiset uhkat seuraavat usein tunnettuja malleja, joita puolustajat voivat jäljittää ja lieventää sääntöpohjaisella havainnolla. Vihollisen AI-taktiikat tuovat uuden tason muuttuvuutta ja sopeutumiskykyä, joka haastaa nämä oletukset. Ne voivat generoida uusia hyökkäysreittejä ja välttää puolustuksia dynaamisesti. Tähän muutokseen reagointi vaatii enemmän kuin uusien työkalujen käyttöönotto. Se vaatii strategisen muutoksen siinä, miten organisaatiot ajattelevat puolustamisesta. Sen sijaan, että reagoivat tapahtumiin jälkikäteen, turvallisuustiimit tarvitsevat simuloivia kehittyviä uhkia käyttämällä tunnettuja taktiikkoja, tekniikoita ja prosesseja (TTP) ja proaktiivisesti validoida valvontaa testaamaan järjestelmien reagointia. Uhka-avustuksella tuettu mielentila, jota tukee todellinen emulaatio, on avain tämän uuden riskin ennakointiin ja torjuntaan.

Voihsit selittää, miten AttackIQ kääntää uhkien tiedon käytännölliseksi puolustukseksi vihollisen emulaation kautta, ja miten tämä prosessi on muuttunut AI:n kehittyessä?

Perinteinen haaste uhkien tiedossa on operationalisointi, silta uhkien tiedon ja toiminnan välillä. Vihollisen emulaatio ratkaisee tämän muuttamalla uhkakäyttäytymisen tiedon toimintakykyisiksi testeiksi, jotka arvioivat, kestävätkö nykyiset puolustukset näitä käyttäytymisiä vastaan. AI:n myötä uhkamaisema muuttuu joustavammaksi, ja emulaatiotkin tulee heijastaa sekä staattisia tekniikoita että sopeutuvaa ja kontekstuaalista käyttäytymistä. AttackIQ:ssa live-uhkien tiedot, jotka on kohdistettu MITRE ATT&CK:iin ja mallinnettu vihollisen käyttäytymistä, syötetään emulaatiosuunnitelmiin, jotka heijastavat todellisia hyökkäyksiä. Nämä emulaatiot asennetaan tuotantoympäristöön validoidaakseen, havaitsevatko turvallisuuden valvontalaitteet, estävätkö ne tai reagoivatko ne odotetusti.

Jatkuva uhkien altistumisen hallinta (CTEM) on muuttumassa yhdeksi keskeisimmistä osista kyberresilienssin strategioista. Miten organisaatioiden tulisi lähestyä CTEM:ää vastatessaan nopeasti sopeutuvia AI-voimaisia uhkia?

CTEM edustaa siirtymistä staattisista riskiarvioista dynaamiseen, tiedon johtamaan turvallisuuden validointiin. Kohtaamalla AI-voimaisia uhkia, organisaatioiden on kohdeltava altistumista liikkuvana kohteena. Se tarkoittaa altistumisen tunnistamista ja priorisointia aktiivisen testaamisen perusteella, ei pelkästään teoreettisen riskin perusteella.

Punaiset ja siniset tiimit tarvitsevat yhteistyötä simuloimaan sopeutuvia vihollisia ja jatkuvaan testaamiseen havaitsemis- ja reagointikykyjä. Organisaatiot, jotka omaksuvat tämän lähestymistavan, ovat paremmin varustautuneita sopeutumaan nopeasti, validoida investointejaan ja turvallisuuden valvontaa sekä ylläpitämään resilienssiä nopeasti muuttuvassa maisemassa.

AttackIQ:n “AI-turvallisuuden perusteet” -kurssi kattaa riskirunkoja kuten MITRE ATLAS ja AI RMF. Mitkä näistä kehyksistä ovat sinun mielestäsi vähiten käytettyjä tai väärin ymmärrettyjä yrityskohtaisissa ympäristöissä?

Yksi yleisin väärinkäsitys on taipumus kohdella kehyksiä kuten MITRE ATLAS ja AI Risk Management Framework (AI RMF) eristyneinä viiteaineistoina, eikä toiminnallisina työkaluina rakentamaan resilienssiä AI-käyttöjärjestelmiin.

MITRE ATLAS nähdään usein staattisena hyökkäystekniikoiden luettelona, jotka kohdistuvat AI/ML-järjestelmiin. Todellisuudessa ATLAS on taktinen vihollisen emulaati_kehyksistö, joka auttaa turvallisuustiimejä simuloimaan AI-spesifisiä uhkia — aina datan myrkyttämisestä ja mallin välttämisestä johtuvien manipulointeihin — ja validoida havainto-, lokitus- ja reagointikykyjä. Ongelma on, että useimmat yritykset eivät ole vielä kehittäneet tarvittavaa näkyvyyttä tai valvontaa havaitsemaan hyökkäyksiä ML-pipelineen, mikä tekee ATLASin proaktiivisen käytön murto- ja hyökkäyssimulaati_strategioissa kaikkein kriittisimmäksi. Se on aliedustettu työkalu testataksesi, miten AI-järjestelmät käyttäytyvät vihollisen paineen alla.

Sen sijaan NIST:n AI RMF usein ymmärretään väärin vain complianssi-työkaluksi. Se on itse asiassa strateginen hallintokehyksistö — yksi, joka tukee organisaatioita kartoittamaan AI-käyttötapauksia, mittaamaan riskejä (mukaan lukien ne, jotka aiheutuvat vihollisilta), hallitsemaan niitä priorisoinnin ja lieventämisen kautta ja upottamaan valvontaa järjestelmän elinkaaren aikana. Kun ATLAS on taktinen, AI RMF on strateginen. Kaksi kehyksistöä on erittäin täydentäviä: ATLAS mahdollistaa riskin validoinnin todellisen maailman simulaation kautta, kun taas AI RMF tarjoaa rakenteen hallita riskejä, määritellä omistajuutta ja kohdistaa AI-varmistuksen liiketoimintaprioriteetteihin.

Meidän AI-turvallisuuden perusteet -kurssissa opetamme, että yksi AI RMF:n vähiten käytetyistä osista on “Kartta” ja “Mittaus” -funktiot — erityisesti varhaisessa käyttöönotossa. Nämä funktiot kannustavat organisaatioita mallintamaan ei vain järjestelmän käyttö- ja väärinkäyttötilanteita vaan myös tunnistamaan vihollisen uhkat kontekstissa. Yhdistämällä tämän ATLASiin, organisaatiot voivat siirtyä teoreettisista huoleista operatiiviseen, testattavissa olevaan AI-turvallisuuteen.

Lopulta ohitettu mahdollisuus piilee käsittelyssä näitä kehyksiä akateemisina. Kun käytetään yhdessä, AI RMF ja ATLAS mahdollistavat uhka-avustuksella johtuvan, riskipohjaisen lähestymistavan turvallisuuden varmistamiseen, muuttaen korkean tason hallintaa todelliseksi varmistukseksi.

Mistä uhkista uskot, että CISO:t ovat vähiten valmistautuneita — ja miksi?

LLM03: 2025 Toimitusketjun haavoittuvuudet hyödyntävät kriittisiä sokeita pisteitä olemassa olevassa hallinnossa ja yrityksen luottamuksen oletuksissa pääsemällä valvontaa, joka ei alun perin suunniteltu AI/ML-järjestelmiä varten. Perinteiset turvallisuusohjelmat keskittyvät ohjelmistopaketteihin ja koodiriippuvuuksiin, mutta AI-mallit, usein kohdeltiina datavarastoina, puuttuvat samasta tarkastelusta. Tämä mahdollistaa komprometoiden esikoulutetun mallien, myrkytetyn LoRA-adapterin tai Hugging Facen sekoittamisen tuotantoympäristöön ilman verifiointia, koodimerkintää tai käyttäytymisen arviointia. Koska nämä mallit eivät laukaista staattista analyysiä tai malware-merkintöjä, ne käyttäytyvät unohdetuina uhkina, aktivoituen vain tiettyjen syötteiden tai olosuhteiden alaisena, jotka välttävät havaitsemisen.

Yritysten oletus, että luotettavat AI-ekosysteemit tai rekisterit voivat vaatia luotettavia standardeja, lisää ongelmaa. Turvallisuustiimit saattavat uskoa, että heidän DevSecOps-piippulinsa ja TPRM-ohjelmansa kattavat AI-riskit, mutta todellisuudessa useimmat eivät audioi datan perimystä, pakota mallin perimystä tai sovellaa SBOM-kaltaisia valvontoja AI-komponentteihin. Hyökkääjät hyödyntävät tätä väärää luottamusta manipuloimalla avoimen lähdekoodin mallityökaluja, takaisinportaamalla sovittimia tai myrkyttämällä dataa, jota käytetään hienosäätössä, upottamaan salaa haitallista käyttäytymistä. Ilman vihollisen punaisen tiimin emulaatiota ja hallintoa, joka ottaa nämä aukot huomioon, jopa hyvin turvalliset yritykset voivat joutua toiminnalliseen kompromissiin luotettavien, mutta vahvistamattomien AI-artefakteja kautta.

Kun punaiset ja siniset tiimit alkavat simuloida AI-käyttöisiä vihollisia, miten vihollisen emulaatio kehittyy? Olemme siirtymässä uuteen aikakauteen simulaatiopohjaiseen turvallisuuden validointiin?

Kun viholliset integroivat AI:ta toimintaansa, vihollisen emulaation on kehittynä siirtymällä kiinteistä kirjoista dynaamisiin, AI-tyyppisiin käyttäytymismalleihin: akselointi, etuoikeuksien eskaloituminen ja sopeutuvat taktiikat, tekniikat ja prosessit (TTP), jotka on mallinnettu heijastamaan sitä, miten todellinen AI-ohjattu hyökkääjä toimisi.

Olemme siirtymässä uuteen aikakauteen, jossa emulaatio muuttuu jatkuvaan ja tiedon johtamaan. Ei enää episodisia harjoituksia, simulaatiot integroidaan reaaliaikaisiin uhkien tietoihin ja toistetaan tuotannon kaltaisissa ympäristöissä, testaten valvontaa emergenttiin ja ennalta arvaamattomiin olosuhteisiin. CTEM:n kautta tämä lähestymistapa takaa, että turvallisuuden validointi muuttuu strategiseksi, operatiiviseksi toiminnoksi eikä pelkästään ruutuun merkityksi.

Mitä tulevia AI-riskejä huolestuttaa sinua eniten? Ja missä näet suurimman mahdollisuuden puolustajille päästä kurkistamaan kulman taakse?

Eniten huolestuttaa se, miten AI alentaa esteitä monimutkaisiin hyökkäyksiin laajassa mittakaavassa. Se, mitä vaati aiemmin syvää teknistä osaamista, on nyt yhä enemmän saatavilla kommodisoitujen AI-työkalujen kautta. AI voi automatisoida tiedustelun, generoida hyväksikäyttökoodeja ja räätälöidä mukautettuja phishingsähköposteja, toimien nopeammin kuin perinteiset puolustukset voivat sopeutua.

Toisaalta puolustajat ovat saaneet rinnakkaisen mahdollisuuden: käyttää AI:ta ja automaatiota proaktiiviseen puolustukseen. Automatisoimalla emulaation, kiihdyttämällä havaintaa ja priorisoida altistumista todellisen riskin perusteella, turvallisuustiimit voivat ennakoida vihollisen siirtoja eikä pelkästään reagoi niihin.

Kiitos haastattelusta, lukijoille, jotka haluavat oppia enemmän, kannattaa vierailla AttackIQ:ssa.