Steve Wilson, Exabeamin Chief AI ja tuotejohtaja – Haastattelusarja

Steve Wilson on Exabeamin Chief AI ja tuotejohtaja, jossa hänen tiiminsä soveltaa viimeisintä AI-tekniikkaa todellisten kyberuhkien haasteiden ratkaisemiseen. Hän perusti ja toimii yhteistyössä OWASP Gen AI Security Projectin, joka on alan standardin OWASP Top 10 for Large Language Model Security -listan takana.

Hänen palkittu kirjansa, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), valittiin parhaaksi Cutting Edge Cybersecurity Bookiksi Cyber Defense Magazinen toimesta.

Exabeam on johtaja älykkäässä automaatiossa ja tiedonhallinnassa, joka mahdollistaa turvallisuustoiminnan maailman älykkäimmille yrityksille. Yhdistämällä AI:n mittakaavan ja voiman johtavien behavioral analytics- ja automaatio-ratkaisujen kanssa, organisaatiot saavat holistisen näkymän turvallisuusuhkiin, paljastavat poikkeamat, joita muut työkalut eivät huomaa, ja saavuttavat nopeammat, tarkemmat ja toistuvammat vastaukset. Exabeam mahdollistaa globaalien turvallisuustiimien taistelun kyberuhkia vastaan, vähentää riskejä ja sujuvoittaa toimintoja.

Uusi tehtäväsi on Chief AI ja tuotejohtaja Exabeamissa. Miten tämä heijastaa AI:n kehittyvää merkitystä kyberTurvallisuudessa?

Kyberturvallisuus oli yksi ensimmäisistä aloista, joka omaksui machine learningin – Exabeamissa olemme käyttäneet ML:ää havaintojohtimeemme yli kymmenen vuoden ajan, jotta voimme tunnistaa epätyypillisen käyttäytymisen, jota ihmiset yksinään saattavat missata. Uusien AI-tekniikoiden, kuten älykkäiden agenttien, saapumisella AI on kasvanut tärkeästä ehdottomasti keskeiseksi.

Yhdistetty roolini Chief AI ja tuotejohtajana Exabeamissa heijastaa tätä kehitystä. Yhtiössä, joka on sitoutunut upottamaan AI:n tuotteisiinsa ja alalla, jossa AI:n rooli on yhä kriittisempi, oli järkevää yhdistää AI-strategia ja tuote-strategia yhteen rooliin. Tämä integraatio varmistaa, että olemme strategisesti linjassa toimittamaan muunnoksellisia AI-vetämiä ratkaisuja turvallisuusanalyytikoille ja -tiimeille, jotka riippuvat meistä eniten.

Exabeam on uranuurtaja “agentic AI”:ssa turvallisuustoiminnassa. Voitko selittää, mitä se tarkoittaa käytännössä ja miten se eroaa perinteisistä AI-lähestymistavoista?

Agentic AI edustaa merkittävää kehitystä perinteisistä AI-lähestymistavoista. Se on toimintasuuntautunut – se aloittaa prosesseja, analysoi tietoa ja esittää näkemyksiä ennen kuin analyytikot edes pyytävät niitä. Pelkän datan analyysin lisäksi agentic AI toimii neuvonantajana, tarjoaa strategisia suosituksia koko SOC:lle, johdattelee käyttäjiä helpoimpiin voittoihin ja tarjoaa askelkohtaisen ohjeistuksen turvallisuusaseman parantamiseksi. Lisäksi agentit toimivat erikoistuneina ryhminä, eivät yhtenä kömpelönä chatbotina, ja ne on suunniteltu integroitumaan analyytikkojen, insinöörien ja johtajien työprosesseihin tarjoamaan kohdennettua, vaikuttavaa apua.

Exabeam Novan integroitua useita AI-agenteja SOC-työnkulkuun, miltä näyttää tulevaisuus turvallisuusanalyytikon roolille? Onko se kehittyvä, kutistuva tai tuleva erikoistuneemmaksi?

Turvallisuusanalyytikon rooli on selvästi kehittyvä. Analyytikot, turvallisuusinsinöörit ja SOC-päälliköt ovat ylikuormittuneita datalla, hälytyksillä ja tapauksilla. Todellinen tulevaisuuden muutos ei ole ainoastaan ajansäästö arkisissa tehtävissä – vaikka agentit todella auttavat siinä – vaan roolin korottaminen tiimijohtajan rooliin. Analyytikot tarvitsevat edelleen vahvoja teknisiä taitoja, mutta nyt he johtavat joukkoa agenteja, jotka kiihdyttävät heidän tehtäviään, vahvistavat heidän päätöksiään ja ajavat todellista parannusta turvallisuusasemassa. Tämä muutos asemoi analyytikot strategisten johtajien rooliin, eivät enää taktisten vastaajien.

Viimeiset tiedot osoittavat, että on ero johtajien ja analyytikkojen välillä AI:n tuottavuusvaikutuksen suhteen. Miksi luulet, että tämä havaintoero on olemassa, ja miten se voidaan ratkaista?

Viimeiset tiedot osoittavat selvän eron: 71% johtajista uskoo, että AI parantaa tuottavuutta merkittävästi, mutta vain 22% eturintamalla olevista analyytikoista, päivittäisistä käyttäjistä, on samaa mieltä. Exabeamissa olemme nähneet tämän eron kasvavan viimeaikojen AI-lupauksien myötä kyberturvallisuudessa. On helpompaa kuin koskaan luoda loistavia AI-demoversioita, ja toimittajat väittävät helposti, että he ovat ratkaisseet jokaisen SOC-haasteen. Vaikka nämä demot häikäisevät aluksi johtajia, ne usein epäonnistuvat siinä, missä se lasketaan – analyytikkojen käsissä. Mahdollisuus on olemassa, ja taskut todellista hyötyä ovat olemassa, mutta siinä on edelleen liian paljon melua ja liian vähän merkittäviä parannuksia. Tämän havaintoeron siltaamiseksi johtajien on priorisoitava AI-työkaluja, jotka todella tehostavat analyytikkoja, eivät vain häikäisevät demoissa. Kun AI todella parantaa analyytikkojen tehokkuutta, luottamus ja todelliset tuottavuusparannukset seuraa.

AI nopeuttaa uhkaiden havaitsemista ja reagointia, mutta miten ylläpidät tasapainon automaation ja ihmisen arvion välillä korkean panoksen kyberturvallisuustilanteissa?

AI-kapasiteetit kehittyvät nopeasti, mutta nykyiset perustavanlaatuiset “kielimalle”, jotka ovat älykkäiden agenttien perustana, suunniteltiin alun perin tehtäviin kuten kielentulkkaamiseen – eivät nuansenomaiseen päätöksentekoon, peliteoriaan tai monimutkaisten ihmisten tekijöiden käsittelyyn. Tämä tekee ihmisen arvion entistä tärkeämmäksi kyberturvallisuudessa. Analyytikon rooli ei vähene AI:n myötä; se korostuu. Analyytikot ovat nyt tiimijohtajia, jotka hyödyntävät kokemusta ja tietämystä ohjaamaan ja johtamaan useita agenteja, varmistaen, että päätökset säilyvät kontekstuaalisina ja nuansenomaisina. Lopulta, automaation ja ihmisen arvion tasapainon löytäminen on luomisesta symbioottista suhdetta, jossa AI vahvistaa ihmisen asiantuntemusta, eikä korvaa sitä.

Miten tuote-strategiasi kehittyy, kun AI:sta tulee ydin-suunnitteluperiaate eikä lisäominaisuus?

Exabeamissa tuote-strategiamme on perustaltaan muotoiltu AI:sta ydin-suunnitteluperiaatteena, eikä vain pinnallisena lisäominaisuutena. Rakensimme Exabeamin alusta alkaen tukemaan machine learningiä – lokien syöttämisestä, parsimisesta, rikastamisesta ja normalisoinnista – täyttämään vankkaa Common Information Modelia, joka on erityisesti optimoitu ruokkimaan ML-järjestelmiä. Laadukas, jäsennelty data ei ole vain tärkeää AI-järjestelmille – se on heidän elinkaarensa. Tänään upotamme älykkäät agenttimme kriittisiin työnkulkuihin, välttäen geneerisiä, kömpelöitä chatbotteja. Sen sijaan kohdennamme tarkkaan kriittisiin käyttötarkoituksiin, jotka tarjoavat todellisia, käytännön hyötyjä käyttäjillemme.

Exabeam Novan tavoitteena on siirtyä “avustavasta autonomiaan”. Mitkä ovat avainkohdat täydellisen autonomisen turvallisuustoiminnan saavuttamiseksi?

Täydellisen autonomisen turvallisuustoiminnan idea on mielenkiintoinen, mutta ennen aikojaan. Täysin autonomiset agentit, minkä tahansa alan, eivät ole vielä tehokkaita tai turvallisia. Vaikka AI-päätöksenteko paranee, se ei ole vielä saavuttanut ihmisen luotettavuutta eikä tule saavuttamaan sitä vielä pitkään aikaan. Exabeamissa lähestymistapamme ei olekaan täydellisen autonomian tavoittelu, jota ryhmäni OWASP tunnistaa yhtenä keskeisenä haavoittuvuutena, jota kutsutaan Liialliseksi Toimijuudeksi. Antaen agenteille enemmän autonomiaa kuin voidaan luotettavasti testata ja validoida asettaa toiminnat vaaralliseen maastoon. Sen sijaan tavoitteemme on joukko älykkäitä agenteja, jotka ovat kykeneviä, mutta huolellisesti johdettuja, toimivat ihmisen asiantuntijoiden valvonnassa SOC:ssa. Tämä yhdistelmä ihmisen valvontaa ja kohdennettua agenteista apua on realistinen, vaikuttava tie eteenpäin.

Mitkä ovat suurimmat haasteet, joita olet kohdannut integroitaessa GenAI:ta ja machine learningiä mittakaavassa, joka vaaditaan kyberturvallisuuden reaaliaikaisuuteen?

Yksi suurimmista haasteista GenAI:n ja machine learningin integroimisessa mittakaavassa kyberturvallisuudelle on nopeuden ja tarkkuuden tasapainon löytäminen. GenAI yksinään ei voi korvata suuren mittakaavan, minkä ML-moottorimme käsittelee – prosessoiden teratavuotteja dataa jatkuvasti. Jopa edistyneimmillä AI-agenteilla on “kontekstifenestri”, joka on vastaavasti riittämätön. Sen sijaan reseptimme sisältää ML:n käytön massiivisen datan tiivistämiseksi toimiviksi näkemyksiksi, jotka älykkäät agenttimme kääntävät ja operationalisoivat tehokkaasti.

Perustit OWASP Top 10 for LLM Applications -mitä inspiroi tätä, ja miten näet sen muotoilevan AI-turvallisuuden parhaiden käytäntöjen?

Kun lanseerasin OWASP Top 10 for LLM Applications -aloitteen alkuvuonna 2023, jäsenneltyä tietoa LLM- ja GenAI-turvallisuudesta oli niukasti saatavilla, mutta mielenkiinto oli erittäin suurta. Päivien kuluessa yli 200 vapaaehtoista liittyi aloitteeseen, tuoden monia mielipiteitä ja asiantuntemusta muotoilemaan alkuperäisen listan. Siitä lähtien se on luettu yli 100 000 kertaa ja on muodostunut kansainvälisen teollisuuden standardin perustaksi. Nykyään hanke on laajentunut OWASP Gen AI Security Projectiin, joka kattaa alueita kuten AI Red Teaming, agenteista järjestelmien turvallisuus ja GenAI:n hyökkäävien käyttötapauksien käsittely kyberturvallisuudessa. Ryhmämme on vastikään ylittänyt 10 000 jäsentä ja jatkaa edelleen AI-turvallisuuden parhaiden käytäntöjen kehittämistä maailmanlaajuisesti.

Kirjasi, ‘The Developer’s Playbook for LLM Security‘, voitti palkinnon. Mikä on tärkein oivallus tai periaate kirjasta, jonka jokainen AI-kehittäjän tulisi ymmärtää luotaessa turvallisia sovelluksia?”

Tärkein oivallus kirjastani, “The Developer’s Playbook for LLM Security”, on yksinkertainen: “suurella voimalla tulee suuri vastuu.” Vaikka perinteisten turvallisuuskäsitteiden ymmärtäminen on edelleen olennaista, kehittäjät kohtaavat nyt täysin uuden joukon haasteita, jotka ovat ainutlaatuisia LLM:lle. Tämä voimakas teknologia ei ole vapaa käsittely, vaan se vaatii proaktiivisia, tietoisia turvallisuuden käytäntöjä. Kehittäjien on laajennettava näkemystään, tunnustettava ja osoitettava nämä uudet haavoittuvuudet alusta alkaen ja upottava turvallisuutta jokaiseen vaiheeseen AI-sovelluksen elinkaarta.

Miten näet kyberturvallisuustyön kehittyvän seuraavan 5 vuoden aikana, kun agentic AI tulee yleisemmäksi?

Olemme parhaillaan AI-asekilpailun keskellä. Viholliset käyttävät agressiivisesti AI:ta edistääkseen pahantahtaisia tavoitteitaan, mikä tekee kyberturvallisuuden ammattilaisista tärkeämmän kuin koskaan. Seuraavat 5 vuotta eivät vähennä kyberturvallisuustyövoimaa, vaan korostavat sitä. Ammattilaisten on hyväksyttävä AI ja integroitava se tiimeihinsä ja työnkulkuihinsa. Turvallisuuden roolit siirtyvät strategiseen johtamiseen – vähemmän yksilöllisestä ponnistelusta ja enemmän agenteista johtamisesta. Tämä muutos antaa kyberturvallisuuden ammattilaisille mahdollisuuden johtaa päätöksellisesti ja luottavaisesti taistelussa jatkuvasti kehittyvää uhkaa vastaan.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Exabeamissa.