Ajatusjohtajat
Tekoäly voi skaalata tietoturvaa. Mutta mitä skaalataan?

Keskeiset kohdatSuuremman datamäärän käsittely ei automaattisesti paranna uhkien havaitsemista ilman…
Näytä lisää
- Suuremman datamäärän käsittely ei automaattisesti paranna uhkien havaitsemista ilman organisaatiokontekstia.
- Hienosäädetyt mallit voivat tukea laajamittaisia tutkimuksia ennustettavammilla kustannuksilla kuin huippumallit.
- Autonomian tulisi olla oikeassa suhteessa riskiin, ja hallinnointi tulisi suunnitella ennen agenttien skaalaamista.
Yritysten tietoturvatiimit kohtaavat nykyään enemmän toimintaa, telemetriatietoa ja hälytyksiä kuin ne pystyvät realistisesti tutkimaan manuaalisesti. Arviot vaihtelevat, mutta joidenkin tutkimusten mukaan tietoturvatoimintojen tiimi saa keskimäärin yli 4 400 hälytystä päivässä. Organisaatioiden kasvaessa ja ottaessa käyttöön lisää työkaluja sekä tekoälyn mahdollistaessa yhä useampia hyökkäyksiä hälytysten määrän odotetaan kasvavan. Näemme jo nyt yrityksiä, joiden ympäristöissä on kaksi miljoonaa päätepistettä. Kun tietoturvatiimit tutkivat näitä hälytyksiä manuaalisesti, ne eivät pysty tasaväkisesti vastaamaan hyökkääjiin, jotka hyödyntävät toiminnassaan yhä enemmän tekoälyagentteja.
Tekoälyagentit voivat muuttaa tilannetta puolustajien eduksi hoitamalla tutkimuksia ja muita toistuvia tehtäviä eri puolilla ympäristöä. Kyky käsitellä enemmän dataa ei kuitenkaan automaattisesti paranna uhkien havaitsemista tai niihin reagointia. Tarvitaan muutakin kuin skaalautuvuutta: tarvitaan kontekstia.
Kontekstin merkitys skaalautuvuuden arvioinnissa
Miljoonia päätepisteitä tutkivan agentin on ymmärrettävä, mitä se etsii, mikä kyseisessä ympäristössä on epätavallista toimintaa ja mitkä havainnot vaativat lisätutkimuksia. Ilman tätä kontekstia automaatio voi moninkertaistaa kohinan ja tuottaa epäolennaisia tai harhaanjohtavia päätelmiä.
On myös tärkeää muistaa, ettei jokainen organisaatio voi käyttää edistyneimpiä malleja jokaisen hälytyksen tutkimiseen: siitä aiheutuvat kustannukset nousisivat aivan liian suuriksi.
Tietoturvaympäristöt eroavat toisistaan infrastruktuurin, sovellusten, operatiivisten vaatimusten, sääntelyvelvoitteiden ja riskinsietokyvyn osalta. Puolustajien on pidettävä sovellukset toiminnassa, huolehdittava vaatimustenmukaisuudesta ja vältettävä toiminnan häiriintymistä.
Jotta agentit toimisivat tehokkaasti, niiden on hyödynnettävä organisaation tietämystä, kuten aiempia tutkimuksia, vakiintuneita toimintatapoja ja kokeneiden analyytikkojen harkintaa. Tätä tietämystä ei voi vain syöttää agentille taulukossa tai muussa muodossa, vaan sen on opittava havainnoimalla kokeneiden puolustajien työskentelyä.
Yritysten keskeinen kysymys on, miten organisaation kokemukseen perustuva tietämys voidaan muuntaa järjestelmiksi, jotka tekevät johdonmukaisia ja tilanteeseen sopivia päätöksiä koneen nopeudella.
Näin organisaation tietämys saadaan osaksi käytännön toimintaa
Organisaatiot tarvitsevat keinoja kerätä ja hyödyntää tutkimuksia ohjaavaa tietämystä, kuten aiempia tapauspäätöksiä, vakiintuneita toimintatapoja ja sitä, miten analyytikot tulkitsevat todisteita. Yrityksissä voi olla myös räätälöityjä prosesseja ja työkaluja sekä hiljaista tietoa, jotka on saatava talteen.
Mallien erikoistaminen on yksi mahdollinen lähestymistapa. Mallien hienosäätö yksittäisille yritysasiakkaille voi tukea laajamittaisia tutkimuksia ennakoitavammilla kustannuksilla ja samalla ylläpitää vahvaa suorituskykyä. Hienosäädetyt avoimen lähdekoodin mallit voivat soveltua erityisen hyvin tehtäviin, joissa käsitellään hyvin suuria päätepistemääriä.
Organisaatioiden on myös arvioitava agenttien suorituskykyä mallien, työnkulkujen ja yritysympäristöjen muuttuessa. Synteettiset ympäristöt eli digitaaliset kaksoset voivat tarjota edustavat testiympäristöt agenttien eri versioiden kokeilemiseen silloin, kun tuotantodataa ei enää ole saatavilla tai se on vanhentunut.
Hienosäätö ei ole ainoa tapa tarjota kontekstia. Vaihtoehtoisia lähestymistapoja ovat tiedonhaku, muisti, työnkulkujen orkestrointi ja eksplisiittiset käytäntöohjaukset. Keskeistä on, että valittu menetelmä parantaa agentin suorituskykyä siinä ympäristössä, jossa se toimii.
Laajamittainen autonomia edellyttää selkeitä rajoja, valvontaa ja koordinointia
Uhan oikea tunnistaminen on vasta osa haastetta. Agenttien on ymmärrettävä, mihin toimiin niillä on valtuudet, milloin tarvitaan ihmisen hyväksyntä ja miten vältetään häiritsemästä yrityksen tavanomaista toimintaa. Luotettavan käyttöönoton kannalta on olennaista määrittää, missä agentit voivat toimia itsenäisesti ja missä tarvitaan ihmisen päätöksentekoa.
Laajamittainen autonomia edellyttää myös mittakaavaetuja. Yritykset, jotka käyttävät edistyneimpiä malleja miljoonien tutkimusten tekemiseen, ajavat itsensä konkurssiin. Siksi on ensiarvoisen tärkeää löytää tehokkain tapa tehdä tutkimuksia tekoälymallilla, olipa kyseessä pieni kielimalli (SLM) tai suljettu malli.
Autonomian tason on oltava oikeassa suhteessa riskiin. Rutiininomaiset ja hyvin tunnetut tehtävät voivat soveltua itsenäisesti suoritettaviksi, kun taas merkittävillä seurauksilla varustetut tai häiriöitä aiheuttavat toimet voivat edellyttää ihmisen hyväksyntää tai lisävaltuutusta. Yritysten tietoturva edellyttää myös tiimien välistä koordinointia. Jos tutkimuksessa havaitaan uhka, jonka torjuminen vaatii palomuurin määritysten muuttamista, asian on siirryttävä saumattomasti kyseisestä järjestelmästä vastaavalle tiimille. Korjaustoimilla on oltava asianmukaiset valtuutukset, ja niistä on kannettava vastuu.
Hallintamallit ja työnkulkujen suunnittelu ovat siis olennaisia osia agenttien käyttöönotossa, eivät jälkikäteen lisättäviä valvontakeinoja, kun teknologiaa on jo skaalattu.
Tietoturvan tekoälyn seuraava menestysmittari on tulosten laatu
Organisaatioiden tulisi arvioida agentteja tuloksiin perustuvilla mittareilla, kuten tutkinnan tarkkuudella, väärien positiivisten ja väärien negatiivisten tulosten määrillä, tutkintaan ja korjaaviin toimiin kuluvalla ajalla, tutkintakohtaisella kustannuksella, eskalointien laadulla sekä valtuutuskäytäntöjen noudattamisella.
Jatkuva arviointi on välttämätöntä mallien ja työnkulkujen muuttuessa. Agenttien eri versioiden testaaminen edustavilla tapauksilla ja synteettisten ympäristöjen käyttäminen voi auttaa organisaatioita tunnistamaan regressiot ennen päivitysten käyttöönottoa tuotantoympäristössä.
Tietoturvajohtajien on punnittava automaation hyötyjä käyttöönottoon liittyviä toiminnallisia riskejä vasten. Sovellusten saatavuus, vaatimustenmukaisuuteen liittyvät velvoitteet, organisaation riskinsietokyky ja käyttöönoton aikataulut vaikuttavat kaikki siihen, kuinka nopeasti uusia ominaisuuksia voidaan ottaa käyttöön.
Tekoäly tarjoaa tietoturvatiimeille mahdollisuuden ratkaista pitkään jatkunut kapasiteettiongelma, mutta pelkkä mittakaava ei ole päämäärä. Todellinen mahdollisuus piilee siinä, että koneiden nopeus yhdistetään organisaation tuntemukseen, asianmukaisiin valtuuksiin ja ihmisten harkintakykyyn, jotta agentit voivat erottaa olennaisen, ryhtyä oikeisiin toimiin ja ottaa tarvittaessa mukaan oikeat ihmiset.












