Auktoriteetin uudelleenmäärittely C‑tason johdossa: Mitä suhteen luominen tekoälyn kanssa oikeasti vaatii

Olen työskennellyt 25 vuotta tietoturvaoperaatioiden ostajapuolella, enkä ole koskaan menettänyt unta palomuurisäännöstä. Kuitenkin olen menettänyt unta tekoälystä. Perinteinen automaatio, riippumatta sen monimutkaisuudesta, noudattaa jäljitettävissä olevaa logiikkaa. Mutta tässä ennennäkemättömässä agenttipohjaisen tekoälyn mittakaavassa järjestelmiä luotetaan tekemään päätöksiä, joita insinöörit eivät aina pysty täysin selittämään – juuri tämä läpinäkyvyyden puute on syy siihen, miksi niin monet CISO:t ovat pulassa.

97% tietoturvajohdosta on varmoja, että tekoäly pystyy hoitamaan triage‑vaiheen, mutta vain 35 % käyttää sitä siellä. Tämä käännekohta on luottamusongelma, ja luottamus voidaan ratkaista vain kuten aina – rakenteen, todisteiden ja ajan avulla.

Voit nähdä automaation, mutta voitko luottaa tekoälyyn?

Perinteisen automaation avulla toimijat voivat varmuudella tietää, mitä tapahtuu ennen kuin se tapahtuu. Tämä läpinäkyvyys on syy siihen, miksi SOC‑tiimit ovat kuluttaneet vuosikymmenen rakentaen luottamusta automatisoituihin työnkulkuihin ilman suurta sisäistä keskustelua, mutta agenttipohjainen tekoäly on rikkoen mallin esittelemällä opitun päätöksentekokerroksen – järjestelmän, joka painottaa kontekstia, tekee ennustavia päätöksiä ja päätyy johtopäätöksiin prosessin kautta, joka ei aina ole täysin luettavissa, edes niiden tekijöiden silmin.

Vain 21% organisaatioista sanoo, että niillä on kypsä hallintomalli agenttipohjaiselle tekoälylle, vaikka 74 % odottaa käyttävänsä AI‑agentteja ainakin “kohtalaisesti” vuoteen 2027 mennessä. Kun tietoturva‑ammattilaiset eivät pysty läpinäkyvästi selittämään tätä “black box AI” -tyyppiä, se on osoitus tekoälytyökalujen hallinnan vaikeudesta. Kyse ei ole siitä, että työkaluja ei suojata kunnolla, vaan siitä, että tekoälytyökalun sisäinen toiminta perustuu päätöksentekoon eikä kaaviokuvioon.

Hallintokokouksissa johtajat arvioivat tekoälyä samalla tavalla kuin automaatiota, kysyen “voinko nähdä logiikan”, sen sijaan että kysyisivät “kuinka ansaitsen luottamuksen päätöksentekijään, jonka logiikka kehittyy?” Useimmat CISO:t tietävät todennäköisesti jo vastauksen, mutta haaste on soveltaa sitä käytännössä.

Kohdellaan tekoälyä kuin korkean panoksen rekrytointia

Ajattele uuden vanhemman analyytikon perehdyttämistä. CISO ei antaisi täysin uudelle analyytikolle tuotannon avaimia ensimmäisenä päivänä, riippumatta siitä, kuinka vahva CV on. Hän aloittaisi heidät vähäriskiseen työhön, tarkkailee, miten he käsittelevät epäselvyyttä, ja laajentaa heidän valtuuksiaan sitä mukaa kun he ansaitsevat sen. Tekoäly ansaitsee samanlaisen perehdytyksen, joka perustuu todisteisiin ja luottamukseen, joka kasvaa ajan myötä.

Olemme jo nähneet vaikutukset käytännössä, kun autonomous Meta AI agent triggered koko yrityksen laajuisen tietoturvapoikkeaman toimimalla ilman ihmisen hyväksyntää, paljastaen arkaluonteista yritys- ja käyttäjätietoa luvattomille työntekijöille noin kahden tunnin ajan ennen kuin ongelma saatiin hallintaan. Perimmäinen syy oli ihmisen puuttuminen päätöspisteessä, jossa eksplisiittinen hyväksyntä olisi pitänyt olla vaadittu. Tämä on juuri se epäonnistumismalli, jonka tiukat suojarajat on suunniteltu estämään, ja se muistuttaa, että laajuuskurinalaisuus on tärkeämpää kuin mallin hienostuneisuus.

Tekoäly ansaitsee saman huomion, ja voimme ajatella sitä todisteisiin perustuvana porttina:

• Ymmärrä päätöksentekologiikka ennen käyttöönottoa. Sinun ei tarvitse nähdä mallin jokaista painoa, mutta sinun täytyy tietää, mitä dataa se käyttää, mitä tuloksia se optimoi ja missä sen sokeat pisteet todennäköisesti sijaitsevat.
• Aseta tiukat suojarajat ensimmäisenä päivänä. Määrittele tarkasti, mitä järjestelmä voi toimia itsenäisesti ja mikä vaatii ihmisen puuttumista. Kapea laajuus on perusta, jolle luottamus rakentuu.
• Laajenna rajoja vain kun todisteet kerääntyvät. Jokainen oikea päätös on datapiste, ja jokainen virhekin on datapiste. Laajenna aukkoa suhteessa saavutettuun historiaan, ei toimittajan innostukseen tai budjettisyklien mukaan.

Näiden noudattaminen protokollana auttaa torjumaan CISO:n pelkoja, mukaan lukien autonomisen järjestelmän estäminen toimimasta sen pisteen jälkeen, kun kukaan ei ole varmistanut sen ansaitsevan luottamuksen.

Kolmikerroksinen malli: Missä tekoäly ansaitsee paikkansa

SANS:n Secure AI Blueprint esittelee hallintarakenteen, joka perustuu kolmeen polkuun: AI:n suojaaminen, AI:n hyödyntäminen ja AI:n hallinta, kattaen kuusi valvontakategoriaa, kuten pääsy, data, käyttöönotto, inferenssi, valvonta ja mallin turvallisuus. Tämä on hyödyllinen lähtökohta, ja yhden askeleen pidemmälle mennessä on hyödyllistä jäsentää suhde jakamalla SOC kolmeen kerrokseen AI‑luottamusongelman ratkaisemiseksi.

1. Tulos. Tämä on kerros, jossa liiketoimintariskit elävät. Mitä organisaatio pitää hyväksyttävänä tuloksena? Mikä on sietokyky väärien negatiivisten ja väärien positiivisten välillä? Tämä on ihmisen päätös, piste. Mikään malli ei saa äänestää siitä, mihin organisaatio on valmis ottamaan riskejä.
2. Arviointi. Tässä asetetaan prioriteetit ja tehdään kompromisseja epäselvyydessä. Pitäisikö tämä hälytys eskaloida heti vai odottaa lisäkontekstia? Onko tämä poikkeama arvoinen keskeyttämään jonkun yö? Arviointiin voi sisällyttää tekoälyä, ja yhä enemmän sen pitäisi, mutta lopullinen valta pysyy ihmisen käsissä. Tämä on kerros, johon useimmat organisaatiot ovat houkuteltuja luovuttamaan liian aikaisin, ja se on se, joka polttaa heidät, jos näin tehdään.
3. Suoritus. Tässä tekoälyn tulisi tehdä raskas työ, ja tehdä se nopeudella, jota mikään ihmistiimi ei pysty saavuttamaan. Hälytyksen rikastaminen, signaalien korrelointi kymmenen työkalun yli, eristystoimenpiteen laatiminen, pelikirjan ajaminen, kun ihminen tai luotettu arviointikerros on hyväksynyt polun. Koneen nopeus, deterministinen kun käynnistetty, ilman egoa.

Kumppanuuden kypsyttäminen, ei pelkästään työkalun hallintaa

Kun tekoälyn suhde SOC:iin rakennetaan kumppanuutena eikä työkalun valvontana, CISO:t voivat alkaa ajatella tekoälyä kehittyvänä tiimikaverina, mikä johtaa perustavanlaatuiseen muutokseen siinä, miten CISO käyttää aikaansa.

SOC:t, jotka pystyvät tasapainottamaan tämän suhteen, ovat ne, joilla on kurinalaisin luottamuksenrakennusprosessi. Tämä kurinalaisuus mahdollistaa tietoturvaoperaation skaalautumisen koneen nopeudella suorituskerroksessa menettämättä ihmisen päätöksentekoa, jota tulokselliset päätökset edelleen vaativat, ja tulevat aina vaatimaan.

Olemme ohittaneet hetken, jolloin tekoäly nähtiin kiiltävänä uudena työkaluna vaikuttamassa hallitustilaisuuksiin. Tekoälyn kyvyt ja potentiaali ovat ansainneet auktoriteetin tulla kohdelluksi samalla tavalla kuin kaikki SOC:ssa ovat aina kohdelleet edistynyttä teknologiaa, yksi vahvistettu päätös kerrallaan.