Ajatusjohtajat

Uudelleenajattelua AI‑kestävyyden suhteen: Miksi on aika hylätä ‘Aseta ja unohda’ -malli

Julkaistu
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Viimeaikainen Gallup‑kysely osoittaa kasvavan AI‑käytön trendiä, sillä yli puolet työssä olevista aikuisista sanoo käyttävänsä teknologiaa vähintään muutaman kerran vuodessa. Nämä tiedot ovat vain vihje nopeasta AI‑käytöstä, joka tapahtuu yritysympäristöissä. Vaikka useat yritysjohtajat ovat alkaneet kyseenalaistaa AI:n ROI:n, se ei ole estänyt organisaatioita turvautumasta teknologiaan manuaalisten tehtävien virtaviivaistamiseksi ja tuottavuuden maksimoimiseksi.

Kun tämä käyttöönotto jatkuu, organisaatiot voivat olla houkuteltuja sivuuttamaan haitalliset virheet automatisoiduissa työnkuluissa. Ne näkevät AI:n avaimet‑valmiina ratkaisuna, jossa IT‑tiimien tarvitsee vain asettaa teknologia, antaa sen toimia ja “unohtaa” sen olemassaolo. Jotkut turvallisuustiimit pyrkivät vastaamaan tähän ajatteluun luomalla automaatiopelikirjoja, joiden tarkoituksena on edistää turvallista AI‑käyttöä. Silti jopa parhaat IT‑ ja turvallisuustiimit jättävät näihin pelikirjoihin vähän tilaa säätämiselle. Tämän vuoksi yritykset eivät pysty turvallisesti kehittymään AI:n mukana, kuten teknologia itsessään kehittyy.

As enterprises grant AI more authority in business-critical workflows, operational agility must be the new mandate for today’s organizations. For this to become a universal practice, enterprise security leaders must abandon a “set-it-and-forget-it” mindset and engineer for resilience.

Automaatio­paradoksin ymmärtäminen

AI‑voimainen automaatio tarjoaa valtavia tuottavuusvoittoja useissa yritystoiminnoissa. Otetaan esimerkkinä kyberturvallisuus. AI‑työkalut antavat analyytikoille mahdollisuuden tehdä ylimääräisiä toimenpiteitä, joihin heillä ei aikaisemmin ollut aikaa ylikuormitetuissa ja uupuneissa turvallisuusoperaatioiden keskuksissa. Tämä sisältää tehtäviä, kuten hälytysten priorisointi, tapahtumien tarkastelu, uhkien havaitseminen, viittausten tarkistus ja toisen mielipiteen hankkiminen. Toisin kuin jotkut ylimmän johdon johtajat, CISO:t pysyvät yleisesti optimistisina AI:n tulevan arvon suhteen. “The CISO Report: From Risk to Resilience in the AI Era” -tietojen mukaan 83 % CISO:ista uskoo, että automaatio on investointi, jolla on suurin todennäköisyys ylittää odotukset.

Näiden hyötyjen edessä paradoksi on edelleen olemassa. Sama raportti korostaa CISO:iden skeptisyyttä AI:ta kohtaan, peläten autonomisten virheiden seurauksia. 83 % CISO:ista asettaa harhaluulojen, kuten ohitettujen hälytysten tai väärien positiivisten, vaikutukset suurimmaksi huolekseen agenttisesta AI:sta. Näihin harhaluuloihin on riittävästi todisteita. Suuri kaupallinen lentoyhtiö tuomittiin oikeudellisesti vastuulliseksi ja määrätty maksamaan korvauksia sen jälkeen, kun asiakaspalveluchatbot sekoitti surunlippujen palautuskäytännön. Uhkintatiedusteluyritys kohtaa oikeudellisia ongelmia, koska sen väitetään julkaisseen raportin, jossa yhdistetään startup ulkomaisen valtion hakkeriin. Kun AI tekee virheitä, seuraukset voivat ulottua sisäisten järjestelmien ulkopuolelle koskien sekä pääomaa että mainetta.

Vanhentuneiden pelikirjojen ongelma

AI‑keskeiset turvallisuuspelikirjat muodostavat perustan onnistuneelle ja turvalliselle AI‑käyttöönotolle. Ongelmat syntyvät kuitenkin, kun nämä pelikirjat eivät koskaan muutu. Uhat, IT‑infrastruktuuri ja liiketoimintaympäristöt kehittyvät jatkuvasti. AI mahdollistaa uhkatoimijoiden skaalata hyökkäyksiä, samalla kun laajenevat ja yhä monimutkaisemmat IT‑ympäristöt vaikeuttavat havaitsemista. Samanaikaisesti, kun yritykset antavat AI:lle enemmän vastuuta, virheiden seuraukset kasvavat merkittävästi.

Jos kaikki nämä tekijät jatkavat kehittymistään, myös automaatiologiikan on kehitettävä. Jäätyneet automaatiopelikirjat estävät tämän tapahtumasta. Ne jättävät turvallisuustiimit kohtaamaan nykyiset ongelmat vanhentuneella logiikalla. Joskus tämä tilanne voi päättyä pahempaan kuin jos turvallisuustiimillä ei olisi lainkaan pelikirjaa.

Jotta pelikirjoista tulisi elävä organismi, joka sopii nykyiseen AI‑toteutukseen ja edistää sisäistä kestävyyttä, niiden on oltava:

  • Jatkuvasti testattuja tuoretta uhkatietoa vastaan
  • Päivitettyjä todellisten tapausten jälkeen
  • Poistettuja käytöstä, kun ne eivät enää ole tehokkaita tai tarjoa arvoa

Tämä ajattelutapa on linjassa Cybersecurity and Infrastructure Security Agency (CISA) sekä muiden globaalien kyberturvallisuusviranomaisten ohjeiden kanssa, jotka edistävät AI‑järjestelmien jatkuvaa valvontaa ja jatkuvaa ihmisen puuttumista.

Kestävyyden kaavan toteuttaminen

AI‑kausi vaatii yrityksiä siirtymään pois ajattelutavasta, jossa AI nähdään piste‑ratkaisuna tai pelkästään automaation lisäämisenä olemassa oleviin käyttötapauksiin. Organisaatioiden on sen sijaan rakennettava kestävyyskulttuuri, joka mahdollistaa sekä IT‑henkilöstön että järjestelmien parantamisen siellä, missä AI toimii oikein — ja tehokkaan reagoinnin, kun teknologia tekee virheen.

Kolmiosainen käytännöllinen kaava voi auttaa sisällyttämään tämän kestävyyden automatisoituihin toimiin.

  • Confidence: Jokaisessa automatisoidussa työnkulussa tiimien tulisi kysyä itseltään: Kuinka varmoja olemme laukaisijasta, joka käynnisti automatisoidun vastauksen?
  • Reversibility: Onko toimenpide käännettävissä? Jos on, kuinka nopeasti ja turvallisesti voimme tehdä sen?
  • Blast Radius: Häiriön laajuus: Kuinka laajalle vaikutukset ulottuvat, jos virhe leviää, ja kuinka liiketoimintakriittinen vaikuttava resurssi on?

Oikeat havainnointiin ja valvontaan liittyvät työkalut ovat olennaisia näihin kysymyksiin vastaamiseksi. Tiimien tulisi hyödyntää yhtenäistä havainnointiin ja tiedonhallintaan tarkoitettua alusta, jotta ne voivat täysin ymmärtää, missä IT‑ympäristössä automatisoitu vastaus voi tapahtua, mitkä muut resurssit se vaikuttaa ja mitkä ovat siihen liittyvät liiketoimintaseuraukset. Tämän harjoituksen säännöllinen toteuttaminen mahdollistaa turvallisuustiimien pitää AI‑pelikirjat ajantasaisina. Lisäksi se mahdollistaa asianmukaiset ihmisen‑silmukassa -käytännöt, sillä IT‑tiimit tietävät, missä ja miten puuttua estääkseen virheelliset automatisoidut toimet laajalle levinneiltä ja kalliilta vaikutuksilta.

Aseta ja unohda -malli ei enää

On tärkeää, että nykyaikaiset CISO:t ja IT‑johtajat ymmärtävät, että vastuu AI‑käyttäytymisestä lopulta on heidän harteillaan. Mitä enemmän AI koskettaa tärkeää yritystyötä, sitä suurempi kuorma on pääkyberturvallisuusjohtajilla. Hyvä nyrkkisääntö on muistaa: “Automaatio muuttaa sitä, kuka painaa nappia. Se ei muuta sitä, kuka on vastuussa napin painamisesta.”

Nykyisen CISO:n panokset ja vastuu ovat liian suuret, jotta set-it-and-forget-it -pelikirjoja voitaisiin pitää voimassa. Sen sijaan kestävyys on oltava sekä käytäntö että kulttuuri, joka läpäisee koko yrityksen ja mahdollistaa sen palautumisen AI:n virheen jälkeen. Kun tiimit sisällyttävät jatkuvan valvonnan, käännettävyyden, rajoittamisen ja ihmisen omistajuuden automaatiopelikirjaan, yritykset voivat estää automatisoidun päätöksen muuttumisen koko organisaatiota koskevaksi ongelmaksi.

David Dalling on aihealueen asiantuntija, jolla on yli 20 vuoden kokemus tietoturvasta ja IT‑toiminnoista. David liittyi Splunkiin helmikuussa 2024 neljän vuoden jälkeen Accenturella, jossa hän toimi Cyber Chief Technology Officerina. Hän on menestynyt, motivoitunut ja monipuolinen IT‑ammattilainen, joka on työskennellyt monilla aloilla, aina käytännön järjestelmäkehityksestä, testauksesta ja hallinnasta yritystason strategiseen suunnitteluun ja konsultointiin.

David on ensimmäisten mies — hän auttoi DHS:n Enterprise Security Operations -ohjelmaa saamaan sen ensimmäisen ATO:n, kirjoitti DHS:lle ensimmäisen yhteisen kontrollipaketin ja sai turvallisuustekniikan palkinnon SOC‑mittaristoa kehittäessään, mikä edisti DHS:n ensimmäistä täydellistä tulostaulua. Hän johti myöhemmin ensimmäisen Managed XDR -palvelun kehittämistä, joka sai FedRAMP‑virallistuksen.

David toimii nyt Global Cyber Strategy -alueen GVP:nä, jossa hän ohjaa strategiaa ja markkinoillemenoa Splunkissa, työskennellen asiakkaiden kanssa heidän tähtitavoitteidensa ja tiekarttojensa parissa. Työn ulkopuolella David kanavoi saman energian seikkailuuralle — polkujuoksuun, maastopyöräilyyn ja melontaan, kuluttaen yli 100 mailia erämaassa.