Ajatusjohtajat

Kuinka AI-riskejä koskeva kulttuuri vaikuttaa organisaatioiden päätöksiin

Chad LeMaire
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatTehokkaan tekoälyriskikulttuurin edellyttää, että tietoturvapäällikkö ja…
Näytä lisää
  • Tehokkaan tekoälyriskikulttuurin edellyttää, että tietoturvapäällikkö ja osastopäälliköt jakavat todisteita ja puhuvat yhdellä yhtenäisellä äänellä.
  • Keskijohdon tehtävänä on varmistaa, että riskiohjeistukset juurtuvat päivittäiseen toimintaan eivätkä ohiteta niitä.
  • Tekoälyriskikulttuurin laajentaminen edellyttää puhtaita ja yhteenkytkettyjä tietoja, jotta mallit eivät tuottaisi virheellisiä tuloksia.

AI:n panos ja mahdollisuus merkittäviin vaikutuksiin ovat viime vuosina jääneet enimmäkseen puheiden tasolle, mutta nyt se on saapunut jokaiseen yritykseen, olipa kyse LLM:istä, automatisoiduista työnkuluista tai täysin itsenäisistä agenteista. Kuitenkin AI-teknologian nopea käyttöönotto ilman asianmukaisia turvallisuutta suojaavia rajoja voi olla haitallista organisaation arkkitehtuurille, asettaa IT-infrastruktuurin vaaraan ja lopulta vaarantaa kilpailukykyä. Lisäksi keskeneräiset AI-ohjelmat ja puutteellinen perustieto voivat aiheuttaa enemmän riskejä ja haavoittuvuuksia kuin tehokkuutta.

Tämän vuoksi yrityksien on otettava käyttöön ja toteutettava kypsä AI-riskejä koskeva kulttuuri, joka priorisoi protokollia ja menettelyjä hyötyjen ja ketteryyden edelle. Tämä parantaa organisaation turvallisuuden yleistilaa ja varmistaa, että AI-työnkulut ovat tehokkaita ja perustuvat kontekstuaaliseen tietoon. Tehokas AI-riskejä koskeva kulttuuri ei määräydy vain teknologian perusteella, vaan myös sisäisestä yhteistoiminnasta, jota syntyy, kun tietoturvajohtaja ja osastopäälliköt näkevät samat todisteet ja puhuvat yhdellä äänellä.

Läpinäkyvän ja mitattavan AI-riskikulttuurin luominen

Onnistuneen AI-riskejä koskevan kulttuurin luomiseksi CISO:iden ja turvallisuuden johtajien on annettava tiimeille valmiudet nopeaan ja eettiseen harkintaan sekä irtauduttava sokeasta sääntöjen noudattamisesta AI:n integroinnissa. Tämä alkaa määrittelemällä, miten AI-riskejä koskeva kulttuuri voidaan kohdistaa liiketoimintatavoitteisiin. Tämä määritys sallii johtajien mitata, ovatko työntekijät omaksuneet riskitietoista käyttäytymistä, osallistuvat avoimiin keskusteluihin ja osallistuvat proaktiiviseen riskien hallintaan.

On olemassa kolme pääasiallista mittauslähestymistapaa, jotka voivat määrittää, mihin kohtiin on tehtävä säätöjä ja miten tehokas ohjelma on: käyttäytymisen ja häiriöihin reagoinnin mittarit, riskien tunnistaminen ja sitoutumisen ja tietoisuuden mittarit. Häiriöihin reagoinnin mittarit mittaavat turvallisuusohjelmien tehokkuutta ja käyttäytymisen mittarit analysoivat käyttäjän käyttäytymistä ennen AI-häiriötä, sen aikana ja sen jälkeen. Riskien tunnistamisen mittarit seuraavat potentiaalisia AI-uhkia ennen kuin ne toteutuvat. Sitoutumisen ja tietoisuuden mittarit seuraavat koulutuksen tehokkuutta ja työntekijöiden käyttäytymistä AI-sovellusten riskien vähentämisessä.

Nämä mittarit eivät ainoastaan määritä turvallisuustoimien ja puolustusten tehokkuutta AI-hankkeissa, vaan myös paljastavat, ovatko työntekijät omaksuneet riskitietoista käyttäytymistä, kokevat ongelmista ilmoittamisen turvalliseksi ja priorisoivat proaktiivista riskien hallintaa. Ne auttavat paikantamaan kitkan lähteitä, kuten epäröintiä ilmoittaa ongelmista tai epäjohdonmukaista riskien keskustelua. Tämä voidaan saavuttaa vain, jos mittarit ovat selkeästi kommunikoitu, jotta työntekijät ymmärtävät, miten he ovat vaikuttamassa laajempaan kulttuurimuutokseen organisaatiossa.

Missä AI-riskejä koskeva kulttuuri menee rikki tai skaalautuu

Näiden mittauksien menestys riippuu lopulta siitä, miten johtajat ja päälliköt kääntävät ne kestäviksi käyttäytymismalleiksi. On tärkeää määrittää, muuttuuko tehokas kulttuuri sisäänrakennetuksi vai hajanaisemmaksi ajan myötä, ja se alkaa johtajuudesta, joka edustaa ylhäältä alas -sitoutumista.

Usein keskitason johto määrittää, vahvistetaanko riskiohjeistusta vai ohitetaanko sitä. Esimerkiksi tuotejohtajat, jotka sisällyttävät turvallisuusvaatimukset tiimien suunnitelmiin, auttavat riskitietoisen kulttuurin sisäänrakentamisessa, kun taas ne, jotka lykkäävät sitä julkaisun jälkeiseen aikaan, heikentävät kulttuuria, jonka johtajuus aikoi luoda. Johtajuuden sitoutumisen puute, muutosväsymys ja epävakaus sekä riittämättömät tietoperusteet voivat pysäyttää AI-riskejä koskevan kulttuurin ennen kuin se edes pääsee alkuun.

Tämänkaltaista kulttuuria ei voida kehittää, ellei sitä rakenneta ympäristössä, jossa työntekijät tuntevat olonsa turvalliseksi ilmoittaessaan tapahtumista. Johtajien ja päälliköiden on asetettava etusijalle avoimen vuoropuhelun ja jatkuvan oppimisen edellytysten luominen. Roolit on määriteltävä selkeästi, jatkuva koulutus on annettava ja budjetit on käytettävä tehokkaasti.

Toiseksi organisaatio, jolla on suuri työntekijöiden vaihtuvuus tai joka on käynyt läpi äskettäin uudelleenjärjestelyn, voi kamppailla turvallisuuskulttuurin kanssa, joka ei ole rakennettu sen perustaan. Tämä voi johtaa epäjohdonmukaisiin aloitteisiin ja epäselviin prioriteetteihin työntekijöille. Näissä tapauksissa vahva turvallisuusvalvonta verkkotasolla, joka näkee kaiken AI-toiminnan ja tiedon liikkumisen organisaatioon ja sieltä ulos, on välttämätön varmistus puolustusten ylläpitämiseksi AI:n hallusinaatioita ja manipulointia vastaan. Verkkotasolla olevan käyttäytymisen vertailuarvon avulla turvallisuus- ja IT-tiimit voivat nopeasti havaita, kun AI-palveluja käytetään väärin tai kun sallimattomia AI-palveluita toimii heidän ympäristössään, ja ryhtyä toimiin riskin poistamiseksi.

Lopuksi AI-riskejä koskevan kulttuurin skaalauttaminen edellyttää laadukasta, puhdasta ja yhteen kytkettyä dataa, jotka varmistavat tietosuvereniteetin, johdonmukaisuuden ja vaatimustenmukaisuuden AI-alustojen ja -työkalujen koulutuksessa käytettävässä datassa. Heikko tietolaatu voi heikentää AI-lukukelpoisuutta, mikä ajan myötä siirtäisi malleja yhä enemmän pois kurssilta ja esittäisi virheellisiä, epäjohdonmukaisia ja rikkoontuneita AI-tuloksia.

Päätöksenteko AI-riskejä koskevan kulttuurin kautta

Kun johdon yhteinen linja, vakaus ja datan kypsyys vakiintuvat, organisaatiot voivat siirtyä hajanaisista vastauksista yhtenäisiin, riskien perusteella tehtyihin päätöksiin. Kun skaalautumisen edellytykset on vahvistettu, AI-riskejä koskeva kulttuuri muodostuu linssiksi, jonka kautta johtajat tulkkaavat tapahtumia, arvioivat hyötyjen ja haittojen välisiä kompromisseja ja toimivat päättäväisesti.

Vahva AI-riskejä koskeva kulttuuri tukeutuu vahvaan näkyvyyteen, jossa on jaettu pääsy samaan tietoon turvallisuustiimille, IT-tiimille ja muille organisaatioiden osastoille. Kun kaikki tiimit voivat nähdä samat oivallukset reaaliajassa, mukaan lukien tapahtumien aikajana, tietojen saapuminen ja poistuminen sekä käyttäytymiseen liittyvä tieto, joka liittyy tiettyihin käyttäjiin, on enemmän konkreettisia todisteita AI-käytöstä ja riskeistä. Esimerkiksi, jos organisaatiossa havaitaan luvaton AI-agentti, kaikkien tiimien on voitava nähdä, miten agentti läpäisi verkon reunalla olevat turvakontrollit, ketkä käyttäjät olivat sen kanssa vuorovaikutuksessa ja mihin laitteisiin ja järjestelmiin agentti pääsi käsiksi. Tämä mahdollistaa eri toimintojen yhteiset prosessit, kuten yhteiset häiriöihin reagoinnin menettelyt ja neljännesvuosittaiset riskien katsaukset tiimien välillä, jotka ovat merkittäviä merkkejä onnistuneesta AI-riskejä koskevasta kulttuurista turvallisuusorganisaation ulkopuolella.

Lopputulos

AI-riskejä koskevat kulttuurit alkavat selkeästä määrittelystä ja mittauksesta, mutta onnistuvat vain, kun luottamus, avoimuus ja vastuu on sisällytetty koko organisaation toimintaan. Johtajuuden sitoutuminen, toiminnallinen vakaus ja vahvat tietoperusteet määrittävät, muuttuuko riskitietoisuus johdonmukaisiksi, riskien perusteella perustuviksi toimintamalleiksi vai meneekö se rikki paineen alla.

Kun AI-riskit tehdään näkyviksi, niitä koskeva tieto jaetaan ja ne muunnetaan tiimikohtaisiksi prioriteeteiksi, se muodostuu paremman päätöksenteon, kestävyyden ja pitkän aikavälin kilpailuedun ajuriksi.

Chad on ExtraHopin tietoturvajohtaja (CISO). Hän vastaa kaikista ExtraHopin kyberturvallisuusriskeistä sekä toimitila-, henkilöstö- ja fyysisestä turvallisuudesta. Chad palveli aiemmin 31 vuotta Yhdysvaltain ilmavoimien kyberoperaatioiden upseerina ja toimi tuolloin viidessä korkean tason kyberturvallisuusroolissa, joissa hän kehitti ja toteutti kyberturvallisuuden tiekartat, strategiat ja kyvyt sekä neuvosi johtoa kriittisissä kyberturvallisuuskysymyksissä. Lisäksi hän oli pätevä kyberoperaattori ja johti maailmanlaajuisen yritysverkon uhkien metsästykseen ja kyberhäiriöihin reagointiin erikoistuneita tiimejä. Ennen ExtraHopia Chad oli Echelon Risk + Cyberin turvallisuusjohtaja ja johti siellä strategian ja hyökkäävien ja puolustavien turvallisuuspalvelujen integraatiota. Hän toimi myös CISO-tehtävässä ja virtuaalisena tietoturvajohtajana (vCISO) useille asiakkaille.